자율주행 자동차와 도덕적 판단 / 확률론의 선과 악 / 수학이 필요한 순간 : 인간은 얼마나 깊게 생각할 수 있는가

** 본 포스팅은 김민형 교수님 저, <수학이 필요한 순간>의 3강 내용을 정리하여 작성하였습니다. 

 

운전자의 딜레마 

다섯 사람이 자동차를 타고 길을 가고 있는데 갑자기 길 한가운데 세 사람이 나타났다. 제동거리가 너무 짧아 브레이크를 밟는 것은 불가능한 상황이다. 이대로 페달을 계속 밟으면 길에 있는 사람들이 죽게 되지만, 핸들을 꺾으면 세 사람을 살리는 대신 차에 탄 다섯 명의 사람들이 모두 죽는다. 당신은 핸들을 꺾을 것인가?

 

 

<MIT Moral Machine - http://moralmachine.mit.edu/>

 

이번에는 차 안에도 세 사람, 건널목에도 세 사람이 있다. 다만 건널목에는 여자 어른 둘, 아이 하나, 차 안에는 남자 어른 둘, 아이가 한 명 있는 상황이라면?

 

직진을 하면 신체가 건강한 사람이 죽고, 진로를 바꾸면 몸이 약한 사람이 죽는 상황에는?

성인 남자 둘이 죽거나, 두 명의 남자 운동선수가 죽을 수밖에 없는 상황이라면?

 

나 혼자 운전해 가고 있는 상황에서 건널목에 할머니가 나타났다면, 핸들을 꺾을 것인가? 내가 죽을 것인가?

 

 

이 질문들은 MIT의 기계공학과에서 자율주행 자동차에 들어갈 프로그램을 만들기 위해 설계된 게임이다. <Moral Machine> 즉, 도덕적인 기계라는 이름을 가진 이 프로젝트에서는 자율주행 자동차가 선택의 상황에 처했을 때 컴퓨터가 판단을 내릴 수 있도록 하는 프로그램을 만들기 위해 진행되고 있다. 위험한 상황은 분명히 일어날 것이다. 결정의 순간이 왔을 때 기계는 어떤 결정을 내려야 할까?

 

이 게임에 참여함으로써 우리는 딜레마적인 상황에서 자율주행 시스템이 내릴 판단을 학습시키는 데에 필요한 데이터를 제공하게 된다. 게임을 통해 수집한, "사람들이 정답이라고 느낄만한 답"을 기계에게 가르쳐주는 것이다.

 

그렇다면 우리는 어떠한 근거로 도덕적 판단을 내리는가

선택을 내리고 그를 실행했을 때 이는 세상에 좋은 결과를 가지고 올 것인가 나쁜 결과를 가지고 올 것인가. 좋음의 정도와 나쁨의 정도는 어떠한가. 나쁜 결과가 있을 확률은 어느 정도인가. 우리는 결정을 내릴 때 무의식적으로 이러한 계산 을 하고 있는지도 모른다.

 

윤리적 사고를 정량화하자는 생각은 인류 문명의 역사에서 꽤 오래된 관점이다. 영국 산업혁명 시대의 사상가 제러미 벤덤의 공리주의는 '최대 다수의 최대 행복'을 추구하는 사회 제도를 중시한 것으로 유명하다.

 

 

확률의 탄생:  점수의 문제

도박 게임에서 두 사람이 각각 만원을 걸고 동전 던지기 게임을 한다. 앞면이 나오면 A가 1점을 얻고, 뒷면이 나오면 B가 1점을 가져가게 된다. 목표 점수를 먼저 채운 사람이 판돈을 모두 가져가는 게임인데, A가 5점을, B가 3점을 따고 있던 상황에서 갑자기 게임이 중단되었다. 두 사람은 어떻게 판돈을 나눠가져야 할까?

- 점수의 문제, Problem of Points

직관적으로 드는 해결책은 A가 이기고 있으니 A가 판돈을 모두 가져가는 것이다. 하지만 만약 게임이 막 시작되어 A가 1점, B가 0점을 얻은 상황이라면? 이러한 경우에도 A가 이기고 있으니 A가 돈을 가져가는 것이 합리적일까?

 

'회계학의 아버지'라고 불리는 15세기의 수학자 루카 파치올리는 이 문제에 대해 이런 해결책을 제시한다.

 

점수 비율로 판돈을 나누자. 위의 경우 5:3의 비율로 돈을 가져가면 된다.

 

그런데 16세기 중반, 또다른 수학자 니콜로 타르탈리아는 이 문제는 보이는 것보다 단순하지 않으며, 파치올리의 해결책은 잘못되었다고 주장한다. 이를테면 목표 점수가 501점일 때에 A가 500점, B가 300점을 내고 있다면? 곧 A가 이길 수 있는 상황에 점수 비율에 따라 5:3으로 돈을 나누게 되면 A는 불만을 가지게 될 것이다. 반대로 목표 점수가 100점이고 1점 vs 0점인 상황이라면 앞으로 누가 이기게 될지 모르는 상황에 A가 돈을 모두 가져가는 것은 불합리해 보인다. 이러한 문제를 지적하며 타르탈리아는 점수의 문제는 해결할 수 없는 문제 라는 결론을 내렸다. 

 

17세기에 이르러, 다시 한번 이 문제가 도마 위에 오르게 되었다. 수학과 철학으로 명성이 높았던 블레즈 파스칼은 이 문제에 대해 고민하다가 수학자이자 물리학자였던 페르마에게 편지를 보내며 이 문제에 대해 논하기 시작했다. 두 달에 거쳐 서신을 주고받은 끝에, 둘은 이 문제를 해결할 수 있었다.

 

과거에 딴 점수가 아니라, 미래에 이길 수 있는 확률을 계산해 판돈을 나눠야 한다.

 

지금까지 딴 점수가 아닌 앞으로 딸 점수를 생각해야 한다는 관점의 전환은 굉장히 파격적인 것이었으며, 이는 확률이라는 개념이 발명된 순간이었다. 만약 7점을 먼저 따는 사람이 이기는 게임이었다면, 고등학교 시간에 배운 확률 계산에 의해 B가 이길 수 있는 기댓값 = (A가 두 번 이기기 전에 B가 네 번 이길 확률) = (4번의 게임을 연속해 이길 확률 + 5번의 게임을 해서 그중 한 게임을 제외한 4번을 이길 확률)  = (1/16 + 5/32) = 7/32 가 되고, 따라서 A가 이길 확률은 1-(7/32) =25/32라는 계산을 쉽게 할 수 있다.  

 

파스칼과 페르마는 A와 B는 각각 자신이 이길 확률에 따라 판돈을 나눠 20000 * (25/32) = 15,625원과 4,375원을 받아가면 된다는 결론을 내렸다. 이를 현대적인 용어로 쓰면 "A와 B가 각자 자신의 기댓값을 받아야 한다"라고 한다.

 

이렇게 17세기에 탄생한 확률이라는 개념은 당시에는 천재적인 수학자들만 이해할 수 있는 개념이었다. 하지만 오늘날 우리는 '내일 비가 올 확률', '이번 경기에서 우리 팀이 이길 가능성'과 같은 말을 무리 없이 이해하고 일상 생활에서 매일 사용하고 있다. 심지어 20세기에 정립된 양자역학 이론에 따르면 원자는 특정한 모양이나 위치, 속도가 정해진 것이 아니며, 원자 자체가 항상 확률적으로밖에 존재하지 않는다. 우리의 몸과 우주 역시 원자로 구성되어 있기 때문에 이런 관점에서 우리는 모두 확률적인 존재라는 것이다. 이렇듯, 확률론은 인간이 세계를 바라보는 시각에 엄청난 영향을 미쳤다. 

 

 

다시, 공리주의

공리주의에서 말하는 '최대 다수의 최대 행복'의 기저에는 확률론적인 사고방식이 깔려있다. 결과는 미래에 벌어질 일이기 때문에 확실하게 알 수 없고, 최대 다수의 최대 행복은 일종의 기댓값으로 계산해야 하는 것이다. 

 

이러한 사고방식은 결과론적이다. 하지만 나쁜 의도로 시작한 일이라도, 확률에 의해 좋은 결과가 나타났다면, 그는 선한 행동이었을까? 결과가 좋지 않았더라도 좋은 의도로 시작한 일이라면 그 역시 선한 행동으로 간주할 수 있지 않을까? 공리주의는 찰스 디킨스와 같은 지식인들의 비판을 받았는데, 행동의 선함과 악함을 판단하는 데에 있어 의도나 믿음 등 형이상학적인 세계관을 배척한 채 결과만을 기준으로 삼았기 때문이다. 

 

결국 의도를 가지고 결정을 해야 하는지, 결과를 생각해서 결정을 해야 하는지는 선택의 상황에서 우리가 늘 부딪히게 되는 문제이다.  결정의 상황에서 우리는 행동의 결과와 그가 이루어질 확률, 선택에 대한 의도 등에 대해 끊임없이 계산을 하게 된다. 어떠한 결정을 하던, 책임은 인간의 몫일 것이다.

 

MIT 공대에서 진행하고 있는 게임은 철학에서 다루는 '트롤리 문제'의 일종이다. 오랜 옛날부터 철학에서 중요하게 다루어졌던 문제를 지금은 자율주행 자동차를 만드는 데에 고려하고 있다. 윤리라는 형이상학적인 문제를 구조화하고 모델화하여 알고리즘으로 만들어내는 것이다. 

 

 

확률론은 선한가, 악한가

지능이 굉장히 높은 여자들은 대부분 자기보다 지능이 낮은 남자와 결혼한다고 한다. 왜 그럴까?

이 수수께끼에 대한 당신의 대답은 무엇인가?

"똑똑한 사람은 자기보다 덜 똑똑한 사람을 좋아하나보네" 내 대답은 이러했다.

 

이외에도 "원래 여자가 남자보다 지능이 높다", "똑똑한 남자는 똑똑한 여자를 좋아하지 않는다" 등등 다양한 대답이 나왔다고 한다. 그런데 진짜 이유는 무엇일까?

 

정답은 "확률론적으로 대부분 남자들이 지능이 굉장히 높은 여자보다 멍청하니까"이다. 여성의 지능이 굉장히 높다는 것은, 확률적으로 대부분의 사람들이 그들보다 지능이 낮다고 볼 수 있다. 그런데 우리는 이러한 질문을 받으면 사회적인 편견에 입각해서 답을 찾게 된다. (통계학과 석사 졸업생으로써 굉장히 부끄러웠던 대목이다.)

 

이러한 문제에 대답할 때, 우리는 도덕적으로 그릇된 사고를 피할 수 있어야 한다. 여기서 수학적으로 사고하는 것이 오히려 도덕적으로 잘못된 사고를 피할 수 있다는 사실은 상당히 인상적이다. 그렇다면 확률론이라는 도구는 선할까, 악할까?

 

대부분의 사람들은 확률론 자체는 선하지도, 악하지도 않다는 것에 동의할 것이다. 이를 이용하는 사람들이 그를 좋은 일에 쓸 수도, 나쁜 일에 쓸 수도 있을 뿐. 하지만 여기에서 한 발짝 더 나아가 김민형 교수님은 이렇게 덧붙인다.

 

"확률론이 선하지도 않고 악하지도 않을 뿐 아니라, 선하고 악한 것도 확률론의 지배를 받습니다."

 

선한 의도로 선택한 것도 나쁜 결과를 가지고 올 확률이 있고, 악하다고 생각하는 것도 약간의 선한 효과가 있을 수 있기 때문이다. 이런 모든 결과는 확률의 지배를 받을 수밖에 없다. 그렇기 때문에 확률론은 선한가 악한가, 라는 질문에 대해 거꾸로 이렇게 바꾸어 물어볼 수 있다.

 

"선하고 악한 것은 얼마나 확률적인가."