70편
자율주행차는 기술이 아니라 철학의 문제다.
당신에게 도덕적 견해를 묻는 매우 유명한 질문을 하나 던지고 보자. 당신은 브레이크가 고장 난 전차의 기사이다. 열차는 선로에서 작업 중인 인부 5명을 향해서 맹렬히 달리고 있다. 그대로 달리면 인부 5명을 다치게 된다. 방금 당신 앞에는 선로 변경 스위치가 있지만 그 스위치를 누르면 인부 5명을 도울 수 있지만 또 다른 선로에 있는 작업원 한명을 해칠 수밖에 없다. 그럼 당신은 스위치를 누르는 것입니까?이 질문을 묻는 설문 조사에서 89%의 사람이 스위치를 누르면 대답했다. 이번에는 질문을 바꾸어 보자. 당신은 기관사가 아니라 그 상황을 지켜보는 구경꾼이다. 방금 당신 앞에는 큰 사람이 있지만 이 사람을 선로에 누르면 기차를 멈출 수 있지만 그 사람이 죽게 된다. 그 대신 근로자 5명을 도울 수 있다. 당신이라면 큰 사람을 누를까.이 질문을 받은 사람들은 지난 질문 때문에 고민한다. 다시 말하면 윤리적 딜레마에 직면하게 된다. 두 질문은<정의란 무엇인가>의 저자”마이클·샌델”이 자주 인용하고 널리 알려진 일명”트롤리 딜레마”이다. 결론적으로 말하면 2번째 질문에 대다수의 사람(78%)은 “밀지 말”이라고 답했다. “최대 다수의 최대 행복”이라는 공리주의적 관점에서 보면 2개의 질문에 사람들의 반응은 모순이다.우리는 다수에게 소수가 희생되야 한다고 생각하지만, 동시에 다수를 위한 명분이 소수를 희생시켜선 안 된다고 생각하는 이율배반적인 존재가 된다. 과연 그럴까.최근의 뇌 과학의 발달은 이런 윤리적 딜레마에 대한 인간의 반응이 모순이 아니라는 근거를 제시한다. 심리학자 조슈아·그린은 fMRI(기능성 자기 공명 영상)을 이용하고, 2가지 질문을 받은 사람들의 뇌 활동을 비교하는 실험을 했다. 실험 결과를 보면 두가지 질문에 반응하는 사람의 두뇌는 다르게 나타났다. 처음의 질문처럼 스위치만 조작하고 결정을 내릴 경우에는 전두엽이 활성화되는 사람이 많았는데, 이것은 그 상황에 대해서 이성적 판단을 했다는 뜻이다. 그러나 2번째 질문처럼 누군가를 찍는 행동, 즉 적극적인 행위가 필요한 경우에는 편도체가 활성화되는 사람이 많았는데, 이것은 그 상황에 대해서 정성적 판단을 했다는 뜻이다.해석하면 인간이 윤리적 결단을 내려야 할 순간에는 이성적 판단과 정서적 판단 사이에서 적당한 쪽을 선택한다는 뜻이다. 그러므로 트롤리 딜레마에 대한 인간의 반응은 모순이 아니다. 죠수아·녹색의 표현을 빌리면, 인간의 이런 행동은 이중 처리 방식의 도덕적 뇌를 갖고 있다. 이는 인간의 반응에 대한 근거를 제시했을 뿐 트롤리 딜레마에 대해서 어떤 판단이 옳은지 사회적 합의에 이른 것은 아니다. 만약 근로자 5명이 나의 가족이라면 어떻게 될까? 그래도 큰 사람을 누르지 않을까? 그때는 누구인가를 누르고 가족을 돕는 것이 오히려 정서적 판단이 되지 않을까. 그렇다면 정서적 판단의 개입이 무조건 옳다고 볼 수 있을까.그동안 트롤리 딜레마는 대학의 정치 철학 강의와 시민을 위한 교양 서적에서나 볼 수 없는 토론의 주제였다. 이런 딜레마는 어디까지나 인간의 머릿속에서만 일어난 지적 유희인 현실에서 일어나는 것은 거의 없었다. 그런데 상황이 달라졌다.어느새 우리는 제4차 산업 혁명을 맞았다. 이제 트롤리 딜레마는 인간의 머리 속”지적 유희”가 아니라 개발자가 반드시 입력해야 한다”알고리즘”이 되어 버렸다. 즉 인간의 머릿속에서 벗어나고 물건 또는 인공 지능이 딜레마에 대한 판단을 내려야 하기 때문이다. 예를 들면 자동 운전 차를 떠올리자.
2018년 3월 19일 저녁 10시 자전거를 끌고 도로를 건너던 보행자가 우버 자율주행차에 치여 사망하고 말았다. 이는 자율주행차에 의해 발생한 첫 번째 사망사고였다.
갑자기 브레이크가 고장 난 자동 운전 차가 있다고 치자. 그대로 달릴 경우 보행자 5명을 찍게 된다, 핸들을 끊고 보행자 한명을 찍게 된다. 이 경우 자동 운전 차는 어떤 알고리즘을 가지고 있어야 하는가. 물론 인간의 이성적 판단과 마찬가지로 핸들을 꺾다 판단을 하는 알고리즘을 가져야 대다수의 공감을 얻게 될 것이다. 그런데 차를 틀어서 부상하는 사람이 보행자가 아니라 차량 탑승자라면? 자동 운전 차는 보행자와 탑승자 사이에서 누구를 보호해야 하는가?이 질문은 2016년 6월 과학 학술지”사이언스”에 실린 논문과 관련이 있다. “자동 운전 차 사회적 딜레마(The social dilemma of automous vehicles)”라는 제목의 이 논문은 사람들에게 이런 질문에서 설문 조사를 실시했다. 이 설문 조사에서 대다수의 사람들(78%)이 다수 보행자를 보호하는 것이 훨씬 윤리적이라고 답했다. 그런데 흥미로운 것은 그 다음의 질문이었다.”그럼 차량 탑승자보다 보행자의 안전을 우선하는 자동 운전 차를 구입하나요?”눈치 챘는지는 모르지만 대다수의 사람이 그런 차를 사지 않다고 답했다. 이성적 판단으로는 대다수 보행자가 우선이지만 그 자동차 탑승자가 자신 또는 가족의 경우에는 틀림없이 딜레마에 빠지고 말았다.그럼 자동차 회사의 판단은 어떨까. 최근 메르세데스·벤츠의 한 임원은 보행자보다 자동차 탑승자 안전을 우선한다는 발언을 하면서 언론의 비판을 받아야 했다. 업체 입장에서는 자연스러운 결론일지도 모르지만 그런 발언은 사회적 논란을 부르기 쉽다. 당시 영국 신문”데일리 메일(DailyMail)”에서도 이런 기사를 게재했다.”메르세데스·벤츠는 자동 운전 차가 방향을 바꾸어 탑승자가 부상할 위험을 감수하기보다는 아이를 때린다고 인정했다” 하지만 비판이 있고도 대책이 없다는 게 현실이다. 독일 연방 교통성은 사고를 피하기 어려운 상황에서 자동 운전 차가 어떤 선택을 하면 옳은지 결정할 수 없다는 공식 입장을 표명한 상태다.자, 그럼 다시 질문을 하나 던지자. 이번에 당신은 자동 운전 차의 개발자이다. 이런 상황에서 트롤리 딜레마가 발생한 경우 당신은 어떤 판단을 내리는가? 이제 당신에게는 머리 속에서만 벌어지는 지적 유희가 허용되지 않는다. 개발자는 반드시 알고리즘에서 실행해야 하기 때문이다.결정하기 어려울 것이다. 죠수아·그린이 증명한 이중 처리 방식의 도덕적 뇌를 자동 운전 차에 그대로 이식한다고 해도 결론을 내릴 수 없을 것이다. 다시 말하면 이성적 판단과 정서적 판단을 모두 동원해도 자동 운전 차의 알고리즘은 사회적 합의를 도출하기가 어렵다. 다만 심증이 있을 뿐 자동 운전 차의 윤리적 딜레마를 연구하는 MIT의 라 황 교수가 한 말이 그 심증을 대변한다.”사람들은 자신을 희생하는 차를 사지 않겠지만 다른 사람에게 그런 차를 샀으면 좋겠다.정의란 무엇인가
영화 배트맨 대 슈퍼맨 정의 대 정의의 충돌이었다. 그런데 둘 중 하나만이 정의였을까.
정의는 개발자 알고리즘에 의해서 구현되지 않는다. 그렇게 간단한 문제라면 영화처럼 배트맨이 슈퍼맨과 싸웠을 리가 없고, 아이언맨이 캡틴 아메리카의 멱살을 잡지 않았을 것이다. 그들은 모두 정의의 편에 섰으나 각자가 가진 신념에 의한 “정의-정의”는 얼마든지 충돌할 수 있다.트롤리 딜레마나 자동 운전 차의 알고리즘 문제도 마찬가지다. 제4차 산업 혁명은 인간의 철학적 딜레마를 세상에서 꺼내어 버렸다. 그런데 그 딜레마는 어느 쪽이 정의라고 간단히 정의할 수 없다. 정의할 수 없는 알고리즘은 일종의 버그인 버그를 탑재한 자동 운전 차는 도로 위를 달릴 수 없다.이런 자동 운전 차의 윤리적 딜레마를 해결하기 때문에 MIT의 라 황 교수는 “도덕 머신(Moral Machine)”이라는 플랫폼을 개발했다. 이는 다양한 딜레마를 설정하고, 각 딜레마에 대해서 사람들의 의견을 수렴하는 플랫폼이다. 그렇게 다양한 딜레마에 대해서 정량화된 데이터를 이끌어 내기로 사회적 합의 도출을 위한 노력이었다. 플랫폼은 2600만 트롤리 딜레마에 대한 판단을 정량화했다. 그리고 탑승자와 보행자의 연령, 성별, 인종 및 행동 변화 등 다양한 변수를 넣고 10개국어를 사용하고 다양한 나라의 400만명을 대상으로 설문 조사한 데이터를 입력했다.이렇게 만들어진 “도덕 머신”의 대략적인 결론은 다음과 같다. 우선 탑승자보다 보행자의 안전이 우선됐다. 그리고 성인보다 아이를 보호하겠다는 판단이 많았다. 만약 운전대를 끊어야 하면 교통 법규를 지키는 통행인보다는 무단 횡단 보행자를 때린다고 판단했다. 그러나 이 도덕 머신의 판단에도 다른 점이 있었다. 이를 특정 국가로 제한할 경우 결과가 다르다는 점이었다. 예를 들어 보다 많은 생명을 구하는 방향으로 판단한다는 응답이 일반적이면, 독일의 경우에는 교통 법규를 지키는 행인 한명을 피하고 무단 횡단 보행자들을 때리겠다는 판단이 높게 나타났다. 이런 양상은 다양한 딜레마 속에서 다양하게 나타났다. 결국 나라마다 가장 의로운 판단 기준이 달랐다.정의 또는 도덕적 판단은 가치와 신념을 반영한다. 그것은 사람마다 다르고, 좀 더 범위를 넓히면, 나라에 의해서 또는 문화에 의해서 다를 수 있다. 심지어 지금도 국가마다 다르게 적용되는 규제와 법이 존재한다. 예를 들어 차량 앞에 설치하는 보조 범퍼가 그렇다. 이 보조 범퍼는 충돌로부터 탑승자를 보호하기 때문에 만들어졌는데, 반대로 보행자는 부상할 위험성이 높다는 연구 결과도 있다. 이 보조 범퍼는 영국에서는 불법이지만 미국에서는 합법이다. 자동차 LED헤드 라이트도 마찬가지로, 이것은 매우 밝고 야간 운전할 때 좋지만 반대 측의 드라이버는 눈부심이 생기고 위험할 때가 있다. 이 LED헤드 라이트는 한국에서는 불법이지만 일본에서는 합법이다.그러므로 도덕 머신이 지구 규모의 자동 운전 차의 알고리즘을 개발하려는 모든 나라에 똑같이 적용하는 것은 사실상 불가능할지도 모른다. 아마도 각국별로 자동 운전 차의 도덕적 판단 기준을 달리하는, 그래서 국가 간에 다른 규제와 법안이 탄생할 가능성이 높다. 사실, 국가 간의 차이도 문제지만 더 심각한 것은 하나의 국가 내에서도 사회적 합의를 끌어내기가 어렵다는 점이다.자동 운전 차의 가장 궁극적인 모습은 무인 자동차다. 어쩌면 가까운 미래에 인간의 운전이 위험하다는 이유로 전면 금지하는 법안이 통과될지도 모른다. 세계 보건 기구(WHO)에 따르면 매년 세계에서는 125만명이 교통 사고로 사망한다. 만약 자동 운전 차가 상용화되면 사망자가 10분의 1이하로 줄어든다고 전문가들은 예상하고 있다. 그렇게 이상적인 자동 운전 교통 시스템을 구축하고 교통 사고 없는 세상을 꿈꾸지만 그 과정에서 택시 운전사 버스 운전사, 트럭 운전사 등은 직업을 잃을 것이다. 아마 수많은 관계자가 파업과 시위를 통해서 자동 운전 차에 반대할지도 모른다.
자율주행은 기술 수준에 따라 5단계로 구분된다. 3단계에서 시야에서 눈을 떼도 되는 단계이며, 5단계는 운전자가 필요 없는 완전 자율주행에 해당한다.
어쩌면 자동 운전 차 발전은 개인이 소유할 수 있는 자가용도 제약이 따를 것. 그렇게 되면 도로 위의 차량이 줄고 교통 체증이 없어지고 주차장 부족 문제도 해결되지만 줄어든 차량만 누구는 또 손해를 보게 된다. 주차장업자 통행료업자, 카 센터, 또 운전수 식당까지 수많은 업체들은 이러한 변화에 저항할 것.뿐만 아니라 자동 운전 차가 사고를 쳤을 때 발생하는 법적인 문제도 골치 아픈 일이다. 그것은 탑승자 탓인지 아니면 업체 때문인가? 고소해야 한다면 누구를 고소해야 하는가. 그리고 보험 처리는 어떻게 하면 좋을까? 그동안 조사하고 온 수많은 문제에 해결책을 모색하고 있지만 감당하기 어려운 게 현실이다. 어쩌면 이런 문제가 자동 운전 차의 기술 혁신에 발목을 잡고 있다고 봐야 한다.그동안 테슬라, 구글, 우 바, 벤츠, 도요타 등이 자동 운전 자동차 기술을 선도하고 있다. 그러나 이들 기업이 속한 국가들을 보자. 미국 독일 일본이 자동 운전 차 상용화에 가장 앞서는 것 같지만 현실은 다양한 딜레마 속에서 사회적 합의를 끌어내까지 어려움을 겪고 있다.중앙 집권적인 나라일수록 자동 운전 차의 딜레마를 해결하는 것이 가장 간단할 수 있다. 예를 들면, 아담·스미스가 말한 ” 보이지 않는 손”보다 정부의 시장 개입이 많은 국가라면 또는 택시 운전수가 시위를 벌이지 못하고 트럭 운전사가 파업하기 힘든 국가면 모든 법적·제도적·철학적 난제를 최고 권력자의 의사 결정 한 방에 조용히 가라앉힐 수 있는 국가. 만약 북한이 핵무기 개발을 포기하고 그만큼의 노력을 자동 운전 차에 들어가면 세계에서 가장 먼저 자동 운전 차가 상용화된 나라가 되는 것은 아닐까.공리주의가 맞나
어쩌면 자율주행차의 발전은 개인이 소유할 수 있는 자가용에도 제약이 따를 것이다. 그렇게 되면 도로 위 차량이 줄어 교통체증이 없어지고 주차장 부족 문제도 해결되지만 줄어든 차량인 만큼 누군가는 또 손해를 보게 된다. 주차장 업체, 통행료 업체, 카센터, 심지어 운전기사 식당까지 수많은 업체와 사람들은 이러한 변화에 저항할 것이다.뿐만 아니라 자율주행차가 사고를 냈을 때 발생하는 법적인 문제도 골치 아픈 일이다. 그건 탑승자 탓일까, 아니면 제조사 탓일까? 고소해야 한다면 누구를 고소해야 하는가? 그리고 보험 처리는 어떻게 해야 하는가? 그동안 알아본 수많은 문제에 대해 해결책을 찾고 있지만 감당하기 어려운 게 현실이다. 어쩌면 이런 문제가 자율주행차 기술 혁신에 발목을 잡고 있다고 봐야 한다.그동안 테슬라, 구글, 우버, 벤츠, 도요타 등이 자율주행차 기술을 이끌고 있다. 그러나 이들 기업이 속한 나라들을 살펴보자. 미국, 독일, 일본이 자율주행차 상용화에 가장 앞서는 것 같지만 현실은 여러 딜레마 속에서 사회적 합의를 이끌어내기까지 어려움을 겪고 있다.중앙집권적인 국가일수록 자율주행차 딜레마를 해결하기가 가장 쉬울 수 있다. 예컨대 애덤 스미스가 말한 ‘보이지 않는 손’보다 정부의 시장 개입이 많은 국가라면, 또는 택시기사가 시위를 벌일 수 없고 트럭기사가 파업을 하기 어려운 국가라면 모든 법적·제도적·철학적 난제를 최고 권력자의 의사결정 한방에 조용히 잠재울 수 있을 것 같은 국가. 만약 북한이 핵무기 개발을 포기하고 그만큼의 노력을 자율주행차에 쏟아부으면 세계에서 가장 먼저 자율주행차가 상용화된 국가가 되지 않을까.공리주의가 옳은가
70개 끝.
70개 끝.
