[자율주행차량 윤리] AI에 나의 윤리 판단 기준 제공하기, 모랄머신(moral machine)(ft.트롤리 딜레마, 공리주의)

안녕하세요! 매일매일 성장을 추구하는 지리는빡쌤입니다🙌

지난 여름방학 동안 관심만 가지고 있었던 AI와 블록코딩에 관한 연수를 들었는데요. 3일에 걸쳐서 줌으로 이루어진 실시간 온라인 연수였지만 정말 매우매우! 만족스러웠던 유익했던 연수여서, 연수를 통해 배운 내용들을 블로그에 정리해보려고 합니다. 또 언젠가 쓸모가 있지 않을까 하면서, 정리해보려고 합니다!

 

4차 산업혁명 이후 전기차, 자율주행, AI가 매우 핫하게 이슈로 떠오르고 있는데요. 그 중에서도 자율주행 차량에 만약 사고가 났을 때, 사고의 원인을 누구에게 돌릴 것인지에 대해 많은 말들이 많습니다. 사실 사고의 원인을 자율주행 자동차를 만든 회사가 책임질 것인지, 아니면 자율주행 자동차의 운전자가 책임져야 하는 것인지에 대해서도 많은 논란이 있지만, 보다 근본적으로 빅데이터와 AI에 의해 움직이는 자율주행 자동차가 특정 상황에서 어떠한 선택을 하는 것이 가장 윤리적으로 옳은 것일까? 하는 질문이 계속 생길 수 밖에 없습니다. 

 

보다 깊은 고민에 들어가다보면, '과연 윤리적으로 옳은 것을 정할 수 있는가?'까지 보다 어렵고 본질적인 질문으로 갈 수 있기 때문에 자율주행 시스템을 만드는 사람들은 결국 많은 데이터를 수집하여 통계적으로 많은 사람들이 옳다고 생각하는 방향으로 자율주행 차량을 움직이게 하는 쪽으로 데이터 수집을 하고 있다고 합니다. 바로 그 데이터 수집을 위해 만들어진 사이트가 오늘 소개하려는, '모랄머신'이 됩니다. 

 

모랄머신(Moral Machine) 홈페이지 바로가기

▷ 모랄머신(Moral Machine) 홈페이지 바로가기

Moral Machine

 

1. 모랄머신 윤리적 판단 시작하기

위의 모랄머신 사이트에 들어가시면 가장 첫 페이지에서 아래 쪽으로 조금만 스크롤을 내려보시면 나오는 화면입니다. 제가 보라색 네모 박스로 표시해놓은 'Start Judging'을 클릭해주시면 나의 윤리적 판단을 하나의 데이터로 모랄머신에 제공할 수 있습니다. 

 

2. Start Judging

윤리적 판단하기를 시작해보시면, 위와 같은 양쪽의 화면이 나옵니다. 자율주행 자동차인 자동차의 운영 경로가 노란색 화살표로 표현되어 있구요. 앞쪽의 붉은 색으로 표현되어 있는 사람들은 자율주행 차량 앞에 위치하고 있는 움직일 수 없는 사람이라, 차량이 그대로 주행한다면 반드시 한 쪽은 죽게 되는 희생자(?)라고 할 수 있습니다.

 

이 상황에서, 왼쪽과 오른쪽의 '묘사(Description)'을 보시면, 각각의 경우에 희생될 사람들의 디테일을 간단히 써 둔 것을 확인할 수 있구요. 

 

인물은 여성과 남성, 비만인(large women/large men)과 건강인, 운동선수, 어린아이, 범죄자 등등 다양한 종류의 인간상을 보여주고 있습니다. 이렇게 다양한 종류의 인간상을 굳이 디테일로 보여주는 이유는 각각의 사람들이 어떤 선택을 하는가를 조금 더 구체적으로 조사하기 위한 것으로 보입니다. 

 

총 13개의 상황을 확인하고 본인이 생각하는 판단을 클릭으로 선택해주시면, 모랄머신은 당신의 윤리적 판단 결과를 깔끔하게 보여줍니다. 

 

3. 가장 많이 살려 준 캐릭터 vs 가장 많이 희생된 캐릭터 결과 보기

이렇게 쭉 13개의 상황에서 본인의 윤리적 판단을 클릭해주고 나면, 위와 같은 결과를 보여줍니다. 위 결과는 제 여동생이 한 결과였는데요. 최근 귀한 딸을 출산한 만큼 가장 많이 살려준 캐릭터가 여자 아이로 나왔습니다. 저는 완전 다른 결과가 나온 것으로 보아, 각자가 어떤 조건, 어떤 측면을 중요시하는지 또한 이 결과를 통해 분석해볼 수 있습니다.

 

결과는 희생자 숫자의 중요도, 승객 보호 선호도, 법규 준수 여부의 선호도, 개입에 대한 회피 선호도, 성별 선호도 등으로 당신과 다른 사람들의 평균을 비교해서 보여주고 있구요. 여기서 '다른 사람들' 은 이전에 이 상황들에 대한 윤리적 판단을 제공했었던 몇천만의 수많은 사람들의 평균이기 때문에, 내가 평균적인 다른 사람들과 어떤 것을 얼마나 중요시 하는지를 정확하게 확인해볼 수 있습니다. 

 

 

교육에의 활용

사실 이 모랄머신은 AI와 4차 산업혁명, 블록코딩 등 미래 산업에 대한 수업에서 아이들과 함께 재미나게 해 볼 수 있을 것 같은데요. 특히 제가 이 글에서 설명드린 것 같이 왜 이 모랄머신이 필요한지, 각자의 윤리적 판단은 의미가 있으며 세계 다양한 국적, 다양한 연령대, 다양한 배경의 많은 사람들의 평균치를 가지고 보다 나은 자율주행 시스템을 만들어보자는 취지를 잘 설명해주신 뒤 참여하게 하시면 보다 효과적인 교육에의 활용이 되지 않을까 싶습니다.

 

또한 모랄머신에서는 각자의 선택의 결과를 다른 사람들의 평균치와 비교하여 보여주기 때문에 학생들이 이를 서로 비교해보며 왜 그렇게 생각했는지 이유를 토론해보게 하면 1시간 여 동안 좋은 공부가 될 듯 합니다.

 

저는 고등학교에 근무하고 있고, 윤리과가 아닌 사탐 과목을 가르치고 있다 보니 이 모랄 머신을 어떻게 활용할지는 고민해보아야겠지만, 초등학교/중학교 군에서 많은 활용을 할 수 있지 않을까 하는 생각이 듭니다.

 

오늘도 긴 글 읽어주셔서 감사드리고, 행복한 하루, 알찬 하루가 되시길 바라겠습니다! 다음 번에 또 유용한 정보로 돌아오겠습니다!