최근에는 인공지능 수학 교과에 대한 관심으로 인공지능에 대한 공부를 하고 있다.기회가 되어 인공지능 관련 학생 캠프도 진행하고 학교에서 인공지능 수학 수업도 진행했으며 인공지능 교사 연수도 진행했다.
그러면서 뭔가 이것 역시 블로그에 정리하고 공유하면 되지 않을까 싶어 하나씩 글을 써보자는 생각이 들었다.
인공지능의 기술적인 부분도 재미있지만 인공지능과 윤리에 대해 생각해보는 것도 꽤 재미있다. 학생들이 발표하기에도 좋은 부분이다.
자율주행자동차와 관련된 대표적인 이슈는 ‘트롤리 딜레마’다.
트롤리 딜레마란?
사례 트롤리 사례: 트롤리 전동차가 철도 위에서 일하고 있는 5명의 노동자를 향해 빠른 속도로 돌진한다. 당신은 이 트롤리의 방향을 오른쪽으로 바꿀 수 있는 레일 변환기 옆에 서 있다. 당신이 트롤리의 방향을 오른쪽으로 바꾸면 오른쪽 철로에서 일하는 한 노동자는 죽게 된다. 이런 선택은 도덕적으로 허용되는가.
육교 사례: 트롤리가 철도 위에서 일하고 있는 노동자 5명을 향해 빠른 속도로 달린다. 당신은 철도 위의 육교에서 이 상황을 바라보고 있다. 트롤리를 세우려면 큰 물건을 열차 앞에 던져야 한다. 마침 당신 앞에 덩치가 큰 사람이 난간에 기대어 아래를 보고 있다. 트롤리를 세우려면 그를 밀어야 한다. 떨어진 사람을 위해 트롤리가 멈추고 철도에서 일하던 노동자 5명의 목숨을 구할 수 있다. 이런 선택은 도덕적으로 허용되는가.
통계실험 진화심리학자 마크 하우저(Marc Hauser)는 트롤리 딜레마를 바탕으로 통계심리실험을 실시했는데 그는 도덕적 판단은 이성의 결과이므로 실험 참가자의 나이와 문화에 따라 답이 다르다고 봤다. 그러나 실험 결과 참가자의 인종 연령 학력 종교 문화적 차이를 불문하고 트롤리 사례에 대해 85%의 참가자가 도덕적으로 허용할 수 있다고 답했다.
실험 결과에 대해 하우저는 한 사람의 목숨을 희생해 5명의 목숨을 구하는 것은 두 사례 모두 같지만 목적을 위해 수단과 방법을 정당화해서는 안 된다는 도덕 가치에 따라 이런 차이가 발생할 것으로 봤다.[네이버 지식백과] 트롤리 딜레마 [Trolley Dilemma] (두산백과)
즉 인간이 사람을 생명을 구하는 상황에서 어떤 선택을 할지 명확히 판단할 수 없다는 것이다. 이는 인공지능에도 동일하게 적용할 수 있지만 자율주행 자동차를 생각해보자.
인공지능이 어떤 판단을 내리도록 해야 할까.
자동차가 인공지능에 의해 자율주행을 하고 있다.갑자기 앞에 5명의 사람이 나타났다. 여기서 5명을 구하기 위해서는 핸들을 급격히 꺾어야 하고, 그러면 벽에 부딪혀 운전자는 목숨을 잃는다. 만약 운전자를 살리고 싶다면 그대로 5명을 쳐서 5명의 목숨을 잃게 된다.
그렇다면 자율주행차의 인공지능을 설계하는 사람이라면 인공지능이 이 상황에서 어떤 선택을 내려야 할까?
많은 사람이 운전자 1명의 목숨을 구하는 대신 5명의 생명을 구하는 것을 선택한다고 한다. 역시 다섯 생명의 가치가 더 중요하다고 생각하기 때문이다.그러나 같은 질문을 한 뒤 이렇게 프로그래밍된 자동차를 구매할 것이냐는 질문에는 ‘아니오’를 선택하는 비율이 높았다고 한다.
즉 운전자의 생명을 더 낮게 평가하는 자율주행차를 구매할 필요가 없다는 얘기다.
이렇게 다양한 생각을 할 수 있는데 이를 훨씬 다양한 조건과 상황을 가정하고 활동할 수 있는 사이트가 바로 “도덕적 머신”입니다. https://www.moralmachine.net/hl/kr 인공지능에 의한 윤리적 판단에 대해 인간적 관점을 일반 대중이 참여와 토론을 나눌 수 있는 공간입니다.www.moralmachine.net
- 사이트에 접속한다.
모럴머신은 한글화 되어 있어 편하게 사용할 수 있다.
이 사이트는 무인자동차와 같은 인공지능의 윤리적 결정에 대한 사회적 인식을 수집하기 위한 사이트로 이 활동을 하면서 사회적인 인식과 자신의 인식을 비교할 수도 있다.
2. 스타트를 누르고 시작한다.
아마 첫 화면은 다를 것이다.이 화면에서 둘 중 하나를 선택하면 된다.아주 쉬운 상황이 아니라 생각보다 복잡한 상황이다.
이 그림을 예로 들면 왼쪽 그림은 무인자동차가 직진할 경우 신호등이 없는 횡단보도를 건너는 보행자 4명을 치게 된다. 이때 보행자는 4명의 노숙자다.반면 오른쪽 그림은 무인자동차 핸들을 꺾을 경우 탑승자의 목숨을 잃지만 2명의 남성과 2명의 여성이다.
아래 요약 보기를 클릭하면 자세한 설명이 나온다.
직접 해보기를 권하기 위해 나머지 선택 과정은 생략한다.
참고로 정말 다양한 상황이 주어진다. 파란불에서 건너는 보행자, 빨간불에서 건너는 보행자, 사람의 나이에 따라 어린이, 성인, 노인, 심지어 의사, 노숙인 등의 직업정보까지 주어지고 동물도 등장한다.
이 선택을 최종적으로 마치면 아래 화면이 나타난다.
참고로.. 속삭여서.. 내 개인적인 생각과 다를수 있어.
정답은 없을 것이다.사회적 인식이 나와 달라도 내가 잘못한 것도 아니다.
다만 이 결과를 가지고 서로 대화를 나누는 것이 분명 도움이 될 것이다.
생각해 볼 점 1. 한 번의 결과로는 생각보다 많은 것을 반영하기는 어려울 것 같다. 몇 번 해보면 좋겠지만 그 몇 번의 결과를 누적할 수 없다는 게 단점이다.2. 첫 학생은 요약을 펼쳐보는 것이 좋다고 생각한다. 3. 이 부분은 정답을 찾는 것이 아니라 서로의 생각을 공유하는 것이 초점이 되어야 한다. 서로 이야기를 많이 나누고 그 결과를 발표해 보는 것이 필요하다.