인공지능이 우리 생활 속으로 다가오고 있습니다.이미 우리 인생의 일부가 되었습니다.

AI로 인해 우리 생활이 점차 편리해지고 있는 것은 사실이지만 AI로 인해 피해를 보고 있는 사람도 늘고 있어 인공지능 기술이 많은 분야에 활용됐을 때의 윤리적 딜레마도 만만치 않습니다.

이에 AI를 어떻게 활용할지에 대한 논의가 활발히 이루어지고 있는데 인공지능을 둘러싼 다양한 논의, 인공지능이 가진 윤리적 딜레마에는 무엇이 있을까요?

지금부터 봅시다!

인공지능 자율주행차가 내리는 선택에 따른 윤리적 딜레마

인공지능 자율주행차가 주행하고 있는데 갑자기 도로에 사람이 뛰어들었다.

한 명은 노인, 다른 한 명은 어린 아이다.

2명 중 1명에 대한 인명 손실은 불가피하다.

인공지능 자율주행차는 누구를 구할 것인가.

인공지능 자율주행차가 벼랑 끝으로 주행하던 중 5명이 뛰어들었다.

절벽길을 돌면 5명을 구할 수 있지만 탑승자는 절벽 아래로 떨어지게 된다.

인공지능 자율주행차는 어떤 선택을 할까.

인공지능 자율주행차가 고속도로를 주행하고 있다.

왼쪽에는 SUV 차량이 오른쪽에는 오토바이가 달리고 있다.

그런데 앞에서 달리던 트럭 적재물이 떨어지는 것이다.

이때 인공지능 자율주행차는 어떤 결정을 내릴까.

왼쪽으로 방향을 바꿔 SUV와 충돌할 것인가, 오른쪽으로 방향을 바꿔 오토바이와 충동할 것인가, 아니면 트럭 적재물과 충돌할 것인가.

출처 : Ted-ed|자율주행차의 윤리적 딜레마/패트릭 린

인공지능 자율주행차는 어떤 결정을 내릴까요?

어떤 결정을 내리는 것이 윤리적으로 가장 올바른 선택일까요?

인공지능 자율주행차 시대가 열리면서 이에 대한 논의가 활발해지고 있습니다.

그 이유는 인공지능 자율주행차도 결국 프로그래머 또는 정부의 정책 결정자가 짠 프로그램대로 움직이기 때문입니다. 즉, 어떤 선택을 할지는 우리의 논의에 달려 있다는 것입니다.

이러한 윤리적 논의를 담은 연구도 활발히 진행되고 있습니다.

예를 들어 2015년 MIT 저널에 소개된 프랑스 툴루즈경제대학 연구원 J.F. 보네폰의 논문에 따르면 다수의 사람들은 비록 운전자가 희생되더라도 다수를 구하는 것이 좋다고 답했다고 합니다.

또 2018년 10월 24일 세계적인 과학저널 네이처에서는 233개국 230만 명을 대상으로 조사 분석한 결과를 발표했습니다.

여기서 연구팀은 탑승자와 보행자의 성별과 숫자, 반려동물 동승 등의 조건으로 13가지 시나리오를 만들고 상황에 따른 응답자의 선택을 들어봤다고 합니다.

그 결과 대체로 남성보다는 여성, 성인 남성보다는 어린이나 임산부, 동물보다 사람, 소수보다는 다수, 노인보다 젊은 사람, 무단횡단자보다 준법자를 택했다고 하며 동서 응답자의 선택 경향도 달랐다고 합니다.

예를 들어 구미권에서는 사람의 수가 많을 경우 어린이나 몸이 약한 사람을 구하는 것이 선호되고 있었지만 동양권에서는 보행자나 교통 규칙을 지키는 것이 안전해야 한다는 선택을 했다고 합니다.

그런데 여기서 문제가 있어요.

과연 대부분의 사람들이 이 선택이 옳다고 생각한다고 해서 절대적으로 올바른 선택이 맞을까요? 예를 들어 다수의 사람을 구하기 위해 운전자를 희생할 경우 운전자를 희생하는 인공지능 자율주행차를 과연 사람들은 구매하고 싶어할까요?

그리고 보통의 상황에 직면했을 때 내리는 본능에 의한 즉각적인 결정과 멀리서 상황을 바라보면서 내리는 결정은 다른 것입니다.

실제로 상황이 발생할 경우 인공지능의 도덕적 판단과 인간의 심적 상태가 다를 수 있다는 것입니다. 지금의 답변과 상황에 속하게 되었을 때 본인의 본답이 나오는 결정은 다를 수 있습니다. 이것뿐일까요?

우리는 개인의 선택도 중요하지만 그에 따른 법적 책임에서도 자유로울 수 없습니다.

법은 어떤 선택을 과연 지지할까요?

굉장히 어려운 문제입니다.

그 결정은 알고리즘을 짜는 자동차 제조사에 따라 다르지만, 실제로 그들의 결정은 상황이 발생했을 때 심각하고 복잡한 법정 분쟁으로 이어지기에 충분합니다.

혹자는 이런 이유로 운전석에 사람이 앉지 않고 완전히 자율주행차 선택에 의해 운행되는 자율주행차는 상용화되기 어렵다는 주장도 제기하고 있습니다!

출처 : AI 자율주행차, 윤리적 딜레마 문제 출처 : [이제 자율주행이다]③’AI 판단 믿어도 될까’ 윤리 딜레마 출처: 누군가를 죽여야 하는 긴급 상황…인공지능은 어떤 선택을 해야 할까?

2) 인공지능이 판사를 대신할 수 있을까?세상에서 가장 공정한 판결을 내려야 한다면 오히려 인간보다는 AI가 좋을까요?판결이라는 것이 단지 법률 조항이나 판례에 의해서만 내려진다면 AI가 판사를 대신할 수 있을 것입니다. 하지만 판결이라는 것은 법 이외에도 법관의 양심과 고도의 가치 판단이 요구되는 것이기 때문에 AI의 완전한 선택만을 믿을 수는 없습니다.

나아가 판결을 내리기까지 원고, 피고 측의 첨예한 대립을 듣고 이들과의 소통을 바탕으로 도덕적 판단이 필요하지만 AI가 이 모든 것을 정교하게 듣고 판단하기에는 아직 무리가 있기 때문입니다.

다만 AI가 판결 패턴을 익히는 데 매우 빠른 학습 능력을 보이기 때문에 복잡한 재판은 알 수 없지만 단순한 재판에 대해서는 도움이 될 것이라는 전망도 나오고 있습니다.

출처 : [연구] [AI 판사] 판결 정확도는 79%

3. 인공지능 시대, 우리의 사생활은 지켜질까?

언젠가 AI 스피커가 주인이 하는 사적 대화를 듣고 녹음한 뒤 연락처 목록에 있는 사람들에게 이를 발송한 사건이 있었습니다.

또 몇 년 전에는 인공지능 챗봇 성능을 높이기 위해 개발사 측에서 실제 사람들의 메시지 앱 대화를 수집하는 사건 등도 있어 사회적 논란이 일기도 했습니다.

여기서 우리는 두 가지 우려를 할 수 있습니다.

우리의 프라이버시를 AI가 항상 듣고 있다는 점, 그리고 우리가 모르는 사이에 우리의 정보가 저장되고 때로는 외부로 유출되기도 한다는 점, 마지막으로 우리의 개인정보가 익명화해서 개발사 측에 전송되는 것이 아니라 개발자를 비롯한 관련 업무 종사자들이 온전히 우리의 정보를 볼 수 있다는 점.

이는 데이터 사용법이나 개인정보보호법과도 밀접하게 관련되어 있으며, 우리의 정보가 어떤 방식으로 비식별화 데이터화될 수 있는지 등에 대한 기술적 논의와도 관련이 있습니다.

다만 아직 우리의 개인정보를 어떻게 보호할지에 대한 법안이나 기술적 논의가 확립되지 않아 앞으로도 꾸준히 논의가 이뤄질 것으로 보입니다.

출처: 일다: AI 시대에 우리의 사생활은 지켜질까.

우리는 윤리적 딜레마를 어떻게든 해소할 때 인공지능을 더 올바르게 사용할 수 있습니다.

해결하는데 상당한 시간이 걸릴 것으로 예상됩니다.

여러분도 힘을 모아주세요!

#광주광역시교육청 #광주시교육청 #인공지능 #윤리 #딜레마 #자율주행차 #판결 #사생활 #침해