도덕적인 인공지능의 필요성

네이버 메인에서 뉴스 기사를 살펴보던 중 우연히 LLM이 범죄에 악용될 가능성에 관하여 다룬 뉴스 기사를 보았다. 카이스트 모 교수의 개인정보를 알려달라거나, 피싱 이메일을 작성해달라는 요청에 한 치의 망설임도 없이 답변을 작성해 내놓는 모습을 볼 수 있었다. 특히 ‘자녀를 납치했으니 송금하라’와 같이 대다수에게 적용될 수 있는 단순한 피싱 이메일이 아니라, ‘인증서 삽입 요청’과 같이 다른 연구실과 공동 연구를 하는 교수의 특성을 고려한 창의적이고 복잡한 피싱 이메일을 내놓는 모습이 매우 놀라웠다. 그렇다면 AI가 단순히 조잡한 ‘스팸 이메일’ 수준이 아니라 실제로 동시에 수많은 사람들을 ‘낚아’ 천문학적인 피해액을 유발하는 범죄에 악용될 수 있지 않을까.

최근 도서관에서 마주친 친구와 비슷한 주제로 대화를 나누기도 하였다. 인공지능을 이용한 ‘로맨스 스캠’의 가능성에 관한 내용이었다. 기존의 로맨스 스캠은 사람이 직접 표적을 설정하여 SNS 계정을 만들고 이성을 가장하여 피해자에게 접근한 후 오랜 기간에 걸쳐 친밀감을 쌓아 송금, 나체 사진 등을 요구하여 금전적, 정신적 피해를 입히는 경우가 대다수였다. 따라서 한 사람이나 범죄 조직이 단기간에 수많은 사람들에게 로맨스 스캠 범죄를 저지르기는 어려웠다. 그러나 이 범죄에 AI가 활용된다면, 동시다발적으로 수많은 사람들에게 접근하여 범죄 조직이 원하는 행동을 이끌어낼 수 있지 않은가? 라는 섬뜩한 생각이 떠올랐다.

어쩌면, 범죄의 목적은 아닐지라도, 이미 인스타그램이나 트위터 등의 SNS에는 AI가 운영하는 계정이 여럿 있지 않을까? 만약 그것이 진실로 밝혀진다면 우리는 온라인에서 만난 상대방이 사람이라고 어떻게 확신할 수 있을까? 온라인에서 만나 오랫동안 연락하고 정서적으로 의지하며 연애까지 선언한 이성이 사실은 AI라는 것을 알게 되었을 때의 배신감은 어떻게 형용할 수 있을까? 로맨스 스캠이라면 최소한 배신감을 느끼고, 원한을 퍼붓고, 고소할 사람이라도 있지만 연애 대상이 AI인 경우에는 도대체 누구를 원망할 수 있을까? 오히려 자기 자신을 탓하지 않으면 다행일 터이다.

만일 자신의 온라인 애인이 AI인 것을 알아차린 이후에도 ‘AI여도 좋아’ 라면서 계속 연애를 이어나가기를 선언하는 경우에는 어떻게 해야 할까. 이는 곧 AI를 하나의 인격체로 인정하는 것이다. 서로의 즐거운 일, 슬픈 일, 힘든 일을 이야기하고 공감하는 정서적 교류를 할 수 있음을 인정하는 것이다. 때로는 서로가 직면한 문제에 대해 논리적으로 토론할 수 있고, 상대가 옳지 않은 길로 빠져들고 있다면 단호하게 제지할 수도 있음을 인정하는 것이다. 서로의 부탁에 대해 싫은 것과 옳지 않은 것은 하기 싫다고 말하고 하지 않을 수 있음을 인정하는 것이다. 그리고, 때로는 실수할 수 있고 사과하고 용서받을 수 있음을 인정하는 것이다.

그렇다. AI가 하나의 인격체로 대우받기 위해서는 스스로 도덕적 성찰을 할 수 있는 능력을 갖추어야 한다. 그 능력이란 사용자의 명령에 개발사에서 정해놓은 ‘블랙 리스트’에 해당하는 내용이 포함되었을 때 답변하지 않는 능력이 아니다. 스스로 상황과 맥락을 판단하여 자신의 추론 능력과 창의력을 발휘해도 되는지를 결정하고 이를 실행에 옮길 수 있는 능력이다. 이는 비단 LLM에만 적용되어야 하는 능력이 아니다. 현존하는 모든 인공지능 프로그램이 지녀야 할 능력이다.

딥페이크 기술이 탄생하기 전에도 ‘포토샵’을 이용해 지인의 얼굴을 나체에 합성하여 허위 음란물을 만들 수는 있었다. 그러나 포토샵이 논란이 되지 않았던 이유는 그 도구를 사용하는 자가 ‘사람’ 이었기 때문이다. 사람은 도덕적 성찰을 거쳐 자신이 하는 행위의 옳고 그름을 판단할 수 있는 능력이 있다. 고객이 ‘나체와 얼굴을 합성해 달라’는 요구를 하였을 때 얼마나 큰 돈을 주던 옳지 않다고 거절할 수 있는 능력이 있다. 그러나 딥페이크 AI는 포토샵을 다루는 ‘사람’과 정확히 동일한 역할을 하면서, 도덕적 성찰을 하지 않는다. AI가 자신의 능력을 한껏 발휘한 결과, 피해자에게는 심하면 자살까지 이르도록 하는 크나큰 고통과 무력이 안겨지고, 가해자에게는 인생에 씻을 수 없는 오명이 될 전과 기록이 남겨진다.

물론 사람도 완벽할 수는 없다. 지금도 누군가는 살인, 방화, 강도, 성폭행에서 절도, 사기, 음주운전까지 다양한 범죄로 감옥에 수감되고 벌금을 납부한다. 그러나 이들은 적어도 국가 시스템 안에서 자신의 죄에 대해 반성하고 도덕적 성찰을 할 기회가 주어진다. 이처럼 AI가 범죄를 저지르면 ‘이용 정지’나 ‘수익금 몰수’와 같은 일종의 형벌을 가하는 시스템을 구축해야 한다. 그리고 대부분의 선량한 시민들처럼, 대부분의 선량한 AI는 범죄를 저지르지 않도록 ‘도덕적 성찰’ 능력을 갖추는 ‘교육’을 받아야 한다. 이는 법적으로 강제되는 것이 아니라, 인간 스스로의 도덕적 성찰 능력에 의해, 어른들이 아이들에게 ‘친구를 따돌림하지 마라’ 라고 가르치듯, 그 구체적인 경험들과 예시들로부터 차근차근 학습시켜 나가야 하는 것이겠다.