이윤주 경상국립대학교 교육대학원 윤리교육전공
인간이 만든 최첨단 기술인 AI가 인간의 윤리의식에 도전하고 있다. AI 기술은 빠르게 발달해서 인간만의 것이라고 여기던 감정 묘사나 창작의 영역도 구현할 수 있게 되었다. 언젠가는 AI가 인간을 지배할 날이 올 것이라는 우려의 목소리도 있다.
하지만 아직 AI가 윤리성을 구현해내기에는 한참 부족하다고 보인다. 자율적 인간이 생존하는 한 영원히 그러한 가능성은 거의 없다고 할 수도 있다. 최근 ‘개방형 AI 기반 생성형 사전훈련 변환 장치’(OpenAI GPT)의 모듈 기반 대화형 AI 모델인 ChatGPT가 일상생활 속에 통용되면서 아무런 죄책감과 책임의식 없이 대학의 과제물을 제출하는 데 악용되기도 한다. 또한 AI 챗봇인 ‘이루다’를 개발한 스캐터랩은 이용자의 데이터 유출 사건 이후 문제 됐던 학습 데이터를 전량 폐기하고 AI 윤리를 보완하여 시즌 2를 냈지만, 여전히 매우 교묘한 차별·혐오 및 성희롱적 표현이 잔존하고 있다는 비판을 받고 있다.
ChatGPT나 AI이루다의 공통점은 딥러닝이 가능한 생성형 AI 프로그램이라는 점이다. 이 기술을 완벽하게 구현하는 데는 여러 난제가 있다. 그러한 난제들은 AI가 ‘인격’을 갖춘 인간이 될 수 있는가의 문제이기도 하다. AI는 스스로 학습해야 할 데이터와 그렇지 않은 데이터를 구분해내지 못한다. AI가 인간의 ‘도덕적 사고’까지는 구현해낼 수 없다.
AI는 인격을 갖춘 인간이 돼서도 안 된다. 기술적 한계를 극복하고 다양하고 복잡한 인격을 가진 인간을 구현해낸다 해도, 그 자체를 추구하려고 하는 것 자체가 당위성이 낮다. 우리는 AI가 인간과 유사한 인격체가 돼서 인간을 대체하는 사태, 그야말로 AI판 혹성탈출의 사태를 원하지 않는다.
분명히 AI는 앞으로 보완될 가능성이 충분하다. 객관적 근거를 제시하는 대화에서 그러한 정보가 어디에서 왔는지를 확인하는 출처를 기재하거나, 혐오·차별·성희롱적 대화를 사전에 차단하는 프로그램을 설치하는 방향으로 AI는 더 개발될 수 있다. 그렇다고 해서 인간의 인격을 그대로 구현하는 데는 심대한 한계가 있다. AI가 복잡다양한 인간의 비판적 사고를 모두 재생한다는 것은 불가능한 일일뿐만 아니라 비생산적이기까지 하다.
AI는 인간다움을 ‘흉내’낼 수 있을지는 몰라도, 인간다움을 다 구현할 수는 없다. AI가 앞으로 어떤 방식으로 개발되든 간에, 슈퍼 표절 시스템을 통해 그럴듯한 그림을 그리고, 그럴듯한 대화를 나눌 수 있을지라도 그 속에 인간의 인격을 담을 수는 없다. 그러한 시도가 횡행하더라도 인간 스스로의 한계를 넘어서는 문제에 대해, AI와 관련된 다양한 직군의 주체들, 즉 설계하고, 사용하는 많은 사람은 인간과 AI의 관계를 명확하게 설정하고, 단계별로 보편화 가능한 검증프로그램을 구축해서 우리가 사는 사회 체제를 보다 안전하게 만들어나가는 데 주력해야 한다.
저작권자 © 경남일보 - 우리나라 최초의 지역신문 무단전재 및 재배포 금지
