Two Fundamental Questions in AI Ethics : With a Reflection on AI Chatbot Iruda

Abstract

본고에서는 이른바 이루다 사건을 둘러싼 주요 윤리적 쟁점과 그것을 둘러싼 양 진영 간의 의견대립을 소개한다. 이 사건에서 윤리적 문제는 크게 다음 네 가지였다. (i) 20세 여대생이라는 이루다의 캐릭터 설정, (ii) 이루다에 대한 성희롱, (iii) 이루다의 혐오 발언, 그리고 (iv) 이루다를 통한 개인정보 유출 등이 그것이다. 하지만 이 사건을 둘러싼 논쟁에서 양 진영은 평행선을 달리며 쉽사리 해소되지 않는 교착(膠着)의 양상을 보였다. 필자는 그러한 교착의 발생이, 이 논쟁에서 제대로 조명되지 않은 두 가지 근본 난제가 있기 때문임을 논구한다. 하나는 개인의 자유 행사와 그것에 대한 공적 제재 중 어느 쪽이 우선하는가 하는 고전적 근본 물음이다. 다른 하나는 인공지능 개발의 목표와 방향이 무엇인가 하는 문제이다. 후자는 특히 인공지능을 사람같은 것으로 만들 것인가 아니면 사람다운 것으로 만들 것인가의 물음으로 조명될 수 있다. 이루다 사건은 이러한 근본 문제를 통해 인공지능윤리 문제의 전형적인 논쟁 양상을 보여주는 사례이다. 따라서 각 진영은 현재 이러한 근본 문제에 봉착해 있으며 이에 제대로 답하고 있지 못함을 인정해야 하며, 그때에야 비로소 이루다 사건을 포함한 인공지능 윤리 문제에 대해 건설적 해결방안으로 나아갈 수 있을 것이다.In this paper, I discuss the main ethical issues in the so-called AI chatbot Iruda. I attempt to analyze them from a philosophical point of view and reveal the fundamental problems underlying them. The ethical issues at hand are largely divided into the following four: (i) characterization of Iruda as a 20-year-old female college student; (ii) user’s sexual harassment of Iruda; (iii) hateful speech by Iruda; (iv) leakage of personal information through Iruda. Lots of media and commentators in and out of academia have addressed these issues between pros and cons. However, the debate between the two camps involves a critial deadlock that is to be not easily resolved. In this paper, I argue that this deadlock originates from the two fundamental questions that underlies the debate. One is the classic fundamental question of which is prior between individual’s freedom and rights and the state’s restrictions on them. The other is the question of what AIs ought to be made for. This question can be particularly illuminated by that of whether to design and develop AI chatbots to be human-like or humane. Thus the Iruda case suggests that not until both the camps of the debate recognize that they fail to answer the two fundamental questions, can they reach a constructive solution to the ethical issues of AI like Iruda.