A study on the constitutional suitability of artificial intelligence-based anti-corruption tools(AI-ACT)

Abstract

헌법의 기본원리 중 핵심은 민주주의와 법치주의이며, 이것은 근대 입헌적 민주주의에 대한 헌법재판소의 설명과 같은 맥락이다. 양자의 관계는 역설적 공존의 관계, 상호 감염의 관계로 이해하는 것이 타당하다. 반부패가 헌법의 기본원리에 반한다면, 헌법의 기본원리에 대한 내적 붕괴를 불러오고, 더 큰 부패를 초래할 수 있다. 이 때문에 AI를 활용한 새로운 반부패 수단, 이른바 AI-ACT 역시 헌법의 기본원리와 관련하여 적합한지, 혹시 헌법의 기본원리를 파괴할 잠재적 위험성은 없는지 검토할 필요가 있다. 현재 시점에서 AI-ACT는 약한 AI를 기반으로 만들어진 부패 방지 도구로서, 대규모 데이터 세트를 선별하고, 이를 분석하여 부패의 위험, 의심, 명백한 사례 등을 탐지, 예측 및 보고하는 시스템이다. AI-ACT는 상향식과 하향식으로 나눌 수 있는데, 전자는 언론인, 시민사회 그리고 일반 시민이 주체가 되는, 후자는 수사기관이나 감사 담당자 등이 주체가 되는 반부패 도구다. AI-ACT의 기본구조는 데이터 입력, 알고리즘 디자인, 제도 채택 여부 결정의 세 단계로 그려볼 수 있다. AI-ACT는 민주주의와 법치주의에 심각한 위협 또는 그러한 위협으로 향하는 미끄러운 경사면이 될 수 있다. 데이터와 알고리즘의 편향성은 특정 인물 또는 집단에 대한 혐오・차별・배제로 귀결될 수 있으며, 이것이 미디어 알고리즘을 통해 무차별 또는 선택적으로 유포된다면 정치적 양극화와 포퓰리즘의 멋이감이 될 수 있다. 포퓰리즘은 국민의 열정을 동원한다는 점에서 외관상 민주적으로 보이지만, 전체주의를 조장하여 민주주의를 파괴하는 결과를 초래한다. 동시에 이것은 권력의 집중과 독재를 의미하며, 이는 권력의 과도한 확장의 경계를 본질로 하는 법치주의에 대한 위협을 의미한다. AI-ACT가 치안・수사 등 목적으로 부패한 공직자에서 일반 국민으로 칼날을 돌린다면, 법치주의가 무너진 총체적 감시사회의 서막이 열릴 수 있다. 문제 해결의 첫 단계는 AI-ACT의 투명성 확보다. 투명성이 확보되어야 비로소 책임성을 담보하고, 편향성을 교정하고, 통제 가능성을 획득할 수 있을 것이다. 이를 위해 첫 번째, 부패방지법에 유럽일반정보보호법의 개입권과 여타의 주체, 절차, 제재에 관한 기본 규정을 두는 등 법적 보완이 필요하며, 두 번째 AI를 검증하는 AI를 개발하여 AI 간의 견제와 균형을 모색하는 기술적 보완이 필요하고, 세 번째는 편리성과 객관성의 환상에 경도되지 말고 적절한 비판적 자세를 유지하는 사회적 보완이 필요함을 강조하였다.