Enactment and Characteristics of the European Union AI Norms

Abstract

지난 2020년 2월 19일 유럽집행위원회는 인공지능백서(White Paper on Artificial Intelligence)를 발표하였다. 또한 2021년 4월 21일에는 인공지능명령(Regulation on AI)을 제안하였다. 유럽집행위원회가 제안한 인공지능명령은 인공지능에 관한 최초의 규범이라고 볼 수 있다. 그러나 이러한 인공지능명령안이 제안되기 전에도 유럽집행위원회는 유럽연합의 미래 디지털전략을 제시하고 인공지능백서에서 그러한 정책을 포함하고 있다. 인공지능백서는 인공지능에 대한 유럽연합의 미래 청사진이다. 특히 인공지능백서에서 ‘신뢰 생태계’를 강조하고 있다는 점이 주목된다. 인공지능의 불확실성과 인공지능이 초래할 기본권 침해나 민주주의에 대한 위협 등을 우려하고 있으며, 신뢰 생태계의 구축은 이에 대한 대응이다. 유럽연합은 인공지능의 불확실성을 전제로 신뢰 생태계의 구축을 통해 이러한 문제를 해결하려고 노력하고 있다. 이처럼 유럽연합의 인공지능에 대한 정책은 인간중심적 인공지능을 구현하는 것을 목적으로 한다. 그러나 인공지능백서에는 구체적이고 구속력이 있는 규제방안이 포함되어 있지 않다. 이러한 상황에서 2021. 4. 21. 유럽집행위원회가 제안한 ‘인공지능명령’은 실천적 의미가 있다. 인공지능명령안에는 인공지능백서에서 제시된 중요한 골격이 대체로 유지되고 있으며, 이러한 내용은 인공지능명령의 중심적 요소를 이루고 있다고 볼 수 있다. 인공지능명령(안)이 제정되면, 회원국에 대해 직접 구속력을 가진 최초의 규율체계가 될 것이다. 인공지능규범은 인공지능에 대한 혁신과 투자를 위한 최소한의 안전장치이다. 리스크에 기초한 규제체계를 확립한 점이 주목된다. 특히 높은 리스크를 가진 인공지능에 대한 요건과 의무부과는 인상적인데, 인공지능에 대한 규제체계를 확립할 때 참고할 만한 사항이다. 이러한 내용은 종전의 인공지능백서에서 제시한 리스크 기반의 인공지능 규제정책이 그대로 투영된 것이다. 이러한 규제가 유럽연합 회원국에 국한되지 않고 제3국의 제공자나 사용자에게 미칠 수 있다는 점에서 인공지능명령의 제정과정과 동향을 주목하고 이에 효과적인 대응방안을 마련해야 한다.On February 19, 2020, the European Commission published the White Paper on Artificial Intelligence. In addition, on April 21, 2021, an Regulation on AI was proposed. The AI regulation proposed by the European Commission can be seen as the first norm on artificial intelligence. However, even before such an AI regulation was proposed, the European Commission presented the EU’s future digital strategy and included such a policy in the White Paper on AI. The AI White Paper is the European Union’s future blueprint for AI. In particular, it is noteworthy that the artificial intelligence white paper emphasizes the ‘ecosystem of trust’. There are concerns about the uncertainty of artificial intelligence and the violation of fundamental rights or threats to democracy that artificial intelligence will cause, and the establishment of an ecosystem of trust is a response to this. The European Union is trying to solve this problem by building a trust ecosystem on the premise of the uncertainty of artificial intelligence. As such, the EU policy on artificial intelligence aims to implement human-centered artificial intelligence. However, the AI white paper does not contain specific and binding regulatory measures. Under these circumstances, the Regulation on Artificial Intelligence proposed by the European Commission on April 21, 2021 has practical meaning. In the AI Regulation, the important framework presented in the AI White Paper is largely maintained, and it can be seen that these contents form a central element of the AI Regulation. If the AI Regulation is enacted, it will be the first regulatory system with direct binding force on member states. The AI norms are the minimum safeguards for innovation and investment in AI. It is noteworthy that the regulatory system based on risk was established. In particular, the requirements and obligations for high-risk AI are impressive, and it is worth referring to establishing a regulatory system for artificial intelligence in Korea. These contents are a reflection of the risk-based AI regulatory policy presented in the previous White Paper on AI. Considering that these regulations are not limited to EU member states and can affect providers or users in third countries, it is necessary to pay attention to the process and trends in the enactment of artificial intelligence commands and to prepare effective countermeasures.