이탈리아 AGCM, AI 환각 투명성 표준 확립: 글로벌 LLM 기업에 대한 전례 없는 규제 가이드라인 제시

상세 분석

이탈리아의 경쟁 및 소비자 보호 당국인 AGCM(Autorità Garante della Concorrenza e del Mercato)이 중국의 DeepSeek, 프랑스의 Mistral, 그리고 Nova AI를 대상으로 진행해 온 ‘AI 환각(Hallucination)’ 관련 조사를 공식 종결했습니다. 이번 결정의 핵심은 단순히 조사를 마무리한 것이 아니라, 세 기업으로부터 ‘구속력 있는 약속’을 받아냄으로써 생성형 AI가 제공하는 정보의 투명성이 실제 운영에서 어떻게 구현되어야 하는지에 대한 구체적이고 엄격한 벤치마크를 설정했다는 데 있습니다. AGCM은 AI 챗봇이 사실과 다른 내용을 생성하거나 오도할 수 있는 가능성을 사용자가 명확하고 구체적으로 인지할 수 있도록 하는 ‘적절한 투명성’의 기준을 정의했습니다.

해당 기업들은 이제 120일간의 준수 기간(Compliance Window)을 갖게 되며, 이 기간 내에 시스템 UI/UX와 고지 체계를 AGCM의 요구 수준으로 수정해야 합니다. 만약 이 기한 내에 약속된 투명성 기준을 충족하지 못할 경우, AGCM은 강력한 금전적 벌금을 부과할 수 있는 법적 근거를 확보했습니다. 이번 조치는 개별 기업에 대한 제재를 넘어, 유럽 연합(EU)의 AI 법(AI Act) 시행을 앞두고 각국 규제 당국이 LLM 제공업체들에 요구할 ‘고지 의무’의 표준을 선제적으로 제시한 것으로 평가받습니다.

특히 단순한 면책 조항을 넘어, 모델의 한계점과 오류 발생 가능성을 기술적으로 어떻게 사용자에게 전달해야 하는지에 대한 상세 지침을 포함하고 있어 글로벌 AI 기업들의 서비스 설계 방식에 상당한 변화를 강제할 전망입니다. 이는 AI 환각 문제를 기술적 결함에서 법적 책임의 영역으로 끌어올린 중대한 전환점입니다.

시사점

이탈리아 AGCM의 이번 조치는 AI 환각 현상을 단순한 ‘기술적 한계’에서 ‘규제적 책임’의 영역으로 전환시켰습니다. 120일이라는 구체적인 유예 기간과 ‘구속력 있는 약속’이라는 법적 장치는 전 세계 규제 당국이 LLM 제공업체를 다루는 표준 모델이 될 것입니다. 이는 기업들이 모델의 성능 경쟁만큼이나 투명성 인터페이스(UX) 개발에 막대한 자원을 투입해야 함을 의미하며, 결과적으로 AI 투명성 벤치마크가 기업의 생존을 결정하는 핵심 지표가 될 것임을 시사합니다.