'진실의 미래'를 덮친 AI의 거짓말: 합성 인용문 논란과 스티븐 로젠바움의 위험한 고집

상세 분석

사건 개요: 진실을 논하는 책에 침투한 가공의 기록

2026년 5월 23일, 미디어 전문가이자 저술가인 스티븐 로젠바움(Steven Rosenbaum)의 신작 ‘진실의 미래(The Future of Truth)‘가 AI에 의한 데이터 오염으로 논란의 중심에 섰습니다. 해당 도서는 디지털 시대에 진실을 수호하는 방법을 다루고 있음에도 불구하고, 실제로는 존재하지 않는 인물의 발언이나 실제 인물이 하지 않은 말을 AI가 생성해낸 이른바 ‘합성 인용문(Synthetic Quotes)‘이 포함된 것으로 드러났습니다. 이는 정보의 무결성을 강조하는 저자의 메시지와 정면으로 배치되는 충격적인 결과입니다.

주요 쟁점: 환각 현상의 인정과 책임의 외주화

로젠바움은 이번 사태에 대해 생성형 AI를 활용하는 과정에서 발생한 ‘환각(Hallucination)’ 현상을 제대로 걸러내지 못했음을 시인했습니다. 대규모 언어 모델(LLM)은 문맥상 그럴듯한 문장을 만드는 데 탁월하지만, 사실 여부를 검증하는 능력은 부족합니다. 저자는 이러한 기술적 결함을 인지했음에도 불구하고, AI가 제공하는 창의적 영감과 집필 속도의 이점을 포기할 수 없다며 앞으로도 AI 도구를 계속 사용하겠다는 파격적인 입장을 고수하고 있습니다.

이는 저널리즘과 논픽션 출판계에서 가장 신성시되는 ‘사실 확인(Fact-checking)‘의 책임을 기술의 편의성 뒤로 미루는 행위라는 강력한 비판을 받고 있습니다.

산업적 함의 및 분석가적 통찰

데이터 시스템 분석가로서 이번 사건은 AI가 콘텐츠 생산 생태계에 미치는 ‘신뢰의 부식’을 상징한다고 봅니다. 로젠바움이 사용한 ‘합성 인용문’이라는 용어 자체는 가공된 정보를 새로운 형태의 창작물로 정당화하려는 시도로 읽힐 수 있어 매우 위험합니다. 논픽션은 객관적 사실에 기반해야 하며, 독자와의 암묵적 신뢰가 그 가치의 원천입니다.

만약 저자들이 검증되지 않은 AI의 결과물을 무분별하게 수용하고 이를 ‘미래의 창작 방식’으로 포장한다면, 출판물 전체의 신뢰도는 하락할 수밖에 없습니다. 이번 사례는 출판사들이 원고 수락 단계에서 AI 탐지 및 사실 확인 솔루션을 의무적으로 도입해야 하는 기술적 필요성을 제기하며, AI가 생성한 ‘합성 진실’이 우리 사회의 정보 체계를 어떻게 교란할 수 있는지 보여주는 극명한 경고입니다.

시사점

저자가 AI의 환각을 ‘합성 인용문’이라는 용어로 미화하는 것은 지적 태만입니다. 논픽션의 본질은 사실의 재구성이며, AI가 지어낸 거짓을 그대로 방치하는 것은 독자에 대한 배신이자 출판 윤리의 붕괴를 초래하는 행위입니다.