🔍 핵심 요약

  • OpenAI 공식 릴리즈를 사칭해 244,000건의 다운로드를 기록한 인포스틸러 악성코드 발견
  • 히든레이어(HiddenLayer), 공격자에 의한 다운로드 수치 조작 및 사회 공학적 공격 경고
  • 오픈소스 AI 허브의 신뢰 모델 악용에 따른 '공급망 보안' 강화 필요성 대두

상세 분석

AI 모델 공유의 메카인 허깅페이스(Hugging Face)에서 OpenAI를 사칭한 악성 리포지토리가 발견되어 보안 업계에 강력한 경종을 울리고 있습니다. AI 보안 전문 기업 히든레이어(HiddenLayer)의 연구에 따르면, 공격자들은 OpenAI의 명성을 도용하여 윈도우 시스템의 정보를 탈취하는 ‘인포스틸러(infostealer)’ 악성코드를 유포했습니다. 해당 리포지토리는 삭제 전까지 약 24만 4천 건의 다운로드를 기록하며 전 세계 개발자들을 위협했습니다.

특히 주목할 점은, 공격자들이 모델의 신뢰도를 높이기 위해 다운로드 수치를 인위적으로 부풀렸을 가능성이 크다는 히든레이어의 분석입니다.

이는 전형적인 사회 공학적 공격이 AI 생태계로 확장된 사례로, 사용자들이 유명 기업의 이름과 높은 다운로드 수치를 맹신한다는 점을 악용했습니다. 이번 사건은 AI 모델이 소프트웨어 공급망의 핵심 요소로 자리 잡으면서, ‘모델의 무결성’을 검증하는 체계가 얼마나 취약한지를 여실히 보여줍니다. 개발자들은 이제 검증된 공식 채널이 아닌 소스의 모델을 다운로드할 때 치명적인 보안 리스크를 감수해야 하는 상황에 직면했습니다.

따라서 허깅페이스와 같은 플랫폼 차원의 엄격한 필터링과 함께, 기업 내부적으로는 외부 AI 자산을 도입할 때 ‘제로 트러스트(Zero Trust)’ 원칙을 적용하는 보안 거버넌스 재정립이 시급합니다.

시사점

이번 사건은 AI 기술의 대중화가 보안 위협의 민주화로 이어질 수 있음을 보여줍니다. AI 모델은 단순한 코드가 아니라 복합적인 실행 파일과 같은 위험성을 내포하고 있으므로, ‘유명세’가 아닌 ‘검증된 보안 인증’을 기준으로 모델을 선택하는 인식의 전환이 필수적입니다.