AI 업무비서가 정보 유출 통로로…Dify 중대 취약점 경고

기업들이 고객 상담과 사내 문서 검색, 업무 자동화를 위해 생성형 인공지능(AI)을 빠르게 도입하는 가운데, AI 애플리케이션 개발 플랫폼의 보안 취약점이 새로운 정보 유출 위험으로 떠올랐다.

한국인터넷진흥원(KISA)은 24일 오픈소스 AI 플랫폼 ‘Dify’에서 발견된 취약점 4건에 대한 보안 업데이트를 권고했다. Dify는 기업이 별도의 복잡한 개발 과정 없이 챗봇과 AI 업무 도구를 구축하고, 외부 언어모델과 데이터베이스·업무 시스템을 연결할 수 있도록 지원하는 플랫폼이다.

문제는 AI 플랫폼이 단순한 프로그램 한 개가 아니라는 점이다. 기업 내부 문서, 고객의 질문과 답변, 프롬프트, 외부 AI 서비스 연결 정보가 한곳에 모이는 ‘데이터 교차로’에 가깝다. 따라서 플랫폼의 접근권한이 뚫리면 공격자는 AI 서버 자체보다 그 안을 오가는 대화와 업무 정보를 노릴 수 있다.

공개된 취약점 가운데 일부는 이용자가 다른 조직의 애플리케이션 설정에 접근하거나, AI가 주고받는 메시지를 공격자가 통제하는 추적 시스템으로 전송하도록 설정을 바꿀 가능성을 포함한다. 또 다른 취약점은 파일 경로를 조작해 원래 접근할 수 없는 내부 기능으로 이동할 수 있는 문제다. 주요 취약점의 위험도는 국제 기준상 ‘치명적’ 수준으로 평가됐다.

이번 공지는 해킹 피해가 확인됐다는 발표가 아니라, 피해가 발생하기 전에 버전을 점검하고 업데이트하라는 경고다. KISA는 Dify 1.14.2 미만 버전 등을 사용하는 기관과 기업에 최신 버전 또는 보완된 소스 적용을 권고했다.

이번 사례는 AI 보안의 핵심이 모델의 성능만이 아니라는 점을 보여준다. 기업은 어떤 AI를 도입했는지뿐 아니라, 그 AI가 어떤 문서와 시스템에 연결돼 있고 누가 관리 권한을 갖는지까지 파악해야 한다. 업데이트 이후에도 관리자 계정과 API 키를 교체하고, 비정상적인 외부 전송 기록과 설정 변경 이력을 확인할 필요가 있다.

개인은 출처가 불분명한 AI 챗봇에 주민등록번호, 계좌번호, 회사 기밀을 입력하지 않아야 한다. 기업은 AI 플랫폼 목록과 버전, 연결 데이터, 관리자 권한을 자산대장으로 관리해야 한다. 정부와 공공기관은 생성형 AI 플랫폼을 일반 소프트웨어가 아닌 핵심 정보 공급망으로 분류하고, 취약점 통보부터 패치 확인까지 관리체계를 강화해야 한다.

AI가 업무를 대신할수록 공격자는 AI가 접근할 수 있는 정보까지 함께 노린다. 이제 필요한 것은 ‘AI를 얼마나 빨리 도입했는가’가 아니라 ‘AI가 어디까지 들어갈 수 있도록 허용했는가’를 통제하는 일이다.

#생성형AI #Dify #AI보안 #정보유출 #공급망보안 #사이버안보저널