다크웹서 거래되는 당신의 AI 계정… ‘LLM 재킹’ 공포가 현실로
안병훈 기자
새벽에 팔리는 로그인 정보, 그 끝은 어디인가
혹시 최근 기업용 AI 계정 사용량이 이상하게 치솟은 적은 없으신가요. 나도 모르는 사이 누군가 내 계정으로 값비싼 대형언어모델(LLM)을 마음껏 돌리고 있었다면, 그 청구서는 고스란히 나에게 돌아옵니다.
최근 다크웹과 암시장에서는 이런 일이 실제로 빈번하게 벌어지고 있습니다. 기업용 AI 모델 계정과 클라우드 컴퓨팅 자원을 노린 해킹 범죄가 올해 들어 눈에 띄게 늘어난 것으로 확인됐습니다.
구글이 밝힌 심상치 않은 징후들
구글 위협분석그룹(TAG)의 존 헐트퀴스트 수석 분석가는 지난 27일 다크웹과 암시장을 통해 AI 서비스 로그인 정보가 거래되거나, 타인의 서버 자원이 무단으로 도용되는 사례가 올해 들어 뚜렷하게 증가했다고 밝혔습니다. 이렇게 훔친 대형언어모델 접근권을 활용하는 범죄를 업계에서는 ‘엘엘엠 재킹(LLM Jacking)’이라 부르는데, 이는 단순한 금전 갈취 수준을 넘어서고 있다는 게 헐트퀴스트 분석가의 진단입니다.
그의 발언에서 특히 눈에 띄는 대목은 이 범죄가 전쟁이나 첩보 활동과도 연결될 수 있다는 경고입니다. 국가 배후 해킹 조직이나 사이버 범죄 집단이 훔친 AI 계정을 이용해 정보를 수집하거나, 악성코드를 개발하거나, 심리전을 위한 콘텐츠를 대량 생성할 가능성이 제기되고 있는 것입니다.
실제로 구글 TAG는 그동안 여러 국가 배후 해킹 그룹이 AI 도구를 정찰, 코드 작성, 피싱 문구 생성 등에 활용해온 정황을 지속적으로 추적해왔습니다.
왜 지금이 ‘가장 위험한 시점’인가
기업들이 앞다퉈 생성형 AI를 업무에 도입하면서, 관리가 허술한 API 키와 계정 정보가 그만큼 늘어난 것이 이번 사태의 배경으로 꼽힙니다. 클라우드 기반 AI 서비스는 사용량만큼 비용이 청구되는 구조여서, 해커 입장에서는 훔친 계정으로 고성능 연산 자원을 사실상 ‘무료’로 쓸 수 있는 셈입니다.
여기에 도난당한 로그인 정보를 되파는 암시장까지 형성되면서, 피해 규모는 개인 사용자 차원을 넘어 기업 보안 전반의 문제로 확산되고 있습니다.
보안 전문가들은 계정 접근 이력에 대한 상시 모니터링, 비정상적인 트래픽 탐지, 다중 인증 강화 등을 당장 실행 가능한 대응책으로 제시합니다. 하지만 공격 기법이 빠르게 진화하는 만큼 방어가 따라잡기 쉽지 않다는 우려도 함께 나옵니다.
내 AI 계정을 지키는 7가지 습관
첫째, 계정마다 서로 다른 긴 비밀번호를 쓰고 비밀번호 관리자를 활용하세요. 둘째, 가능한 모든 AI 서비스에 2단계 인증을 켜세요. 셋째, API 키는 코드나 공유 문서에 적지 말고 안전한 저장소에 보관하세요. 넷째, 키마다 사용 한도와 권한을 최소로 설정하세요. 다섯째, 사용량 알림을 켜서 이상 급증을 바로 확인하세요. 여섯째, 퇴사자와 외주 인력의 접근 권한은 즉시 회수하세요. 일곱째, 의심스러운 로그인 알림이 오면 바로 비밀번호를 바꾸세요.
청구서가 먼저 알려 주는 경고
계정이 도용되면 가장 먼저 눈에 띄는 것은 사용량과 요금의 이상 급증입니다. 평소와 다른 시간대와 지역에서의 접속 기록도 중요한 단서입니다. 매주 한 번 사용량 대시보드를 확인하는 습관만으로도 피해를 크게 줄일 수 있습니다.
작은 가게와 1인 사업자도 예외는 아닙니다
AI 도구를 쓰는 소상공인과 1인 사업자도 표적이 될 수 있습니다. 대기업만 노린다는 생각은 위험합니다. 결제 정보가 연결된 계정이라면 더욱 철저히 관리해야 합니다. 도용이 의심되면 서비스 제공사에 즉시 신고하고 결제 수단을 점검하세요.
피해를 입었을 때의 순서
먼저 비밀번호를 변경하고 모든 기기에서 로그아웃하세요. 그다음 API 키를 폐기하고 새로 발급하세요. 사용 내역을 캡처해 두고 서비스 제공사에 문의하면 요금 조정이 가능한지 확인할 수 있습니다.
기업이 지금 점검해야 할 것
AI를 도입한 기업이라면 외부에 노출된 키와 계정이 있는지 정기적으로 점검해야 합니다. 개발 중에 코드 저장소에 키를 올려 두는 일은 가장 흔한 실수입니다. 접근 권한은 필요한 사람에게만 필요한 기간만 주고, 로그를 주기적으로 확인하는 체계를 만들어 두세요.
기자의 생각
AI가 산업 전반의 생산성 도구로 자리 잡는 속도만큼, 그 이면의 보안 공백도 빠르게 커지고 있다는 점을 이번 소식은 분명하게 보여줍니다. 특히 LLM 재킹이 단순한 자원 도용을 넘어 전쟁, 첩보 활동과 결부될 수 있다는 지적은 가볍게 넘길 사안이 아닙니다.
국내 기업들 역시 해외 AI 서비스를 광범위하게 도입하고 있는 만큼, 계정 관리 소홀이 곧바로 국가 안보 리스크로 번질 수 있다는 경각심을 가져야 할 시점입니다. 규제 당국과 기업 모두 AI 도입 속도만큼이나 보안 투자 속도를 끌어올려야 한다는 신호로 이번 보도를 받아들여야 할 것입니다.
함께 읽으면 좋은 글