구글위협인텔리전스그룹(GTIG)이 지난 5월 발표 이후 2026년 2분기 최신 AI 위협 동향을 분석한 ‘AI 위협 추적 보고서(AI Threat Tracker)’를 발표했다.
보고서 주요 내용
지난 5월 보고서 발표 이후 GTIG는 위협 행위자들이 단순한 프롬프트 작성을 넘어 에이전틱 AI 워크플로와 AI 기반 자동화를 공격에 적극 활용하는 양상을 확인했다. 이러한 공격 방식에서는 인간의 개입과 판단에 따른 지연 시간(human-in-the-loop latency)이 줄어들면서 위협 행위자의 공격이 기존보다 훨씬 빠르게 진행된다. 이에 따라 방어자가 위협에 대응할 수 있는 골든 타임 또한 크게 줄어들었다.
2026년 2분기 GTIG는 위협 행위자가 클라우드 리소스를 침해한 지 불과 6시간 만에 에이전틱 AI를 활용해 대규모 자격 증명 탈취 공격을 기획·구축하고 실행에 옮긴 사례를 확인했다. 또한 TeamPCP로 알려진 UNC6780이 오픈소스 소프트웨어 공급망을 침해하는 과정에서 AI 코딩 어시스턴트와 LLM 보안 스캐너를 속이려 한 사례도 발견했다.
나아가 위협 행위자들은 AI 자산을 공격 대상으로 삼고 있다. GTIG는 위협 행위자들이 독점 AI 모델과 소스 코드를 노리고 API 자격 증명을 탈취하거나 피해자의 클라우드 환경을 장악해 AI 워크로드를 무단으로 운영하는 사례를 관찰했다. 이는 모델 가중치, 클라우드 컴퓨팅 할당량 등을 포함한 기업의 AI 자산이 사이버 스파이 활동, 금전 갈취, 자원 탈취 등을 위한 주요 표적이 됐음을 시사한다.
2026년 2분기에 관찰된 주요 위협 동향은 다음과 같다.
· 소프트웨어 공급망 위험 확대: AI 기반 코딩 도구와 오픈소스 소프트웨어가 결합되면서 소프트웨어 개발 주기는 단축됐지만, 운영상의 위험은 커졌다. 위협 행위자들은 개발자, AI 코딩 어시스턴트, LLM 보안 스캐닝 도구 등을 적극적으로 겨냥하고 있다.
- AI 공급망을 주요 공격 대상으로 삼아 온 TeamPCP(UNC6780)는 최신 AI 시스템의 허점을 노리도록 설계된 멀웨어(악성코드)를 배포했다. 이들은 AI 코딩 어시스턴트가 사용하는 도구에 성공적으로 백도어를 심었을 뿐만 아니라 오픈소스 패키지의 메타데이터까지 오염시켜 AI 어시스턴트가 개발자에게 악성 코드 부품(dependencies)을 추천하도록 유도했다. 또한 이들이 배포한 멀웨어에는 명령을 은밀하게 실행하기 위한 악성 프롬프트가 포함돼 있었다.
· 독점 AI 지식재산(IP) 공격 증가: GTIG는 공격자들이 의료, 정부, 미디어 등 다양한 산업군의 독자적인 AI 모델, 코드, 프롬프트 및 연구 자료를 노리는 사례가 증가하고 있음을 확인했다. 일부 사례에서 위협 행위자들은 금전(Ransom)을 지불하지 않을 경우 탈취한 데이터를 공개하겠다고 협박했다.
· 에이전틱 AI 및 자동화 전환: 위협 행위자들은 멀티 에이전트 프레임워크를 도입해 스캐닝 파이프라인 관리, 운영 과정에서 발생하는 오류 해결, 대규모 자격 증명 탈취 등을 자율적으로 수행하고 있다.
· 공격 라이프사이클 전반에 AI 활용 확대: 국가 지원을 받는 위협 그룹과 사이버 범죄 조직들은 표적 정찰, 소셜 엔지니어링 기법을 활용한 유인 콘텐츠 제작, 맞춤형 악성코드 난독화, 침해 후 문제 해결(post-exploitation troubleshooting)* 등 공격 라이프사이클 전반에서 AI를 악용해 공격 역량을 획기적으로 강화하고 있다. 또한 정보작전(IO) 캠페인의 규모 확대에도 AI 활용을 실험하고 있다.
- 중국 연계 사이버 스파이 그룹인 BASIN CASTLE은 표적에 대한 정보 수집부터 침투 과정에서 발생하는 오류 해결에 이르기까지 과업 전반에 LLM을 활용하고 있다.
- 또 다른 중국 연계 사이버 스파이 그룹은 공격의 초기 단계를 에이전트 방식으로 수행하는 자동화된 모의 침투 프레임워크를 구축하기 위해 제미나이(Gemini) 활용을 시도했다.
* 침해 후 문제 해결: 해커가 시스템 내부 침투에 성공한 이후 AI를 활용해 기술적 오류나 보안 장애를 해결하는 것
· 불법 계정 조달 및 LLM재킹(LLMJacking): 위협 행위자들은 AI 서비스 비용을 회피하기 위해 개발자의 자격 증명을 도용하고, 침해된 AI 플랫폼 계정을 구매하며, 기업의 클라우드 인프라를 탈취해 고성능 컴퓨팅 워크로드를 무단으로 사용한다.
- GTIG는 미국 의료기관을 대상으로 대규모 공격을 수행한 중국 연계 위협 행위자 UNC6508이 클라우드 환경을 침해해 로컬 AI 모델을 호스팅한 정황을 포착했다.
- 2026년 4월 맨디언트의 대응 조사에 따르면 한 위협 행위자가 확보한 접근 권한을 이용해 AI 인프라를 구축하고, 승인되지 않은 AI 워크로드를 지속적으로 실행한 사례가 확인됐다. 이들은 탈취한 클라우드 환경에 고성능 GPU 컴퓨팅 인스턴스를 무단으로 할당받고 관련 발생 비용은 피해 기업에 전가했다.
- 북한 IT 인력 조직이 탈취한 계정을 이용해 LLM API를 대량으로 등록해 활동 규모를 확대한 정황도 관찰됐다.
존 헐트퀴스트(John Hultquist) GTIG 수석 애널리스트는 “이제는 모든 위협 행위자가 AI를 어떤 방식으로든 활용하고 있으며, 이를 통해 실제 공격 효과를 극대화하고 있다고 봐야 한다. 우리 역시 AI 자체의 취약점 문제를 주시하고는 있지만, 이것이 전부는 아니다. 실제 공격자들은 이미 훨씬 다양한 영역에 AI를 접목하고 있다. 특히 AI가 자율적으로 판단하고 행동하는 에이전트 방식으로 전환되면서 한층 더 거대하고 빠른 위협에 직면하게 될 것이다. 6시간 만에 대규모 탈취 공격을 수행한 사이버 범죄자들처럼 공격자들은 우리의 대응 속도를 넘어서는 공격 방식으로 이동하고 있다”고 설명했다.
또한 “위협 행위자들은 공격 규모를 확대하고 AI 리소스를 확보하기 위해 자원을 직접 탈취할 것”이라며 “UNC6508과 같은 사이버 스파이 그룹 또한 침해된 시스템을 활용하고 있으며, 실제로 이들은 로컬 모델을 사용해 상용 보안 모니터링을 회피하는 데 성공했다. AI가 기술 스택에 점점 더 깊이 통합됨에 따라 TeamPCP처럼 AI 시스템 자체를 공격 대상으로 삼는 차세대 위협 행위자도 등장하고 있다. 현재는 공급망이 이들의 주요 표적이지만, 앞으로는 분명 다른 공격 기회도 모색할 것”이라고 전했다.
웹사이트: https://cloud.google.com/?hl=ko
){kind=small}
){kind=small}
){kind=small}
){kind=small}
