기업들이 인공지능(AI) 도입에 속도를 내는 사이, AI 보안에는 ‘빨간불’이 켜졌다. 기업의 AI 활용이 확산하는 가운데 대규모언어모델(LLM)과 관련 도구에서 발견된 보안 취약점이 반년 만에 10배 수준으로 늘어난 것으로 나타났다.

 

7일 카스퍼스키가 발표한 ‘2026년 2분기 익스플로잇 및 취약점 보고서’에 따르면 올해 2분기 AI·LLM 서비스에서 등록된 취약점은 935건으로 집계됐다. 지난해 4분기보다 10배 증가한 규모다.

이 가운데 심각한 취약점은 119건으로 지난해 말보다 약 5배 늘었다. 집계 대상에는 LLM과 AI 도구, 유사 기능을 제공하는 플러그인 등이 포함됐다.
 

주요 문제는 중요 시스템 객체에 대한 접근통제 미흡과 인증·권한 부여 오류, 인젝션 취약점 등이었다.

인젝션은 공격자가 악성 명령어나 데이터를 시스템에 삽입해 의도하지 않은 동작을 유도하는 공격 방식이다. 외부 시스템과 연결해 업무를 수행하는 AI 에이전트가 확산하면서 관련 위험도 커지고 있다는 분석이다.

보고서는 AI 에이전트 ‘오픈클로’에서 외부 주소를 제대로 검증하지 않은 채 인증 토큰을 전송할 수 있는 취약점이 발견됐다고 설명했다. 악용될 경우 이용자 세션이나 AI 에이전트 설정이 탈취될 수 있다.

AI 플랫폼 ‘디파이’에서도 이용자가 허용된 작업공간을 벗어나 내부 서비스에 접근할 수 있는 취약점이 확인됐다.

AI 서비스를 사칭한 공격도 늘어나는 추세다. 카스퍼스키의 중소기업 위협 보고서에 따르면 올해 1~4월 인기 AI 서비스로 위장해 중소기업을 대상으로 진행한 공격은 3만 3300건 이상 탐지됐다. 전년동기대비 약 5배 상승했다.

보안업계 관계자는 본지와의 서면 인터뷰에서 “AI 전용 취약점 스캐닝과 레드팀, 버그바운티가 활성화되면서 발견 건수가 늘어난 영향도 있지만, AI·LLM 분야의 증가 폭이 전체 소프트웨어보다 가파르다는 점에서 실제 위험도 커졌다고 볼 수 있다”며 “기업들은 AI 에이전트의 접근 권한을 최소화하고 입력값 검증과 프롬프트 인젝션 대응 체계를 마련해야 한다”고 설명했다.
 

카스퍼스키는 1997년 러시아에서 설립된 글로벌 사이버보안 기업으로, 백신과 기업용 보안 솔루션, 사이버위협 분석 서비스를 제공하고 있다.

[ 경기신문 = 김민규 인턴기자 ]