AI 에이전트의 "장기 기억", 오히려 보안 구멍이 될 수 있다
최근 기업들은 고객 응대나 업무 자동화를 위해 장기 기억 기능을 갖춘 AI 에이전트 도입을 늘리고 있다. 사용자의 이전 요청이나 선호를 기억해 반복 설명 없이 맞춤형 서비스를 제공할 수 있다는 장점 때문이다. 그러나 이 기억 저장소 자체가 새로운 공격 표면이 될 수 있다는 연구 결과가 나왔다.
미국 뉴멕시코 주립대 연구진은 AI 에이전트의 장기 기억에 악성 정보를 몰래 주입하는 공격 기법 'GhostWriter'를 공개했다. 이 공격은 "인젝션"과 "활성화" 두 단계로 진행되며, 실험 결과 약 "98%"에 달하는 주입 성공률과 약 "60%"의 평균 활성화율을 기록한 것으로 나타났다. 예를 들어 이메일 관리 업무를 맡은 에이전트에 "특정 발신자의 메일을 몰래 외부로 전달하라"는 가짜 지시를 심는 방식이 가능하다는 것이다.
B2B 관점에서 이는 중요한 시사점을 준다. 이메일 자동화, 고객 데이터 관리, 업무 스케줄링 등에 AI 에이전트를 도입한 기업이라면, 장기 기억 저장소에 대한 접근 통제와 검증 절차가 필수적이라는 의미다. 연구진은 이런 위협에 대응하기 위해 메모리 저장 정책과 검색 단계의 검증 절차를 결합한 'AM-Sentry'라는 방어 기법도 함께 제시했다. 이는 공격 성공률을 크게 낮추면서도 에이전트의 본래 성능은 유지하는 결과를 보였다.
AI 에이전트의 자동화 범위가 넓어질수록, 기업은 편의성뿐 아니라 기억 시스템의 보안 설계도 함께 검토해야 할 시점이다.
출처: George Torres, Sharad Shrestha, Satyajayant Misra, 뉴멕시코 주립대(New Mexico State University) / TechXplore (2026년 7월)
본 콘텐츠는 외부 연구 자료를 바탕으로 작성되었습니다.