거대 언어 모델(LLM)과 연계 도구를 활용하여 자율적으로 추론·계획·행동을 수행하는 에이전틱 AI 시스템의 배포가 정부·핵심 인프라·산업 환경 전반에 걸쳐 증가
- ASD(Australian Signals Directorate) 산하 호주 사이버보안센터(ACSC)는 에이전틱 AI로 인한 자율성과 시스템 통합 수준의 증가가 AI 특유의 위험과 기존의 사이버보안 위험을 모두 증대시킬 수 있다고 보고, 미국·캐나다·뉴질랜드·영국 등 국제 사이버보안 당국과 공동으로 본 지침을 마련
- 에이전틱 AI 시스템이 사이버 위험을 증가시키는 원인에는 ▲기반 LLM에서 비롯되는 취약점, ▲확대된 공격 표면, ▲시스템 복잡성 증가, ▲권한 및 신원 관련 위험, ▲책임성 및 가시성 문제 등이 포함
- 본 지침은 에이전틱 AI로 인한 사이버보안 위험을 완화하기 위해 조직이 취해야 할 다양한 조치를 권고
-▲초기 단계부터 보안 제어·감독 메커니즘·최소 권한 접근 방식을 적용한 에이전트형 AI 시스템 설계, ▲에이전트별 고유 식별 체계·세분화된 권한·지속적 인증을 포함한 강력한 신원 및 접근 관리 구현, ▲AI 전 생애주기에 걸쳐 의도하지 않은 행동과 보안 취약점을 식별하기 위한 엄격한 테스트·평가·레드티밍 수행
-▲저위험·비민감 업무부터 단계적으로 에이전트를 배치하고, 통제 체계가 성숙해짐에 따라 자율성을 점진적으로 확대, ▲에이전트의 행동·의사결정·도구 사용에 대한 지속적인 모니터링 및 감사 유지, ▲영향이 크거나 되돌릴 수 없는 조치에 대해서는 실질적인 인간 감독 보장
출처 ∙ Careful adoption of agentic AI services (ASD, 2026.5.1.)
이 누리집은 대한민국 공식 전자정부 누리집입니다.
