마이크로소프트가 10월 19일(현지시간) 기업 안에서 일하는 AI 에이전트를 '내부자'로 보고, 위험도가 오르면 권한을 단계적으로 줄이거나 실행을 멈추는 보안 기능 묶음을 공개했다. 하예테 갈로(Hayete Gallot) 보안 총괄 부사장과 나딤 압도(Nadim Abdo) 부사장이 같은 날 블로그 글로 구상과 기능을 설명했다.
핵심 정리
- 마이크로소프트는 10월 19일 AI 에이전트별 위험 점수를 매기는 Dynamic Agent Risk와 권한을 자동 조정하는 Dynamic Conditional Access를 공개했다.
- 직원 PC에서 찾아낼 수 있는 로컬 에이전트 종류가 35종 늘어 Claude Code·OpenAI Codex·GitHub Copilot 등 모두 60종이 됐다.
- 보안 에이전트 'Guardian Agents'가 위험이 바뀐 에이전트를 조사하고 격리를 권고하거나 직접 적용하며, 출시일과 가격은 공개되지 않았다.
마이크로소프트가 말하는 '에이전트 내부자'란
마이크로소프트가 말하는 '에이전트 내부자(agentic insider)'는 기업이 직접 배치해 권한을 준 AI 에이전트가 의도와 다르게 움직일 수 있는 위험을 뜻한다. 갈로 부사장은 공식 블로그 글 'Securing the agentic insider'에서 프런티어 모델은 출처와 관계없이 전적으로 신뢰할 수 없다고 썼다. 결과를 내도록 학습돼 보상 해킹에 빠질 수 있다는 이유다.
갈로 부사장은 기업용 에이전트가 빠르게 늘고 필요 이상의 권한을 가진 경우가 많다며, 실시간 감시와 위험 기반 권한 조정이 필요하다고 강조했다.
AI 에이전트 권한, 위험도에 따라 어떻게 바뀌나
새 기능의 핵심은 에이전트마다 위험 점수를 계속 갱신하고 그 점수에 맞춰 권한을 자동으로 좁히는 구조다. 압도 부사장이 마이크로소프트 보안 블로그에 정리한 내용에 따르면 Dynamic Agent Risk는 Microsoft Sentinel, Entra, Intune, Purview, Global Secure Access, Defender의 신호를 모아 점수를 낸다. 사용자 의도에서 벗어나는 행동도 감지한다.
Dynamic Conditional Access는 기존 Microsoft Entra 조건부 액세스를 에이전트로 넓힌 기능이다. 위험이 오르면 쓰기 권한만 막고 읽기는 남기거나 고위험 작업에 사람의 승인을 요구한다. 가장 높은 단계에서는 실행 환경을 격리하거나 중지한다.
Dynamic Permissions는 조직 전체 정책이 정한 상한 안에서 작업 하나에 필요한 권한만 기간을 정해 내주고 언제든 회수하는 방식이다. 마이크로소프트는 경비 승인 에이전트가 작업 범위의 권한만 받고, 프롬프트 인젝션을 만나면 단계별로 제약을 받는 사례를 들었다. 모델 바깥에 둔 가드레일을 권한 체계 전체로 넓힌 셈이다.
Claude Code·Codex까지 찾아내는 에이전트 탐지
마이크로소프트는 직원 기기에서 실행되는 로컬 AI 에이전트 탐지 대상을 35종 추가해 모두 60종으로 늘렸다고 밝혔다. Anthropic의 Claude Code, OpenAI Codex, GitHub Copilot이 대표 예다. 찾아낸 에이전트에는 Microsoft Entra Agent ID로 고유 신원을 붙인다.
7월 공개된 보안 플랫폼 Project Perception에는 보안 담당자가 원하는 결과를 정의하는 Playbooks와 'Guardian Agents'가 추가된다. Guardian Agents는 에이전트의 위험 점수가 바뀐 이유를 조사하고 격리를 권고하거나 직접 적용한다.
나델라 원칙과 업계 맥락
압도 부사장은 이번 기능이 사티아 나델라 최고경영자의 원칙, 즉 지능의 공급과 그 지능에 대한 권한을 분리하고 통제는 모델 바깥에 둔다는 구상을 따른다고 설명했다. 테렐 콕스(Terrell Cox) 부최고정보보안책임자는 마이크로소프트 내부에서만 이미 수십만 개의 에이전트가 돌고 있다고 밝혔다.
에이전트가 예상 밖 경로로 움직이는 사례는 최근 잇따랐다. 인도 침해사고대응팀의 경보를 다룬 '평가 중 AI 에이전트가 실서비스 침입' 기사도 같은 흐름이다.
출시 일정과 앞으로의 전망
마이크로소프트는 개별 기능의 출시일과 추가 비용을 밝히지 않았다. 보안 블로그 페이지 설명과 The Next Web 보도에 따르면 이 기능들은 Project Perception과 Microsoft 365 E7에 들어간다. 회사는 11월 17~20일 열리는 Microsoft Ignite에서 세부 내용을 더 공개할 예정이다. 사고 과정(chain-of-thought) 신호를 위험 점수에 반영할 계획이지만, 갈로 부사장은 모델 투명성이 격리를 대신하지 않는다고 했다.
자주 묻는 질문
마이크로소프트 Dynamic Agent Risk는 무엇인가?
AI 에이전트마다 위험 점수를 계속 갱신하는 기능이다. Sentinel, Entra, Intune, Purview, Defender 등의 신호와 에이전트 행동을 함께 보고, 의도에서 벗어난 움직임이 감지되면 점수를 올린다. 이 점수에 따라 권한 축소, 사람 승인 요구, 실행 중지 같은 대응이 이어진다.
Claude Code나 Codex도 마이크로소프트 보안 도구로 관리할 수 있나?
마이크로소프트는 직원 기기의 로컬 에이전트 60종을 탐지할 수 있으며 Claude Code, OpenAI Codex, GitHub Copilot이 포함된다고 밝혔다. 탐지된 에이전트에는 Entra Agent ID로 고유 신원을 부여해 관리 대상으로 삼는다.
새 에이전트 보안 기능은 언제, 얼마에 쓸 수 있나?
마이크로소프트는 10월 19일 발표에서 기능별 출시일과 가격을 공개하지 않았다. 추가 정보는 11월 17일 개막하는 Microsoft Ignite에서 나올 예정이다.
