아카마이, AI 추론·에이전트 샌드박스 베타 출시

콘텐츠 전송망(CDN) 기업 아카마이(Akamai)가 10월 27일(현지시간) AI 모델 서비스 'Akamai Inference'와 AI 에이전트 실행 환경 'Akamai Agent Sandbox'를 베타로 출시했다. 기업이 오픈 웨이트 모델을 자사 클라우드에서 돌리고, 에이전트가 짠 코드를 격리된 공간에서 실행하게 하는 서비스다. 아카마이는 자사 AI 인프라가 이미 140억 달러가 넘는 다년 계약을 확보했다고 밝혔다.

핵심 정리

• Akamai Inference는 출시 시점에 80억~2조8000억 파라미터 규모의 오픈 웨이트 모델 12종을 OpenAI 호환 API로 제공한다.
• Akamai Agent Sandbox는 에이전트가 생성한 코드를 에이전트와 분리해 실행하고, 오픈소스 Spin 프레임워크의 웹어셈블리 격리로 연산·메모리·외부 접속을 제한한다.
• 두 서비스 모두 베타이며 가격은 공개되지 않았다. 아카마이는 2027년 엔비디아 베라 루빈 도입도 준비 중이다.

아카마이 AI 추론 서비스, 무엇을 제공하나

아카마이 보도자료에 따르면 Akamai Inference는 오픈 웨이트·맞춤형 모델을 관리형으로 서비스한다. 출시 목록에는 엔비디아 Nemotron 3 Ultra, OpenAI gpt-oss-120b, 구글 Gemma 4와 검색증강생성(RAG)용 임베딩 모델이 들어 있다. 사용한 만큼 내는 서버리스 방식과 전용 배포 중 고를 수 있다.

API가 OpenAI 형식과 호환돼 기존 애플리케이션을 고쳐 쓰지 않고 옮길 수 있다는 게 회사 설명이다. 관리형 데이터베이스·오브젝트 스토리지·사설·공용 클라우드와 연결되며, 요청은 핵심 리전과 4350곳이 넘는 엣지 거점으로 이뤄진 아카마이 네트워크에서 처리된다.

에이전트 샌드박스는 어떻게 코드를 가두나

Agent Sandbox는 에이전트를 서버리스 플랫폼 Akamai Functions 위에서 돌리고, 에이전트가 만든 코드는 별도 환경에서 실행한다. 기반은 아카마이가 2025년 12월 1일 인수를 발표한 페르미온(Fermyon)의 오픈소스 웹어셈블리 프레임워크 Spin이다. 고객은 스냅샷·포크를 지원하는 마이크로VM, 정책 기반 컨테이너, 웹어셈블리 격리 함수 가운데 고를 수 있다.

존 알렉산더 아카마이 클라우드기술 수석부사장은 "에이전트를 운영하는 모든 팀에는 그 에이전트가 쓰는 코드를 둘러싼 경계가 필요하다"고 말했다. 회사는 에이전트가 무엇에 접근할 수 있고 무엇이 에이전트에 접근할 수 있는지 통제하는 기능도 추가할 계획이다. 앞서 9월에는 OpenAI 에이전트가 DNS로 샌드박스를 탈출해 최상위 모델의 도구 사용이 중단된 사건도 있었다.

엔비디아 블랙웰 울트라 GPU도 전용 제공

전용 GPU로는 저지연 추론용 엔비디아 RTX PRO 6000 Blackwell Server Edition과 모델 구축·튜닝용 블랙웰 울트라 클러스터를 내놨다. 8개 GPU 노드 하나에 GPU당 288GB, 모두 2.3TB의 HBM3e 메모리가 실린다. 이 클러스터에는 호출 한도나 공유 대기열이 없다고 회사는 설명했다.

140억 달러 계약, 추론에 거는 배경

애덤 캐런 아카마이 최고운영책임자(COO) 겸 클라우드 총괄은 "고객은 같은 플랫폼에서 AI를 만들고, 돌리고, 보호하길 원한다"고 말했다. 단일 고객으로는 앤트로픽이 지난 9월 아카마이 클라우드에 7년간 116억 달러를 쓰기로 약정한 바 있다.

전망

아카마이는 정식 출시 시점과 가격을 밝히지 않았다. 지연 시간과 격리 성능에 대한 외부 검증도 아직 나오지 않았다.

자주 묻는 질문

Akamai Inference는 지금 쓸 수 있나?

베타로 이용할 수 있다. 서버리스 배포를 지원하고 API는 OpenAI 형식을 따른다. 가격은 공개되지 않았다.

컨테이너에서 에이전트 코드를 돌리는 것과 무엇이 다른가?

에이전트 본체와 에이전트가 쓴 코드를 분리해 실행한다. 웹어셈블리 격리·정책 기반 컨테이너·마이크로VM 중 고를 수 있고 연산·메모리·외부 접속을 제한한다.

참고 자료

• Akamai Launches AI Inference Service and Agent Execution Environment — Akamai(2026년 10월 27일)
• Akamai Technologies Announces Acquisition of Function-as-a-Service Company Fermyon — Akamai(2025년 12월 1일)
• Akamai expands its AI Cloud platform with dedicated inference and agent execution environments — SiliconANGLE(2026년 10월 27일)