구글, TPU 8tx·8i 맥스 공개…1년 새 TPU 4종

구글이 9일(현지시간) 8세대 텐서처리장치(TPU) 제품군에 'TPU 8tx'와 'TPU 8i 맥스(Max)' 두 시스템을 추가했다. TPU 8tx는 AI 모델이 데이터를 처리하는 동안에도 암호화 보호를 유지하는 기밀 컴퓨팅용이고, TPU 8i 맥스는 추론 칩 두 개를 한 패키지에 묶어 초장문 맥락 처리를 겨냥했다. 아민 바흐다트 구글 AI·인프라 수석부사장 겸 최고기술자는 공식 블로그에서 한 해에 TPU 시스템 네 종을 내놓은 것은 처음이라고 밝혔다.

핵심 정리

• TPU 8tx는 학습용 TPU 8t와 같은 실리콘에 5세대 AMD 에픽(EPYC) 호스트를 붙여, 사용 중인 데이터와 모델 가중치까지 보호한다.
• TPU 8i 맥스는 TPU 8i 칩 두 개를 결합해 같은 랙 공간에서 연산·SRAM·HBM 대역폭을 두 배로 늘렸다.
• 구글은 두 시스템의 가격과 출시 시점을 발표하지 않았다.

구글 TPU 8tx, 무엇이 다른가

데이터는 보통 저장하거나 전송할 때만 암호화되고, 실제 연산 중에는 메모리에서 풀린다. 구글은 TPU 8tx가 하드웨어 단에 보안을 넣어 연산 중에도 민감 데이터와 모델 가중치를 격리·보호한다고 설명했다.

네트워크는 TPU 8i용으로 만든 저지연 '보드플라이(Boardfly)'를 그대로 썼다. 구글은 TPU 8t 대비 지연 시간이 최대 2배 낮고 성능 손실은 "거의 0"이라고 주장했다. 규제 산업과 정부 기관이 데이터를 옮기지 않고 한 시스템에서 미세조정·모델 증류·강화학습 에이전트 훈련까지 하도록 하는 것이 목표다.

TPU 8i 맥스와 '메모리 장벽'

TPU 8i 맥스는 구글이 '메모리 장벽'이라 부르는 문제를 겨냥한다. 여러 에이전트가 코드베이스 전체나 몇 시간 분량 영상을 한꺼번에 다루면 연산보다 메모리 대역폭이 먼저 병목이 된다는 것이다. 칩 두 개를 한 패키지에 올려 TPU 8i 한 개보다 연산, SRAM, HBM 대역폭을 각각 두 배로 늘렸다.

기존 랙 공간에 두 배의 실리콘을 넣어 면적당·전력당 연산 밀도도 높아진다는 설명이다. 바흐다트 부사장은 "컴퓨팅이 사람 규모에서 에이전트 규모로 옮겨 가면서 기업들은 AI 모델의 거대한 맥락 창 전체를 추론할 수 있는 가속기를 요구하고 있다"고 적었다.

에이전트용 TPU 소프트웨어도 공개

구글은 KV 캐시를 칩 메모리·호스트 D램·스토리지에 나눠 관리하는 'TPU 싱크(Sync)'를 오픈소스로 공개한다. KV 전송 지연과 첫 토큰 생성 시간(TTFT)을 90% 넘게 줄인다는 것이 구글 설명이다. 쉬는 에이전트 세션을 자동으로 멈췄다 재개하는 '에이전트 컴퓨트 엔진'도 내놨다.

클라우드 패스웨이즈와 GKE 동적 슬라이싱은 정식 출시됐다. 동적 슬라이싱은 작업 시작을 최대 5배, 장애 복구를 최대 4.5배 앞당긴다고 한다. 미리보기 단계의 TPU 에이전트 도구 모음은 클로드 코드, 커서, 구글 안티그래비티 같은 코딩 도구와 연결된다.

맥락: 1년 새 TPU 네 종

구글은 지난 4월 클라우드 넥스트에서 학습용 TPU 8t와 추론용 TPU 8i를 공개했다. 이전 세대보다 각각 학습 성능이 최대 2.7배, 추론 가격 대비 성능이 80% 좋다는 설명이다. 구글에 따르면 TPU 고객은 100곳에 가깝다. 오라클도 지난 10월 2027년부터 자사 클라우드에서 TPU 8t·8i를 제공하겠다고 밝혔다.

전망

남은 관심사는 TPU 8tx와 8i 맥스를 언제, 어느 리전에서, 얼마에 빌릴 수 있느냐다. 성능 손실이 "거의 0"이라는 수치도 구글 자체 주장이어서 외부 검증이 필요하다.

자주 묻는 질문

TPU 8tx와 TPU 8t의 차이는? 같은 실리콘에 하드웨어 기밀 컴퓨팅, AMD 에픽 호스트, 보드플라이 네트워크를 더했다. 보안 추론과 소규모 학습용이다.

TPU 8i 맥스는 얼마나 빠른가? 구글은 TPU 8i 한 개 대비 연산·SRAM·HBM 대역폭이 두 배라고 밝혔다. 실제 작업 벤치마크는 공개하지 않았다.

언제 쓸 수 있나? 구글은 9일 발표에서 출시 시점과 가격을 밝히지 않았다.

참고 자료

• Our newest TPUs: 8tx and 8i Max, built for the agentic era — 구글(2026년 11월 9일)
• Google expands eighth-generation TPU portfolio with two new "TPU systems" — 데이터센터다이내믹스
• Google announced two new versions of its eighth-gen AI chips. — 더버지(2026년 11월 9일)