AMD MI350X, 메타 학습 시험서 엔비디아 B200과 대등

메타 엔지니어들이 AMD의 인스팅트 MI350X GPU가 메타의 실서비스 추천 모델 학습에서 엔비디아 B200과 사실상 같은 속도를 낸다고 밝혔다. 이들은 2026년 10월 15일 아카이브(arXiv)에 올린 논문에서 실서비스 모델 10종을 학습한 결과 MI350X의 처리량이 B200 기준치의 101.2%(기하평균)였다고 보고했다. 메타에서는 이미 수만 개의 MI350X가 학습 작업을 돌리고 있으며, AMD는 10월 27일 메타와의 협력 확대를 발표하며 이 성과를 소개했다.

핵심 정리

• 추천 모델 10종 평균 처리량은 B200 대비 101.2%였다. MI350X가 4종에서 앞섰고 6종에서 뒤졌으며, 모델별 결과는 82%~130%로 갈렸다.
• CUDA용 코드를 옮기는 작업에 AI 에이전트를 썼다. 실서비스 트라이톤(Triton) 커널 수십 개에 적용한 성공률은 80%를 넘었다.
• 비교 조건은 MI350X 1,000W, B200 750W였다. 대상은 추천 모델이며 초거대 언어모델 학습 비교는 아니다.

AMD MI350X·엔비디아 B200 성능 비교 결과

논문 제목은 '하드웨어 다양성을 위한 설계: AMD GPU에서 고성능 AI 학습을 위한 메타의 엔드투엔드 공동 설계'다. 저자 58명은 하이퍼스케일러가 AMD GPU를 대규모 학습에 투입한 첫 보고서라고 밝혔다. 표 3은 GPU 8~128개로 조건을 맞춰 처리량을 비교했다.

연구진은 비결로 세 가지를 꼽았다. 모델을 그대로 옮기지 않고 하드웨어에 맞춰 모델 구조와 학습 방식을 고친 것, 사전 실행 없이 행렬 연산 커널을 고르는 분석 모델, 그리고 에이전트 기반 이식이다. 이를 합치면 단순 이식 대비 처리량이 최대 1.5배 높아졌다고 했다.

AI 에이전트가 CUDA 코드를 ROCm으로 옮겼다

논문에 따르면 메타의 에이전트는 코드를 컴파일하고 오류 메시지를 읽어 "빌드가 성공할 때까지" 수정을 반복한다. 대응하는 ROCm 기능이 없으면 보조 코드(심)도 만든다. 실서비스 트라이톤 커널 수십 개에 적용했을 때 성공률은 80%를 넘었다.

한 사례에서 에이전트는 '재그드 플래시 어텐션' 역전파 커널의 원자적 연산을 없애도록 다시 짰다. 실행 시간은 32밀리초에서 14밀리초로 줄었다. 이 커널에서 MI350X는 B200보다 2배 느리던 상태에서 15~20% 빠른 상태로 바뀌었고, 해당 모델의 전체 학습 처리량은 25% 올랐다.

전력·메모리 조건은 달랐다

메타는 같은 공랭식 플랫폼에서 MI350X를 1,000W, B200을 750W로 돌렸고, 둘 다 제조사 한도보다 낮게 설정했다. 엔비디아의 일반 HGX B200 정격은 1,000W다. MI350X의 HBM3e 메모리는 288GB로 B200(180GB)의 약 1.6배다. TF32 연산을 에뮬레이션하는 탓에 행렬 연산 성능이 일부 제약되는 한계도 남았다.

맥락: AMD·메타 협력 확대

AMD는 10월 27일 보도자료에서 메타의 지분 공모에 10억 달러를 투자하고, 랙 단위 시스템 '헬리오스(Helios)' 초기 물량이 메타에 설치돼 시험 중이라고 밝혔다. 메타는 MI450 아키텍처의 초기 고객이며 맞춤형 인스팅트 GPU도 도입할 예정이다. 마크 저커버그 메타 최고경영자(CEO)는 보도자료에서 "AMD는 우리의 프런티어 모델을 돌리는 컴퓨팅을 구축하는 데 핵심 파트너였다"고 말했다.

논문에 따르면 AMD GPU와 호환되는 모델은 자원 사용량 기준으로 메타 실서비스 모델 유형의 60%를 넘는다. 메타는 엔비디아 GPU와 자체 칩 MTIA도 함께 쓴다.

전망

메타는 개선 사항을 파이토치(PyTorch)·트라이톤·ROCm에 반영했다고 밝혀, 다른 ROCm 사용자도 혜택을 볼 수 있다. AMD는 이번 공동 작업이 차세대 MI500 시리즈 개발에도 반영된다고 했다. 헬리오스의 본격 배치 시점은 "가까운 미래"라고만 했다.

자주 묻는 질문

메타 시험에서 AMD가 엔비디아를 이겼나?

평균으로는 101.2%로 거의 비슷했다. MI350X는 10종 가운데 4종에서 앞서고 6종에서 뒤졌으며, 칩당 전력도 더 많이 썼다.

대형 언어모델(LLM) 학습에도 해당하나?

비교표는 추천 모델 결과다. 메타는 MI350X 2,000개 이상 클러스터에서 LLM도 학습했다고 밝혔지만, 이에 대한 B200 비교 수치는 내놓지 않았다.

참고 자료

• Architecting for Hardware Diversity: Meta's End-to-End Co-Design for High-Performance AI Training on AMD GPUs — arXiv(2026년 10월 15일)
• AMD and Meta Advance Strategic Partnership to Power Meta's Superintelligence Infrastructure — AMD(2026년 10월 27일)
• AMD Beat Nvidia on 4 of 10 Meta Training Models, Paper Shows — FourWeekMBA(2026년 10월 30일)