메타 광고 AI 안드로메다, 초당 10억 건 평가…2024년판의 100배

메타가 10월 28일(현지시간) 페이스북·인스타그램 이용자에게 보여줄 광고 후보를 고르는 시스템 '안드로메다(Andromeda)'의 새 버전을 공개했다. 실제 서비스에서 초당 10억 건이 넘는 광고를 평가하며, 처리량이 2024년 버전의 100배라는 설명이다. 메타 엔지니어 12명이 메타 엔지니어링 블로그에 구조와 성과를 상세히 밝혔다.

핵심 정리

• 안드로메다는 노출 가능한 광고 전부를 초당 10억 건 넘게 평가한다. 2024년 시스템 대비 100배다.
• 새 모델의 추론 연산량(FLOPs)은 2024년 모델보다 약 300분의 1로 줄었고, 네트워크 트래픽도 약 100분의 1로 감소했다.
• 메타는 안드로메다가 2025년 이후 페이스북 전환(conversion)을 2.4% 끌어올렸다고 밝혔다.

메타 안드로메다는 광고 노출에서 무슨 일을 하나

안드로메다는 메타 광고 파이프라인의 첫 단계인 '검색(retrieval)'을 맡는다. 노출 가능한 방대한 광고 가운데 후보를 추려 내면, 더 무거운 순위(ranking) 모델이 이를 정밀하게 매긴다. 이 단계에서 빠진 광고는 순위 모델에 아예 올라가지 못한다.

후보군은 계속 커지고 있다. 메타 엔지니어들은 생성형 AI 광고 제작 도구 덕분에 광고주들이 새 광고를 수억 건 만들었다고 썼다. 2024년 시스템은 GPU 카드 한 장당 초당 수천만 건을 평가했지만, 지금은 카드당 수십억 건이 필요하다는 것이다.

초당 10억 건은 어떻게 가능했나

메타는 대규모 언어모델에서 쓰는 전문가 혼합(MoE) 구조를 광고 검색에 들여왔다. 하나였던 사용자 모델을 광고 반응 이력, 언어모델 기반 특징 등 서로 다른 신호를 쓰는 여러 '사용자 타워'로 나눴다. 게이팅 네트워크가 광고 후보마다 가장 관련 깊은 전문가를 골라 연결한다.

더 큰 변화는 시스템 설계에서 나왔다. 연산량이 크게 줄자 메타는 임베딩 조회, 상호작용 계산, 점수 매기기를 GPU 커널 하나로 합쳐 중간 데이터가 느린 메모리를 오가지 않게 했다. 이 커널만 따지면 엔비디아 GH200 칩 한 개에서 초당 100억 건 이상을 처리한다.

타기팅 조건 확인, 점수 계산, 최종 상위 후보 선별도 같은 GPU 서버로 모았다. 긴 후보 목록을 네트워크로 주고받는 대신 짧은 질의를 보내 최종 결과만 돌려받는 방식이다. 엔지니어들은 "가장 큰 성과는 모델·시스템·하드웨어를 하나의 통합 스택으로 설계하는 데서 나온다"고 적었다.

엔비디아와의 협업

2026년 초 엔비디아가 최적화한 GPU 커널을 제공하고 메타가 전체 파이프라인을 통합·측정했다. 게이팅 네트워크는 초당 24억 건에서 100억 건 이상으로 5.3배 빨라졌고, 최대 메모리 대역폭의 약 85%에 이르렀다. 8비트 정수(INT8) 연산은 16비트 대비 최대 2배를 더했고 정확도는 비슷했다고 메타는 밝혔다. 블로그는 "추가된 모델 복잡도는 텐서 코어 하드웨어에서 사실상 공짜"라고 표현했다.

배경: AI가 곧 메타의 광고 사업

메타는 2024년 12월 블로그에서 안드로메다를 처음 소개하며 모델 용량 1만 배 확대, 재현율 6% 개선, 일부 구간 광고 품질 8% 개선을 내세웠다. 당시 시스템은 엔비디아 그레이스 호퍼 슈퍼칩과 메타 자체 칩 MTIA에서 돌았다.

걸린 돈도 크다. 메타 분기 보고서(10-Q)에 따르면 2026년 9월 30일로 끝난 3개월간 광고 매출은 630억6,000만 달러로, 1년 전 500억8,000만 달러보다 약 26% 늘었다. 전체 매출 646억 달러 대부분이 광고에서 나왔다. 이 규모에서는 전환율 2.4% 개선도 광고주 수익에 적지 않은 차이를 만든다. 다만 메타는 매출 증가 가운데 안드로메다 몫이 얼마인지는 밝히지 않았다. 메타는 최근 오픈웨이트 모델 Muse Spark Open을 내놓는 등 AI 인프라 투자를 넓히고 있다.

전망

메타는 이 작업을 엔비디아 그레이스 블랙웰 플랫폼으로 넓히고 있으며, 안드로메다 같은 작업에서 중요한 CPU 대 GPU 연산 비율에 초점을 맞추고 있다고 밝혔다. 전체 파이프라인은 GPU 서버 한 대 기준으로 현재 운영 처리량의 몇 배를 벤치마크에서 기록해 여력이 더 있다는 설명이다. 실제 적용 시점은 공개하지 않았다.

자주 묻는 질문

메타 안드로메다란 무엇인가?

메타의 광고 검색용 머신러닝 시스템이다. 별도 순위 모델이 최종 노출 광고를 정하기 전에 후보 광고를 고르는 첫 단계를 맡는다.

광고주가 바꿔야 할 설정이 있나?

메타 블로그는 내부 인프라 개선을 다뤘을 뿐 광고주용 새 설정은 언급하지 않았다. 메타는 더 정확한 매칭과 전환 증가를 효과로 들었다.

어떤 칩에서 돌아가나?

블로그 수치는 엔비디아 GH200에서 측정됐다. 메타는 엔비디아 그레이스 블랙웰로 확장하고 있다고 밝혔다.

참고 자료

• Meta Andromeda: Powering the Next Generation of Ads Retrieval Through Model-System Co-Design — Engineering at Meta(2026년 10월 28일)
• Meta Andromeda: Supercharging Advantage+ automation with the next-gen personalized ads retrieval engine — Engineering at Meta(2024년 12월 2일)
• Meta Platforms, Inc. Form 10-Q(2026년 9월 30일 마감 분기) — 미국 증권거래위원회(SEC)