테크모라

AI 업무 설계와 모델 선택 · 2편

앞선 글에서는 AI에게 모든 일을 한꺼번에 맡기기보다, 규칙을 관리하는 역할과 전문 판단을 수행하는 역할을 나누는 설계를 살펴봤다. 1편: 메타의 Thin Orchestrator가 보여준 설계법

역할을 나눴다면, 각 역할에는 어떤 모델을 써야 할까? 어느 모델이 가장 똑똑한지보다 무엇을 분석할 것인지, 얼마나 빨리 답해야 하는지, 틀렸을 때 어떤 문제가 생기는지를 먼저 물어야 한다.

얼굴 사진을 활용하는 의료 AI 연구와 Inception의 새 언어 모델 Mercury 3는 서로 다른 분야에서 이 질문을 보여준다. 두 모델은 서로 대체하는 제품이 아니다. 용도에 따라 평가 기준이 달라진다는 점을 이해하기 위한 사례다.

얼굴 사진에서 건강 관련 신호를 찾는 연구

2025년 6월 17일 최초 공개된 FAHR-Face 논문은 4,000만 장이 넘는 얼굴 이미지로 사전학습한 모델을 소개한다. 연구진은 이를 나이 추정과 암 환자의 생존 위험 예측이라는 서로 다른 과제에 맞춰 추가 학습하고 평가했다. [1]

여기서 4,000만 장은 암 환자 사진의 수가 아니다. 대규모 사전학습에 사용한 얼굴 이미지 규모다. 이를 ‘암 환자 4,000만 명을 학습했다’고 이해하면 연구의 의미가 달라진다.

이 연구가 보여주는 것은 사진에서 임상적으로 유용할 가능성이 있는 신호를 찾는 접근이다. 얼굴 한 장으로 개인의 건강이나 수명을 확정할 수 있다는 뜻은 아니다. 연구 결과를 실제 진료에 적용하려면 대상 집단과 촬영 조건, 추가 검증을 함께 살펴야 한다. 이번 글은 이 연구를 2026년 10월의 신규 발표가 아닌 기존 연구 사례로 소개한다.

Mercury 3는 응답 속도에 주목한다

Inception은 2026년 10월 19일 확산 방식의 언어 모델 Mercury 3를 발표했다. 일반적인 자기회귀 언어 모델은 앞에서 생성한 토큰을 바탕으로 다음 토큰을 순차적으로 만든다. 확산 언어 모델은 여러 위치의 토큰을 반복적으로 정제하는 접근을 사용한다. 생성 과정의 병렬성을 높일 수 있다는 점이 특징이다. [2] [3]

회사는 Mercury 3가 NVIDIA GPU에서 초당 1,068토큰을 생성한다고 발표했다. 다만 이는 공급사가 제시한 수치다. 실제 서비스의 체감 속도는 입력 길이와 서버 상태, 외부 도구 호출 등에도 영향을 받는다. [2]

특히 음성 상담에서는 글이 빨리 생성되는 것만으로 충분하지 않다. 음성 인식과 정보 조회, 음성 출력까지 연결된 전체 응답 시간을 봐야 한다.

테크모라의 관점: 용도에 맞는 평가표가 필요하다

두 사례를 하나의 성능 순위로 비교하기는 어렵다. 의료 분석에는 예측의 타당성과 적용 범위가 중요하고, 대화 서비스에는 정확성과 응답 지연이 함께 중요하다.

따라서 새 모델을 도입할 때는 실제 업무와 비슷한 문제로 비교하는 편이 좋다. 상담용이라면 한국어 질문을 제대로 이해하는지, 모르는 내용을 추측하지 않는지, 필요한 정보를 빠짐없이 수집하는지 확인해야 한다. 속도가 빨라도 잘못된 예약이나 안내가 늘어난다면 업무 성과는 나빠질 수 있다.

같은 상담 사례로 작게 비교해보자

아래는 테크모라가 제안하는 평가 방법이며 실제 실험 결과는 아니다. 개인정보를 제거한 상담 사례를 준비하고, 같은 질문을 각 모델에 입력한다. 필요한 정보의 누락, 잘못된 추측, 첫 응답까지의 시간, 최종 수정 시간과 사용 비용을 함께 기록한다.

고객의 요청을 빨리 분류하는 역할과, 계약 조건을 꼼꼼히 검토하는 역할은 합격 기준이 다를 수 있다. 같은 모델이 두 역할을 모두 잘 수행한다면 그대로 사용해도 된다. 모델을 나누는 것 자체가 목표는 아니다.

업무의 경계와 모델의 기준을 함께 정한다

1편이 ‘어떤 역할을 나눌 것인가’를 다뤘다면, 이번 글은 ‘그 역할을 수행할 능력을 어떻게 확인할 것인가’를 다뤘다. 업무의 경계와 평가 기준을 함께 정해야 AI 시스템을 실제로 점검할 수 있다.

모델의 발표 수치는 후보를 찾는 출발점이다. 최종 선택은 우리가 해결하려는 문제에서 얼마나 잘 작동하는지 확인한 뒤 내려야 한다. 이전 글 읽기: AI에게 모든 일을 맡기면 왜 꼬일까?

참고 자료

[1] FAHR-Face: Foundation Artificial Intelligence Models for Health Recognition Using Face Photographs · arXiv, 2025년 6월 17일 최초 공개.

[2] Inception — Diffusion at Scale: Introducing Mercury 3 · 2026년 10월 19일.

[3] Inception — Introducing Mercury, the World’s First Commercial-Scale Diffusion Large Language Model · 생성 방식 설명 참고.

자료 확인일: 2026년 10월 20일 · 모델 평가 제안은 테크모라의 해석입니다. 대표 이미지는 AI로 생성한 개념 일러스트이며 실제 의료 영상이나 연구 결과가 아닙니다.