AI에게 모든 일을 맡기면 왜 꼬일까? 메타의 ‘Thin Orchestrator’가 보여준 설계법

AI에게 모든 일을 맡기면 왜 꼬일까?

AI 업무 설계와 모델 선택 · 1편

AI에게 고객 상담부터 자료 검색, 문서 작성, 일정 등록까지 맡기면 일이 편해질 것 같다. 하지만 실제 업무에서는 앞 단계의 결과를 잘못 이해하거나, 이미 처리한 일을 반복하거나, 필요한 확인을 건너뛰는 문제가 생긴다.

메타가 2026년 10월 19일 공개한 기술 글은 이런 문제에 접근하는 방법을 소개한다. 중앙에서 일을 지휘하는 AI의 역할을 줄이고, 전문 작업을 분리하는 Thin Orchestrator 설계다. 새로운 범용 프레임워크 출시 발표라기보다 실제 운영 경험과 설계 패턴을 공유한 글이다. [1]

일을 배분하는 역할과 실제 판단을 분리한다

오케스트레이터는 여러 작업의 순서와 연결을 관리하는 조정자다. 메타는 이 조정자가 전문적인 판단까지 모두 담당하도록 만드는 대신, 정해진 절차에 따라 필요한 정보를 확인하고 적절한 전문 에이전트에게 작업을 넘기도록 구성했다. 전문 에이전트는 자기 업무에 필요한 지식과 맥락 안에서 판단한다.

여기서 결정론적이라는 말은 같은 조건에서는 정해진 규칙대로 처리한다는 뜻이다. 필수 정보가 없으면 다음 단계로 넘어가지 않고, 대상이 이미 존재하면 중복 생성을 막는 식이다. 이는 오류가 사라진다는 보장이 아니다. 오류를 발견하고 처리할 경계를 명확히 만드는 설계다. [1]

작은 사업장의 업무에도 적용할 수 있다

상담부터 견적까지 이어지는 업무를 예로 들어보자. 다음은 이 설계를 이해하기 위한 가상 적용 사례이며, 테크모라가 성능을 검증한 실험 결과는 아니다.

상담 내용을 정리하는 AI는 고객의 요청과 누락 정보를 찾는다. 견적을 작성하는 AI는 확정된 수량과 단가를 사용한다. 일정 등록 단계는 날짜와 주소, 중복 여부를 확인한다.

주소와 날짜가 없으면 일정 등록을 진행하지 않는다. 견적 조건이 달라지면 변경 내역을 남긴다. 고객에게 전달하기 전에는 정해진 검토를 거친다. 이처럼 AI가 판단할 부분과 시스템이 지킬 규칙을 나눌 수 있다.

테크모라의 관점: 자동화에 앞서 업무의 경계를 그린다

이 사례에서 우리가 주목하는 것은 에이전트의 개수보다 역할의 경계다. 혼자 처리해도 충분한 일까지 여러 에이전트로 쪼개면 관리 부담이 늘 수 있다. 반면 서로 다른 기준이 필요한 업무를 하나의 AI에게 계속 맡기면 맥락이 섞일 가능성이 커진다.

업무 자동화를 시작한다면 먼저 세 가지를 적어보자. 반드시 지켜야 하는 규칙, AI의 해석이 필요한 부분, 사람이 확인해야 하는 순간이다. 이 구분이 명확해질수록 AI에게 맡길 수 있는 범위도 구체적으로 정할 수 있다.

역할을 나눴다면, 이제 모델을 선택할 차례

역할을 분리했다고 모든 문제가 해결되는 것은 아니다. 빠른 응답이 중요한 상담과, 근거를 꼼꼼히 검토해야 하는 분석에는 서로 다른 평가 기준이 필요하다. 전문 에이전트마다 반드시 다른 모델을 써야 하는 것은 아니지만, 각 역할에 필요한 능력은 따로 확인해야 한다.

다음 글에서는 얼굴 사진을 활용하는 의료 AI 연구와 확산 언어 모델 Mercury 3를 살펴보며, 전문성과 속도라는 서로 다른 기준으로 모델을 선택하는 방법을 이어간다.

참고 자료

[1] Meta Engineering — The Thin Orchestrator: How We Made Our AI Agents More Reliable by Giving the Router Less to Do · 2026년 10월 19일.

자료 확인일: 2026년 10월 20일 · 적용 사례와 운영 제안은 테크모라의 해석입니다.

다음 글 → 얼굴을 분석하는 AI와 빠르게 답하는 AI, 모델을 고르는 기준이 달라진다

응답

  1. […] 앞선 글에서는 AI에게 모든 일을 한꺼번에 맡기기보다, 규칙을 관리하는 역할과 전문 판단을 수행하는 역할을 나누는 설계를 살펴봤다. 1편: 메타의 Thin Orchestrator가 보여준 설계법 […]

    좋아요

답글 남기기