핵심 요약: 휴먼 디렉팅 연구를 시작할 때는 인간의 역할을 ‘AI에게 방향을 잘 주는 것’이라고 생각했습니다. 하지만 AI가 스스로 계획하고 실행하고 결과까지 만들어내기 시작하면서, 인간 판단의 중요한 위치가 ‘어떻게 만들 것인가’에서 ‘이 결과를 언제 충분하다고 인정할 것인가’로 이동하고 있다는 가설이 생겼습니다.
이 글은 ‘AI 시대에 인간은 어떤 능력을 가져야 하는가?’라는 질문을 따라가며 진행 중인 휴먼 디렉팅 연구의 세 번째 기록입니다. 앞선 글에서는 AI가 강해질수록 인간의 역할이 어디로 이동하는지, 그리고 AI 에이전트가 일을 맡기 시작할 때 인간은 무엇을 결정해야 하는지를 살펴봤습니다. 이번에는 그 다음 질문을 다뤄보려고 합니다.
AI가 결과까지 알아서 만든다면, 인간의 판단은 어디에 남을까?
처음에는 ‘좋은 지시’가 핵심이라고 생각했습니다
AI를 처음 본격적으로 사용하기 시작했을 때는 좋은 결과를 얻기 위해서는 사람이 얼마나 잘 설명하고, 잘 질문하고, 잘 지시하느냐가 중요하다고 생각했습니다. 실제로 초기 생성형 AI에서는 프롬프트의 질이 결과에 큰 영향을 줬습니다.
그래서 휴먼 디렉팅이라는 개념도 처음에는 ‘AI를 잘 지휘하는 능력’에 가까웠습니다. 사람이 목적을 정하고, AI에게 일을 시키고, 결과를 본 뒤 다시 수정하는 구조였습니다.
그런데 AI가 스스로 더 많이 하기 시작했습니다
AI가 발전하면서 이 구조가 흔들리기 시작했습니다. 사람이 모든 단계를 지시하지 않아도 AI가 작업을 쪼개고, 자료를 찾고, 여러 단계를 이어서 수행하며, 완성된 결과물까지 만들어내는 경우가 늘어났습니다.
이 변화는 인간의 역할을 줄이는 것처럼 보이지만, 실제 사용에서는 조금 다른 현상이 나타났습니다. 세부 작업을 직접 지시하는 일은 줄었지만, 결과를 받아든 뒤 “이게 정말 충분한가?”를 판단하는 일은 오히려 더 중요해졌습니다.
‘맞는 결과’와 ‘쓸 수 있는 결과’는 다릅니다
AI가 만든 결과는 기술적으로는 맞을 수 있습니다. 문서가 완성됐고, 화면이 만들어졌고, 분석 결과가 나왔을 수도 있습니다.
하지만 실제 업무에서는 그것만으로 충분하지 않은 경우가 많았습니다.
- 원래 해결하려던 문제에 맞는가?
- 빠진 조건이나 예외는 없는가?
- 현장에서 실제로 사용할 수 있는가?
- 중요한 위험을 놓치고 있지는 않은가?
- 이 정도면 다음 단계로 넘어가도 되는가?
이 질문들은 단순한 오류 검사가 아닙니다. 결과가 ‘맞느냐’보다 ‘받아들여도 되느냐’를 판단하는 문제에 가깝습니다.
실제 사용에서 보인 변화: ‘완료’의 기준을 사람이 정한다
최근 AI와 여러 프로젝트를 함께 진행하면서 ‘완료’라는 말을 자주 다시 정의하게 됐습니다. AI가 어떤 기능을 구현했다고 해서 바로 실제 사용 가능한 것은 아니었습니다.
예를 들어 시스템에서는 구현 완료, 전체 흐름을 한 번 완주한 상태, 실제 현장에서 검증된 상태가 서로 달랐습니다. 문서 역시 작성이 끝났다고 해서 의사결정에 바로 사용할 수 있는 것은 아니었습니다. 실제 조건과 맞는지, 중요한 정보가 빠지지 않았는지 다시 확인해야 했습니다.
여기서 중요한 패턴이 보였습니다. AI가 ‘만드는 과정’을 더 많이 맡을수록, 사람은 어떤 상태를 진짜 완료로 볼 것인지를 더 명확하게 정해야 했습니다.
휴먼 디렉팅 연구에서 새로 보이는 세 번째 이동
지금까지의 흐름을 정리하면 휴먼 디렉팅에 대한 생각은 이렇게 이동했습니다.
- 지시: AI에게 무엇을 어떻게 시킬 것인가
- 위임: 무엇을 어디까지 AI에게 맡길 것인가
- 검증 기준: AI가 만든 결과를 언제 충분하다고 인정할 것인가
여기서 ‘검증’은 단순히 AI가 틀렸는지 찾는 작업이 아닙니다. 더 중요한 것은 결과를 받아들일 기준을 인간이 가지고 있는가입니다.
AI가 더 완성도 높은 결과를 스스로 만들수록, 인간의 역할은 ‘어떻게 만들 것인가’를 지시하는 데서 ‘무엇을 충분한 결과로 인정할 것인가’를 정의하는 쪽으로 이동할 수 있다.
그렇다면 인간은 무엇을 검증해야 할까?
현재까지의 실제 사용 경험을 기준으로 보면 최소한 다섯 가지가 반복해서 중요했습니다.
- 목적 적합성: 처음 해결하려던 문제에 실제로 도움이 되는가?
- 충분성: 빠진 핵심 조건이나 정보는 없는가?
- 예외: 일반적인 흐름에서는 보이지 않는 중요한 예외가 있는가?
- 실행 가능성: 실제 환경에서 사용할 수 있는가?
- 다음 단계 판단: 여기서 멈춰도 되는가, 다시 AI에게 돌려보내야 하는가, 사람이 개입해야 하는가?
이 중 마지막 질문이 특히 중요해 보입니다. AI 시대의 검증은 단순히 ‘맞다/틀리다’를 확인하는 일이 아니라, 다음 행동을 결정하는 판단과 연결되기 때문입니다.
이 가설에도 반론은 있습니다
물론 이 판단까지 앞으로 AI가 더 잘하게 될 수 있습니다. AI가 스스로 품질을 평가하고, 부족한 부분을 다시 수정하고, 상황에 따라 완료 여부까지 판단한다면 인간의 검증 역할도 지금보다 줄어들 수 있습니다.
그래서 현재의 결론을 ‘인간에게 반드시 남는 능력’이라고 단정하지는 않습니다. 지금 관찰하고 있는 것은 AI가 발전하는 동안 인간 판단의 위치가 어디로 이동하고 있는가입니다.
앞으로 AI가 이 영역까지 더 많이 맡게 된다면, 휴먼 디렉팅의 정의 역시 다시 수정해야 할 것입니다.
자주 묻는 질문
AI가 더 정확해지면 인간의 검증은 필요 없어지지 않을까요?
단순 오류 검사는 줄어들 가능성이 큽니다. 하지만 현재까지는 ‘우리 목적에 충분한가’, ‘다음 단계로 넘어가도 되는가’ 같은 상황 판단은 여전히 중요한 인간 개입 지점으로 남아 있습니다.
휴먼 디렉팅에서 말하는 검증은 품질검사와 같은 건가요?
조금 더 넓은 의미입니다. 오류를 찾는 것뿐 아니라 결과를 받아들일지, 다시 수정할지, 사람이 개입할지, 작업을 종료할지를 결정하는 판단까지 포함합니다.
모든 AI 결과를 사람이 직접 확인해야 하나요?
그럴 필요는 없습니다. 중요도와 위험도가 낮은 작업은 더 많이 자동화할 수 있습니다. 오히려 중요한 것은 어떤 결과에 사람의 검증이 필요한지를 미리 구분하는 것입니다.
현재의 가설
AI의 자율성과 결과 완성도가 높아질수록, 인간의 역할은 세부 지시에서 위임 설계로, 그리고 다시 결과를 받아들일 기준을 정하는 쪽으로 이동하고 있다.
이것이 지금까지의 휴먼 디렉팅 연구에서 보이는 세 번째 변화입니다. 다음에는 이 ‘검증 기준’조차 AI가 더 많이 맡게 될 때 인간의 역할이 다시 어디로 이동하는지를 계속 관찰해보려고 합니다.
댓글 남기기