Read this article in English →
휴먼 디렉팅 연구노트 5
역할의 이동 → 위임 → 검증 기준 → 예외 판단과 개입 → 판단 기준과 위임 범위의 재검토
휴먼 디렉팅 연구노트 5 — 판단 기준과 위임 범위의 재검토
이번 글의 핵심 질문: AI가 예외와 위험을 감지하고 사람을 부를 시점까지 판단한다면, 인간의 판단은 어디로 이동하는가?
앞선 네 편에서는 AI가 발전할수록 인간의 역할과 개입 방식이 어떻게 달라지는지 살펴봤습니다. 세부 작업을 지시하던 역할에서 무엇을 어디까지 맡길지 정하는 역할로, 다시 결과를 받아들일 기준을 세우고 중요한 예외에 개입하는 역할로 관심이 이동했습니다.
그런데 네 번째 글을 마무리하면서 또 하나의 질문이 남았습니다.
AI가 예외를 찾아내고 위험을 평가하며, 필요할 때 사람에게 판단을 요청하는 일까지 잘하게 된다면 어떻게 될까요? 그때도 인간의 역할을 ‘중요한 순간에 개입하는 사람’이라고 설명하는 것으로 충분할까요?
이번 글에서는 이 질문을 따라가 보려고 합니다.
AI가 사람을 부른다는 것에는 판단이 들어 있습니다
AI가 작업 도중 “이 부분은 확인이 필요합니다”라고 말한다고 가정해 보겠습니다.
이 요청은 단순한 알림처럼 보이지만, 그 앞에는 여러 판단이 들어 있습니다. 어떤 상황을 예외로 볼 것인지, 어느 정도의 불확실성을 허용할 것인지, 결과의 영향이 얼마나 커야 멈출 것인지, 무엇은 계속 진행해도 되는지를 구분해야 하기 때문입니다.
사람이 이런 조건을 모두 정해 놓을 수도 있고, AI가 조건을 제안하거나 상황에 맞게 해석하도록 맡길 수도 있습니다.
여기서 중요한 문제가 생깁니다.
AI가 사람을 부르는 시점을 결정한다면, 사람이 보게 되는 문제의 범위도 그 결정에 영향을 받습니다.
사람은 AI가 보여준 예외를 잘 판단하면서도, AI가 예외로 분류하지 않아 보여주지 않은 문제는 놓칠 수 있습니다. 따라서 호출받은 순간에 올바르게 답하는 것만으로 전체 판단 구조가 적절했다고 말하기는 어렵습니다.
결과를 검토하는 것에서 기준을 검토하는 것으로
세 번째 글에서는 “어떤 결과를 충분하다고 인정할 것인가?”를 다뤘습니다. 네 번째 글에서는 “어떤 상황에서 사람이 개입해야 하는가?”를 살펴봤습니다.
이번에는 그 기준 자체를 질문하게 됩니다.
- 우리가 정한 완료 기준이 실제 목적에 맞는가?
- 중요한 문제를 예외로 잡아내고 있는가?
- 불필요한 확인 때문에 작업이 자주 멈추고 있지는 않은가?
- 처음에는 적절했던 위임 범위가 지금도 유효한가?
예를 들어 문서 작성에서 맞춤법과 문장 구조를 확인하는 기준은 유용합니다. 하지만 글의 목적이 연구 기록이라면 그것만으로는 충분하지 않습니다. 기존 문제의식과 연결되는지, 관찰과 가설이 구분되는지, 아직 검증하지 않은 주장을 결론처럼 제시하지 않는지도 살펴봐야 합니다.
문장이 매끄럽다는 평가와 연구 방향이 적절하다는 평가는 서로 다른 질문에 답합니다.
결과가 기준을 통과했는지 확인하는 일과, 그 기준이 적절한지 확인하는 일은 구분할 필요가 있습니다.
실제 관찰: 다섯 번째 글을 준비하는 과정에서도 방향 확인이 필요했습니다
이번 연구노트를 준비하면서 저는 AI에게 이전 글을 확인하고 다섯 번째 주제를 정해 달라고 요청했습니다. 이어서 한 가지 조건을 다시 강조했습니다.
“우리가 그동안 연구했던 휴먼 디렉팅의 주제와 문제의식, 개념에서 벗어나면 안 된다.”
이 장면에서 제가 직접 한 일은 문장을 고치거나 글의 구성을 세세하게 지시하는 일이 아니었습니다. 주제 선정과 글 작성에 적용할 기준을 다시 분명하게 하는 일이었습니다.
이전 글과 자연스럽게 이어지는 주제라고 해도, 우리가 탐구해 온 질문을 벗어난다면 적절한 다음 글이라고 보기 어렵습니다. AI 활용법으로 흘러가거나, 인간에게 반드시 남는 능력이 있다고 서둘러 결론을 내려도 기존 연구의 취지와 어긋납니다.
다만 이 사례만으로 “연구 방향은 인간만 판단할 수 있다”고 말할 수는 없습니다. AI가 처음부터 기존 연구 맥락을 충분히 확인하고 같은 조건을 적용했다면, 제 추가 개입은 필요하지 않았을 수도 있습니다.
이 사례에서 확인할 수 있는 것은 더 좁습니다.
이번 작업에서는 사람이 연구 범위를 다시 명시했고, 그 조건이 이후 주제를 선정하는 기준으로 제시됐습니다. 이러한 개입이 언제 필요하고 언제 불필요해지는지는 더 관찰해야 합니다.
목적도 AI가 제안할 수 있다면?
여기서 “결국 인간은 목적을 정하면 된다”고 정리할 수도 있습니다. 하지만 그것만으로 탐구를 끝내기는 어렵습니다.
AI가 사용자의 과거 선택과 현재 상황을 바탕으로 목적을 추론하고, 더 적절한 목표를 제안하는 상황도 생각할 수 있기 때문입니다. 사람이 처음 내놓은 목적이 불분명하거나 서로 충돌할 때, AI의 질문과 제안이 목적을 구체화하는 데 도움이 될 수도 있습니다.
그렇다면 목적은 사람이 처음부터 완성해서 전달하고 AI가 실행하는 구조로만 설명되지 않습니다. 대화와 작업을 거치며 함께 조정될 수도 있습니다.
이때 살펴볼 질문은 다음과 같습니다.
AI가 제안한 목적과 기준을 어떤 근거로 받아들이고, 어떤 조건에서 다시 바꿀 것인가?
예를 들어 AI가 글의 조회수를 높이는 방향을 제안할 수 있습니다. 그 제안은 타당할 수 있지만, 연구 기록의 정확성과 탐구의 연속성을 얼마나 우선할지는 별도로 검토해야 합니다.
AI가 제안을 잘 만드는 능력과, 그 제안을 이번 활동의 기준으로 채택하는 결정은 구분해서 관찰할 필요가 있습니다.
판단을 맡기는 범위도 수정할 수 있어야 합니다
휴먼 디렉팅에서 위임은 한 번 정하고 끝내는 결정으로 보기 어렵습니다.
AI가 같은 조건에서 반복적으로 충분한 결과를 낸다면 사람의 확인을 줄일 수 있습니다. 반대로 새로운 상황에서 중요한 조건을 놓친다면 위임 범위를 줄이거나 확인 기준을 바꿔야 할 수 있습니다.
그래서 다음 두 질문을 함께 봐야 합니다.
“이번에는 AI에게 맡겨도 되는가?”
“앞으로도 같은 방식으로 계속 맡겨도 되는가?”
한 번의 결과를 승인하는 결정과, 이후 같은 종류의 판단을 계속 위임하는 결정은 다릅니다. 첫 번째는 개별 결과에 관한 판단이고, 두 번째는 앞으로의 운영 방식에 관한 판단입니다.
현재의 연구 가설에서는 이 위임 범위를 다시 조정하는 과정이 중요한 관찰 대상입니다. 사람이 더 자주 개입하는 것이 좋은지보다, 경험에 따라 개입을 줄이거나 늘리는 근거가 있는지를 살펴봐야 합니다.
책임은 마지막 승인 한 번으로 설명되지 않습니다
AI가 판단의 많은 부분을 수행하더라도, 마지막에 사람이 승인했다는 사실만으로 책임의 구조가 충분히 설명되지는 않습니다.
무엇을 목표로 삼았는지, 어떤 정보를 제공했는지, 어느 범위의 행동을 허용했는지, 무엇을 확인하도록 했는지가 결과에 영향을 주기 때문입니다.
따라서 책임을 살펴보려면 최종 승인자뿐 아니라 목적 설정과 위임, 검증, 수정이 어떻게 이루어졌는지도 함께 봐야 합니다.
이 연구에서 책임은 작업 끝에 붙는 하나의 단계보다, 판단과 행동의 전 과정에서 누가 무엇을 결정하고 수정할 수 있는가를 살펴보는 문제에 가깝습니다.
특히 사람에게 승인 권한이 있어도 기준을 이해하거나 결과를 바꿀 수 없다면, 그 승인이 실질적인 판단이었는지 질문해야 합니다.
이번 가설을 약하게 만들 수 있는 반례
지금까지의 논의는 인간의 역할이 개별 결과를 확인하는 데서 목적·기준·위임 범위를 재검토하는 쪽으로 이동할 수 있다는 가설로 이어집니다.
하지만 이 역시 인간에게 영구히 남는 영역이라고 단정할 수는 없습니다.
AI가 목적의 충돌을 더 잘 찾아내고, 검증 기준의 부족함을 발견하며, 위임 범위까지 적절하게 조정할 수 있다면 어떨까요? 사람의 수정이 오히려 불필요한 지연이나 오류를 만든다면 어떨까요?
그런 사례가 반복된다면 현재의 가설도 수정해야 합니다.
반대로 사람이 개입한 뒤에야 중요한 목적의 누락이나 기준의 잘못이 드러나는 사례가 반복된다면, 어떤 조건에서 그 개입이 도움이 됐는지 구체화해야 합니다.
이를 구분하려면 성공한 결과만 기록해서는 부족합니다. 사람이 바꾼 기준과 그 이유, 변경 이후의 결과, 사람이 개입하지 않아도 충분했던 사례를 함께 남겨야 합니다.
휴먼 디렉팅의 유용성은 인간에게 역할이 남는다는 설명보다, 실제 협업에서 어떤 판단과 개입이 도움이 됐는지를 설명할 수 있는가에 달려 있습니다.
사실 · 가설 · 해석
관찰된 사실: 이번 글을 준비하는 과정에서 저는 기존 연구 범위를 유지하라는 조건을 AI에게 다시 명시했습니다. 앞선 연구노트에서도 위임 범위, 완료 기준, 예외와 개입 조건을 주요 질문으로 다뤘습니다.
현재의 가설: AI가 예외 감지와 개입 시점의 판단까지 더 많이 맡게 되면, 인간의 역할은 개별 예외를 처리하는 데서 목적·판단 기준·위임 범위의 적절성을 재검토하는 쪽으로 이동할 수 있습니다.
해석: 휴먼 디렉팅은 AI에게 방향을 한 번 전달하는 능력뿐 아니라, 작업 경험을 바탕으로 방향과 판단 구조를 계속 수정하는 과정으로 설명할 수 있습니다. 다만 이 과정에서 사람이 수행해야 하는 부분과 AI에 맡길 수 있는 부분은 계속 검증해야 합니다.
다음 연구 질문
이번 글에서는 AI가 개입 시점까지 판단할 때, 인간이 검토할 대상이 결과뿐 아니라 판단 기준과 위임 구조로 넓어질 수 있다는 가설을 살펴봤습니다.
그런데 이 가설에는 아직 풀지 못한 조건이 있습니다.
사람이 AI의 판단 기준을 검토하고 수정하려면, 그 판단을 이해하고 다른 가능성을 비교할 능력을 어떻게 유지해야 할까요?
판단을 더 많이 위임하면서도 필요할 때 실제로 개입할 수 있는가. 다음 연구노트에서는 이 질문을 이어가 보려고 합니다.
휴먼 디렉팅은 AI 발전에 따라 인간의 역할과 판단, 개입 방식이 어떻게 달라지는지 추적하기 위한 잠정 개념입니다. 이 글은 확정된 이론의 발표가 아니라, 실제 사용 경험과 반례를 통해 가설을 수정해 가는 공개 연구노트입니다.
휴먼 디렉팅 연구노트 이어 읽기
1편 — AI가 똑똑해질수록 인간의 역할은 어디로 이동할까?
2편 — AI 에이전트가 알아서 일하기 시작하면, 인간은 무엇을 결정해야 할까?
3편 — AI가 알아서 결과까지 만든다면, 인간의 판단은 어디에 남을까?
답글 남기기