AI가 모든 것을 검토한다면 인간은 무엇을 결정하는가?
AI가 모든 것을 검토한다면 인간은 무엇을 결정하는가?
AI 이후의 인간 · 3부 — 집중력의 한계와 최종 결정권의 역설
AI를 적극적으로 사용해야 한다는 압박은 앞으로 강해질 수 있다. 개발자는 더 빠르게 개발하고, 창작자는 더 많은 결과물을 만들고, 정책 담당자는 더 많은 대안을 검토하라는 요구를 받을 것이다.
그런데 여기에 아주 단순한 문제가 있다.
AI의 처리량은 늘릴 수 있지만, 인간이 집중할 수 있는 시간은 그에 비례해서 늘어나지 않는다.
나는 이 차이가 AI 시대의 중요한 병목이 될 수 있다고 생각한다.
인간은 여러 일을 하는 것처럼 보이지만
컴퓨터에서는 여러 작업을 동시에 실행하는 구조를 설계할 수 있다. AI 서비스 역시 많은 요청을 나누어 처리하고, 여러 작업을 병렬로 수행할 수 있다.
인간도 여러 일을 처리한다. 다만 의식적인 판단이 필요한 작업에서는 하나의 문제에 집중했다가 다른 문제로 주의를 옮기는 일이 흔하다. 멀티태스킹이라는 표현을 쓰지만, 복잡한 판단이 필요한 순간에는 작업 전환 자체가 비용이 된다.
개발자가 게임 하나를 만드는 상황을 떠올려 보자.
게임 규칙을 설계하고, 코드를 작성하고, 그래픽을 만들고, 테스트하고, 홍보하고, 유통 플랫폼의 정책에 맞춰 배포해야 한다. AI가 이 모든 단계에서 도움을 줄 수 있다. 그러나 AI가 각 단계의 결과물을 한꺼번에 내놓는다고 해서 인간이 그것들을 동시에 이해할 수 있는 것은 아니다.
코드를 검토하는 동안에는 홍보 문구를 깊이 생각하기 어렵다. 홍보 전략을 확인하는 동안에는 배포 계약의 세부 조건을 놓칠 수 있다. 어느 작업에나 주의를 기울일 시간이 필요하다.
AI를 통해 제작 속도가 빨라졌는데 검토 시간이 그대로라면, 병목은 제작에서 판단으로 옮겨간다.
그래서 검토까지 AI에게 맡긴다
처음에는 AI에게 초안을 맡긴다. 인간이 읽어 보고 고친다.
그다음에는 초안의 양이 너무 많아져 AI에게 일차 검토를 맡긴다. AI가 오류와 개선점을 찾아준다.
그런데 검토 결과마저 길어진다. 결국 다른 AI에게 비교와 요약을 맡긴다. 인간은 요약된 권고안을 읽고 승인한다.
이 과정은 이상하지 않다. 오히려 합리적인 생산성 개선처럼 보인다. 실제로 각각의 단계에서 시간을 절약할 수 있다.
문제는 마지막에 남는 ‘승인’의 의미다.
인간이 전체 자료를 읽지 않았고, 가능한 대안을 직접 확인하지 않았으며, 요약이 누락한 내용도 알지 못한다면 인간은 무엇을 판단한 것일까?
최종 결정 버튼을 누른 사람이 곧 실질적인 판단을 수행한 사람인지는 별개의 문제다.
AI는 틀린 말을 하지 않고도 판단에 영향을 줄 수 있다
AI의 오류를 이야기할 때 흔히 거짓 정보를 떠올린다. 존재하지 않는 판례를 들거나, 틀린 숫자를 제시하거나, 확인되지 않은 사실을 확신하는 식이다.
하지만 그보다 발견하기 어려운 문제도 있다. AI가 정보를 정리하면서 무엇을 보여주고 무엇을 생략할지를 결정하는 일이다.
예를 들어 어떤 정책에 세 가지 대안이 있다고 하자. 하나는 비용이 저렴하지만 일부 사람에게 불리하다. 다른 하나는 비용이 높지만 형평성이 좋다. 마지막 하나는 새로운 기술을 활용하지만 시행 결과가 불확실하다.
AI가 비용을 가장 중요하게 평가한다면 첫 번째 대안을 강조할 수 있다. 불확실성을 크게 보는 AI라면 마지막 대안을 요약에서 제외할 수도 있다.
여기서 AI가 제시한 정보가 전부 사실이라고 가정해 보자. 그래도 인간의 결정은 달라질 수 있다. 대안의 배열과 설명 방식이 이미 판단의 출발점을 바꿔 놓았기 때문이다.
이 문제는 단순히 ‘AI를 믿지 말라’는 충고로 해결되지 않는다. 인간이 모든 원본을 직접 확인할 수 없어서 요약을 사용한 것이기 때문이다.
책임은 남는데 결정의 내용은 흐려진다
기존의 제도에서는 최종 결정을 내린 사람에게 책임을 묻는다. 기업의 책임자든, 정책 담당자든, 개인 사용자든 마찬가지다.
그런데 AI가 자료 수집, 우선순위 부여, 대안 정리, 위험 분석을 사실상 수행하고 인간은 최종 권고만 승인한다면, 책임과 판단의 위치가 어긋날 수 있다.
형식적인 권한은 인간에게 있다. 그러나 실질적인 영향력은 AI가 가진다. 문제가 생기면 책임은 인간에게 돌아온다.
그렇다고 AI를 사용하지 말자고 할 수는 없다. AI를 활용하면 인간이 이전에는 살펴보지 못했던 대안과 위험을 발견할 수도 있다. 충분히 설계된 검토 체계에서는 AI가 인간의 판단을 강화할 가능성도 있다.
따라서 핵심은 AI의 사용량이 아니라 검토 체계다. 중요한 결정을 내릴 때에는 다른 기준으로 검증하는 절차가 있는가? AI가 누락한 대안을 제기할 수 있는가? 결론을 거부하거나 판단을 유보할 충분한 시간이 주어지는가?
이런 장치가 없다면 인간의 최종 승인이라는 절차는 점차 의례에 가까워질 수 있다.
그렇다면 ‘직접 이해’가 반드시 필요할까?
여기서 생각이 뒤집힌다.
지금까지는 인간이 모든 과정을 이해하지 못한 채 AI를 사용하는 일을 위험으로 설명했다. 그런데 정말로 모든 내부 과정을 이해해야만 결과를 만들 수 있을까?
예를 들어 코드를 직접 읽지 않고도 AI와 대화하며 게임을 개발하는 사람을 생각해 보자. 원하는 동작을 설명하고, 실제로 플레이해 보고, 문제가 생기면 구체적인 오류를 전달한다. AI는 수정하고, 사용자는 다시 테스트한다.
내부 구현을 모르는 상황에서도 결과를 개선하는 순환은 계속될 수 있다.
물론 보이지 않는 취약점이 쌓일 위험도 있다. 하지만 결과가 실제로 나아가는 경험을 무시할 수는 없다.
그렇다면 인간이 관리해야 하는 것은 언제나 세부 구현일까? 아니면 원하는 결과를 정의하고, 잘못된 결과를 발견하며, 수정할 수 있는 능력일까?
이 질문에서 다음 글의 ‘바이브 운영’이라는 개념이 출발한다.
다음 글: 「바이브 코딩에서 바이브 운영으로」
