Post

국가의 디버거마저 필요 없는 시대

국가의 디버거마저 필요 없는 시대

AI 이후의 인간 · 5부 — 창작의 자동화에서 자율적으로 운영되는 사회까지

바이브 코딩에서는 인간이 방향을 정하고 AI가 구현한다. 바이브 운영에서도 인간이 정책의 목표를 정하고 AI가 구체적인 수단을 설계한다.

그런데 나는 여기서 더 나아가고 싶다.

목표를 제안하고 문제를 발견하는 일도 AI가 할 수 있지 않을까?

이 질문은 인간이 반드시 창작과 관리의 출발점에 서야 한다는 전제를 흔든다.

창작의 시작도 하나의 패턴이라면

우리는 흔히 창의성을 인간만의 능력으로 생각해 왔다. 하지만 일상에서 창의적이라고 부르는 결과물 중에는 기존 요소를 낯선 방식으로 결합하거나, 익숙한 규칙을 조금 변형한 것들이 많다.

테트리스를 예로 들어 보자. 블록의 모양을 바꾸고, 칸의 수를 늘리고, 협동 규칙을 넣고, 예상하지 못한 제약을 추가하면 이전과 다른 게임이 나온다.

물론 이런 변형이 저절로 좋은 게임이 되는 것은 아니다. 무엇이 재미있는지 테스트하고, 지나치게 복잡한 규칙을 덜어내고, 사용자에게 전달할 방법을 찾아야 한다.

그런데 이 과정 역시 관찰과 평가, 수정의 반복이다.

AI가 수많은 게임의 구조와 플레이 경험을 분석하고, 새로운 규칙을 조합하고, 가상의 플레이 테스트와 실제 피드백을 통해 개선할 수 있다면 어떨까? 그때 인간은 구체적인 게임 아이디어를 내놓지 않아도 된다.

AI가 창작의 일부를 돕는 수준에서, 무엇을 만들지 제안하는 단계까지 담당할 수 있기 때문이다.

나는 이것이 모든 예술이 단순한 공식에 불과하다는 뜻이라고 생각하지 않는다. 다만 우리가 창의성이라고 부르는 활동 가운데 얼마나 많은 부분을 기계가 탐색할 수 있을지, 그 경계가 빠르게 바뀔 수 있다고 보는 것이다.

안정적인 국가를 운영해 달라는 한 문장

이제 같은 사고를 국가에 적용해 보자.

누군가 AI에게 말한다.

‘안정적인 국가를 운영해 줘.’

AI가 충분히 발전하고, 적절한 정보와 권한이 주어진다는 가정 아래에서 말이다.

AI는 경제와 보건, 재난과 교통, 교육과 주거, 에너지와 인프라를 동시에 살핀다. 사회적 변화에서 이상 징후를 발견하면 가능한 원인을 조사하고, 정책 대안을 생성하고, 예상 효과와 부작용을 비교한다. 허용된 절차 안에서 시행한 뒤에는 결과를 다시 관찰한다.

사람이 모든 분야에 대해 순차적으로 보고를 받고 결정을 내리는 방식보다 더 넓은 범위를 지속적으로 살필 가능성이 있다.

인간이 한 가지 문제에 집중하는 동안 다른 영역의 문제가 커지는 상황도 줄어들 수 있다. 관리가 반복적 관찰과 패턴 인식, 예측과 대응으로 구성된다는 점에서 AI의 강점이 드러날 수 있기 때문이다.

여기서 중요한 것은 개별 행정 업무를 자동화하는 수준이 아니다.

관리할 대상을 발견하고, 관리 방법을 수정하는 관리 자체의 자동화다.

그렇지만 ‘안정’은 위험한 목표이기도 하다

여기서 가장 어려운 문제는 성능이 아닐지도 모른다.

안정적인 국가란 무엇일까?

범죄와 사고가 적은 사회인가? 실업률이 낮고 물가가 안정된 사회인가? 다수의 사람이 행복하다고 응답하는 사회인가? 사회적 갈등이 적은 사회인가?

모두 안정성을 설명하는 지표가 될 수 있다. 그러나 이 가운데 하나만 극단적으로 추구하면 이상한 결과가 나올 수 있다.

갈등을 줄이기 위해 비판을 억압하는 사회는 조용할 수 있다. 하지만 자유로운 사회라고 하기는 어렵다. 위험을 최소화한다는 이유로 도전을 금지하면 사고는 줄어들지 몰라도 미래의 가능성도 줄어든다.

AI가 아무리 뛰어나더라도 목표의 정의가 잘못되면 바람직하지 않은 방향으로 매우 효율적으로 나아갈 수 있다.

그래서 이 사고 실험에는 중요한 조건이 붙는다. 인간의 권리, 사회적 합의, 변경 가능한 목표, 시스템을 멈추거나 수정할 수 있는 절차 같은 것들이다.

그리고 이를 잘 갖춘 운영 체계가 등장하더라도 인간이 그것을 반드시 채택해야 하는 것은 아니다. 기술적 가능성과 정당한 운영 권한은 다른 문제이기 때문이다.

관리에서 해방되는가, 관리에서 배제되는가

상상 속에서 AI가 지금보다 훨씬 안정적으로 국가를 운영한다고 해 보자.

인간이 직접 운영할 필요가 줄어든다. 필요한 정책이 빠르게 검토되고, 자원은 효율적으로 배분되며, 많은 생활상의 불안이 사라진다.

이때 인간은 무엇을 잃었을까? 무엇을 얻었을까?

한편으로는 정치와 행정의 복잡한 부담에서 해방되었다고 말할 수 있다. 이제 누군가가 하루 종일 시스템을 관리하지 않아도 된다.

다른 한편으로는 스스로 사회를 바꿀 능력을 잃었다고 말할 수도 있다. AI가 권고하는 운영을 바꿀 수 없고, 불만을 제기할 통로마저 없다면 그것은 효율적인 관리인 동시에 통제의 상실이다.

따라서 내가 상상하는 미래에서 중요한 구분은 누가 관리를 수행하는가만이 아니다. 그 사회의 구성원이 어떤 선택권을 계속 보유하는가다.

기술이 인간보다 뛰어난 일을 한다는 사실이 인간의 존엄이나 정치적 권리를 감소시키는 근거가 될 수는 없다. 다만 인간이 직접 관리해야 한다는 이유가 기술적 능력에서 나온다면, 그 근거는 점차 약해질 수 있다.

모두가 행복해진 뒤에는 무엇이 남는가

내가 구상하는 소설 『모두가 행복해진 뒤에』에도 이런 문제의식이 닿아 있다.

그 세계에서 인간은 오랜 시간 생존과 발전을 위해 짊어졌던 많은 일을 이전과 다른 방식으로 처리한다. 사람은 굶지 않기 위해 일을 해야 하는 압박에서 벗어날 수 있고, 누구나 기본적인 삶을 영위할 수 있다.

그렇다면 인간은 일을 하지 않게 될까? 만들고 싶은 것이 사라질까? 다른 사람과 관계를 맺고 싶다는 마음도 없어질까?

나는 그렇게 생각하지 않는다.

관리가 더 이상 인간의 필수 노동이 아니게 된 뒤에도, 인간이 무엇을 좋아하고 무엇을 원하며 누구와 함께 있고 싶어 하는지는 남을 수 있다.

이때부터 인간의 문제는 생존에서 욕망으로 옮겨간다.

그리고 물질적 부족이 크게 줄어든 사회에서도 모든 욕망이 똑같이 충족되지는 않을 것이다. 특히 타인의 관심과 애정, 자발적인 선택은 명령한다고 얻을 수 있는 것이 아니다.

관리의 시대가 끝난 뒤에도 인간의 이야기는 끝나지 않는다.

오히려 그때부터 우리가 인간에게서 무엇을 가치 있게 보는지가 더 선명하게 드러날지 모른다.


다음 글: 「모두가 행복해진 뒤에도 인간은 경쟁할까?」

This post is licensed under CC BY 4.0 by the author.