신뢰란 무엇인가
신뢰는 대체 무엇으로 만들어지는가
“AI로 롤을 20분 만에 만들었습니다.”
요즘 AI와 관련된 콘텐츠를 보다 보면 이런 식의 제목을 종종 만나게 된다.
처음 보면 굉장히 놀랍다.
정말로 AI에게 무언가를 시켰고, 얼마 지나지 않아 화면에서 게임이 돌아간다면 영상 자체는 거짓말이 아닐 수도 있다.
그런데 조금 생각해 보면 이상한 점이 생긴다.
그것이 정말 ‘롤을 만들었다’는 말과 같은 이야기일까?
롤이라는 게임을 실제로 만들려면 게임의 규칙만 필요한 것이 아니다.
그래픽과 애니메이션, 사운드, 네트워크, 서버, 매치메이킹, 밸런싱, 치팅 방지, 운영, 패치, 배포, 수많은 예외 상황과 버그까지 해결해야 한다.
무엇보다 롤이 이미 존재하지 않았다면, AI에게 무엇을 만들어야 하는지 설명하는 것부터 지금보다 훨씬 어려웠을 것이다.
그런데 영상에서는 이 복잡한 과정이 모두 사라지고,
“AI에게 시켰더니 20분 만에 됐습니다.”
라는 한 장면으로 압축된다.
그리고 재미있는 것은 이것이 반드시 나쁜 콘텐츠 제작 방식이라고만 할 수도 없다는 점이다.
콘텐츠 크리에이터의 목표가 실제로 상용 가능한 게임을 완성하는 것이 아니라 사람들의 관심을 끄는 콘텐츠를 만드는 것이라면, 그 사람은 자신의 목표를 달성한 셈이다.
여기서 조금 다른 질문이 생긴다.
우리가 본 것은 기술의 성공일까, 아니면 콘텐츠의 성공일까?
1. 사실 하나와 우리가 받아들이는 의미는 다를 수 있다
“AI로 20분 만에 롤을 만들었다.”
이 문장 안에는 엄청나게 많은 정보가 생략되어 있다.
실제로 일어난 일은 어쩌면 이 정도일 수 있다.
1
2
3
4
5
AI에게 프롬프트를 입력한다
↓
20분 동안 코드를 생성한다
↓
무언가가 실행된다
하지만 시청자가 받아들이는 의미는 훨씬 커질 수 있다.
1
2
3
AI만 있으면
롤과 유사한 게임 전체를
20분 만에 개발할 수 있다
둘은 같은 이야기가 아니다.
그렇다고 처음의 사실이 반드시 거짓인 것도 아니다.
문제는 하나의 사실이 그보다 훨씬 큰 인상을 만들어낼 수 있다는 것이다.
이것은 콘텐츠의 특성상 자연스러운 일이기도 하다.
콘텐츠는 복잡한 현실을 압축한다.
수십 시간의 작업을 10분짜리 영상으로 만들고,
수천 줄의 코드를 몇 초짜리 화면으로 보여주고,
몇 년의 연구를 하나의 문장으로 설명한다.
결국 우리는 언제나 누군가가 압축해 놓은 결과를 보고 있다.
그렇다면 여기서 중요한 질문이 생긴다.
나는 무엇을 보고 믿고 있는 것일까?
2. “제가 최선을 다했습니다”는 신뢰의 증거가 아니다
이 질문을 개발자의 입장으로 가져와 보면 더 재미있다.
누군가 나에게 이렇게 묻는다고 해보자.
“당신이 만든 프로그램이 정말 제대로 만들어졌다는 걸 어떻게 믿죠?”
나는 뭐라고 대답할 수 있을까?
“저는 최선을 다했습니다.”
아마 좋은 대답은 아닐 것이다.
상대방이 궁금한 것은 내가 얼마나 열심히 했는지가 아니기 때문이다.
내가 밤을 새웠는지,
얼마나 많은 코드를 작성했는지,
이 일을 얼마나 진지하게 생각하는지는
프로그램이 제대로 작동한다는 사실을 직접 증명하지 않는다.
그래서 개발에는 수많은 검증 장치가 붙는다.
- 테스트
- 코드 리뷰
- 정적 분석
- 타입 시스템
- CI/CD
- QA
- 보안 검사
- 버전 관리
- 모니터링
- 장애 대응
- 배포 환경 검증
이런 것들은 모두 조금씩 다른 방식으로 같은 질문에 답한다.
“이 결과물을 믿어도 되는가?”
그리고 여기서 신뢰에 대한 재미있는 사실을 발견할 수 있다.
우리는 생각보다 사람을 직접 믿지 않는다.
3. 신뢰는 여러 종류로 나눌 수 있다
평소에는 그냥 하나의 단어로 부르는 ‘신뢰’를 조금 세밀하게 나누어 보면 이야기가 달라진다.
3.1 사람을 믿는 것
가장 단순한 형태의 신뢰다.
“저 사람은 나를 속이지 않을 것이다.”
친구를 믿거나 거래 상대방을 믿는 것처럼, 상대방의 의도와 성실함에 대한 믿음이다.
하지만 현대 사회의 모든 거래를 이런 방식으로 해결할 수는 없다.
우리가 만나는 모든 사람의 성격을 직접 파악해야 한다면 거래 자체가 굉장히 비싸질 것이다.
그래서 다른 형태의 신뢰가 등장한다.
3.2 전문성을 믿는 것
“저 사람은 이 일을 할 능력이 있을 것이다.”
개발자, 의사, 변호사, 회계사 등 전문적인 지식과 기술을 제공하는 사람들이 여기에 들어간다.
우리는 그 사람이 가진 모든 지식을 직접 검증할 수 없기 때문에 전문가에게 판단을 위임한다.
그런데 여기서 또 문제가 생긴다.
전문가의 전문성을 비전문가가 어떻게 검증할 것인가?
개발자가 만든 코드를 모두 이해할 수 없는 고객처럼,
의사가 내린 판단을 의료 지식 없이 전부 검증하기 어려운 환자도 있고,
법률가의 해석을 법률 지식 없이 검증하기 어려운 의뢰인도 있다.
그래서 전문성만으로도 충분하지 않다.
4. 결과물을 믿는 것
여기서부터는 사람에게서 조금씩 시선을 떼게 된다.
“이 사람이 믿을 만한가?”가 아니라,
“이 사람이 만든 결과를 확인할 수 있는가?”
를 묻게 된다.
개발에서는 테스트가 그 역할을 한다.
코드 리뷰도 그렇고,
보안 감사도 그렇고,
자동화된 검사도 그렇다.
이때 신뢰의 형태가 바뀐다.
“저를 믿으세요.”
에서
“저를 믿지 않아도 결과를 확인할 수 있습니다.”
로 이동한다.
이것은 상당히 큰 변화다.
좋은 개발자가 단순히 성실한 사람이 아니라는 것도 여기에서 이해할 수 있다.
좋은 개발자는 자신의 결과를 자신의 주장만으로 믿도록 요구하지 않고, 다른 사람이 확인할 수 있는 형태로 만든다.
5. 그런데 모든 것을 미리 검증할 수는 없다
여기서 한 단계 더 나아가면 새로운 문제가 생긴다.
아무리 테스트를 많이 해도 모든 미래를 확인할 수는 없다.
계약을 맺을 때도 마찬가지다.
두 사람이 계약을 맺을 당시에는 정상적으로 일을 수행할 수 있었는데,
나중에 사업이 망할 수도 있고,
시장 상황이 바뀔 수도 있고,
예상하지 못한 사고가 발생할 수도 있다.
그래서 사회는 또 다른 종류의 신뢰 장치를 만든다.
“문제가 발생했을 때 어떻게 처리할 것인가?”
계약의 해제와 손해배상,
보험,
분쟁조정,
법원,
파산,
회생 같은 제도들이 여기에 들어간다.
이것들은 사람들이 절대로 실패하지 않을 것이라고 가정하지 않는다.
오히려 정반대다.
사람은 실패할 수 있다.
그 사실을 전제로 시스템을 만든다.
6. 파산과 회생도 같은 맥락에서 볼 수 있다
앞서 파산과 회생에 대해 생각하면서 재미있었던 부분도 바로 이것이었다.
누군가 돈을 빌렸다면 원래는 계약대로 갚아야 한다.
하지만 현실에서는 모든 사람이 계약을 끝까지 이행할 수 있는 것이 아니다.
사업이 망할 수도 있고,
소득이 사라질 수도 있고,
경제 상황이 급변할 수도 있다.
그렇다면 사회는 이런 질문에 답해야 한다.
“계약이 실패한 뒤에는 어떻게 할 것인가?”
파산은 현재의 경제적 상태를 청산하는 방향으로 문제를 정리하고,
회생은 아직 유지할 수 있는 경제활동이 있다면 그것을 보존하면서 미래의 소득이나 사업활동을 통해 채무를 변제하는 방향으로 문제를 조정한다.
이렇게 보면 파산과 회생은 단순히 빚을 없애주는 제도라고 보기 어렵다.
오히려
실패가 발생해도 경제 시스템 전체가 같이 무너지지 않도록 실패를 처리하는 장치
라고 볼 수 있다.
사람을 완전히 믿을 수 없기 때문에 오히려 이런 제도가 필요한 것이다.
7. 결국 우리는 사람보다 시스템을 믿는다
생각해 보면 우리는 매일 엄청난 수의 사람을 믿고 살아간다.
하지만 그 사람들을 실제로 잘 알고 있는 것은 아니다.
은행 직원의 성격을 모른다.
개발자의 성격을 모른다.
택배기사의 성격을 모른다.
온라인 쇼핑몰 운영자의 성격도 모른다.
그런데도 우리는 돈을 보내고 물건을 받고 프로그램을 설치하고 계약을 한다.
왜 가능할까?
그 사람들을 전부 믿어서가 아니다.
그 사람을 완전히 믿지 않아도 거래할 수 있는 시스템이 있기 때문이다.
돈을 보내면 기록이 남고,
계약서가 있고,
문제가 생기면 환불이나 분쟁 절차가 있고,
상품에 문제가 있으면 보증이 있고,
채무자가 망하면 파산과 회생이라는 절차가 있다.
즉 우리가 믿는 것은 개인 하나가 아니라 그 개인을 둘러싼 수많은 장치이기도 하다.
8. 그래서 좋은 시스템은 사람을 믿게 만드는 시스템이 아닐지도 모른다
여기까지 생각하면 신뢰에 대한 관점이 조금 바뀐다.
좋은 시스템이란
“저 사람은 믿을 만한 사람이니까 믿으세요.”
라고 말하는 시스템이 아닐 수도 있다.
오히려
“저 사람을 완전히 믿을 필요가 없어도 거래할 수 있습니다.”
라고 말할 수 있는 시스템에 가깝다.
계약도 그렇고,
보험도 그렇고,
법원도 그렇고,
각종 검증 절차도 그렇다.
이 시스템들은 인간이 완벽하다는 가정 위에 만들어진 것이 아니다.
오히려 인간이 실수하고,
실패하고,
약속을 지키지 못하고,
때로는 자신의 이익을 추구한다는 사실을 전제로 만들어진다.
그럼에도 사회가 계속 돌아가게 만드는 것이다.
9. 그런데 AI가 등장하면서 이 구조가 눈에 보이기 시작했다
AI가 재미있는 이유는 바로 여기에 있는 것 같다.
AI는 결과물을 굉장히 빠르게 만들어낸다.
코드를 만들고,
이미지를 만들고,
문서를 만들고,
분석을 하고,
답변을 만든다.
그런데 AI가 만들어낸 결과를 보고 있으면 이전에는 자연스럽게 넘어갔던 질문이 갑자기 눈앞에 나타난다.
“이걸 믿어도 되는 이유가 뭐지?”
사람이 만든 결과라면 우리는 그 사람의 경력이나 소속이나 평판을 함께 본다.
하지만 AI는 다르다.
1
2
3
프롬프트
↓
결과물
처럼 보인다.
그러니까 결과물과 신뢰 사이에 존재하던 수많은 중간 과정이 갑자기 사라진 것처럼 느껴진다.
10. AI가 보여주는 것은 생산의 문제가 아니라 검증의 문제일지도 모른다
AI가 코드를 10분 만에 만들어준다고 해보자.
그렇다면 우리는 흔히 이렇게 생각한다.
“개발 비용이 엄청나게 줄겠네.”
그럴 수도 있다.
그런데 다른 질문도 가능하다.
“그 코드가 제대로 작동하는지 확인하는 데는 얼마나 걸리지?”
코드를 만드는 데 10분이 걸렸는데,
그 코드가 모든 요구사항을 충족하는지 확인하는 데 3시간이 걸린다면 어떨까?
AI가 코드를 100배 빠르게 만들어준다고 해서 전체 개발 과정이 100배 빨라지는 것은 아니다.
오히려 어느 순간부터는
생산보다 검증이 더 비싼 문제
가 될 수도 있다.
그렇다면 AI 시대의 개발자는 단순히 코드를 빠르게 작성하는 사람과는 조금 다른 역할을 맡게 될 수도 있다.
AI가 만든 결과를 보고,
무엇이 요구사항인지 판단하고,
어떤 부분이 잘못되었는지 찾고,
실제로 사용할 수 있는지 검증하는 사람.
즉,
무언가를 만드는 능력뿐만 아니라, 그것을 믿어도 되는지 판단하는 능력
의 가치가 커질 수 있다.
11. 다시 “AI로 20분 만에 롤을 만들었다”로 돌아가 보자
처음에는 이 문장이 굉장히 신기했다.
그런데 이제는 조금 다른 질문을 하게 된다.
“정말 롤을 만들었나?”
보다
“나는 무엇을 근거로 그것을 롤을 만들었다고 받아들이고 있는가?”
라는 질문이다.
화면에 게임이 돌아간다.
그것은 사실이다.
하지만 그 사실만으로 상용 게임이 완성되었다고 말할 수는 없다.
결과물이 존재한다는 것과,
그 결과물이 우리가 기대하는 기능을 충족한다는 것과,
그 결과물이 실제 환경에서 안정적으로 작동한다는 것은
각각 다른 주장이다.
그리고 각각 다른 수준의 검증이 필요하다.
12. 신뢰란 어쩌면 ‘믿음’이 아니라 ‘검증 비용을 어떻게 처리할 것인가’에 가까울지도 모른다
여기까지 생각하면 처음의 질문이 조금 바뀐다.
신뢰를
“저 사람을 믿을 수 있는가?”
라고만 생각하면 답을 찾기 어렵다.
하지만
“이 결과를 믿기 위해 내가 직접 어디까지 확인해야 하는가?”
라고 바꾸면 훨씬 구체적인 문제가 된다.
내가 직접 코드를 전부 읽어야 하는가?
전문가에게 맡길 것인가?
테스트 결과를 볼 것인가?
인증을 확인할 것인가?
계약으로 책임을 분명하게 할 것인가?
문제가 발생했을 때 보상받을 수 있는가?
제3자의 검증을 이용할 것인가?
이런 장치들이 결국 신뢰에 필요한 비용을 분산시키는 방법이라고 볼 수도 있다.
13. 결국 우리는 무엇을 믿고 있는가
처음에는 콘텐츠 크리에이터의 말에서 시작했다.
“AI로 20분 만에 롤을 만들었습니다.”
그리고 개발자의 결과물로 넘어왔다.
“제가 만들었습니다.”
그다음에는 전문가의 설명으로 넘어갔다.
“이게 법적으로 맞습니다.”
그리고 사회 시스템으로 넘어왔다.
“문제가 발생하면 이런 절차로 해결할 수 있습니다.”
서로 전혀 다른 이야기처럼 보이지만, 그 밑에는 같은 질문이 깔려 있다.
“그 말을 내가 왜 믿어야 하지?”
그리고 그 질문에 대한 답도 하나가 아니다.
사람을 믿을 수도 있고,
전문성을 믿을 수도 있고,
결과물을 검증할 수도 있고,
절차를 믿을 수도 있고,
시스템 전체를 믿을 수도 있다.
중요한 것은 이것들을 모두 하나의 ‘신뢰’라는 단어로 뭉뚱그리지 않는 것인지도 모른다.
14. 그리고 AI는 이 질문을 우리 앞에 가져왔다
AI 이전에도 이런 문제는 언제나 존재했다.
다만 대부분의 경우 사람이라는 인터페이스가 그 사이에 있었다.
1
2
3
4
5
전문가
↓
전문가의 판단
↓
결과물
우리는 전문가의 경력과 평판과 자격과 소속을 보면서 결과를 받아들였다.
AI는 이 과정을 아주 빠르게 압축한다.
1
2
3
4
5
질문
↓
AI
↓
결과
그러면서 우리가 평소에는 의식하지 않았던 질문이 튀어나온다.
“잠깐. 결과가 나왔다는 것과 결과를 믿을 수 있다는 것은 같은 말인가?”
아마 AI의 가장 재미있는 변화 중 하나는 이것일지도 모른다.
AI가 인간의 일을 빼앗는 것보다 먼저,
우리가 인간의 일을 얼마나 많은 신뢰 장치에 의존해왔는지를 보여주는 것.
마치며
생각해 보면 사회는 꽤 이상한 방식으로 만들어져 있다.
우리는 서로를 완전히 믿지 않는다.
사람은 실수할 수 있고,
약속을 지키지 못할 수 있고,
자신의 이익을 추구할 수도 있고,
전문가조차 틀릴 수 있다.
그런데도 우리는 서로 거래하고,
돈을 빌려주고,
회사를 만들고,
프로그램을 사고,
병원에 가고,
법률 서비스를 이용한다.
그 이유는 아마도 우리가 사람을 완전히 믿기 때문이 아니라,
사람을 완전히 믿지 않아도 사회가 돌아갈 수 있도록 수많은 시스템을 만들어 놓았기 때문일 것이다.
그리고 AI가 등장하면서 그동안 보이지 않던 질문 하나가 눈앞으로 튀어나왔다.
결과물을 믿는다는 것은 대체 무엇인가?
어쩌면 좋은 시스템은 사람을 믿게 만드는 시스템이 아니라,
사람을 완전히 믿지 않아도 무언가를 함께 만들어갈 수 있게 하는 시스템
일지도 모르겠다.
그리고 AI는 그 시스템에서 우리가 그동안 당연하게 생각했던 ‘신뢰’라는 단어를 다시 뜯어보게 만드는 새로운 도구가 된 것 같다.