AI slop 을 획기적으로 줄이는 방법

AI slop을 줄이는 가장 근본적인 방법은, 어쩌면 아무것도 만들지 않아도 되는 사회일지 모른다

AI가 만든 저품질 콘텐츠, 이른바 ‘AI slop’이 인터넷을 가득 채우고 있다는 이야기가 자주 나온다. 원본 영상에 자막만 붙인 콘텐츠, 이미 유행한 형식을 조금 바꾼 영상, 무엇 하나 얻어걸리기를 바라며 대량으로 생성한 이미지와 글들.

이 현상을 두고 흔히 AI의 성능이나 플랫폼의 추천 알고리즘, 콘텐츠 검수의 문제를 이야기한다. 물론 그런 요인도 중요하다. 하지만 나는 조금 다른 곳에서 출발해 보고 싶다.

왜 사람들은 굳이 이런 콘텐츠를 만들어야 하는가?

1. 성공하는 콘텐츠를 따라가는 사람들

누군가 유튜브에서 성공하고 싶다고 생각해 보자. 그런데 자신만의 주제는 없고, 당장 생활비는 필요하다. 그렇다면 가장 먼저 시도할 만한 방법은 무엇일까?

이미 성공한 사람의 방식을 따라가는 것이다.

인기 있는 영상을 번역하거나, 자막을 붙이거나, 짧게 잘라 올린다. 유행하는 형식을 모방하고, AI를 이용해 비슷한 콘텐츠를 대량으로 만든다. 하나하나의 성공 가능성은 낮더라도 생산 비용이 저렴하다면 여러 번 시도할 수 있다. 그중 하나라도 알고리즘의 선택을 받으면 수익으로 이어질 수 있기 때문이다.

물론 모든 재가공 콘텐츠가 무가치한 것은 아니다. 번역과 접근성 개선, 새로운 맥락을 더하는 편집은 분명한 가치를 만들 수 있다. 또한 재가공을 선택한 모든 제작자에게 독창적인 아이디어가 없다고 단정할 수도 없다.

그럼에도 콘텐츠 생산이 오직 생존을 위한 수단이 된 상황에서는, 독창적인 주제를 발굴하는 것보다 이미 검증된 형식을 모방하는 일이 합리적인 선택이 될 수 있다.

이때 AI는 문제의 최초 원인이라기보다, 기존 경쟁 구조의 생산성을 폭발적으로 높이는 도구가 된다. 과거에는 영상 편집과 대본 작성, 이미지 제작에 시간이 들었다. 이제는 그 비용을 크게 낮출 수 있다. 경쟁의 규칙은 그대로인데, 시장에 쏟아 넣을 수 있는 콘텐츠의 양만 급격하게 늘어나는 것이다.

2. 콘텐츠를 만들 수 있다는 것과, 무엇을 만들어야 하는지 안다는 것은 다르다

AI는 무언가를 만드는 비용을 낮춘다. 그림을 직접 그리지 못해도 이미지를 만들 수 있고, 촬영 장비가 없어도 영상을 만들 수 있으며, 프로그래밍을 깊이 알지 못해도 소프트웨어의 초안을 만들 수 있다.

그러나 제작 비용이 낮아진다고 해서 무엇을 만들지에 대한 생각까지 자동으로 생기는 것은 아니다.

콘텐츠 제작에는 적어도 세 가지 능력이 있다.

• 유통 능력: 무엇을 가져오면 사람들이 볼지 판단하는 능력
• 가공 능력: 기존 소재를 어떻게 바꾸면 더 잘 소비될지 판단하는 능력
• 기획 능력: 아직 콘텐츠로 만들어지지 않은 질문과 관점을 발견하는 능력

이 능력들은 서로 배타적이지 않다. 훌륭한 창작자는 세 가지를 모두 잘할 수 있고, 재가공 콘텐츠도 독창적인 기획을 포함할 수 있다. 다만 제작 기술의 장벽이 낮아질수록, 무엇을 만들어야 하는지 결정하는 능력의 상대적 중요성은 커질 수 있다.

성공하는 방법을 아는 것과 성공시킬 만한 콘텐츠를 발견하는 것은 별개의 문제다. AI는 성공한 콘텐츠의 형식을 분석하고 비슷한 결과물을 만드는 데 도움을 줄 수 있지만, 제작자가 무엇에 의문을 품고 어떤 현상을 이상하게 여기는지까지 자동으로 만들어 주지는 않는다.

그런데도 많은 사람이 자신만의 주제를 발굴하는 대신 남의 성공에 편승하려 한다면, 그 이유는 단지 상상력이 부족해서가 아닐 수 있다. 생각할 여유보다 당장 수익을 만들어야 한다는 압박이 앞서기 때문일 수 있다.

3. AI slop의 뿌리는 생존 문제일 수 있다

여기서 질문을 바꿔 보자.

콘텐츠를 만드는 사람이 정말 만들고 싶어서 만드는 것과, 생계를 위해 무엇이라도 만들어야 해서 만드는 것은 같은 행동일까?

겉으로는 둘 다 콘텐츠 제작이다. 하지만 동기는 다르다.

생존이 불안정하면 실패의 비용이 커진다. 오래 실험하거나 독창적인 형식에 도전하기보다, 이미 성공한 사례를 따라가고 빠른 수익을 기대할 수 있는 방식을 선택하게 된다. 콘텐츠가 목적이 아니라 생존을 위한 수단이 되는 것이다.

이 관점에서 보면 AI slop의 범람은 단순히 사람들이 저품질 콘텐츠를 좋아하거나 AI를 잘못 사용해서 생기는 현상이 아니다. 생존을 위해 수익을 만들어야 하는 사람들이, 저비용 대량 생산이라는 전략을 선택할 유인이 커진 결과일 수 있다.

직장에서 떨어져 나온 사람들이 자영업에 뛰어들고, 유튜브 같은 플랫폼에 몰리는 현상도 비슷한 관점에서 볼 수 있다. 물론 크리에이터가 되고 싶어서 시작하는 사람도 있다. 하지만 누군가에게는 콘텐츠 제작이 꿈을 이루는 길이기 전에, 생계를 이어가기 위한 선택지일 수 있다.

그렇다면 AI slop을 획기적으로 줄이는 방법은 콘텐츠를 더 엄격하게 검열하거나 AI의 생산 능력을 제한하는 것만이 아닐 수 있다.

사람들이 쓰레기라도 만들어 팔아야 살아남을 수 있는 조건을 바꾸는 것.

어쩌면 필요한 것은 인프라 수준의 구원이다. 아무것도 생산하지 않는다고 해서 굶거나 집을 잃지 않는다는 최소한의 안도감 말이다.

4. 창작을 장려하려면, 창작하지 않아도 되는 사회가 필요할지 모른다

생존이 보장된다고 해서 모든 사람이 갑자기 위대한 작품을 만들지는 않을 것이다. 어떤 사람은 쉬고 싶어 할 것이고, 어떤 사람은 가족이나 친구와 시간을 보내고 싶어 할 것이다. 어떤 사람은 아무것도 공개하지 않은 채 자기만의 실험을 즐길 수도 있다.

그런데 바로 그 점이 중요하다.

생존을 위해 무언가를 생산해야 하는 사람과, 생산하지 않아도 살아갈 수 있지만 무언가를 만들기로 선택한 사람은 다른 조건에 놓여 있다.

생존이 시장에 강하게 종속된 환경에서는 실패가 생활 기반까지 위협할 수 있다. 반면 생존이 보장된다면, 당장 돈이 되지 않는 시도도 감수하기 쉬워진다. 유행을 모방하는 대신 새로운 형식을 실험하거나, 아무도 관심을 보이지 않을 주제를 파고들거나, 아예 공개할 생각이 없는 작품을 만들 자유도 커질 수 있다.

물론 생존 보장이 저품질 콘텐츠를 자동으로 없애지는 않는다. 돈이 충분해도 명성이나 영향력을 얻기 위해 대량 생산을 계속하는 사람은 있을 것이다. 광고 수익과 플랫폼 경쟁 역시 남을 수 있다.

따라서 생존 보장은 AI slop의 유일한 원인을 제거하는 만능 해법이 아니다. 하지만 생존 때문에 불필요한 생산에 참여해야 하는 사람을 줄이는 구조적 해법은 될 수 있다.

창작을 장려하기 위해서는 오히려 사람들이 창작하지 않아도 되는 사회를 만들어야 할 수 있다.

5. 그래도 사람들은 욕망을 위해 생산할 것이다

내가 구상해 온 이중재화론에서 상위재화는 현대의 돈과 비슷하다. 생존을 보장하는 것과 별개로, 더 많은 욕망을 추구하기 위한 수단이다.

이 구조에서도 사람들은 더 많은 돈을 벌고 싶어 할 것이고, 유명해지고 싶어 할 것이며, 자신의 작품이 널리 퍼지기를 바랄 것이다. 그러므로 AI slop을 생산할 동기가 완전히 사라지지는 않는다.

오히려 이 점을 인정하는 편이 중요하다. 모든 사람이 순수한 창작만을 추구하도록 만드는 사회를 가정할 필요는 없다. 경쟁과 욕망은 남아 있어도 된다. 다만 생존을 위해 경쟁에 참여해야만 하는 조건을 없애자는 것이다.

이렇게 보면 AI slop 문제에는 두 개의 서로 다른 질문이 있다.

1. 왜 사람들이 생존을 위해 대량 생산에 뛰어들어야 하는가?
2. 그렇게 생산된 콘텐츠가 왜 모든 사람의 일상적인 소비를 점령해야 하는가?

첫 번째는 생산의 압력에 관한 문제다. 두 번째는 정보의 유통과 사람들의 관심을 어떻게 배분할 것인지에 관한 문제다. 하나만 해결해서는 충분하지 않을 수 있다.

6. 모든 콘텐츠가 모두에게 보여야 하는 것은 아니다

인터넷에 콘텐츠를 게시할 자유가 있다고 해서 모든 콘텐츠가 추천 알고리즘을 통해 수많은 사람에게 도달해야 하는 것은 아니다.

모든 콘텐츠를 삭제하거나 공개를 금지하는 대신, 기본 보기와 전체 보기를 서로 다른 경로로 운영할 수 있지 않을까?

기본 보기는 AI가 일정한 기준으로 선별한 콘텐츠를 보여준다. 사람들은 매일 수많은 작품을 일일이 검토하지 않아도, 적정한 품질과 다양성을 갖춘 콘텐츠를 편리하게 소비할 수 있다.

전체 보기는 AI가 선별하지 않은 작품까지 포함하는 넓은 탐색 공간이다. 아직 평가받지 못한 작품, 통계적으로는 주목받기 어려운 작품, 기존 기준에서 벗어난 작품도 이곳에 남는다.

이것은 접근 권한의 차이라기보다 기본 노출 방식의 차이다. 기본 보기에서 노출되지 않는다고 해서 콘텐츠가 사라지는 것은 아니다. 누구나 전체 보기로 들어가 직접 탐색할 수 있다.

핵심은 모든 콘텐츠가 존재할 수 있도록 허용하되, 모든 콘텐츠가 대중의 주의를 놓고 똑같이 경쟁해야 하는 구조는 바꾸는 것이다.

물론 기본 보기를 누가 결정하는지는 중요한 문제다. AI의 선별 기준이 획일적이면 신인이나 소수 취향의 작품이 배제될 수 있다. 따라서 기본 보기는 하나의 정답 목록이 아니라 다양한 취향과 관점을 반영하는 여러 경로를 제공해야 한다. 전체 보기로의 접근도 실질적으로 쉬워야 한다.

7. AI가 놓친 보석을 찾는 사람들

여기서 역설이 하나 생긴다.

기본 보기를 사람이 직접 선정한 작품으로만 구성한다면, 전체 보기는 사람들이 검증하지 않은 콘텐츠가 모인 곳으로 인식될 수 있다. 그러면 굳이 그곳에 들어가려는 사람이 줄어들지도 모른다.

하지만 기본 보기를 AI가 선별한다면 이야기가 달라진다.

AI는 통계와 평가 기준에 따라 대체로 괜찮은 작품을 골라 준다. 그러나 사람들은 AI가 완벽하지 않다는 사실도 안다. 그러면 이런 생각이 가능해진다.

AI가 놓친 작품이 아직 남아 있지 않을까?

이때 전체 보기는 단순한 저품질 콘텐츠의 저장소가 아니라, AI의 판단 바깥에 있는 가능성을 탐색하는 공간이 된다.

아무도 주목하지 않았던 게임을 발견하거나, 조회수가 몇십 회에 불과한 영상에서 놀라운 통찰을 얻거나, AI가 평범하다고 분류한 작품에서 독창적인 아이디어를 찾아낼 수 있다. 그리고 그 발견 자체가 새로운 이야기가 된다.

유명한 작품을 감상하는 것과 아무도 모르는 작품을 발굴하는 것은 다른 경험이다. 후자에는 자신이 먼저 발견했다는 만족감, 다른 사람에게 소개하고 싶은 욕구, 자신의 안목을 증명하는 즐거움이 더해질 수 있다.

생존이 보장된 사회에서도 이런 동기는 남을 것이다. 돈을 벌기 위해서가 아니라 호기심과 명성, 취향 공동체에서의 인정, 발견을 공유하는 즐거움 때문에 탐색할 수 있으니까.

AI가 기본적인 선별을 맡는다고 해서 인간의 역할이 사라지는 것은 아니다. 오히려 일상적인 검토의 부담이 줄어들면서, 사람은 자신이 정말 탐색하고 싶은 영역을 선택할 수 있다.

8. 연간 대표 미디어와 데이터의 다른 쓰임

이런 정보 환경은 내가 구상했던 연간 대표 미디어 선택과도 연결된다.

그 구상에서는 사람이 투표로 선택한 작품은 가장 높은 화질로 보존하고, AI가 통계적으로 남기려는 작품은 720p 수준의 적정 해상도로 보존한다. 사람의 직접적인 가치 판단과 AI의 통계적 판단을 구분하는 것이다.

여기서 두 방식은 서로 다른 의미를 가진다.

• 사람이 선택한 작품: 공동체가 직접 가치를 부여하고 높은 품질로 보존한 작품
• AI가 선택한 작품: 통계적 기준에 따라 적정 품질로 보존한 작품
• 전체 콘텐츠: 아직 어느 쪽의 판단으로도 소진되지 않은 가능성의 영역

이것은 단순한 품질 순위가 아니다. 사람들이 직접 의미를 부여한 작품에 별도의 보존 가치를 인정하는 방식이다.

또한 모든 콘텐츠가 대중에게 공개되어 감상되기 위한 것일 필요도 없다. 어떤 자료는 AI의 학습이나 평가에 활용되는 편이 더 유용할 수 있다. 제작자의 실험작이나 실패한 시도, 특정 기법을 보여주는 자료가 대중의 관심을 얻지 않더라도 학습 데이터로서 가치를 가질 수 있기 때문이다.

그러면 콘텐츠를 만드는 목적과 공개하는 목적을 분리할 수 있다.

• 대중에게 감상시키기 위한 작품
• 특정 공동체와 공유하기 위한 자료
• AI의 학습이나 평가에 활용하기 위한 데이터
• 제작자 자신만을 위해 남겨두는 실험작

물론 AI 학습용 데이터는 저작권과 동의, 보상, 철회 가능성 등을 별도로 설계해야 한다. 학습에 이미 사용된 데이터를 완전히 제거하는 일은 기술적으로 어려울 수 있으므로, 활용 범위와 조건을 명확히 할 필요도 있다.

그럼에도 이 방향은 모든 결과물이 대중의 관심을 얻기 위한 경쟁에 들어갈 필요는 없다는 가능성을 보여준다.

9. AI는 인간의 탐색을 대체하는 것이 아니라, 탐색의 부담을 덜어줄 수 있다

AI가 더 잘 선별할수록 사람의 역할이 줄어드는 것처럼 보일 수 있다. 하지만 여기서는 반대의 가능성이 생긴다.

AI가 일상적인 선별을 맡으면 사람은 모든 콘텐츠를 직접 검토해야 하는 부담에서 벗어난다. 동시에 AI가 완벽하지 않기 때문에 인간에게는 여전히 탐색하고, 발견하고, 평가하고, 다른 사람에게 소개할 여지가 남는다.

AI가 선정한 기본 보기를 신뢰하면서도 전체 보기를 탐험하는 것은 모순이 아니다. 일상에서는 편리함을 선택하고, 여유가 있을 때는 발견의 즐거움을 선택하는 것이다.

AI가 모든 것을 알아내는 이상적인 사회를 목표로 삼을 필요는 없다. AI가 충분히 유용하지만 여전히 불완전한 사회를 전제로, 그 불완전함이 인간에게 새로운 활동의 공간을 제공하도록 설계할 수 있다.

맺으며: 아무것도 만들지 않아도 되는 사회에서

AI slop을 줄이는 방법은 쓰레기를 만드는 기술을 막는 데서 그치지 않을 수 있다. 사람들이 쓰레기라도 만들어 팔아야 생존할 수 있는 구조를 바꾸고, 생산된 모든 콘텐츠가 대중의 관심을 얻기 위해 경쟁해야 하는 구조도 바꾸는 것이다.

생존이 보장되면 사람들은 더 이상 생계를 위해서만 콘텐츠를 만들 필요가 없다. 기본 보기가 일상적인 선별을 맡으면 사람들은 모든 콘텐츠를 직접 검토할 필요도 없다. 그리고 전체 보기에는 AI가 놓친 작품을 찾으려는 사람들의 탐험이 남는다.

AI slop이 완전히 사라질 필요는 없다. 욕망과 경쟁이 남아 있는 한, 저품질 콘텐츠는 계속 생산될 수 있다. 중요한 것은 그 존재가 모든 사람의 일상을 점령하지 않도록 하는 것이다.

AI가 너무 잘해서 인간이 할 일이 없어지는 것이 아니라, AI가 충분히 잘하기 때문에 인간이 더 자유롭게 자기만의 일을 선택할 수 있게 되는 것.

모든 콘텐츠가 존재할 수 있고, 누구나 그것을 찾아볼 수 있지만, 누구도 모든 것을 만들거나 소비해야 한다는 압박을 받지 않는 정보 환경.

어쩌면 AI slop의 범람을 해결하는 길은 AI를 더 강하게 통제하는 데만 있는 것이 아니라, 인간이 생존과 관심의 경쟁에서 조금 더 자유로워지는 데 있을지도 모른다.