Post

AI를 사용하지 않은 책임은 누가 지는가?

AI를 사용하지 않은 책임은 누가 지는가?

AI 이후의 인간 · 2부 — 기술에 적응할 의무와 행정의 설명 책임

새로운 기술이 등장하면 제도가 늦게 따라온다. 익숙한 광경이다. 정책을 검토하고 이해관계자의 의견을 듣고 법률을 정비하는 데에는 시간이 필요하다. 그 자체를 비난할 생각은 없다.

다만 AI가 등장한 지금, 과거와 똑같이 ‘새로운 기술이라 충분히 검토할 시간이 없었다’고 설명하는 것이 언제까지 설득력을 가질까?

이제는 기술을 검토하는 데에도 AI를 활용할 수 있기 때문이다.

물론 AI가 올바른 정책을 자동으로 작성한다는 뜻은 아니다. 오히려 잘못된 결론을 제시할 위험이 있기 때문에 사람이 검증해야 한다. 그런데 이 말은 동시에 이상한 질문을 불러온다.

사람은 AI의 잘못된 답변을 수용한 결과에 책임을 지는데, AI를 전혀 사용하지 않아 검토 기회를 놓친 결과에는 책임이 없는가?

신중함과 방치는 같은 말이 아니다

정책은 한 번 만들어졌다고 끝나지 않는다. 사람들은 정책의 패턴을 파악하고 그 안에서 자신에게 유리한 행동을 찾는다. 어떤 제도는 설계할 때 예상하지 못한 방식으로 이용된다. 시간이 지나면 규칙은 다시 수정된다.

그러므로 오래 검토한 정책이 반드시 안정적이라는 보장은 없다. 빠르게 만든 정책이 반드시 나쁜 것도 아니다. 중요한 것은 어떤 위험을 검토했고, 어떤 가정을 세웠으며, 문제가 발견되었을 때 얼마나 잘 수정할 수 있는가다.

AI는 이 과정에서 도움을 줄 수 있다. 예상 가능한 악용 사례를 나열하고, 서로 충돌하는 규정을 찾아보고, 과거의 유사 정책을 비교하고, 반대 입장의 논거를 정리할 수 있다. 물론 AI가 제시한 내용이 실제 법령이나 통계와 일치하는지는 별도로 확인해야 한다.

그럼에도 이전보다 검토할 수 있는 선택지는 늘어난 셈이다. 이제 신중함은 단순히 시간을 오래 쓰는 것으로 증명되지 않는다.

충분히 검토했다는 말은, 무엇을 어떻게 검토했는지 설명할 수 있을 때 의미가 있다.

보안 때문에 AI를 못 쓴다면

여기서 한 가지 사고 실험을 해 보자.

국가 행정에는 외부 서비스에 입력하기 어려운 정보가 많다. 기밀 문서, 개인정보, 내부 검토 자료가 대표적이다. 그러므로 일반 시민이 사용하는 외부 AI 서비스를 업무에 그대로 도입하는 것은 적절하지 않을 수 있다.

그렇다면 질문을 바꾸면 된다.

‘보안 때문에 AI를 사용하지 못한다’가 아니라, ‘보안을 유지하면서 AI를 사용할 수 있는 환경을 구축하고 있는가?’라고 묻는 것이다.

이미 많은 조직에는 내부 업무망이 있다. 공개된 AI 모델과 자체 운영 인프라를 결합할 수도 있고, 보안 통제가 적용된 서비스를 도입할 수도 있다. 물론 모델 운영, 접근권한, 개인정보, 로그 관리, 품질 검증과 예산 문제를 해결해야 한다. 가능하다는 사실이 쉽다는 뜻은 아니다.

하지만 가능성을 검토해야 할 이유는 충분하다.

이 질문은 실제 한국 정부가 무엇도 하지 않았다는 비판에서 나온 것은 아니다. 오히려 한국에서는 2025년 11월 중앙·지방정부가 내부 행정망에서 AI 서비스를 활용할 수 있도록 하는 ‘범정부 AI 공통기반’ 서비스를 개시했다. 정책브리핑에 따르면 초기에는 시범 운영 후 확대를 추진하는 방식이었다.

그래서 이어지는 질문은 더욱 구체적이어야 한다.

‘AI를 사용할 수 있는 기반을 만들었는가?’에서 ‘그 기반을 실제로 얼마나 유용하게 사용하고 있는가?’로.

도입을 발표했다는 것과 정책 검토가 개선되었다는 것은 다른 이야기이기 때문이다.

누구는 적응해야 하고, 누구는 기다려도 되는가

내가 주목하는 것은 단순한 행정 효율이 아니다. 사회적 시선의 변화다.

개발자, 디자이너, 창작자, 사무직 종사자 등 많은 사람이 AI 때문에 자신의 업무 방식이 바뀌는 경험을 하고 있다. 어떤 사람은 같은 일을 더 빠르게 해야 하고, 어떤 사람은 기존에 없던 능력을 요구받는다. AI를 제대로 사용하지 못했다는 이유로 경쟁에서 밀리는 사람도 생긴다.

그런 사람들이 행정기관을 바라볼 때 어떤 생각을 하게 될까?

‘나는 살아남기 위해 AI를 배우고 있는데, 정책을 만드는 사람들은 AI를 활용할 방법조차 검토하지 않았다고?’

물론 공공 행정은 민간 기업과 다르다. 속도보다 법적 안정성이 중요할 수 있고, 실패의 피해는 시민에게 전가될 수 있다. 모든 업무에서 AI 사용을 의무화할 이유도 없다.

다만 차이가 있다는 사실과, 그 차이를 설명하지 않아도 된다는 것은 다르다. 신중함에는 이유가 있어야 한다. 사용하지 않겠다는 판단에도 근거가 있어야 한다.

새로운 책임은 ‘AI 사용 여부’가 아니라 ‘검토 과정’에 있다

여기서 오해를 피할 필요가 있다. AI를 사용하지 않은 사람에게 무조건 책임을 물어야 한다는 주장은 위험하다. AI를 사용했더라도 잘못된 결과를 만들 수 있고, AI가 오히려 판단을 흐릴 수도 있다.

핵심은 특정 도구의 사용을 강제하는 것이 아니라, 합리적으로 이용할 수 있었던 검토 수단을 어떻게 다루었는가다.

정책 담당자가 AI를 사용했다면 어떤 자료를 근거로 검증했는가? 사용하지 않았다면 무엇 때문에 부적절하다고 판단했는가? 다른 대안을 검토했는가? 시민이 문제를 지적한 뒤에는 기록과 개선이 이루어졌는가?

이 질문들은 AI만을 위한 것이 아니다. 원래 좋은 행정이라면 설명해야 할 내용이다. AI는 그 기준을 더 엄격하게 만들 수 있는 기술일 뿐이다.

그리고 이러한 변화에는 역설이 하나 있다.

AI를 사용하지 않은 책임까지 묻기 시작하면 사람들은 더 적극적으로 AI를 사용할 것이다. 그런데 업무량이 늘어날수록 사람은 AI가 만든 결과를 일일이 검토하기 어려워진다.

그 결과, 책임을 다하기 위해 도입한 AI가 인간의 판단까지 대신하게 되는 상황이 찾아올 수 있다.

다음 글에서 생각해 보고 싶은 것은 바로 그 문제다.


참고 자료

  • 행정안전부, 「민간 최신 AI, 행정망에서 보안 걱정 없이 활용해 ‘AI 행정시대’ 활짝 연다」 (2025): https://www.mois.go.kr/frt/bbs/type010/commonSelectBoardArticle.do?bbsId=BBSMSTR_000000000008&nttId=121943
  • 대한민국 정책브리핑, 「정부 행정망에서도 ‘AI 챗서비스’ 사용 가능해진다」 (2025): https://www.korea.kr/news/policyNewsView.do?newsId=148955271

다음 글: 「AI가 모든 것을 검토한다면 인간은 무엇을 결정하는가?」

This post is licensed under CC BY 4.0 by the author.