생성형 AI는 정말로 '그저 도구'일까?

일부 생성형 AI 옹호자들은 AI는 불가피한 것이며 선하게도 악하게도 사용할 수 있는 도구로 생각해야 한다고 말한다. 하지만 도구의 설계는 사용자 의도만큼이나 그 영향력에 큰 역할을 한다.

관련 분야: 프로그래밍, 사업, 프로덕션, 해설
작성자: 브라이언트 프랜시스(Bryant Francis), 수석 에디터
작성일: 2025년 5월 31일

반응형

노란 배경 앞에서 쇠망치를 들고 있는 사람 이미지 출처: Adobe Stock

 

"AI는 불가피하다."

 

이 문구는 지난 한 달간 내 머릿속을 떠돌고 있다. 내가 원해서가 아니다. 회의에서 듣고, 이메일에서 읽고, Bluesky, LinkedIn, Discord에서 이 말이 끊임없이 오가는 것을 보면서 내 뇌에 자리를 잡았다.

 

하지만 이 문구는 설득력 없다. AI 지지자들이 말하면 그냥 과장된 홍보로 들리고, 종말론자들이 말하면 운명론적인 체념에 빠지게 된다. 그러나 철학자 나타샤 베딩필드가 2004년에 말했듯이, 오늘이 책의 시작이며, 나머지는 아직 쓰이지 않았다. 모든 것은, 좋든 나쁘든, 불가피하지 않다.

 

그런데 그 와중에 더 조용히, 그러나 더 흔하게 들리는 문장이 있다. 아마 당신의 스튜디오에서도 들어봤을 것이다. “AI는 그냥 도구야. 다른 도구처럼 선하게도 악하게도 사용할 수 있어.”

 

결국 이 산업은 도구를 선하게도, 악하게도, 올바르게도, 잘못되게도 사용하는 곳이다. 우리는 Unity, Unreal, Godot의 효율성에 대해 논쟁하고, 절차적 콘텐츠와 수작업 콘텐츠 중 무엇이 더 나은지를 고민한다. 우리는 이 주제에 대해 너무나도 많이 논쟁해서, 게임 개발자 회의(GDC)에는 아예 Tools Summit이라는 세션이 존재할 정도다.

 

생성형 AI를 도구 평가의 중립적 시각에서 바라보는 건 당연하다. 아니, 우리 커뮤니티에서는 오히려 바람직한 시각일 수 있다. 이는 과장된 홍보를 넘어서 기술을 있는 그대로 평가하고, 그것이 우리 목적에 어떻게 부합하는지 보려는 방식이다. 2025년 GDC 산업 보고서에 따르면 일부 개발자들은 생성형 AI를 도입하고 있지만, 그 이유는 과대광고에 휘둘린 것이 아니라, 일에 적합한 도구를 찾기 위한 행동의 일환이다.

 

하지만 생성형 AI를 '그저 도구'로 보는 시각은 심각하게 잘못된 관점이다. 이 문장은 조용한 냉소주의를 드러낸다. 이는 미국에서 총기 규제를 반대하는 사람들로부터 자주 들리는 말이기도 하다. 왜냐하면 어떤 것도—생성형 AI도, 총도, 심지어 망치조차도—'그저 도구'가 아니기 때문이다.

 

도구의 기능은 형태에 영향을 받는다

미국 가정에서 흔히 볼 수 있는 두 가지 도구를 생각해 보자: 망치와 권총이다.

 

일반적으로 Game Developer는 게임 개발이라는 전문 분야에 집중하지만, 이 이야기는 그 맥락에서도 중요하다. 총기는 부정적인 영향을 축소시키기 위해 중립적인 수사를 사용하는 또 다른 예다. 나는 총기를 소유한 가정, 총기를 흔히 접할 수 있는 동네에서 자랐다. 집에는 잠금 상자에 보관된 권총이 네 자루쯤 있었고, 지하실 금고엔 몇 자루의 소총과 엽총이 있었다. 심지어 1차 세계대전 시절의 합법성이 의심스러운 총기도 옷장에 숨겨져 있었다. NRA(전미총기협회)의 "총이 사람을 죽이는 것이 아니라 사람이 사람을 죽인다"는 말은 익숙했다. 내가 총기 규제를 강화해야 한다고 주장했을 때, 한 이웃은 웃으며 말했다. "총은 사람을 죽이기 위한 게 아니야. 자동차도 사람을 죽일 수 있잖아. 그럼 자동차도 살인 도구냐?"

 

그의 요지는 이렇다: 도구의 사용 결과는 규제를 논할 때 고려할 가치가 없으며, 오직 사용 가능성만 고려해야 한다는 것이다. 총은 도구이며, 그 도구의 사용 방식은 전적으로 사용자에게 달려 있다는 주장이다.

 

하지만 자동차는 이미 엄격히 규제되고, 수천 달러의 비용이 든다. 그러니 망치의 구조를 자세히 살펴보자. 우리는 일반적으로 망치를 나무에 못을 박는 데 사용한다고 생각하지만, 나는 주로 석고보드에 앵커를 박을 때 쓴다. 왜냐하면 나는 연극 무대 장치팀 출신으로 나사는 믿고 못은 덜 신뢰하라고 배웠기 때문이다.

 

어쨌든, 망치의 물리적 형태는 그 주요 용도를 결정한다. 손잡이는 금속으로 연결되어 있고 한쪽 끝은 무디고, 다른 한쪽은 갈고리 모양이다. 이 구조는 사람 팔의 흔들림을 따라 움직이며, 이두박근에서 시작해 팔꿈치, 손목을 거쳐 무딘 끝으로 운동 에너지를 전달한다.

 

망치가 모든 형태의 에너지 전달에 적합한 건 아니다. 작업에 따라 다른 용도로 조정된 다양한 망치들—예: 볼핀 해머(ball-peen hammer)—이 존재하는 이유다. 회사들은 더 좋은 재료나 고무 손잡이 같은 요소를 도입해 망치의 편의성과 효율성을 높이려 한다.

총기처럼, 망치도 무기로 사용될 수 있다. 동일한 힘의 전달 방식이 생명체를 해치는 데도 사용될 수 있다. 비디오게임에서도 망치는 종종 총기, 수류탄 등과 함께 무기류로 등장한다.

 

그러나 망치도, 총도 '그저 도구'는 아니다. 그것들은 특정 목적에 맞게 최적화된 도구다. 우리는 그 목적을 분석하고, 안전성, 장점, 규제의 필요성에 대해 판단을 내릴 수 있다.

 

망치는 해를 입히기에 효율적인 형태가 아니다. FBI 범죄 통계에 따르면, 살인에 사용되는 가장 흔한 무기는 권총이며, 칼이나 절단 도구가 '둔기류'보다 더 높은 순위를 차지한다. 이는 권총이 생명체를 해치기에 훨씬 효율적인 도구라는 뜻이다.

 

망치와 동일한 방식으로 권총을 분해해 보자. 권총은 여러 부품으로 구성되어 있으며, 방아쇠를 당기면 내부 해머가 격침핀을 때리고, 이 핀은 탄피의 기폭제를 터트려 탄환을 발사한다. 일부 고위력 탄환은 금속 관통을 목적으로 하지만, 일반 권총 탄환은 인간의 피부와 조직을 뚫도록 설계되어 있다.

 

 

이러한 구조로 인해 권총은 다른 용도에는 별로 효율적이지 않다. 급하면 권총의 손잡이로 못을 박을 수도 있겠지만, 실제로 그런 용도로 사용된 통계는 없다. 건설 현장에서 공구함 안의 권총 수를 세어보면 충분할 것이다.

 

요점은 명확하다. 총도, 망치도 ‘그저 도구’가 아니다. 그것들은 특정한 목적을 달성하도록 설계된 도구이며, 우리는 그 목적을 근거로 안전성이나 규제 필요성을 논의할 수 있다. 총기 옹호자들은 그 과정을 무력화시키려 한다. 왜냐하면 총기 수와 총기사고 사이의 상관관계를 반박하기 어렵기 때문이다.

 

생성형 AI 지지자들 역시, 이 새로운 기술을 옹호할 때 유사한 중립화된 언어를 반복한다. 그들은 생성형 AI의 목적이 결과로 판단되기를 원치 않기 때문이다. 오직 가능성으로만 판단되기를 바란다.

 

그렇다면 그 목적은 무엇인가? 어쩌면, 진실 자체의 죽음일지도 모른다.

728x90

생성형 AI는 모방을 통한 기만의 도구다

생성형 AI는 기만의 도구다.

 

AI 옹호자들은 그렇게 말하지 않는다. 그들은 보통 AI를 효율성을 위한 도구라고 주장한다. 하지만 효율성은 측정하기 어렵고 조작하기는 쉽다. 기만은 눈에 잘 띄고 분명하다. 학생들은 AI로 레포트를 속여 제출하고, AI로 생성된 목소리를 사용하는 스팸 전화가 증가 중이며, 미국 보건복지부는 실재하지 않는 연구를 인용한 AI 생성 허위 정보를 지적했다. 유튜브에서는 AI로 만든 가짜 영화 예고편으로 조회수를 끌어 수익을 올리기도 했다. Apple은 'Apple Intelligence'를 광고하며 이웃과 가족, 직장 동료를 속이는 장면을 보여주었고, Activision Blizzard는 존재하지 않는 게임을 홍보하는 데 생성형 AI를 사용했다.

 

그러나 문제는 여기에 있다. 게임—그리고 모든 형태의 엔터테인먼트—도 본질적으로 기만이다. 우리는 플레이어를 세계에 몰입시키기 위해 '매직 서클'이라는 개념을 사용한다. 카메라 트릭, 렌더링 기술, 음성 대사를 이용해 디지털 세계를 시뮬레이션한다. 사람들은 기꺼이 게임, 영화, TV, 책, 마술쇼를 소비한다. 왜냐하면 어떤 수준에서는 진실이 아니라 거짓말에 속고 싶어하기 때문이다.

 

AI는 또한 플레이어 개개인에게 맞춤형 경험을 제공하는 기술로 판매되었다. 실시간으로 세계, 비주얼 자산, 오디오를 생성해서 말이다. 그러나 가장 설득력 있는 AI 활용 방안은 대부분 LLM의 존재를 감추고, 플레이어로부터 최소한의 입력만 요구하면서 비밀리에 연산 작업을 수행하는 형태다. 이러한 ‘거짓말’은 공유된 현실을 창조할 수 있다. 완전히 개별적인 현실이 아닌, 함께 믿는 현실 말이다.

 

그것이 바로 차이다. 가상 세계에서의 거짓말은 공유된 현실을 만든다. 현실 세계에서의 거짓말은 그것을 무너뜨린다.

적절하게도, 그런 ‘공유된 현실’의 한 예인 스타워즈: 안도르는 최근 AI를 '그저 도구'로 취급할 때 우리가 지불하게 되는 대가를 경고했다. 등장인물 몬 모스마는 잘 설계된 학살을 미화하는 행위를 비판하는 연설에서 이렇게 말했다.

 

“객관적 현실의 상실이야말로 아마도 가장 위험한 것이다. 우리가 진실을 떠나보내고, 그것을 잃게 되고, 그것을 우리의 손에서 빼앗기면, 우리는 가장 큰 괴성을 지르는 괴물의 먹잇감이 된다.”

 

---

 

* 원문: https://www.gamedeveloper.com/programming/is-generative-ai-really-just-a-tool?