AI에 대한 뒤틀린 환각

피터 배(Seangill Peter Bae) 선생님의 추천으로, 나오미 클라인의 가디언 지 2023년 5월 8일 기고문 <AI 기계는 '환각'을 품지 않는다. 하지만 그들의 제작자는>을 읽어보았습니다. 클라인은 이 글에서 ‘헐루시네이트’hallucinate라는 영어 단어를 쓰고 있습니다. 저로서는 이 단어를 거의 만난 적이 없기에 사전을 찾아보았습니다. 어원사전에서 이 단어가 1650년대에 ‘환상을 품다’to have illusions의 뜻을 지닌 라틴어 alucinatus(후에 hallucinatus)에서 넘어온 단어라고 소개되어 있더군요. 헤매다, 방황하다, 혼란스러워하다 등등의 의미.

클라인은 우리가 '살아있는 지능'을 탄생시키는 과정에 있음을 말합니다. 그러나 ‘뒤틀린 환각’이 AI의 세계에서 벌어지고 있는데, 환각을 일으키는 것은 기계가 아니라 거대 테크 기업의 CEO들이라고 말합니다.

“생성 인공지능(Generative AI)는 빈곤을 종식시킬 것이라고 그들은 말합니다. 그것은 모든 질병을 치료할 것이며, 기후변화를 해결할 것이며, 우리의 일을 더 의미 있고 흥미롭게 만들 것이라고 말합니다. 그것은 우리가 후기자본주의 기계화에 잃어버린 인간성을 되찾도록 도와주면서 여가와 사색의 삶을 풀어줄 것이라고 말합니다. 그것은 외로움을 끝낼 것이라고 말합니다. 그것은 우리 정부를 합리적이고 반응적으로 만들 것이라고 말합니다. 저는 이것이 진정한 AI 환각(real AI hallucinations)이며 작년 말에 Chat GPT가 출시된 이후로 우리 모두가 반복적으로 이러한 환각을 듣고 있다고 생각합니다.”

클라인은 인공지능에 대한 유토피아적 환각(utopian hallucinations about AI)이 왜 일어나고 있는가를 분석하고 있습니다. 또한 이러한 환각이 왜 중요해졌는가를 살펴보고 있습니다. 그것은 AI의 부인할 수 없는 위험을 합리화하는 데 도움이 되기 때문입니다. 클라인이 언급하고 있는 대표적인 환각은 네 가지입니다. 환각1: AI가 기후위기를 해결할 것이다. 환각2: AI가 현명한 거버넌스를 제공할 것이다. 환각3: 거대기술기업이 세상을 무너뜨리지는 않을 것이라고 믿을 수 있다. 환각4: AI는 우리를 고된 일에서 해방시킬 것이다.

“초집중된 권력과 부의 현실에서 AI가 이러한 모든 유토피아적 환각에 부응하는 것과는 거리가 먼, 더 많은 강탈과 약탈의 무시무시한 도구가 될 가능성이 훨씬 더 높다.”는 클라인의 논의는 최근 우리 사회에서 벌어지고 있는, 기술중심주의에 치우친 과도한 논의에 대해 비판적 안목을 제공해주고 있다고 생각합니다. 말하자면, 꿈 깨라는 것!

*나오미 클라인의 주요 저서가 우리말로 번역되어 있습니다. 『No Logo』(1999, 랜덤하우스코리아 2002) 『쇼크 독트린』(2008, 살림Biz 2008) 『이것이 모든 것을 바꾼다』(2014, 열린책들 2016) 『미래가 불타고 있다』(2019, 열린책들 2021) 등.

https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein