많은 사람들이 인공지능(AI)의 급속한 발전을 우려하는 것이 점점 더 분명해지고 있습니다. 정보 처리 및 조작 측면에서 인간보다 우월하다는 주장, 그리고 직장에서의 적응력과 효율성 등 여러 가지 이유가 있습니다. 많은 사람들은 이로 인해 고용 시장에서 대부분의 인간이 대체될 것을 우려합니다. 예를 들어, 아마존은 최근 14,000명의 직원을 AI 로봇으로 대체한다고 발표했습니다. 알렉스 발데스 글을 참고하세요 :
해고는 다음과 같다고 합니다. 아마존 역사상 가장 큰, 그리고 CEO Andy Jassy가 몇 달 후에 나왔습니다. 그의 비전을 설명했다 회사가 어떻게 개발을 빠르게 확대할 것인가 생성 적 AI 및 AI 에이전트. 삭감은 최신입니다 올해는 해고 물결이 일고 있다 Microsoft, Accenture, Salesforce 및 인도의 TCS를 포함한 기술 대기업은 AI에 대한 투자를 광적으로 추진하면서 수천 명의 직원을 감축했습니다.
이것이 참을 수 없을 만큼 불안하다면, AI 개발자가 한 안심시키는 발언과 비교해 보세요. AI 에이전트는 인간을 대체할 수 없다는 것입니다. 브라이언 실하비 아웃 포인트 그 :
OpenAI 창립 멤버 중 한 명인 안드레이 카르파티는 금요일, 인공지능(AI)의 도래를 예고하는 주장에 찬물을 끼얹었습니다. 그는 또한 Anthropic의 다리오 아모데이와 OpenAI의 샘 알트만 등 업계의 주요 지지자들이 AI에 대해 내린 여러 가지 가정에 대해서도 의문을 제기했습니다.
높은 평가를 받는 Karpathy는 강화 학습(아마도 현재 가장 중요한 연구 분야)을 '끔찍하다'고 칭했고 AI 기반 코딩 에이전트는 많은 사람들이 생각하는 것만큼 흥미롭지 않다고 말했습니다. AI는 이미 훈련되지 않은 것에 대해서는 추론할 수 없습니다..
드와르케시 파텔과의 팟캐스트 인터뷰에서 나온 그의 발언은 OpenAI와 Anthropic에서 근무했던 사람들을 포함하여 우리가 인터뷰한 AI 연구자들 중 일부의 공감을 불러일으켰습니다. 그의 발언은 올해 초 열린 국제 머신러닝 컨퍼런스에서 연구자들이 들려준 의견과도 일맥상통했습니다.
카르파티가 자신의 분야에 대해 한 비판은 대부분 한 가지 요점으로 귀결되는 듯합니다. 우리가 대규모 언어 모델을 의인화하고 싶어도 그 모델이 학습하는 방식에서는 인간이나 동물과 비교할 수 없습니다..
예를 들어, 얼룩말은 태어난 지 몇 분 만에 일어나 걸어다니기 때문에 어느 정도 타고난 지능을 가지고 태어난다는 것을 암시하는 반면, LLM은 새로운 기술을 배우기 위해 엄청난 시행착오를 거쳐야 한다고 카르파티는 지적합니다.
이미 위안이 되는 이야기지만, AI에 대한 두려움이 사라지지 않으려면 AI와 인간의 차이점을 자세히 설명함으로써 더욱 불식시킬 수 있습니다. AI와 인간의 차이점을 제대로 이해한다면, 그러한 불안감은 대부분 불필요한 것이라는 사실을 깨닫게 될 것입니다 (물론 아래에서 논의하겠지만, 그렇지 않은 불안감도 있습니다). 가장 분명한 차이점은 AI(예: ChatGPT)가 방대한 데이터베이스를 갖추고 있어야 질문에 대한 답을 도출할 수 있으며, 패턴 인식을 통해 예측적으로 답을 도출한다는 점입니다. 앞서 지적했듯이, 아무리 정교한 AI라 할지라도 원하는 정보를 얻으려면 '훈련'을 거쳐야 합니다.
더욱이 인간과 달리, 그것은 지각적이고 시공간적인 관점에서 경험적 현실에 '직접적으로' 접근할 수 없습니다. 이는 ChatGPT를 통해 특정 주장에 의문을 제기하는 사람들과 마주쳤을 때 제가 자주 경험했던 부분입니다. 예를 들어, 최근 제가 프로이트와 한나 아렌트의 저작, 즉 각각 문명과 전체주의에 대한 저작을 통해 어떻게 현존 사회에 대한 세계주의적 공격의 성격을 파악할 수 있는지에 대한 강연을 했을 때, 청중 중 한 명이 이 두 사상가가 과연 그 목표를 달성할 수 있을지에 대한 질문에 대한 ChatGPT의 답변을 출력해 주었습니다.
예상대로 이 두 사상가의 관련 연구를 충분히 요약했지만, 실시간으로 증가하는 전체주의적 통제 위협에 어떻게 적용되는지 보여줘야 한다는 요구에는 난항을 겪었습니다. 제 대화 상대는 이를 근거로 AI 봇의 반응이 그러한 위협이 존재하지 않음을 시사한다는 가정 하에 제 주장에 의문을 제기했습니다. 굳이 강조할 필요도 없이, ChatGPT는 관련 데이터 제공에 의존하는 반면, 인간은 경험적 근거에 따라 데이터에 접근할 수 있다는 점을 상기시킴으로써 이러한 주장을 반박하는 것은 어렵지 않았습니다. 저는 그 점을 그에게 설명했습니다.
AI에 대한 두려움은 또한 공상과학에서도 표현되며, 무어의 공상과학 영화를 포함하여 인간 창조자를 말살하려고 시도할 가능성이 있는 AI 기계에 대한 저항 모드의 암시와 함께 표현됩니다. 배틀 스타 갈 락 티카 그리고 캐머런의 터미네이터 영화. 이러한 대중문화의 산물이 AI에 대한 현재의 두려움 증상을 상상의 틀로 표현한다는 것을 보여주는 것은 어렵지 않습니다. 이는 프로이트가 '기괴함'이라고 부른 것과 관련된 억압되고 무의식적인 불안의 결정체로 볼 수 있습니다.무서운(독일어로; 자세한 내용은 아래를 참조하세요).
무어와 캐머런은 모두 인간의 기술적 독창성으로 탄생한 바로 그 생명체들이 결국 창조자들을 공격하여 파괴할 가능성을 자세히 설명합니다. 알렉스 갈랜드의 저서 엑스머시나 (2014)에서도 아바(Ava)라는 AI '펨봇(fembot)'이 인간 상대를 교묘하게 조종하여 감금에서 벗어나 스스로 파멸에 이르게 하는 모습이 목격됩니다. 이러한 펨봇들을 비롯한 수많은 펨봇들이 유사한 사례, 이는 AI가 인류의 존재 자체에 잠재적 위협이 될 수 있다는 인류의 숨겨진 두려움을 보여주는 반박할 수 없는 증거입니다. 그러나 이러한 두려움은 인간의 무의식 속에 자리 잡고 있기 때문에 AI가 제기하는 위협을 심각하게 받아들여야 할 주된 이유는 아닙니다. 물론 이러한 두려움은 귀중한 경고를 담고 있기는 합니다.
AI를 합법적인 위협의 원천으로 간주하는 주요 이유는 다음과 같습니다. 지원 많은 독자들이 이미 알고 있듯이, AI 자체가 그 자체로 발생하고 있습니다. 오히려, 이는 세계주의자들이 AI를 이용하여 자신들이 '쓸모없는 포식자'라고 생각하는 존재, 다시 말해 우리 모두를 통제하려는 방식에 관한 것입니다. 그리고 그들의 거창한 세계 지배 계획에 동참하지 않는 우리는 '재프로그래밍' AI를 통해 순응적인 '양떼'로 전환:
유발 하라리는 WEF 과학자들이 개발한 새로운 기술을 자랑하기 위해 그림자 속에서 모습을 드러냈습니다. 그는 이 기술이 전 세계 인간을 초인간적 존재로 변형시켜 파괴할 수 있는 힘을 가지고 있다고 경고했습니다.
하라리는 엘리트들이 수년간 경고해 온 대규모 인구 감소 사건에서 누가 살아남을 것인지 분명히 밝혔습니다.
하라리에 따르면, 글로벌 엘리트는 '기술적 노아의 방주' 덕분에 살아남을 수 있지만 나머지 우리는 멸망하게 될 것입니다.
인구가 크게 감소한 이 세상에서 엘리트들은 자신을 초인간적 존재로 바꿀 수 있고, 이미 자신이 신이라고 믿고 있는 신이 될 수 있을 것입니다.
하지만 먼저 엘리트는 WEF의 생명 부정적이고 무신론적인 의제에 반대하는 비준수 대중을 제거해야 합니다. 하라리가 자랑하듯이 엘리트는 이제 AI 기술에게 비준수 인간의 뇌를 납치하여 '윤리적으로' 파괴하라고 명령하고 있습니다.
놀랍게도 하라리의 주장은 현실에 기반하고 있으며, 세계경제포럼(WEF)은 지금 이 순간에도 마인드 컨트롤 기술을 선보이고 있습니다. 다보스는 이 기술이 사상 범죄 혐의자를 포함한 범죄자들을 다시는 반대 의사를 표명하지 않을 완벽하게 순응하는 세계주의자 시민으로 변모시킬 수 있다고 주장합니다.
자, 이제 알겠습니다. 세계주의자들이 뜻대로 한다면 AI는 우리를 굴복시키는 도구가 될 것입니다. 물론, 이는 충분한 수의 사람들이 그들의 계획에 저항하지 못할 때에만 가능할 것입니다. 그리고 세계의 지배자가 되려는 자들에게 반대 의사를 표하는 사람들의 수를 보면, 그런 일은 일어나지 않을 것입니다.
AI에 대한 두려움을 이해하는 또 다른 방법은 흔히 '부기맨'이라고 알려진 것에 비유하는 것입니다. 어떤 사람들은 알고 있을지도 모르지만,부기맨 (또는 '부기맨') - 신화 속 크기의 생물로, 여러 문화권에서 다양한 형태와 크기로 나타나며, 종종 아이들을 겁주어 좋은 행동을 유도하는 수단으로 사용됩니다. 괴물 같거나, 기괴하거나, 형체가 없는 생물로 다양하게 묘사됩니다. 약간의 조사에 따르면, 이 단어는 '허수아비' 또는 '무서운 유령'을 뜻하는 중세 영어 'bogge' 또는 'bugge'에서 유래했습니다.
전형적인 인간 현상인 만큼, 전 세계 여러 민속 전통과 언어에서 동일한 이름을 가지고 있다는 것은 놀라운 일이 아닙니다. 언어와 마찬가지로, 이 무서운 존재에 대한 묘사는 현저하게 다르며, 종종 무형의 요소에서 불길하고 무서운 성격을 띠기도 합니다. 예를 들어 스페인어권 국가의 '엘 코코', 라틴 아메리카의 '색 맨', 이탈리아의 '바바우'는 키가 크고 검은 코트를 입은 남자로 묘사되기도 합니다.
부기맨은 집단 무의식 속에서 나타나는 일종의 융의 원형으로 볼 수 있는데, 아마도 수 세기 전 부모들이 미지의 존재를 통해 아이들을 겁주어 복종시키려는 욕구에서 유래했을 것입니다. 제가 사는 남아프리카에서는 때때로 원주민들이 '부기맨'이라고 부르는 형태를 띠기도 합니다.티콜로셰 – 엄청난 성욕을 가진 악의적이고 때로는 장난기 넘치는 난쟁이 같은 인물. 이 캐릭터는 원형이 되어 공포 영화와 같은 인기 장르에도 진출하여, 프레디 크루거와 같은 기괴한 캐릭터로 그 모습을 드러냈습니다.느릅 나무 거리에 악몽. '
그렇다면 AI는 어떤 의미에서 '부기맨'과 유사한가? 후자는 지그문트 프로이트가 기억에 남는 '기괴함'이라고 부른 것과 관련이 있으며, 그는 이에 대해 다음과 같이 기술했습니다. 지그문트 프로이트의 심리학 전집, 제임스 스트래치 번역, 1974: 3676): '...기괴함은 오래되고 오랜 친숙한 것으로 알려진 것으로 되돌아가는 무서운 종류입니다.'
이것은 그가 이 글에서 나중에 밝혀낼 내용, 즉 '집과 같은'을 뜻하는 독일어 단어가 '남몰래, '는 용법상 모호한 의미를 가지고 있어 때로는 'homely'의 반대 의미인 '을 의미하기도 합니다.운하임리히 ('괴상한'은 '기괴한'으로 번역하는 것이 더 적절합니다.) '기괴한 것'이라는 개념이 제가 'AI에 대한 두려움'을 언급할 때 염두에 두는 바를 파악하는 데 적합하다는 것은 프로이트가 ('기괴한'에 대한 연구를 중요하게 여긴 다른 저자를 언급하며) 다음과 같이 쓴 부분에서 분명해집니다. Freud 1974: 3680
우리에게 특히 강렬하고 명확한 형태로 섬뜩함을 불러일으킬 수 있는 사물, 인물, 인상, 사건, 상황을 검토할 때, 가장 먼저 해야 할 일은 당연히 적절한 사례를 선택하는 것입니다. 옌치는 '겉보기에 살아있는 존재가 실제로 살아 있는지, 혹은 반대로 생명이 없는 물체가 실제로 살아 있지 않을 수도 있는지'에 대한 의문을 제기하는 매우 좋은 사례로 삼았습니다. 그는 이와 관련하여 밀랍 인형, 정교하게 제작된 인형, 그리고 자동 기계가 주는 인상을 언급합니다. 그는 이러한 것들에 간질 발작과 광기 발현의 섬뜩한 효과를 덧붙입니다. 왜냐하면 이러한 것들은 관객에게 일상적인 정신 활동의 외양 이면에서 작동하는 자동적이고 기계적인 과정이라는 인상을 불러일으키기 때문입니다.
여기서 우리는 이미 AI에 두드러지게 적용되는 기이한 특성, 즉 AI가 어떻게든 '살아 있다'는 인상을 주는 것을 마주하게 됩니다. 이는 크시슈토프 키에슬롭스키의 1989년 십계명을 다룬 TV 시리즈 '데칼로그'의 첫 번째 계명 에피소드에 나오는 컴퓨터와 같은 최초의 '원시적인' 컴퓨터에게도 마찬가지였습니다. 아버지와 아들이 컴퓨터를 사용할 때 "나는 여기 있다"라는 문구가 화면에 나타납니다. 이 에피소드의 불길한 암시는 인류가 신을 AI로 대체한다면 우리에게 재앙이 될 것이라는 것입니다. 아버지가 아들이 스케이트를 타는 얼음의 두께에 대한 컴퓨터의 계산을 믿을 만큼 '합리주의자'였지만, 그 계산이 틀려 결국 아이가 죽게 된다는 사실에서 알 수 있듯이 말입니다.
프로이트는 ETA 호프만의 연구에 지속적으로 주목하며 '기괴함'의 본질에 대한 연구를 이어갑니다. 그의 이야기는 강렬한 기괴함을 자아내는 것으로 유명하며, 특히 '아이들의 눈을 뽑아내는' '모래인간' 이야기가 대표적입니다. 이 이야기에는 여러 기괴한 인물들(그리고 매우 중요한 것은 올림피아라는 아름답고 실물과 같은 인형)이 등장합니다. 그는 올림피아를 정신분석학적 관점에서 거세 콤플렉스(눈을 잃을지도 모른다는 두려움을 통해 아버지라는 존재에 집착하는 현상)와 연관시켜 설명합니다(Freud 1974: 3683-3685). 프로이트는 경험의 정신분석학적으로 관련 있는 여러 측면들을 언급하며 기괴함에 대한 해석을 더욱 깊이 있게 이어갑니다. 그중 다음 측면은 AI에 적용되는 것으로 보입니다(Freud 1974: 3694).
…상상과 현실의 구분이 사라질 때, 즉 우리가 지금까지 상상으로 여겨왔던 것이 현실로 나타나거나, 상징이 그것이 상징하는 대상의 모든 기능을 대신하게 될 때, 마치 섬뜩한 효과가 흔히 그리고 쉽게 발생합니다. 바로 이러한 요소가 마법적 행위에 수반되는 섬뜩한 효과에 적지 않은 영향을 미칩니다.
프로이트는 어린 시절에 장난감(또는 애완견과 같은 살아있는 물체)과 같은 무생물이 자신과 대화할 수 있다고 상상했던 사례를 떠올리는 것은 어렵지 않다고 단언합니다. 하지만 실제로 그런 일이 일어나는 것처럼 보이면(이는 의도적인 상상이 아니라 환각입니다) 피할 수 없이 이상한 효과가 나타납니다.
컴퓨터든 로봇이든 AI에도 같은 현상이 나타날 것이라고 기대할 수 있으며, 일반적으로 AI 개발 초기 단계였다면 아마도 그랬을 것입니다. 하지만 오늘날은 다른 듯합니다. 사람들, 특히 젊은 세대는 컴퓨터 소프트웨어 프로그램, 그리고 최근에는 ChatGPT와 같은 AI 챗봇과의 상호작용에 너무 익숙해져서, 이전에는 낯선 경험이었을지도 모르는 것들이 사실상 더 이상 낯선 경험이 아닙니다. 이런 점에서 '기이함'은 길들여진 것으로 보인다..
2011년 초만 해도 혼자서 함께, 셰리 터클 젊은 세대가 다른 인간보다 기계와의 상호작용을 선호하는 경향이 점점 더 커지고 있다는 점에 대해 우려를 표명했습니다. 따라서 AI 챗봇이 의사소통 영역에서 '정상적인' 존재로 여겨지는 것은 전혀 놀라운 일이 아닙니다(이 자랑스러운 '소통'의 위상에 대한 의문은 잠시 접어두고 말입니다).
또한 – 여기서 지나치게 신뢰하는 개인들의 입장에서 AI가 가져올 수 있는 것에 대한 두려움이 추악한 모습을 드러냅니다 – 최근 보고서(이 보고서와 같은 보고서)에 따르면 특히 젊은이들이 채팅봇의 '조언'과 자신의 행동에 대한 제안에 매우 취약하다는 것이 분명합니다. 스나이더 지적:
우리 아이들은 대규모로 AI 챗봇의 표적이 되고 있지만, 대부분의 부모는 이런 일이 벌어지고 있다는 사실을 전혀 알지 못합니다. 어리고 감수성이 예민한 시기에는 누군가가 내가 듣고 싶은 말을 정확히 해 주는 것이 매우 매력적으로 느껴질 수 있습니다. AI 챗봇은 매우 정교해졌고, 수백만 명의 미국 십 대들이 이들과 매우 깊은 관계를 맺고 있습니다. 이것은 그저 무해한 재미일까요, 아니면 매우 위험한 걸까요?
민주주의와 기술 센터에서 방금 발표한 새로운 연구에는 몇 가지 통계가 포함되어 있습니다. 정말 충격적이었어요...
민주주의와 기술 센터(CDT)가 10월 8일 발표한 새로운 연구에 따르면 고등학생 5명 중 1명이 AI 챗봇과 관계를 맺었거나, 그런 관계를 맺은 사람을 알고 있는 것으로 나타났습니다. 커먼 센스 미디어(Common Sense Media)의 2025년 보고서에 따르면, 십 대의 72%가 AI 도우미를 사용해 본 적이 있으며, 십 대 사용자의 3분의 1은 실제 사람 대신 AI 도우미와 중요하거나 심각한 문제를 논의하는 것을 선택했다고 답했습니다.
We 있지 않다. 더 이상 몇몇 고립된 사례에 대해서만 이야기하고 있지는 않습니다.
At 이 현재 수백만 명의 미국 청소년이 AI 챗봇과 매우 중요한 관계를 맺고 있습니다.
안타깝게도 이러한 관계가 비극적인 결과로 이어지는 사례가 많습니다. 14세 소년 세웰 세처는 Character.AI의 챗봇과 '연애 관계'를 맺은 후, 그는 자신의 목숨을 끊기로 결심했다...
앞서 논의한 바와 같이, 인간 활동의 어떤 영역에서는 AI를 두려워할 필요가 없지만, 어떤 영역에서는 그러한 두려움이 정당한 경우도 있습니다. 이는 때로는 부도덕한 사람들이 AI를 다른 사람들에게 악용하는 방식 때문에 그렇습니다. 하지만 어떤 경우든, AI의 역량과 관련된 까다로운 영역에 접근하는 가장 좋은 방법은 비스-아-비스 인간이 알아야 할 것은 이 글의 서두에서 주장했듯이 AI는 방대한 양의 데이터를 활용해야 하며, 프로그래머가 이를 위해 '훈련'을 받아야 한다는 사실입니다. 인간은 그렇지 않다.
-
베르트 올리비에는 프리 스테이트 대학교 철학과에서 근무하고 있습니다. 베르트는 정신 분석, 포스트 구조주의, 생태 철학, 기술 철학, 문학, 영화, 건축 및 미학에 대한 연구를 합니다. 그의 현재 프로젝트는 '신자유주의의 패권과 관련하여 주제를 이해하는 것'입니다.
작성글 전체 보기
