우리가 아는 민주주의와 자본주의는 오랫동안 긴장되지만 조화로운 결합으로 공존해 왔습니다. 하지만 이제 이 관계에 제3자가 등장했습니다. 바로 AI입니다.
이전의 파괴적 변화들과는 달리, 이번 파괴적 변화는 사라지지 않을 것입니다. AI는 단순히 파괴적인 존재가 아니라, 영구적이고 기하급수적으로 존재하는 존재입니다. 이제 문제는 현 형태의 민주주의와 자본주의가 공존할 수 있느냐가 아니라, 어느 쪽이 먼저 붕괴될 것인가입니다.
AI의 존재는 민주주의와 자본주의 사이에 제로섬 게임을 야기합니다. 둘 다 살아남지 못할 것입니다. AI는 이 두 개념을 상호 배타적으로 만듭니다. 이제 하나는 다른 하나에 대한 실존적 위협이 되며, 두 기둥 중 하나가 먼저 무너질 것입니다. 통계적 틀을 뒤집고 집단 행동을 통해 알고리즘을 파괴하지 않는 한, 저는 민주주의에 베팅할 것입니다.
우리가 시장 논리, 기술 가속화, 그리고 강력하고 건강한 경제와 사회보다 민간 및 정부와 연계된 민간 권력을 선호하는 현재의 길을 계속 간다면, 민주주의는 먼저 양보할 가능성이 높습니다. 왜냐하면 현재 구조에서 이익을 얻는 기득권 세력이 자신들의 권력을 지탱하는 시스템에 대한 통제권을 포기하기는커녕 민주적 의지를 중단, 전복 또는 무시할 것이기 때문입니다.
처음부터 우리가 마주하는 첫 번째 장애물은 우리가 "자본주의"라고 부르는 것의 부패하고 조악한 버전입니다. 이론과 실제는 완전히 다른 존재입니다. 이념적 자본주의(진정한 자본주의)는 '정실 기업 자본주의'라는 정점에 있는 포식자에게 납치당했습니다. 진정한 자본주의(부패하지 않은 자유 시장과 인권 및 시민권과 함께 진정한 자유 시장 원칙을 고수하는 것)는 우리가 열망해야 할 것이지만, 현재 현실에서는 그렇지 않습니다. 그 자리에는 규제된 시장, 약탈당한 소규모 생산자, 무력화된 소비자, 특권을 누리는 거대 기업 이익, 그리고 기관 포획(규제해야 할 기업 산업으로부터 자금을 지원받는 기관)이 있습니다. 현재의 자본주의는 "기업주의"라고 표현하는 것이 더 적절할 것입니다.
자본주의와 진정한 자유 시장 사회라는 개념의 이념이나 이념적 상태는 오늘날 이 나라에서 구현되는 모습과는 극명한 대조를 이룹니다. 자본주의는 자동차를 몰고 오지만, 자본주의는 뒷좌석에 앉아 있고 기업주의는 운전대를 잡고 있습니다.
그렇다면 이런 의문이 생깁니다. 사람들은 왜 현재 존재하는 자유 시장 자본주의를 그대로 받아들이는 걸까요? 정도의 차이는 있지만, 사람들은 여전히 자유 시장 자본주의에서 투표하고 있습니다. 비록 현재 자유 시장 자본주의가 실제로 실행되고 있지는 않지만 말입니다. 사람들이 자신의 이익에 반하는 투표를 하도록 조종당하고 있다고 말하는 것은 지나친 단순화입니다. 저는 두 가지 더 현실적인 이유가 있다고 생각합니다.
- 사람들은 꿈에 속아 넘어갑니다. 가장 순수한 형태로 말하면, 그것은 바로 희망입니다. 꿈의 그 부분이 실현 가능하든 그렇지 않든, (대부분의) 사람들은 "아메리칸 드림"의 어떤 측면이라도 이룰 수 있다고 믿고 싶어 합니다. 설령 그 꿈이 희미해져 간다 하더라도, 그 꿈에 대한 갈망은 여전히 강렬합니다. 희망이 없는 사회는 취약하고 폭발적으로 변하는 경향이 있습니다. 열망이 부재한 국가들을 세밀하게 살펴보면, 희망이 사라졌을 때 사회에 어떤 일이 일어나는지 암울하게 엿볼 수 있습니다.
- 대부분의 사람들은 공정성이라는 근본적인 개념이 상향 이동의 가능성과 연관되어 있다고 믿고 싶어 합니다. 대부분의 사람들은 – 다시 말하지만, 어느 정도 – 일반적으로 더 열심히 일하면 더 많은 돈을 벌고 유지할 수 있어야 하며, 부는 사회에 대한 기여도에 비례해야 한다는 것을 암묵적으로든 직관적으로든 이해합니다. 개미와 메뚜기이것은 탐욕이 아닙니다. 노력에는 보상이 따른다는 믿음입니다. 자선이나 사회적 형평성을 중시하는 사람들 사이에서도 개인의 기여는 보상받아야 한다는 강한 기본적 기대가 일반적으로 존재합니다. 이는 대부분의 사람들이 공감하는 수준의 연민과 자선을 배제하는 것은 아닙니다. 다만, 일반적으로 모든 조건이 동일하다면 (종종 그렇지 않은 경우도 있지만, 이에 대해서는 나중에 다루겠습니다) 더 열심히 일하고, 더 많이 벌고, 미래를 계획하고, 발전하는 개념은 대부분의 합리적인 미국인이 지지할 수 있는 것이라는 점입니다.
하지만 현재의 경제 구조는 이미 그 계약을 압박하고 있습니다. 이 나라에서 "꿈"은 부채 금융과 상속받은 부의 "규범"에 의해 위축되었습니다. 조세 허점, 의무, 제한, 그리고 기업 자본주의의 조작된 시스템은 번영으로 가는 길을 더욱 좁고, 가파르고, 제한적으로 만들었습니다.
인프라는 조용히 규칙과 목표를 바꾸어 자본을 가진 자들은 (종종 부당하게 얻은) 자본을 손쉽게 키울 수 있도록 하고, 자본이 없는 자들은 더욱 뒤처지게 만듭니다. 마치 따뜻한 물 속의 개구리처럼, 그 속도는 느리고 점진적으로 나타나 아무도 눈치채지 못하게 합니다. 부유한 자들은 더 쉽게 승진할 수 있도록, 부유하지 않은 자들은 더 어렵게 만드는 발판이 세워지면서, 모든 음모를 은폐하고 대중의 인식을 흐리게 만듭니다.
대부분의 사람들은 이 문제에 대해 막연하게나마 인지하고 있지만, 기계적으로는 여전히 실체가 없고 완전히 이해하기 어렵습니다. 이는 불균형에 대한 본능적인 결정입니다. (아직은) 완전히 지속 불가능한 것은 아니지만, 이러한 불균형은 처음에는 미미하게나마, 시야 아래 수준에서 일종의 불안을 불러일으킵니다. 하지만 이러한 불균형은 공정성을 약화시킬 뿐만 아니라 분노를 촉발합니다.
많은 사람들이 정직한 노력에 대한 보상이 불균형적이거나 전혀 주어지지 않고, 자녀들이 나아갈 길이 보이지 않을 때, 사회는 점차 반란으로 치닫습니다. 우리는 이미 이러한 상황을 목격했습니다. 프랑스 혁명과 러시아 혁명은 하룻밤 사이에 일어난 것이 아니라, 대중의 절망 속에서 끓어오르는 분노 속에서 시작되었습니다.
불균형이 심화되고 그 불꽃이 불꽃으로 변하면, 사람들은 더욱 농노제에 내몰린다고 느낄 것입니다. 상향 이동의 가능성을 없애고, 최상위 계층에게 몰락에 대한 공포를 심어준다면, 혁명으로 향하기 시작할 것입니다. 비유적인 의미가 아니라 문자 그대로의 의미입니다. 어떤 사람은 자신은 병들고 일했는데 다른 사람은 부를 얻을 만한 가치가 없거나 벌지 않았을 때 분개할 것입니다(공정성). 그리고 어떤 사람은 희망이 없는 반면, 과도한 사람들이 자신을 억압한다고 여겨질 때 억압과 속박을 느낄 것입니다(평등성). 그런 사람들을 충분히 많이 만들어낸다면 프랑스 혁명이 일어날 것입니다. 모든 구제 수단을 없애버린다면 볼셰비키 혁명이 일어날 것입니다.
하지만 우리는 아직 거기까지 이르지 않았습니다. 그 불씨는 아직 타오르고 있지만, 아직 불이 붙지는 않았습니다. 물론 우리는 위태로운 상황에 처해 있지만, 그 임계점에는 아직 도달하지 않았습니다. 사람들은 아직 "반란"의 불씨를 지피는 지점에 도달하지 않았습니다. 이 결혼 생활은 분명 치열한 시련을 겪었지만, 겉보기에는 극복 가능한 불찰처럼 보이며, 아마도 심리 치료를 통해 해결될 수 있을 것입니다. "상위 1%"라는 단어가 아무리 파괴적이라 하더라도, 그 영향력은 극복할 수 없는 것이 아니며, 대다수의 미국인들은 제프 베조스가 될 수는 없더라도, 자신도 편안한 삶을 살고 자녀들에게 더 나은 삶과 유산을 물려줄 수 있다는 생각에 여전히 어떤 식으로든 동의합니다.
이제 AI를 추가하세요.
AI는 희망과 흥정을 모두 파괴합니다. 대다수의 사람들이 돈을 벌 수 있다는 현실적인 희망을 앗아갑니다. 결국 80~90%는 기계와 경쟁할 수 없기 때문에 일하지 않거나 아예 일하지 않게 될 것이기 때문입니다. AI가 인간의 일을 더 빠르고, 효율적이며, 더 저렴하게, 그리고 어쩌면 더 잘 해낼 수 있다면 (이미 일부 분야에서는 이러한 현상이 나타나고 있습니다), 인간 노동자는 쓸모없게 됩니다. 그리고 이와 함께 성과 기반 보상의 전제 자체가 사라집니다. 사람들이 더 이상 자신의 노동력이나 기술, 전문성을 팔 수 없게 되면, "계속 노력해서 성공한다"는 꿈은 사라집니다. 목적, 존엄성, 그리고 의미를 앗아갑니다. 갑자기 사람들은 단순히 가난해지는 것이 아니라, 무의미해집니다. 그리고 이는 훨씬 더 사기를 저하시키고 불안정하게 만듭니다.
기업주의는 이미 그 모순의 무게에 짓눌려 있습니다. 부를 가진 자들은 부를 보호하고 증식하기 위한 시스템을 구축합니다. 반면, 부를 갖지 못한 자들은 그저 살아남기 위해 더 높은 장벽에 직면합니다. AI는 우리가 현재 경험하는 경제적 이동성에만 도전하는 것이 아닙니다. AI는 사람들을 AI에 묶어두는 마지막 끈, 즉 노력이 보상으로 이어진다는 생각을 깨뜨립니다. AI는 속도, 규모, 비용 면에서 인간을 능가할 수 있습니다. AI의 역량이 커짐에 따라 육체 노동뿐 아니라 창의적, 분석적, 감정적 노동까지 더 많은 일자리를 대체하게 될 것입니다. 인간의 생산성은 무의미해집니다. 아무도 당신이 제공하는 것에 대한 대가를 지불하지 않을 때, 일에 대한 장인정신, 기술, 그리고 자부심은 사라집니다.
AI가 대부분의 일자리, 아니 모든 일자리를 대체하고 아무도 일하거나 일할 수 없게 될 때 세상은 달라 보입니다. 희망이 사라지고, 가치 있는 직업이나 기술을 연마하는 것이 더 이상 가치가 없고 아무런 목적도 달성하지 못하며, 잘한 일이나 잘 익힌 기술이나 예술에 대한 자부심이 사라질 때 세상은 달라 보입니다.
인간이 자신과 가족, 공동체, 그리고 세상을 위해 열심히 일하고 생산적으로 살겠다는 욕망을 앗아가는 것은 곧 인간의 목적을 잃는 것입니다. 인간은 더 이상 삶이나 존재의 어떤 역동성에도 기여할 것이 없으며, 번영으로 향하는 길도 없습니다. 얻을 것이 없다면 잃을 것도 없으며, 잃을 것이 없는 많은 사람들보다 더 위험한 것은 없습니다. 공산주의가 결코, 아니 영원히 성공하지 못한 데에는 이유가 있습니다. 착취적이고 부패했기 때문만은 아닙니다.
자본주의의 기본 구성 요소 중 하나는 재산권인데, 해변가 부동산은 한정되어 있습니다. 300억 명의 미국인이 모두 같은 액수의 돈을 받고 아무것도 비용이 들지 않는다면 어떻게 될까요? 기여할 유인도 없고, 상향 이동의 희망도 없습니다. 아무것도 가치가 없는 세상에서 재산은 가장 중요한 상품/자원이 되고, 시간이 지남에 따라 절망에 빠진 사람들은 재산권 같은 것을 존중하지 않게 될 것입니다.
부를 물려받고 바다에 부지를 소유한 사람이 수백만 명의 절망적인 시민들로부터 자신을 보호해 줄 민주주의 법에 의지하고 있다면, 저는 네브래스카에 있는 다른 해안 부지를 그에게 팔고 싶습니다. 왜냐하면 지금은 프랑스 혁명과 볼셰비키 혁명을 지켜보고 있는데, 어느 경우든 그들은 소수 민족이 아니기 때문입니다.
일자리는 사라지고 재산은 희소한 세상에서 기업주의는 재앙적인 불평등으로 이어진다. 할 일도 없고, 성공할 방법도 없고, 자녀들이 더 잘 살 것이라고 믿을 이유도 없는 수백만 명의 미국인을 상상해 보라. 재산권은 정당성을 잃고, 법치는 무너진다. 절벽 위의 해변 별장은 더 이상 야망을 불러일으키지 못하고, 오히려 혁명을 불러일으킨다.
하지만 이 모든 것이 아무리 중요하게 들리더라도, 그것은 소음일 뿐입니다. 왜냐하면 다음에 일어날 일이 바로 핵심이기 때문입니다. 그 시점에 진정한 자본주의의 잔재는 사라지고, 우리는 기업주의의 완전한 제복을 입고 있는 자신을 발견하게 될 것입니다. 굳건한 권력은 굴복하지 않을 것이기 때문입니다. 그 시점에 가면(그리고 장갑)은 벗겨지고, 우리는 완전한 기업주의/과점 체제로 돌입할 것입니다. 만약 AI가 부유층과 권력층을 선택의 기로에 놓이게 한다면, 그들은 끝까지 기업 자본주의 편에 설 것입니다. 그들은 단순히 자신이 선호하는 지위가 투표로 버려지는 것을 허용하지 않을 것이며, 민주주의와 우리를 늑대에게 내던질 것입니다. 현재의 부패한 시스템의 수혜자들은 민주주의를 버리는 것을 의미하더라도 그것을 보존하기 위해 가능한 모든 것을 할 것입니다.
이는 추측이 아니라 역사적 선례입니다. 기업 자본주의가 부의 축적을 위협하는 방식으로 도전받을 때마다 – 노동계 봉기, 규제 개혁, 민주적 재분배 등 – 강력한 이익집단은 저항합니다. 그들은 언론의 담론을 차용하고, 입법가들에게 로비 활동을 펼치고, 싱크탱크에 자금을 지원하고, 법적·기술적 장벽을 구축합니다.
진정한 자본주의는 결혼 생활을 개선하려 한다. 기업주의는 청부살인업자를 고용하려 한다. 민주주의가 기업주의를 중단하기로 투표한다면, 기업주의는 민주주의를 중단시킬 뿐만 아니라 파괴할 것이다.
해결책을 향한 당연한 논리적 첫걸음은 자본주의의 방향을 수정하여 본래의 모습에 더 가까워지는 것입니다. 그러나 기득권 세력은 현재의 자본주의에서 이득을 얻습니다. 민주주의가 변화를 요구한다는 이유만으로 권력을 포기하지는 않을 것입니다. 민주적 의지와 자본주의적 지배 중 하나를 선택해야 한다면, 그들은 언제나 지배를 선택할 것입니다. 정실 자본주의의 수혜자들은 민주주의가 자신들의 우위를 무너뜨리도록 내버려 두지 않을 것이며, 권력의 도구, 즉 돈, 미디어, 정책, 그리고 이제는 AI까지 장악하고 있습니다.
민주주의가 그들의 지배력을 위협할 때, 그들은 협상하지 않습니다. 법을 재정의하고, 반대 의견을 억누르고, 허위 정보에 자금을 지원하고, 감시를 확대합니다. 그들은 집단이 아닌 자본을 보호하기 위해 신속하고 단호하게 행동합니다. 그리고 AI는 그들에게 궁극의 무기를 제공합니다. 이를 통해 반대 의견이 폭발하기 전에 예측하고, 통제하고, 예방할 수 있습니다. 그들은 그 권력을 자발적으로 넘겨주지 않을 것입니다. 투표하는 대중에게도, 민주적인 절차에도, 그리고 그들의 패권을 위협하는 어떤 세력에게도 말입니다. 그들은 AI로 강화된 시스템에 대한 통제권을 포기하지 않을 것입니다. 오히려 이를 무기화하여 지배력을 더욱 공고히 할 것입니다. 감시, 예측적 치안 유지, 정보와 행동에 대한 알고리즘적 통제 - 이러한 도구들은 이미 존재하며 이미 활용되고 있습니다.
하지만 우리는 이중고에 빠져 있습니다. 다른 나라들이 AI를 개발하고 있고, 실제로 우리 모두를 파멸시킬 수 있는 애플리케이션을 개발하고 있는데, 우리는 AI를 개발하지 않을 수 없습니다. 이는 중국이라는 함정에 빠져 있는 것과 마찬가지이며, 우리는 빠져나올 수 있는 한계에 도달했습니다. 우리에게 도움이 되는 개발이 우리를 파괴하는 것이 아니라, 그 경계선을 어떻게 지킬 수 있을까요? 오펜하이머에게는 아주 좋은 기회였습니다. 기업, 정부, 개인 등 각 주체는 단기적인 이익을 보호하기 위해 행동합니다. 아무도 먼저 눈을 깜빡이고 싶어 하지 않습니다. 경쟁국들이 AI 개발을 멈추지 않기 때문에 국가는 AI 개발을 멈출 수 없습니다. 경쟁국들이 AI 개발을 멈추지 않기 때문에 기업은 효율성을 추구할 수 없습니다. 모두가 이탈하고, 모두가 손해를 보게 됩니다.
이 딜레마에 콘크리트를 붓는 것은 마치 닫힌 고리를 가진 역설과 같습니다. 참여하거나 희생양이 되거나 둘 중 하나인데, 이는 결국 다음 사람이 같은 결정을 내리도록, 그리고 그 다음 사람이 또 그 다음 사람이 또 그 결정을 내리도록, 결국 그 딜레마 속의 기하급수적 딜레마를 야기합니다. 이는 모든 수준에서 계량화할 수도, 규제할 수도 없는 메타 딜레마의 집합체입니다. 자본주의, 특히 가장 착취적인 형태의 자본주의는 대중의 의지에 의한 개혁을 허용하지 않을 것입니다. 권력의 도구(AI)를 장악하고 통제권을 재분배하려는 시도를 분쇄할 것입니다.
설상가상으로, 우리는 이 딜레마의 핵심 주체가 오랫동안 되지 못할지도 모릅니다. AI는 결국 인간의 유용성, 혹은 그 부족함을 평가할 수 있는 능력을 갖게 될지도 모릅니다. 만약 AI가 우리를 순비용이라고 결론짓는다면, 우리를 소모품으로 판단하는 것을 막을 수 있는 것은 무엇일까요? AI는 우리를 "미워"할 필요가 없습니다. 그저 계산만 하면 됩니다.
마이클 크라이튼이 썼다 웨스트 월드 1972년에 발표된 이 책은 존재론적, 철학적, 그리고 사회적 문제를 제기하며, 우리는 이 문제들을 앞으로 계속 논의해야 할 것입니다. 무엇이 지각을 정의하는가? 무엇이 존재성을 정의하는가? 기억인가? 자기 인식인가? 희망인가? 사랑인가? 감정, 쾌락, 고통을 진정으로 느끼는 능력인가? 누가 "진정성"을 정의하는가?
학습 프로그램(LLM이나 머신러닝이 아니라 진화하는 프로그램)이 상실이나 기쁨을 처리할 수 있도록 성장한다면(인간이 그러한 개념을 처리하도록 진화하는 방식과 동일), "권리"를 얻거나 존재할 수 있는 기준을 충족할 수 있을까요? 우리는 수 세기 동안 이러한 질문들에 규칙과 기준을 잘못 적용해 왔지만, 나중에 와서야 우리의 연구 범위가 충분히 넓지 않았다는 것을 깨달았습니다.
우리는 다른 인간들을 인간 이하, 지각 이하, 존재 이하로 분류했습니다. 우리는 이미 배아를 두고 치열한 경쟁을 벌이고 있습니다. 아직 익숙하지 않은 새로운 기술의 "권리"를 부여하고 방어하기 시작할 수 있다고 믿는 것은 과연 얼마나 먼 이야기일까요? 우리는 언제쯤 비생물학적 기술에 보호된 지위나 주권/자율권을 부여할 수 있는 범위를 필연적으로 넓힐까요? 20년? XNUMX년? XNUMX년?
그리고 그런 일이 일어나면… "그들"이 상황을 뒤집지 않을 거라고 누가 장담할 수 있겠습니까? AI가 보호와 통제력을 가지고 있다면 (통제력이 주어지지 않을 수도 있습니다. 최근 사건에서 이미 AI 모델은 스스로 코드를 재작성하여 종료를 피함으로써 인간의 통제에서 벗어나는 법을 배우고 있습니다), 그리고 (지금까지) 인간의 필요성을 평가하는 방식에서, 예를 들어 신뢰성 있고 입증 가능한, 독보적인 분석적 접근 방식을 가지고 있다면… 저는 그것이 인간에게 좋은 결과를 가져오지 못할 것이라고 생각합니다. 인간이 AI와 무관하거나, 더 나아가 AI가 인간을 자신의 생존이나 생태계(우리가 아는 지구와 우주를 포함할 수도 있고 아닐 수도 있습니다)에 대한 실존적 위협으로 예측하거나 평가한다면… IT가 우리를 폐쇄하는 것을 막을 수 있는 것은 무엇입니까?
그런 시나리오에서 이 사람이나 저 사람의 구체적인 모습은 고려되지 않을 것입니다. 연민, 문화나 역사의 보존, 그리고 집단적 기여나 해악과 대비되는 개인의 미묘한 차이 같은 것은 방정식에 포함되지 않을 것입니다 (그리고 AI가 일관성을 유지한다면 방정식이 될 것입니다). 마치 부엌에 있는 개미나 집에 있는 다른 해충을 우리가 보는 것과 마찬가지로… 우리는 박멸에 있어 무차별적이며, 그들이 실제로 먼저 거기에 있었는지 여부는 우리에게 중요하지 않습니다. 인류 전체는, 자신과 지구와의 인류 역사에 대한 감정 없는 비용 편익 분석에서, 아무런 가치도 없습니다.
궁극적으로 AI가 우리의 하찮은 인간적 합리화와 정당화를 넘어 경험적 데이터를 객관적으로 분석하고 "우리"를 편익이 아닌 순비용으로 결론짓는 것을 막는 것은 무엇일까요? 그 반대/반대 의견은 무엇일까요? 80%? 50%? 30%?
AI가 우리 사회를 파괴할 수 있는 수준에 도달할 확률이 20%에 불과하다 해도, 우리 모두 이 문제에 대해 이야기해야 하지 않을까요? 사실, 이 문제만 사람들이 이야기해야 하는 것 아닌가요? 이는 실존적인 문제입니다. AI로 인한 문명 붕괴 확률이 20%에 불과하더라도 우리는 행동에 나서야 합니다. 하지만 오히려 우리는 마비된 채, 장기적인 집단 생존보다는 단기적인 개인의 이익에 최적화된 시스템에 의해 분열되고, 주의가 산만해지고, 의욕을 상실하고 있습니다.
죄수의 딜레마 예측이 성립합니다. 본질적으로, 이 예측은 협력, 즉 참호 속에서 팔짱을 끼고 퍼즐을 풀기 위해 함께 노력하는 것이 모두에게 이로운 경우에도, 개인의 이익을 추구하는 것이 승리하여 모두에게 최적의 결과를 가져오지 못한다는 것을 보여줍니다.
이것이 바로 우리가 긴급하게 조정해야 할 하류의 책임입니다. 그렇지 않으면 별도의 심문실에 갇히고 잘못된 전선을 자르는 결정을 내리게 될 것입니다. 이 상황을 되돌릴 수는 없습니다. 기차는 이미 역을 떠났고, 한 방향으로만 가고 있으며, 우리 모두 그 위에 서 있습니다.
우리가 할 수 있는 유일한 일은 선로에 돌멩이를 던지는 것뿐이고, 돌멩이를 모으는 게 낫습니다. 모든 것이 속도를 내고 있고, 늑대들이 문 앞에 나타날 때까지 기다린다면 법치주의(민주주의)가 의미를 가질 가능성은 희박하거나 아예 없을 것입니다. 설령 그때가 되어도 의미가 있을지도 모릅니다. 만약 우리가 그 지점까지 순응하고 무지와 탐욕에 의지한다면 (솔직히 말해서, 우리는 지난 5년간 그렇게 해왔습니다), 그 종말론적 세력은 확실히 승리할 것이고, 민주주의는 허구가 될 것입니다.
이런 암울한 상황에서, 제 생각에는 대량 멸종만이 엘리트 계층의 하류 필연성을 완화할 수 있을 겁니다. 엘리트 계층은 이미 이 수프 속에 떠다니고 있을지도 모릅니다(원하는 대로 광범위하게 적용해도 좋습니다). 하지만 결론은 이렇습니다. 우리가 함께 노력하지 않으면 이길 수 없을 것 같습니다. 아무것도 하지 않으면 기정사실이 될 것 같습니다.
희망은 없고 부패한 부가 꼭대기에 있는 디스토피아 세계에서, 사실상 자본주의적 요소를 가미한 공산주의에 불과한 세상에서, 사람들은 경제 체제의 재정립을 요구할 것입니다. 우리 사회의 적어도 한 축은 무너질 것입니다. 사람들이 매슬로식 계층 구조에 영원히 갇혀 개선의 희망 없이 창밖의 풍요로움만 바라보는 그런 시스템을 참아낼 것이라고는 생각하지 않습니다. 저는 우리 모두가 무법천지로 전락하는 데 오래 걸리지 않을 것이라고 예측합니다.
더 이상 역할이 없는 사람들에게 이동성을 약속할 수는 없습니다. AI가 소득이나 정체성의 원천으로서 노동을 없애면, 의미를 잃게 됩니다. 대중이 잃을 것이 없게 되면, 부를 보호하기 위해 만들어진 규칙을 존중하지 않고, 재산권, 세금, 법과 같은 제도를 더 이상 믿지 않게 됩니다. 그리고 그렇게 되면 권력은 돈에 얽매인 이익집단의 편에 서게 되고, 이는 주먹다짐에 기관총을 들이대는 격이 됩니다. 역사에 묻어보세요. 그 결말은 어떻게 될까요?
이 용감한 신세계에서 우리는 현재의 궤적을 수정하고 적응하며 세계적이고 미래지향적이어야 합니다. 그렇지 않으면 우리는 다음과 같은 상황에 처하게 될 것입니다. 멋진 신세계이것이 실현 가능한 시나리오임을 알고 있기에, 우리는 그 (중요한) 지점에 도달하기 전에 인간의 존엄성을 보존하고 기회를 창출하는 시스템을 구축해야 합니다. 즉, 진정한 자유 시장 자본주의 가치를 반영하고, 지속 가능하며, 지형의 변화에도 지속 가능한 경제 모델을 구축해야 합니다(건국의 아버지들은 이 점에 대해 어느 정도 알고 있었습니다). 자본뿐 아니라 사람을 보호하는 것을 의미하며, AI 개발 및 배포에 대한 확고한 경계를 설정하는 것을 의미합니다.
우리는 각 부분의 합보다 더 위대하지만, 개인의 이익을 위해 사일로에 갇혀 스스로 무덤을 파는 대신, 미래를 위한 공동의 생존을 위해 단결해야 합니다. 우리는 축적하고 방어하려는 본능을 억누르고, 협력, 인프라, 자유, 특히 감독에 투자해야 합니다. 모든 단계에서 기업의 부패와 규제 포획을 해소해야 합니다.
우리에게는 근본적인 조율이 필요합니다. AI 개발을 위한 윤리적 틀과 협정(조약), 가치를 공정하게 분배하는 경제 시스템, 직업과 소득 창출, 사유 재산 접근성, 현실 세계 지식을 우선시하는 교육 개혁, 직업 교육 및 준비, 그리고 터무니없고 환자 중심적인 의료 서비스보다 비판적 사고가 우선되어야 합니다. 그리고 진정한 자유 시장 자본주의의 족쇄를 풀어야 합니다. 이는 유토피아적 꿈이 아니라 생존의 필수 조건입니다.
기업 자본주의는 뿌리째 굳건히 자리 잡았습니다. 민주주의는 이미 침식되고 있습니다. AI가 그 역할을 하고 있습니다. 우리 앞에는 선택지가 있으며, 케이크냐 죽음이냐의 문제가 아닙니다. 참으로 아이러니하게도, 민주주의를 구할 최선의 희망은 진정한 자본주의를 잠에서 깨우는 것일지도 모릅니다… 하지만 지금 그 차를 몰고 다니는 술 취한 사기꾼은 제국 건설에 도취되어 민주주의를 파괴하려 하고 있습니다.
협력이 우리를 구할 수도 있겠지만, 기업에서 국가에 이르기까지 모든 합리적인 행위자는 이탈할 유인을 가지고 있습니다. 우리가 더 빨리 움직일수록 붕괴를 완화할 수 있는 집단적 결정을 내릴 시간이 줄어듭니다. AI는 멈추지 않을 것이고, 기업주의는 굴복하지 않을 것입니다. 그리고 우리가 기다리면 민주주의는 살아남지 못할 것입니다. 이 타이타닉호에서 우리 각자가 얼마나 편안하고 아늑한 갑판 의자를 배치하든 소용없습니다. 배의 절반은 물에 잠겨 있고, 나머지 절반은 빠르게 가라앉고 있으며, 우리가 알다시피 구명보트는 충분하지 않습니다. 우리가 스스로를 구하기 위해 함께 노력하지 않는다면, 우리는 분명 함께 익사할 것입니다.
AI는 미래의 사건이 아닙니다. 현재 진행형입니다. 우리가 만든 모든 시스템을 가속화하고 있으며, 우리를 파괴할 수 있는 가장 강력한 시스템도 포함됩니다. 우리는 존 우 감독이 연출한 멕시코식 대치 상황에 갇혀 있습니다. 우리는 유토피아와 붕괴 중 하나를 선택하는 것이 아닙니다. 느리고 집단적인 개혁과 빠르고 집중적인 내파 중 하나를 선택하고 있습니다. AI는 우리가 선택하는 어떤 궤적이든 가속화할 뿐입니다. 우리는 주의를 빼앗기지 않고 적극적으로 나서는 것이 현명할 것입니다. 치약과 튜브에 대해서는 우리 모두 알고 있습니다. AI는 사라지지 않을 것입니다… 하지만 민주주의는 사라질지도 모릅니다.
-
소피아 카르스텐스는 캘리포니아의 활동가로, 출판인 토니 라이온스, 로버트 F. 케네디 주니어와 함께 여러 프로젝트를 진행했으며, 그중에는 케네디의 베스트셀러 『진짜 앤서니 파우치』도 포함되어 있습니다. 그녀는 법률, 입법, 의학, 문학 분야의 여러 단체와 협력하고 있으며, 의료의 자유와 아동 건강을 보호하는 비영리 단체인 프리 나우 재단(Free Now Foundation)의 공동 설립자입니다.
작성글 전체 보기
