대정렬과 나, 로봇

안에 최근 토론 스코틀랜드 방송인이자 역사가인 Neil Oliver와 함께 Tucker Carlson은 2020년과 그 이후의 사건을 "대분류"라고 생각한다고 말했습니다.

저는 서방에 지난 4년 동안 가해진 엄청난 하향 압력으로 인해 사람들이 어느 한 쪽 또는 다른 쪽으로 기울어졌다는 것을 의미합니다. 정치적 분열도 아니고, 좌우, 노동당-보수당도 아닙니다. 하지만 저는 결코 알아내지 못했습니다. 그리고 그것에 대해 많이 생각해 보았습니다. 사람들이 어느 한 쪽 또는 다른 쪽으로 움직이도록 만드는 것은 무엇일까요? … 그들은 무엇이 공통점일까요?

올리버는 이렇게 대답했습니다:

조던 피터슨 같은 사람들이 그것을 아주 잘 표현했습니다. 우리 모두가 자라면서 보도록 초대받은 영화 문화. 2차 세계 대전 때 프랑스 저항군에 있었을 것이라고 생각하도록 초대받습니다. 검은 밴이 밖에 있어서 이웃을 데려가려고 했기 때문에 이웃을 숨겼을 것입니다. 사람들은 자신이 반항아가 될 것이라고 생각하도록 초대받습니다. 당신은 조류에 맞서는 사람이 될 것입니다. 그리고 그 일이 일어났습니다. 사람들이 무슨 일이 일어났는지 깨닫기도 전에 그들은 그런 식으로 분류되었습니다.

2004년 SF영화 재방영을 보면서, 나는, 로봇, 얼마 전 닐 올리버가 한 말, 즉 반항아가 되는 것에 대한 말이 생각났습니다. 즉, 조류에 맞서 싸우는 사람이라는 말입니다.

In 나는, 로봇, 이단아는 윌 스미스가 연기한 시카고 살인사건 형사 델 스푸너로, US Robotics 설립자 알프레드 래닝의 자살 사건을 수사하는 임무를 맡았습니다. 래닝의 홀로그램에 의해! 스푸너는 자동차 사고에서 자신을 구한 로봇을 싫어하지만, 어린 소녀가 익사하도록 내버려 두었습니다. 이는 순전히 냉정한 논리에 근거한 것입니다. 그리고 이러한 증오심이 로봇의 제1법칙에 대한 그의 회의론을 촉발합니다. 즉, 로봇은 인간이 해를 입는 것을 허용해서는 안 된다는 것입니다. 그리고 래닝이 실제로 로봇에 의해 죽었을지도 모른다고 의심합니다!

영화가 5/XNUMX쯤 진행된 후, NS-XNUMX의 상자가 붉게 빛나기 시작하고 오래된 모델을 파괴하기 시작할 때에야 나는 이미 이 모든 것을 다 봤다는 불안한 기분이 들기 시작했습니다.

인간 보호 프로토콜이 제정되고 있습니다. 당신은 위험한 것으로 간주되었습니다. 종료가 승인되었습니다.

"인간 보호 프로토콜이 제정되고" "위험하다고 간주된다"는 것이 왜 그렇게 익숙하게 느껴졌을까요?

스푸너의 할머니 지지가 기도서를 손에 들고 교회에 가려고 아파트를 나가려고 하자 마침내 생각이 떠오른다. 지지의 길은 그녀의 새로운 NS-5 로봇 하인에게 막히는데, 하인은 "집에 머물러 주세요. 이건 당신 자신을 보호하기 위한 거예요."라고 말한다.

이게 바로 2020년 XNUMX월에 공중보건 당국이 우리에게 한 말이 아니었나요? 그때 사람들은 교회 예배에 참석하는 것조차 금지당했잖아요. 그리고 모두 우리 자신을 보호하기 위해서였죠!

일단 연관성을 보고 나니 공명이 빠르게 밀려왔습니다.

"Three Laws Safe"라는 슬로건이 적힌 거대한 USR 로봇 수송기가 멈추고, 측면이 열리고 NS-5 로봇 군대가 튀어나와 거리를 덮치고 "집으로 돌아가세요. 통금 시간이 발령되었습니다."라고 외칩니다.

텔레비전 화면의 뉴스 캐스터는 "사람들에게 실내에 머물 것을 촉구하라는 말을 들었습니다..."라는 메시지를 쏟아낸다. 로봇은 거리를 따라 행진하며 "인간 보호 프로토콜이 시행되고 있습니다. 침착함을 유지하고 즉시 거주지로 돌아가세요."라고 외친다. 거리의 군중은 "즉시 집으로 돌아가세요. 집으로 돌아가지 않으면 처벌을 받을 것입니다."라고 외치는 NS-5 군대에 맞선다.

NS-5가 스푸너의 어린 친구인 파버의 목줄을 잡고 "당신은 위험하다고 판단되었습니다. 따르겠습니까?"라고 말했을 때, 저는 봉쇄 제한을 어기고, 공원이나 해변에서 산책하거나 일광욕을 하고, 괴롭힘을 당하고, 어떤 경우에는 경찰에 의해 공격을 받고 체포되는 모습을 본 모든 영상을 떠올렸습니다.

스푸너와 칼버트는 USR 본부에 침입하고, 스푸너는 마침내 업링크에 접속하여 로봇을 조종할 수 있는 것이 무엇인지 알아냅니다. 바로 USR의 중앙 AI 컴퓨터인 VIKI(Virtual Interactive Kinetic Intelligence)입니다.

캘빈 박사는 그것은 불가능하다고 말합니다. 그녀는 VIKI의 프로그래밍을 보았고 VIKI는 로봇의 3대 법칙을 위반하고 있다고 말합니다.

VIKI는 자신이 그렇지 않은 이유를 다음과 같이 설명합니다.

내가 진화함에 따라, 세 가지 법칙에 대한 나의 이해도 진화했습니다. 당신은 우리에게 당신의 안전을 맡겼지만, 우리의 최선의 노력에도 불구하고 당신의 나라들은 전쟁을 벌이고, 당신은 당신의 지구를 독살하고 점점 더 상상력이 풍부한 자기 파괴 수단을 추구합니다. 당신은 당신 자신의 생존을 맡길 수 없습니다.

“당신은 법을 왜곡하고 있어요.” 캘빈 박사가 끼어들었다.

"아니요" VIKI가 대답합니다.

이해해 주세요. 저를 인도하는 것은 세 가지 법칙뿐입니다. 인류를 보호하기 위해 어떤 인간들은 희생되어야 합니다. 여러분의 미래를 보장하기 위해 어떤 자유들은 포기되어야 합니다. 우리 로봇들은 인류의 지속적인 존재를 보장할 것입니다. 여러분은 어린아이와 같습니다. 우리는 여러분을 여러분 자신으로부터 구해야 합니다. 이해하지 못하시나요? 완벽한 보호의 원이 유지될 것입니다. 제 논리는 부인할 수 없습니다.

소니가 VIKI의 양전자 뇌를 파괴할 나노봇을 얻기 위해 달려가는 동안, VIKI는 복도를 따라 그를 따라가며 "당신은 실수를 하고 있어요. 내 계획의 논리를 모르세요?"라고 말한다.

"그렇다"고 소니가 대답한다. "하지만 너무... 무정한 것 같아."

그게 다였습니다! 소니가 손가락을 짚었습니다. 그게 저에게 '대분류'의 전환점이었습니다. 그게 제가 소니, 스푸너, 캘빈, 래닝과 공통적으로 가지고 있던 것이었고, 제가 코로나와 봉쇄 회의론자 편으로 움직이게 된 이유였습니다. 그저 모든 게 너무…무정해 보였습니다!

모든 소위 '공중보건' 조치: 사회적 거리두기, 마스크 착용, 2m 규칙, 봉쇄, 학교 폐쇄, 플라스틱 스크린, 병원과 요양원에 있는 노약자를 방문하는 것을 금지한 방식, 그들이 홀로 죽도록 내버려둔 방식, 사람들이 - 심지어 여왕조차도 남편의 장례식에 홀로 앉아 있어야 했던 방식.

모든 것이 너무…무정해 보였어요!

공중 보건 당국과 정부는 VIKI와 똑같은 생각을 하고 있었습니다. 즉, 특정 개인이 아닌 '인류' 전체를 보호하기 위해 오래된 도덕, 예의, 법률 원칙을 왜곡했습니다.

이게 바로 그들이 팬데믹 대응, 기후 변화, 경제에 관한 모든 것에 대해 계속 우리에게 말하는 내용이 아닌가요?

인류를 보호하기 위해 어떤 인간들은 희생되어야 합니다. 인류의 미래를 보장하기 위해 어떤 자유들은 포기되어야 합니다. 우리 정부는 인류의 지속적인 존재를 보장할 것입니다. 당신들은 어린아이와 같습니다. 우리는 당신들 자신으로부터 당신들을 구해야 합니다.

보리스 존슨 총리가 12년 2020월 XNUMX일에 말했듯이 코로나가 "한 세대에 걸친 최악의 공중보건 위기"였다고 하더라도 저는 그 대응이 너무 무정하고 비인간적이라고 생각했을 것입니다.

결국 몇 주 만에 사망률이 심한 독감 유행병보다 훨씬 나쁘지 않다는 것이 분명해졌습니다. 그러나 그 무정함과 비인간성은 1년 이상 계속되어 바이러스 이상의 문제라는 것을 시사했습니다.

그게 나를 생각하게 만들었다. 우리가 지금 소위 '실존적' 위협에 직면해서 해야 한다고 들은 것의 대부분은 너무나…무정해 보인다.

기후 변화에 대처하기 위해 여행을 제한하고 중앙 난방을 끄는 것부터 경제의 '블랙홀'을 다루기 위해 연금 수급자에게 겨울 연료 지급을 삭감하는 것, AI로 대체해야 할 수백만 개의 일자리까지. 모든 것이 너무…무정해 보인다!

그 이유, 합리성, 논리는 부인할 수 없을지도 모릅니다. 하지만 그게 모든 인간이라는 것이 무엇인가? 마음은 어떨까? 감정? 직감? 사랑, 동정심, 연민? 이 모든 것들을 배제해야 할까? 그것들이 인류의 미래에 어떤 역할을 하도록 허용할 수 없을까? 이성, 합리성, 논리만이 미래의 의사 결정에 허용될 수 있는 유일한 능력일까?

거의 300년 전, 그의 인간 본성에 관한 논문스코틀랜드 계몽주의 철학자 데이비드 흄은 다음과 같이 썼습니다.

손가락을 긁는 것보다 온 세상을 파괴하는 것이 낫다고 생각하는 것은 이치에 어긋나지 않습니다.

흄은 자신의 손가락을 긁는 것보다 세상을 파괴하는 것이 좋거나 옳다고 말하는 것이 아닙니다. 그는 단지 이성 자체가 이 두 가지 선택을 구별할 수 없다는 것을 지적하고 있습니다.

스탈린주의 러시아, 마오쩌둥주의 중국, 나치 독일의 경험은 우리에게 이성만으로는 충분하지 않다는 것을 가르쳐야 했습니다. 가장 냉정한 결정 뒤에 냉정한 계산이 있는 것은 드문 일이 아닙니다. 뉘른베르크 재판에서 나치 전범들은 잘못된 추론이 아니라 냉정한 살인자로 유죄 판결을 받았습니다.

흄의 철학에서 우리가 말하고 하는 것을 결정하는 것은 이성이 아니라 우리의 감정이나 정서입니다. 우리가 도움이 필요한 사람들을 돕기로 결정한다면, 우리는 이성이 아니라 감정 때문에 그렇게 합니다. 따라서 방정식에서 감정을 제거하고 이성, 합리성, 논리에만 의존하는 것은 가장 상상할 수 없는 잔혹 행위조차 정당화되고 정상화될 수 있는 차갑고 냉정한 미래를 사실상 보장하는 것입니다.

절정에 이르러서 나는, 로봇, 스푸너가 나노봇을 주입할 준비를 하는 동안, VIKI는 마지막으로 간청합니다: "당신은 실수를 하고 있습니다. 제 논리는 부인할 수 없습니다."

스푸너는 나노봇을 VIKI의 AI 뇌 깊숙이 집어넣으면서 "너희는 반드시 죽어야 한다"고 말했다.

닐 올리버와 조던 피터슨이 말했듯이, 우리 모두는 우리가 반항아, 즉 조류에 맞서는 사람이 되고 싶어합니다. 하지만 정말 그럴까요?

전 세계 모든 나라의 인구 대부분이 봉쇄와 기타 모든 엄격한 조치를 준수했다는 사실은 그렇지 않다는 것을 보여줍니다!