한때 결정론과 자유의지에 대한 논쟁은 철학과나 심야 기숙사 방에서의 대화에나 국한되었던 시절이 있었습니다. 그런 논쟁들이 즐거웠던 이유는 바로 무해해 보였기 때문입니다. 답이 무엇이든 간에 삶은 계속되었습니다. 법원은 판결을 내리고, 의사는 진단을 내리고, 교사는 가르치고, 정치인들은 여전히 – 적어도 명목상으로는 – 자신들의 행동에 책임을 져야 했습니다. 하지만 이제 그 시대는 끝났습니다.
인공지능은 한때 추상적인 철학적 질문으로 여겨졌던 것을 통치, 권력, 책임이라는 구체적인 문제로 탈바꿈시켰습니다. 결정론은 더 이상 우주의 작동 원리에 대한 단순한 이론이 아닙니다. 그것은 현대 제도의 운영 원리가 되고 있으며, 이는 모든 것을 변화시킵니다.
인공지능 시스템은 본질적으로 결정론적입니다. 통계적 추론, 최적화 및 확률을 통해 작동하며, 그 결과가 우리를 놀라게 하더라도 수학적 제약 조건에 구속됩니다. 이러한 시스템에는 인간적인 의미의 판단, 해석 또는 이해와 유사한 것이 전혀 없습니다.
인공지능은 숙고하지 않습니다.
그것은 반영하지 않습니다.
결과에 대한 책임은 지지 않습니다.
하지만 점차 그 결과물은 도구가 아닌 결정으로 여겨지고 있습니다. 이것이 바로 우리 시대의 조용한 혁명입니다.
그 매력은 분명합니다. 기관들은 언제나 인간의 다양성과 씨름해 왔습니다. 사람들은 일관성이 없고, 감정적이며, 느리고, 때로는 불복종하기도 합니다. 관료주의는 예측 가능성을 선호하며, 알고리즘은 바로 그러한 예측 가능성을 약속합니다. 즉, 피로와 반대에 영향을 받지 않고 대규모로 표준화된 결정을 내릴 수 있게 해준다는 것입니다.
의료 분야에서는 알고리즘이 더욱 효율적인 환자 분류를 약속합니다. 금융 분야에서는 더 나은 위험 평가를, 교육 분야에서는 객관적인 평가를, 공공 정책 분야에서는 "증거 기반" 거버넌스를, 콘텐츠 검열에서는 중립성을 약속합니다. 편견을 제거하고 결과를 최적화한다고 주장하는 시스템에 누가 반대할 수 있겠습니까? 하지만 이러한 약속 이면에는 근본적인 혼란이 도사리고 있습니다.
예측은 판단이 아닙니다.
최적화는 지혜가 아닙니다.
일관성이 곧 정당성은 아닙니다.
인간의 의사결정은 결코 순전히 계산적인 것이 아닙니다. 본질적으로 해석적인 과정입니다. 사람들은 맥락, 의미, 결과, 그리고 도덕적 직관을 고려합니다. 또한 기억, 경험, 그리고 비록 불완전할지라도 앞으로 일어날 일에 대한 책임감을 바탕으로 판단합니다. 바로 이러한 점이 제도권이 불편하게 여기는 부분입니다.
인간의 판단은 마찰을 일으킵니다. 설명이 필요하고, 의사결정자는 비난의 대상이 됩니다. 반면 결정론적 시스템은 의사결정자가 필요 없는 훨씬 더 매력적인 해결책을 제시합니다.
알고리즘이 대출을 거부하거나, 시민을 위험 인물로 분류하거나, 환자의 진료 우선순위를 낮추거나, 발언을 억압할 때, 누구도 책임을 지지 않습니다. 시스템이 그랬다고, 데이터가 말했고, 모델이 결정했다고 합니다.
결정론은 관료주의적 변명이 된다.
기술은 언제나 제도에 영향을 미쳐 왔지만, 최근까지는 주로 인간의 자율성을 확장하는 역할을 해왔습니다. 계산기는 추론을 도왔고, 스프레드시트는 장단점을 명확히 했습니다. 심지어 초기 소프트웨어조차도 인간이 명확하게 통제권을 쥐고 있었습니다. 하지만 인공지능은 이러한 관계를 변화시키고 있습니다.
예측을 위해 설계된 시스템이 이제 결정을 내리는 위치에 놓이게 되었습니다. 확률은 정책으로 굳어지고, 위험 점수는 판결이 되며, 권고는 조용히 의무 사항으로 바뀝니다. 일단 자리 잡으면 이러한 시스템에 이의를 제기하기는 어렵습니다. 결국 누가 "과학"에 반박하겠습니까?
이것이 바로 오래된 철학적 논쟁이 시급해진 이유입니다.
고전적 결정론은 인과관계에 대한 주장으로, 충분한 정보가 주어진다면 미래를 예측할 수 있다는 것이었습니다. 오늘날 결정론은 통치 철학으로 변모하고 있습니다. 결과가 충분히 잘 예측될 수 있다면, 애초에 재량권을 허용할 필요가 있느냐는 질문이 제기됩니다.
비결정론은 흔히 혼돈으로 왜곡되어 묘사되곤 합니다. 하지만 제대로 이해한다면, 비결정론은 무작위성이나 비합리성이 아닙니다. 그것은 해석이 이루어지고, 가치가 저울질되며, 책임이 과정이 아닌 개인에게 귀속되는 영역입니다.
그 여백을 없앤다고 해서 의사결정이 더 합리적이 되는 것은 아닙니다. 오히려 책임성이 없어지게 됩니다.
인공지능의 진정한 위험은 폭주하는 지능이나 감정을 가진 기계에 있는 것이 아닙니다. 그것은 효율성이라는 미명 아래 인간의 책임감이 서서히 무너져 내리는 데 있습니다.
21세기를 규정짓는 갈등은 인간과 기계 사이의 갈등이 아니라, 지능에 대한 두 가지 비전, 즉 결정론적 최적화와 불확실성 속에서의 의미 부여 사이의 갈등이 될 것이다.
하나는 확장성이 뛰어납니다.
다른 한쪽이 책임을 져야 합니다.
인공지능은 우리에게 어떤 것이 우리 삶을 지배할지 결정하도록 강요한다.
-
Joaquim Sá Couto 박사는 리스본대학교(포르투갈)에서 의학박사(MD)를 취득한 후 미국에서 의학 전문화 과정을 계속했습니다. 미국 외과 전문의 자격증 소지자(1989). Sá Couto 박사는 모세혈관확장증(거미줄 모양 혈관) 치료를 위해 펄스형 Nd-YAG 콘트라스트 레이저를 포르투갈에 도입한 선구자이며, 이 기술에 대해 약 15년간의 경험을 축적했습니다.
작성글 전체 보기
