저는 의학 분야에서의 경험을 바탕으로 진정한 혁신과 겉으로는 변화가 없어 보이지만 근본적으로 의료 행태를 바꾸는 미묘한 재분류를 구분할 수 있습니다. 인공지능은 최근 상당한 관심을 불러일으켰는데, 특히 미국에서 인공지능이 "의료 행위를 할 수 있도록 법적으로 허가받았다"는 주장이 널리 퍼졌습니다. 하지만 이 주장을 문자 그대로 해석하면 사실과 다릅니다. 어떤 의료 위원회도 기계에 면허를 발급한 적이 없습니다. 어떤 알고리즘도 선서를 하거나, 신탁 의무를 수락하거나, 환자에게 발생한 피해에 대한 개인적 책임을 지지 않습니다. 어떤 로봇 의사도 병원을 개업하거나, 보험사에 진료비를 청구하거나, 의료 과실 소송 배심원 앞에 서지 않습니다.
하지만 이러한 관찰에만 머무르는 것은 더 광범위한 문제를 간과하는 것입니다. 책임에 대한 법적 개념이 현재 재정의되고 있으며, 이러한 재정의는 종종 대중의 인식을 벗어난 채 이루어지고 있습니다.
중대한 변화가 진행 중이며, 이는 단순히 반사적인 일축이나 무비판적인 기술 열광으로만 대응해서는 안 될 문제입니다. 현재의 흐름은 인공지능을 의사로 면허하는 것이 아니라, 의학의 핵심 경계, 즉 임상적 판단과 인간의 책임 사이의 본질적인 연결 고리가 점진적으로 무너져 내리는 현상입니다. 임상적 판단이란 각 환자의 고유한 요구와 상황에 맞춰 정보에 입각한 결정을 내리는 것을 의미하며, 공감, 직관, 그리고 의료 윤리에 대한 깊은 이해를 필요로 합니다.
인간의 책임이란 의료 제공자가 이러한 결정과 그 결과에 대해 져야 할 책임을 의미합니다. 이러한 책임의 경계가 허물어지는 것은 극적인 법률 제정이나 공개 토론 때문이 아니라, 시범 사업, 규정의 재해석, 그리고 의도적으로 책임을 모호하게 하는 언어 사용 등을 통해 조용히 진행됩니다. 일단 이러한 경계가 무너지면 의학은 되돌리기 어려운 방식으로 변모하게 됩니다.
주된 우려는 인공지능이 처방전을 재발급하거나 비정상적인 검사 결과를 찾아낼 수 있는지 여부가 아닙니다. 의학계는 오랫동안 이러한 도구를 활용해 왔으며, 의료 서비스 제공자들은 일반적으로 행정 업무를 줄이거나 패턴 인식을 개선하는 데 도움이 되는 도구를 환영합니다. 진정한 문제는 의학적 판단, 즉 올바른 조치, 환자 및 위험에 대한 결정을 도덕적 책임과 분리된 컴퓨터 생성 결과로 볼 수 있는지 여부입니다. 역사적으로 판단과 책임을 분리하려는 시도는 책임을 회피하면서 종종 해악을 초래했습니다.
최근의 발전은 현재 혼란의 근원을 명확히 보여줍니다. 몇몇 주에서는 제한적인 시범 프로그램을 통해 인공지능 기반 시스템이 엄격하게 정의된 프로토콜에 따라 안정적인 만성 질환 환자의 처방전 갱신을 지원하도록 허용하고 있습니다. 연방 차원에서는 인공지능이 적절한 규제를 받는다는 전제 하에 특정 법적 목적상 "의료 전문가"로 인정될 수 있는지에 대한 법안이 발의되었습니다. 이러한 계획들은 일반적으로 의사 부족, 진료 접근 지연, 행정적 비효율성에 대한 실용적인 대응책으로 제시됩니다. 이러한 계획들 중 어느 것도 인공지능을 명시적으로 의사로 지정하지는 않지만, 의료 행위가 명확하게 식별 가능한 인간 의사 결정자 없이도 이루어질 수 있다는 더욱 우려스러운 전제를 일반화하고 있습니다.
실제로 이러한 구분은 매우 중요합니다. 의학은 단순히 기계적으로 업무를 수행하는 것이 아니라, 결과가 좋지 않을 때 책임을 묻는 것으로 정의됩니다. 처방전을 작성하는 것은 간단하지만, 그 결과에 대한 책임을 지는 것, 특히 동반 질환, 사회적 맥락, 환자의 가치관, 불완전한 정보 등을 고려할 때, 이는 훨씬 더 복잡한 문제입니다. 제 경력 내내 이러한 책임은 질문하고, 이의를 제기하고, 수정하고, 책임을 물을 수 있는 사람에게 있었습니다. 스미스 박사가 실수를 했을 때, 환자의 가족은 누구에게 연락해야 하는지 알고 있으며, 이를 통해 인간적인 책임을 직접적으로 물을 수 있습니다. 아무리 정교한 알고리즘이라도 이러한 역할을 대신할 수는 없습니다.
주된 위험은 기술적인 것이 아니라 규제적이고 철학적인 것입니다. 이러한 변화는 덕 윤리에서 절차주의로의 전환을 의미합니다. 입법자와 기관들이 의료적 의사결정을 개인의 행위가 아닌 시스템의 기능으로 재정의할 때, 의학의 도덕적 틀이 바뀝니다. 책임 소재가 모호해지고, 피해의 원인을 규명하기가 더욱 어려워지며, 책임은 임상의에서 절차로, 판단에서 프로토콜 준수로 옮겨갑니다. 오류가 불가피하게 발생할 경우, 지배적인 설명은 '시스템이 확립된 지침을 따랐다'는 것이 됩니다. 이러한 전환을 인식하는 것은 개별적인 윤리적 의사결정에서 기계화된 절차 준수로의 변화를 명확히 보여줍니다.
이러한 우려는 이론적인 것이 아닙니다. 현대 의료 시스템은 이미 책임 소재 불분명과 관련된 문제에 직면해 있습니다. 저는 알고리즘 기반 결정으로 피해를 입은 환자들이 관리자, 공급업체, 불투명한 모델 사이에서 제대로 된 답변을 얻지 못하고, "누가 이 결정을 내렸는가?"라는 근본적인 질문에 대한 명확한 답을 찾지 못하는 상황을 목격해 왔습니다. 인공지능은 이러한 문제를 훨씬 더 악화시킵니다. 알고리즘은 도덕적 설명을 제공할 수 없고, 양심에 따라 자제할 수도 없으며, 윤리적 문제 때문에 행동을 거부할 수도 없고, 환자나 가족에게 오류를 인정할 수도 없습니다.
인공지능의 자율성 증대를 옹호하는 사람들은 효율성을 그 이유로 자주 언급합니다. 병원은 과부하 상태이고, 의사들은 소진 증후군에 시달리고 있으며, 환자들은 단 몇 분이면 끝나야 할 진료를 받기 위해 몇 달씩 기다려야 하는 경우가 많습니다. 이러한 우려는 타당하며, 양심적인 임상의라면 누구나 이를 인지하고 있습니다. 그러나 효율성만으로는 의학의 윤리적 기반을 바꾸는 것을 정당화할 수 없습니다. 속도와 규모에 최적화된 시스템은 종종 미묘한 차이, 신중함, 그리고 개인의 존엄성을 희생시킵니다. 의학은 역사적으로 진료는 거래가 아닌 관계라는 점을 강조함으로써 이러한 경향에 저항해 왔습니다.
인공지능은 이러한 관계를 뒤집을 위험이 있습니다. 개인이 아닌 시스템이 의료 서비스를 제공하게 되면, 환자는 더 이상 의료진과의 신뢰 관계를 유지하는 것이 아니라 일련의 과정의 일부가 됩니다. 의사는 기계 감독자의 역할을 맡거나, 더 심각하게는 자신이 직접 내리지 않은 결정에 대한 법적 책임을 대신 떠맡는 완충 장치 역할을 하게 됩니다. 시간이 흐르면서 임상적 판단은 프로토콜 준수로 대체되고, 도덕적 주체성은 점차 약화됩니다.
인공지능은 또한 불확실성을 은폐하는 더욱 미묘하고 위험한 문제를 야기합니다. 의학은 불확실성 속에서 존재합니다. 증거는 확률적이며, 지침은 잠정적입니다. 환자의 정보는 깨끗한 데이터셋 형태로 제공되는 경우가 드뭅니다. 임상의는 단순히 행동하는 것뿐만 아니라 주저하는 법, 즉 정보가 불충분할 때, 개입이 이익보다 해를 더 많이 초래할 수 있을 때, 또는 기다리는 것이 적절한 방침일 때를 인식하도록 훈련받습니다. 인공지능이 퇴원을 권고했지만 환자의 배우자가 두려움을 보이는 상황을 상상해 보세요. 이는 알고리즘적 의사 결정과 인간의 직관 사이의 긴장을 보여줍니다. 이러한 현실적인 마찰은 불확실성이 얼마나 위험한지를 여실히 드러냅니다.
인공지능 시스템은 불확실성을 경험하지 않습니다. 그저 결과를 생성할 뿐입니다. 잘못된 결과를 내놓을 때조차도 근거 없는 확신을 보이는 경우가 많습니다. 이러한 특징은 프로그래밍 결함이 아니라 통계 모델링의 본질적인 특성입니다. 경험 많은 임상의들이 의심을 공개적으로 표현하는 것과는 달리, 대규모 언어 모델이나 머신러닝 시스템은 자신의 한계를 인지하지 못합니다. 데이터가 불충분한 경우에도 그럴듯한 답변을 내놓습니다. 의학에서 근거 없는 그럴듯함은 위험할 수 있습니다.
이러한 시스템들이 임상 워크플로우에 조기에 통합될수록, 그 결과물은 후속 결정에 점점 더 큰 영향을 미치게 됩니다. 시간이 흐르면서 임상의들은 권고 사항의 타당성 때문이 아니라, 단지 그것이 일상화되었기 때문에 신뢰하게 될 수 있습니다. 판단은 점차 능동적인 추론에서 수동적인 수용으로 바뀌게 되는 것입니다. 이러한 상황에서 '인간 개입'은 상징적인 안전장치 이상의 역할을 하지 못하게 됩니다.
지지자들은 인공지능이 의료진을 대체하는 것이 아니라 '보완'하는 역할을 할 것이라고 흔히 주장합니다. 그러나 이러한 확신은 불안정합니다. 인공지능이 효율성 향상을 입증하게 되면 경제적, 제도적 압력으로 인해 자율성이 점차 확대될 가능성이 높습니다. 시스템이 안전하게 처방전을 재발급할 수 있다면 곧 처방전 발행까지 허용될 수 있습니다. 흔한 질환을 정확하게 진단할 수 있다면 의사의 검토 필요성에 의문이 제기될 것입니다. 통제된 기준에서 인간보다 뛰어난 성능을 보인다면 인간의 변동성에 대한 관용도는 줄어들 것입니다.
이러한 추세를 고려할 때, 구체적인 안전장치를 마련하는 것이 필수적입니다. 예를 들어, AI 기반 의사결정의 5%에 대해 의무적인 불일치 감사를 실시하는 것은 AI 권고와 인간의 임상적 판단 간의 일치를 보장하는 구체적인 점검 수단이 될 수 있으며, 동시에 규제 기관과 병원 이사회에 AI 통합을 모니터링할 수 있는 실질적인 지표를 제공할 수 있습니다.
이러한 질문들은 악의적인 의도로 제기된 것이 아닙니다. 비용 절감과 확장성에 초점을 맞춘 시스템 내에서 자연스럽게 발생하는 질문들입니다. 하지만 이러한 질문들은 인간의 판단이 예외적인 것으로 여겨지는 미래를 예고합니다. 그러한 시나리오에서는 자원이 풍부한 사람들은 계속해서 인간적인 보살핌을 받게 되는 반면, 그렇지 못한 사람들은 자동화된 프로세스를 통해 치료를 받게 될 것입니다. 이러한 이중 의료 체계는 이념에서 비롯된 것이 아니라 최적화의 결과로 나타날 것입니다.
이 순간이 특히 위태로운 이유는 책임 소재가 불분명하기 때문입니다. 인공지능 기반 결정이 환자에게 해를 끼쳤을 때, 누가 책임져야 할까요? 명목상 시스템을 감독하는 임상의일까요? 시스템을 도입한 기관일까요? 모델을 학습시킨 업체일까요? 아니면 사용을 승인한 규제 기관일까요? 명확한 답변이 없다면 책임 소재는 모호해집니다. 그리고 책임이 사라지면 신뢰도 자연스럽게 무너집니다.
의학은 근본적으로 신뢰에 기반합니다. 환자들은 자신의 몸과 두려움, 그리고 종종 생명까지 의료진에게 맡깁니다. 아무리 정교한 알고리즘이라 할지라도 이러한 신뢰는 알고리즘으로 옮겨갈 수 없습니다. 신뢰는 환자의 말을 경청하고, 상황에 맞춰 대처하며, 자신의 행동에 책임을 질 수 있는 인간이 그 자리에 있다는 확신에 바탕을 두고 있습니다.
인공지능을 완전히 거부할 필요는 없습니다. 현명하게 활용하면 인공지능은 행정 업무 부담을 줄이고, 인간이 알아차리기 어려운 패턴을 식별하며, 임상 의사결정을 지원할 수 있습니다. 이를 통해 의사들은 행정 업무보다는 환자 진료에 더 많은 시간을 할애할 수 있습니다. 그러나 이러한 미래를 실현하기 위해서는 의료 행위의 핵심에 인간의 책임을 유지하겠다는 확고한 의지가 필요합니다.
'인간 개입'은 단순한 상징적 감독 이상의 의미를 가져야 합니다. 특정인이 모든 의료적 결정에 책임을 지고, 그 근거를 이해하며, 알고리즘 권고를 뒤집을 권한과 의무를 모두 보유해야 합니다. 또한 투명성, 설명 가능성, 환자의 충분한 정보에 입각한 동의를 보장해야 하며, 인공지능으로 의료진을 대체하는 것이 아니라 의료진에 대한 투자를 지속해야 합니다.
주된 위험은 인공지능의 과도한 힘에 있는 것이 아니라, 오히려 기관들이 책임을 회피하려는 의지에 있다. 효율성과 혁신을 추구하는 과정에서 의학이 기술적으로는 발전하고 행정적으로는 간소화되었지만, 도덕적 실체를 결여한 분야로 전락할 위험이 있다.
미래를 생각할 때, 우리는 다음과 같은 질문을 던져야 합니다. 2035년, 우리는 환자 곁에 어떤 치료자를 상상하는가? 이 질문은 우리 모두의 도덕적 상상력을 요구하며, 인간적 책임감과 연민 어린 보살핌이 의료 행위의 중심에 자리 잡는 미래를 만들어 나가도록 우리를 이끌어 줍니다. 인공지능의 발전이 이러한 근본적인 가치를 훼손하는 것이 아니라 오히려 강화하도록 하기 위해서는 우리 모두의 적극적인 참여가 필수적입니다.
인공지능은 의료 행위를 할 수 있는 면허를 받지 않았습니다. 하지만 의료 시스템은 도덕적 책임을 배제한 채 조용히 재편되고 있습니다. 이러한 과정이 제지 없이 계속된다면, 언젠가 의사가 기계가 아닌 프로토콜로 대체되는 현실을 마주하게 될지도 모릅니다. 그리고 그때는 의료 과실이 발생하더라도 아무도 책임을 지지 않을 것입니다.
그건 진보가 아니라, 책임을 포기하는 행위일 겁니다.
-
조셉 바론, MD, 중환자 치료 전문의이자 교수이며, 독립 의학 연합(Independent Medical Alliance) 회장이기도 합니다. 그는 980편 이상의 동료 심사 논문을 집필했으며, 독립 의학 저널(Journal of Independent Medicine)의 편집장을 맡고 있습니다.
작성글 전체 보기
