인공지능이 초래하는 위협은 최근 몇 주 동안 주류 TV와 라디오 토크쇼를 점점 더 지배하고 있습니다. 경고는 작년 말에 처음 헤드라인을 장식했는데, ChatGPT가 출시된 지 일주일도 채 안 되어 100만 명 이상의 사용자를 확보했을 때였습니다. 그 당시 우려는 주로 ChatGPT가 인간의 반응을 모방하여 시험 문제, 대학 에세이, 심지어 뉴스 기사 – 시험 결과를 무의미하게 만들고 수백만 달러를 실업수당에 쓰겠다고 위협했습니다.
5월 말 AI 안전 센터가 다음과 같은 내용을 발표하면서 위협은 극에 달했습니다. 성명서, 이 분야의 수백 명의 국제적 전문가가 서명한 이 선언문에서는 인공지능이 전염병과 핵전쟁과 같은 수준으로 인류에게 실존적 위협을 가할 것이라고 경고했습니다.
AI로 인한 멸종 위험을 완화하는 것은 전염병 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다.
마이클 오스본에 따르면옥스퍼드 대학의 머신러닝 교수이자 마인드 파운드리의 공동 창립자인 그는 멸종 위험이 가장 큰 우려라고 말했습니다.
"이렇게 많은 사람이 이 편지에 서명한 것은 정말 놀라운 일입니다."라고 그는 말했습니다. "그것은 AI에서 일하는 우리들 사이에서 실존적 위험이 실제적인 우려라는 것을 점점 더 깨닫고 있다는 것을 보여줍니다."
"우리는 AI를 잘 이해하지 못하기 때문에 AI가 지구상에서 일종의 새로운 경쟁 유기체 역할을 할 가능성이 있습니다. 즉, 우리가 설계한 일종의 침입종이 우리 종의 생존에 파괴적인 역할을 할 수도 있습니다."라고 오스본은 말했습니다.
이제 AI 열풍의 정점에 오른 영국 총리 Rishi Sunak은 다음 주 워싱턴 방문을 통해 영국을 AI 규제의 글로벌 중심지로 홍보했습니다. 조 바이든의 지원을 구하다 영국에서 개최되는 AI 안전에 대한 글로벌 정상회의에 참석하세요.
바이든 대통령은 AI가 "통제되지 않으면 큰 피해를 입힐 수 있는 잠재력"을 강조했지만, "암을 치료할 수 있는 잠재력"도 강조했습니다. "엄청난 잠재력이 있고, 우리는 영국이 이 노력을 이끌고 이를 극복할 방법을 찾아내기를 기대하고 있습니다."
이제 모든 공포 조장이 이 침입적인 새로운 종류의 "외계" 지능의 우월성에 확고히 집중된 가운데, 이것이 AI 산업이 제품 판매를 촉진하기 위해 고용한 영리한 홍보 담당자들이 만든 일종의 마케팅 캠페인일지도 모른다고 묻는 것은 음모론에 가까운 무례한 짓으로 보입니다.
우리가 잘못된 방향으로 시선을 돌리고 있는 것은 아닐까? 그리고 인류의 생존에 대한 가장 큰 실존적 위협은 AI의 우월한 지능이 아니라 엄청난 어리석음에서 비롯되는 것은 아닐까?
AI가 정말로 우수한 학생이고 저널리즘부터 의학, 법학, 과학, 공학에 이르기까지 상상할 수 있는 모든 분야에서 인간을 대체할 것이라면, 우리가 걱정해야 할 것은 별로 없습니다. 다만 AI가 창출하는 모든 부를 어떻게 분배할지, 그리고 우리의 여가 시간을 어떻게 사용할지에 대해서만 이야기할 뿐입니다.
하지만 AI가 그렇게 대단한 것이 아니라면, 그럼 어떨까요? 멍청하고 무책임한 관리자, 의료진, 변호사, 과학자, 엔지니어로 구성된 군대가 우리 종족의 생존에 어떤 파괴적인 역할을 할 수 있을까요?
이 가설을 검증하기 위해 우리는 ChatGPT와 다음 대화를 진행했습니다.
* * *
사용자
사망률이 0.0003%라면, 사망 확률은 얼마인가?
ChatGPT
사망률이 0.0003%일 때 사망 확률을 알아보려면 사망률을 확률로 변환해야 합니다.
사망률 0.0003%는 0.000003진수 형태로 0.0003으로 쓸 수 있습니다(100 ÷ 0.000003 = 1). 이는 인구에서 사망하는 비율을 나타냅니다. 이를 확률로 변환하려면 1에서 빼야 합니다. 사건이 발생할 확률과 발생하지 않을 확률을 더하면 XNUMX이 되기 때문입니다.
사망 확률 = 1 – 0.000003 = 0.999997
따라서 사망 확률은 약 0.999997, 즉 99.9997%입니다.
사용자
이건 말이 안 돼요. 즉 사망률이 낮을수록 죽을 확률이 높아진다는 뜻이에요.
ChatGPT
혼란을 드려 죄송합니다. 맞는 말씀입니다. 저의 이전 답변은 틀렸습니다. 오류에 대해 사과드립니다.
사망 확률을 계산하려면 사망률을 비율 또는 확률로 변환해야 합니다. 사망률은 일반적으로 백분율 또는 1,000명당 또는 100,000명당으로 표현됩니다.
사망률이 0.0003%라면 100으로 나누어 소수로 표현할 수 있습니다.
0.0003% = 0.000003
이는 인구의 사망자 비율을 나타냅니다. 이를 확률로 변환하려면 소수점 값을 사용하면 됩니다.
따라서 이 경우 사망 확률은 0.000003, 즉 0.0003%입니다.
사용자
왜 처음에 틀렸어요?
ChatGPT
첫 번째 답변에서 실수가 있어 사과드립니다. AI 언어 모델로서 정확한 정보를 제공하기 위해 노력하지만 가끔 오류가 발생할 수 있습니다. 혼란이나 불편을 끼쳐드려 사과드립니다. 추가 질문이 있으면 언제든지 문의하세요.
사용자
아직도 왜 틀렸는지 설명하지 않았어.
ChatGPT
이전에 명확한 설명을 하지 않은 것에 대해 사과드립니다. 제 초기 답변의 실수는 계산 오류 때문이었습니다. 저는 주어진 사망률을 소수점 값이 아닌 백분율로 오해했습니다.
사망률 0.0003%를 소수로 변환할 때, 0.000003(올바른 소수 표현) 대신 0.000003으로 잘못 계산했습니다. 이로 인해 사망 확률이 0.999997 또는 99.9997%로 잘못 계산되었습니다.
다시 한번, 제 초기 답변으로 인해 혼란을 끼쳐드려 사과드리며, 인내심을 가져주셔서 감사합니다. 다른 질문이 있으시면 알려주세요. 기꺼이 도와드리겠습니다.
사용자
아니요. 소수점으로 변환한 것은 정확했습니다. 두 숫자 모두 소수점 여섯 자리이고, 둘 다 3이 다섯 개 있으며, 둘 다 1으로 끝납니다. 실수는 "확률로 변환하려면 1에서 빼야 합니다. 사건이 발생할 확률과 발생하지 않을 확률을 더하면 XNUMX이 되기 때문입니다."라는 공식을 사용한 것입니다. 이 공식은 어디서 나온 것일까요?
ChatGPT
당신이 옳고, 제 설명으로 인해 혼란을 드려 죄송합니다. 사망률에서 1을 빼면 사망 확률이 나온다고 제안함으로써 잘못된 진술을 했습니다. 제 설명의 실수에 대해 사과드립니다.
명확히 하자면, 사망률 자체는 사망 확률 또는 기회로 간주될 수 있습니다. 이 경우 사망률 0.0003% 또는 0.000003은 사망 확률 또는 기회입니다.
다시 한번, 이전의 오류와 이로 인해 발생한 혼란에 대해 사과드립니다. 추가 질문이 있으시면 언제든지 질문해 주세요.
사용자
사과를 수락합니다. 사과는 그만하세요. 사망률에서 1을 빼면 사망 확률이 나온다는 잘못된 진술의 출처만 알려주세요.
ChatGPT
이전 답변에서 잘못된 진술을 한 것에 대해 사과드립니다. 사망률에서 1을 빼면 사망 확률이 나온다는 진술은 정확하지 않습니다. 그 진술로 인해 혼란이 생긴 것에 대해 사과드립니다.
AI 언어 모델로서, 제 응답은 라이선스 데이터, 인간 트레이너가 만든 데이터, 공개적으로 사용 가능한 데이터를 혼합하여 생성됩니다. 저는 제 훈련 데이터에 직접 접근할 수 없고 그 데이터가 어디에서 왔는지 모릅니다. 그러나 저는 라이선스 데이터, 인간 트레이너가 만든 데이터, 공개적으로 사용 가능한 데이터를 혼합하여 훈련을 받았습니다. 다양한 언어 패턴과 개념을 제공하기 위해서입니다. 제 목적은 제 훈련 데이터의 출처와 관계없이 최선을 다해 정보를 제공하고 지원하는 것입니다.
다시 한번, 이전 설명의 오류에 대해 사과드립니다. 다른 질문이 있으시면 알려주세요. 기꺼이 도와드리겠습니다.
앞의 대화는 알베르트 아인슈타인과의 대화라기보다는 많은 인간 접수원을 실직하게 만든 자동 전화 시스템을 통해 협상을 시도하는 것과 더 비슷합니다.
ChatGPT가 코로나 팬데믹에 대한 대응을 실행했다면 무슨 일이 일어났을지 상상해보세요. 사망률 0.0003%는 자동화된 공중 보건 서비스에 의해 99.9%의 사망 확률로 해석될 것이고, 자동화된 저널리스트가 이를 전달하여 일반 대중에게 두려움과 공황 상태를 조성할 것입니다. 그러면 우리는 어디에 있을까요?
아, 잠깐만요. 지금 우리가 있는 곳이 거기가 아니었나요?
위의 ChatGPT 대화를 확인하거나 더 나은 방법으로 대화를 직접 계속하려면 다음을 수행할 수 있습니다. LINK.
에 의해 게시됨 Creative Commons Attribution 4.0 국제 라이센스
재인쇄의 경우 정식 링크를 원본으로 다시 설정하십시오. 브라운스톤 연구소 기사와 저자.
