페이스북의 이제 거부된 검열의 비용

역사는 이 시대를 미국의 가장 신성한 원칙이 전례 없는 제도적 권력과 충돌하여 패배한 순간으로 기억할 것입니다. 기본권의 체계적 해체는 군사력이나 행정 명령을 통해 이루어지지 않았지만, 기술 플랫폼, 미디어 게이트키퍼, 정부 기관의 조용한 협력을 통해 이루어졌으며, 모두 우리를 "잘못된 정보"로부터 보호한다고 주장했습니다.

메타의 팩트체크 프로그램 갑작스러운 해체 – 주커버그가 "언론을 우선시하는 문화적 전환점"이라고 발표한 – 최근 기억 속에서 가장 충격적인 기본권 침해 중 하나로 기록될 수 있는 역사에 대한 조용한 각주처럼 읽힙니다. 100개 이상의 언어로 운영되는 거의 60개의 사실 확인 기관을 포함하여 XNUMX년 동안 점점 더 공격적으로 콘텐츠 검열을 한 후, Meta는 이제 X의 모델과 유사한 커뮤니티 중심 시스템으로 전환하고 있습니다.

주커버그는 발표에서 검열이 순전히 기술적 실수였다고 먼저 암시한 다음, 마지막에 자신의 입장을 바꾸어 오랫동안 소송이 진행되어 온 사실을 인정합니다. "이 세계적 추세에 저항할 수 있는 유일한 방법은 미국 정부의 지원입니다. 그래서 지난 4년 동안 미국 정부조차 검열을 추진했을 때 매우 어려웠습니다. 우리와 다른 미국 기업을 겨냥함으로써 다른 정부들이 더 나아가도록 용기를 북돋웠습니다."

수백만 달러의 비용이 들고 방대한 정보공개법(FOIA) 요청, 증언 및 증거 공개가 관련된 많은 법정 사건에서 이에 대한 진실은 100,000만 페이지에 달하는 증거에 기록되어 있습니다. The 머티 대 미주리 케이스 FOIA와 증언을 통해 상당한 의사소통이 발견되어 소셜 미디어 플랫폼과 정부의 협력이 얼마나 깊은지 드러났습니다. 대법원은 모든 것을 고려했지만 여러 판사는 단순히 내용과 규모를 이해하지 못했고, 따라서 모든 것을 중단하라는 하급 법원의 가처분 명령을 뒤집었습니다. 이제 우리는 주커버그가 논란의 여지가 있는 것을 정확히 공개적으로 인정했습니다. 미국 정부가 수정 헌법 제1조를 공격적으로 위반한 것입니다. 

최소한, 사건이 진행됨에 따라 구제책을 찾는 것이 더 쉬워질 것입니다. 그래도 실망스럽습니다. 수천만 달러가 그가 수년 전에 인정할 수 있었던 것을 증명하는 데 쓰였습니다. 하지만 그 당시에는 검열관이 여전히 주도권을 쥐고 있었고 Facebook은 권력자들과의 관계를 지키고 있었습니다. 

변화의 시점은 다음과 같습니다. 트럼프 동맹이 이사회에 합류, 메타의 글로벌 업무 담당 사장이 저명한 공화당원으로 교체된다, 그리고 새로운 행정부가 통제권을 잡을 준비를 하고 있습니다. 하지만 주커버그가 이를 언론의 자유 원칙으로의 복귀로 규정하는 반면, 대량 검열 실험의 피해는 단순한 정책 변화로 되돌릴 수 없습니다.

아이러니는 깊습니다. 민간 ​​기업이 국가 권력의 연장선으로 행동하면서 독립을 주장합니다. 우리의 경험을 생각해 보세요. 무솔리니가 파시즘을 "국가와 기업 권력의 합병"이라고 정의한 것을 게시한 것은 Meta에서 이를 "잘못된 정보"로 삭제해 달라고 요청합니다. 이는 단순한 검열이 아니라 메타 검열이었습니다. 즉, 통제 메커니즘 자체에 대한 논의를 침묵시키는 것이었습니다. 

기술 플랫폼이 민간기업의 외관을 유지하는 동안, 정부 기관과 협력하면서 더욱 걱정스러운 현실이 드러났습니다. 바로 그들이 우리가 논의하는 것을 막고자 했던 바로 그 종류의 국가-기업 융합이 등장하고 있다는 것입니다.

우리가 전에 다룬 것처럼, 우리는 단순히 선을 넘지 않았습니다. 우리는 인류의 가장 어두운 장을 겪은 후에 만들어진 신성한 루비콘 강을 건넜습니다.. 폭정에 대한 혁명에서 탄생한 제1차 수정안과 제2차 세계대전의 공포 이후 제정된 뉘른베르크 강령은 인권의 깨지지 않는 수호자가 되어야 했습니다. 둘 다 "안전"이라는 이름으로 체계적으로 해체되었습니다. 우리 조상들이 경고했던 잘못된 정보, 두려움, 정부의 권한 남용과 같은 전술이 무섭도록 효율적으로 배치되었습니다.

이러한 체계적인 해체는 백신 효과에 대한 논의에서 바이러스 기원에 대한 논쟁, 의무 정책에 대한 의문에 이르기까지 모든 주제를 건드리지 않았습니다. 과학적 담론은 승인된 서사로 대체되었습니다. 의학 연구자들은 기관의 입장과 다른 결과를 공유할 수 없었습니다. Covid-19 데이터에 대한 신뢰할 수 있는 토론 그리고 정책. 심지어 개인적인 경험은 "잘못된 정보"로 분류되었습니다. 공식 메시지와 일치하지 않으면 – 그 패턴은 터무니없이 높아졌습니다. 검열 자체의 본질에 대해서도 논의하고 있습니다. 검열의 근거가 되었다.

피해는 사회의 모든 계층에 파급되었습니다. 개인 수준에서는 경력이 파괴되었고, 진정한 경험을 공유했다는 이유만으로 전문 자격증이 취소되었습니다. 지배적인 서사에 의문을 제기한 과학자와 의사는 직업적으로 소외되었습니다. 많은 사람이 플랫폼에서 직접 경험한 이야기를 "잘못된 정보"라고 분류했을 때 자신의 눈과 경험을 신뢰하는 것에 대해 고립되거나 비이성적이라고 느꼈습니다.

가족 유대감의 파괴는 훨씬 더 오래 지속될 수 있습니다. 휴일 테이블이 비었습니다. 조부모는 손주와 함께 대체할 수 없는 순간을 놓쳤습니다. 수십 년 동안 친하게 지내던 형제 자매는 말을 끊었습니다. 수년간의 가족 관계는 사실에 대한 의견 불일치가 아니라, 그 사실을 논의할 권리에 대한 의견 불일치로 인해 깨졌습니다.

아마도 가장 교활한 것은 지역 사회 수준의 피해였을 것입니다. 지역 단체들이 분열되었습니다. 이웃들은 이웃을 등졌습니다. 소규모 사업체들은 블랙리스트에 올랐습니다. 교회들은 분열되었습니다. 학교 위원회 회의는 전쟁터로 전락했습니다. 시민 사회를 가능하게 하는 사회적 구조가 풀리기 시작했습니다. 사람들이 다른 견해를 가지고 있었기 때문이 아니라 대화의 가능성 자체가 위험하다고 여겨졌기 때문입니다.

검열관들이 이겼습니다. 그들은 충분한 제도적 권력이 있다면 자유로운 담론을 가능하게 하는 사회적 구조를 쪼개버릴 수 있다는 것을 보여주었습니다. 이제 억압을 위한 이러한 인프라가 존재하므로, 충분히 시급해 보이는 어떤 대의를 위해 다시 배치될 준비가 되었습니다. 대중의 정산이 없다는 것은 소름 돋는 메시지를 보냅니다. 넘을 수 없는 선은 없고, 무시할 수 없는 원칙은 없습니다.

진정한 화해는 메타의 무심한 정책 반전 이상을 요구합니다. 검열의 모든 사례를 기록한 완전하고 투명한 조사가 필요합니다. 억제된 백신 부상 보고서부터 차단된 바이러스 기원에 대한 과학적 토론, 의무 정책에 의문을 제기하는 침묵의 목소리까지. 이는 정당화에 대한 것이 아니라 이러한 전술이 다시는 사용되지 않도록 하는 공격할 수 없는 공개 기록을 만드는 것입니다.

우리 헌법의 수정 제1조는 제안이 아니었습니다. 폭정에 맞선 사람들의 피로 쓰여진 신성한 계약이었습니다. 그 원칙은 시대에 뒤떨어진 유물이 아니라 우리가 방금 목격한 권한 남용에 대한 필수적인 보호책입니다. 기관이 이러한 기본적 권리를 불가침의 경계가 아닌 유연한 지침으로 취급할 때, 피해는 단일 플랫폼이나 정책을 훨씬 넘어 파급됩니다.

우리 서클의 많은 사람들과 마찬가지로, 우리는 이를 직접 목격했습니다. 하지만 개인적 정당화가 목표는 아닙니다. 침묵당한 모든 목소리, 억압된 모든 토론, "승인된 서사"를 위해 깨진 모든 관계는 우리 모두를 더 가난하게 만드는 사회적 구조의 균열을 나타냅니다. 완전한 회계와 미래의 과도한 영향력에 대한 구체적인 보호 조치 없이, 우리는 미래 세대를 다른 가면을 쓴 동일한 독재적 충동에 취약하게 만들고 있습니다.

문제는 우리가 잃어버린 것을 회복할 수 있느냐가 아니라, 우리는 회복할 수 없습니다. 문제는 우리가 마침내 이러한 권리를 진정으로 침해할 수 없는 것으로 인정할 것인지, 아니면 두려움과 긴박함이 요구할 때마다 쓸어버릴 수 있는 불편한 장애물로 계속 취급할 것인지입니다. 벤저민 프랭클린은 약간의 일시적인 안전을 사기 위해 필수적인 자유를 포기하는 사람은 자유도 안전도 받을 자격이 없다고 경고했습니다. 이 도전에 대한 우리의 답은 우리가 자녀들에게 필수적인 자유를 수호하는 사회를 물려줄 것인지, 아니면 안전이라는 이름으로 무심코 이를 버리는 사회를 물려줄 것인지를 결정할 것입니다.

다음은 7년 2024월 XNUMX일 마크 주커버그의 발표 전문입니다.

안녕하세요 여러분. 오늘은 중요한 이야기를 하고 싶습니다. Facebook과 Instagram에서 자유로운 표현을 중심으로 우리의 뿌리로 돌아갈 때가 되었기 때문입니다. 저는 사람들에게 목소리를 주기 위해 소셜 미디어를 만들기 시작했습니다. 5년 전 조지타운에서 자유로운 표현을 보호하는 것의 중요성에 대해 연설했고, 지금도 여전히 그렇게 믿습니다. 하지만 지난 몇 년 동안 많은 일이 일어났습니다.

온라인 콘텐츠의 잠재적 피해에 대한 광범위한 논쟁이 있었고, 정부와 기존 미디어는 점점 더 검열을 강화하고 있습니다. 이 중 많은 부분이 분명히 정치적이지만, 합법적으로 나쁜 것도 많이 있습니다. 마약, 테러, 아동 착취. 이것들은 우리가 매우 심각하게 받아들이는 것들이고, 책임감 있게 처리하고 싶습니다. 그래서 우리는 콘텐츠를 조절하기 위해 많은 복잡한 시스템을 구축했지만, 복잡한 시스템의 문제는 실수를 한다는 것입니다.

실수로 게시물의 1%만 검열하더라도 수백만 명의 사람들입니다. 그리고 우리는 실수가 너무 많고 검열이 너무 많은 지점에 도달했습니다. 최근 선거는 또한 다시 한번 언론의 우선 순위를 정하는 문화적 전환점처럼 느껴집니다. 그래서 우리는 우리의 뿌리로 돌아가 실수를 줄이고, 정책을 단순화하고, 플랫폼에서 자유로운 표현을 회복하는 데 집중할 것입니다. 더 구체적으로, 우리가 할 일은 다음과 같습니다.

첫째, 사실 확인자를 없애고 미국에서 시작하여 X와 유사한 커뮤니티 노트로 대체할 것입니다. 트럼프가 2016년에 처음 선출된 후, 기존 미디어는 잘못된 정보가 민주주의에 위협이 된다는 글을 끊임없이 썼습니다. 우리는 진실의 심판자가 되지 않으면서도 그러한 우려 사항을 해결하려고 선의로 노력했지만, 사실 확인자는 정치적으로 너무 편향되어 특히 미국에서 그들이 만든 것보다 더 많은 신뢰를 파괴했습니다. 따라서 앞으로 몇 달 동안 보다 포괄적인 커뮤니티 노트 시스템을 단계적으로 도입할 것입니다. 둘째, 콘텐츠 정책을 단순화하고 이민 및 성별과 같이 주류 담론과 맞지 않는 주제에 대한 많은 제한을 제거할 것입니다.

더 포괄적이 되려는 운동으로 시작된 것이 점점 더 의견을 봉쇄하고 다른 생각을 가진 사람들을 차단하는 데 사용되었고, 너무 과도해졌습니다. 그래서 저는 사람들이 우리 플랫폼에서 자신의 신념과 경험을 공유할 수 있도록 하고 싶습니다. 셋째, 우리는 플랫폼에서 검열의 대부분을 차지하는 실수를 줄이기 위해 정책을 시행하는 방식을 바꾸고 있습니다. 우리는 정책 위반을 스캔하는 필터를 사용했었습니다. 이제 우리는 불법적이고 심각한 위반을 해결하는 데 이러한 필터를 집중할 것입니다.

심각도가 낮은 위반의 경우, 조치를 취하기 전에 누군가가 문제를 보고해야 합니다. 문제는 필터가 실수를 해서 삭제해서는 안 될 많은 콘텐츠를 삭제한다는 것입니다. 따라서 필터를 조정하면 플랫폼에서 검열의 양을 극적으로 줄일 수 있습니다. 또한 콘텐츠를 삭제하기 전에 훨씬 더 높은 신뢰도를 요구하도록 콘텐츠 필터를 조정할 것입니다. 현실은 이것이 트레이드오프라는 것입니다.

즉, 나쁜 일은 덜 잡겠지만, 실수로 삭제한 무고한 사람들의 게시물과 계정의 수도 줄일 것입니다. 넷째, 시민 콘텐츠를 다시 가져옵니다. 한동안 커뮤니티는 정치가 사람들을 스트레스에 빠뜨리기 때문에 정치를 덜 보길 원했습니다. 그래서 이런 게시물을 추천하는 것을 멈췄지만, 지금은 새로운 시대가 온 것 같고 사람들이 이 콘텐츠를 다시 보고 싶어한다는 피드백을 받기 시작했습니다. 그래서 커뮤니티를 친절하고 긍정적으로 유지하기 위해 노력하면서 Facebook, Instagram, Threads에 단계적으로 다시 게시할 것입니다.

다섯째, 다섯째, 우리는 캘리포니아에서 신뢰와 안전, 콘텐츠 검토 팀을 이전하고, 미국 기반 콘텐츠 검토는 텍사스에 두기로 했습니다. 우리가 표현의 자유를 증진하기 위해 노력하면서, 우리 팀의 편향성에 대한 우려가 적은 곳에서 이 작업을 수행할 수 있는 신뢰를 구축하는 데 도움이 될 것이라고 생각합니다. 마지막으로, 우리는 트럼프 대통령과 협력하여 미국 기업을 겨냥하고 더 많은 검열을 추진하는 전 세계 정부에 맞서 싸울 것입니다. 미국은 세계에서 표현의 자유에 대한 가장 강력한 헌법적 보호를 가지고 있습니다. 유럽은 검열을 제도화하고 혁신적인 것을 구축하기 어렵게 만드는 법률이 점점 더 많아지고 있습니다.

라틴 아메리카 국가들은 기업들에게 조용히 일을 중단하라고 명령할 수 있는 비밀 법원을 가지고 있습니다. 중국은 우리의 앱이 중국에서 작동하는 것조차 검열했습니다. 우리가 이 세계적 추세에 저항할 수 있는 유일한 방법은 미국 정부의 지원입니다. 그래서 지난 4년 동안 미국 정부조차 검열을 추진했을 때 매우 어려웠습니다. 우리와 다른 미국 기업을 겨냥함으로써 다른 정부들이 더 나아가도록 용기를 북돋웠습니다.

하지만 이제 우리는 표현의 자유를 회복할 기회가 생겼고, 저는 그것을 잡을 수 있어서 기쁩니다. 이것을 바로잡는 데는 시간이 걸릴 것입니다. 그리고 이것들은 복잡한 시스템입니다. 결코 완벽할 수 없습니다. 또한 우리가 제거하기 위해 매우 열심히 노력해야 할 불법적인 것들이 많이 있습니다.

하지만 결론은 수년간 콘텐츠 검토 작업을 주로 콘텐츠 삭제에 집중한 끝에 이제는 실수를 줄이고 시스템을 간소화하며 사람들에게 목소리를 주는 것에 대한 근원으로 돌아가는 데 집중해야 할 때라는 것입니다. 다음 장을 기대하고 있습니다. 계속 좋은 모습을 보여주세요. 곧 더 많은 것을 보여드리겠습니다.”