隨著美國為即將到來的大選做準備，人們對社群媒體平臺上錯誤訊息氾濫的擔憂日益加劇。這些擔憂因以下事實而加劇：主要平臺，包括 Elon Musk 的Twitter 變身X、Meta Platforms Inc.（前身為Facebook）和谷歌旗下的YouTube，在打擊虛假內容方面變得越來越猶豫。這種方法的轉變與人工智慧工具的興起同時發生，人工智慧工具使錯誤訊息的傳播變得更加容易，對選舉的公正性構成了重大挑戰。
社群媒體轉型與內容監控的轉變
社群媒體領域最顯著的轉變之一是馬斯克將 Twitter 重新命名為“X”，這是朝著更不受限制的平臺邁進的一步。然而，X 並不是唯一一家改變內容監控方法的公司。擁有 Facebook 的 Meta Platforms Inc.
Instagram 和 Threads 一直淡化其平臺上的新聞和政治內容。同樣，Google旗下的 YouTube 也選擇避免清除與 2020 年大選相關的虛假訊息，理由是擔心限制政治言論。
這項轉變發生在人工智慧工具導致虛假訊息快速傳播、社會分歧正在侵蝕信任的關鍵時刻。世界經濟論壇在其《全球風險報告》中將錯誤訊息確定為最重大的短期威脅。
對美國民主的威脅
民主黨廣告科技公司 DSpolitical 的技術長 Mark Jablonowski 警告說，雖然平臺要求提高廣告透明度，但自然虛假資訊的不受控制的傳播對美國民主構成了根本威脅。
隨著公司重新評估其審查做法，賈布洛諾夫斯基表示擔心，未解決的虛假病毒內容可能會影響選民的看法並影響 2024 年的選舉結果。
美國以外的風險
這些平臺變化的影響超出了美國範圍。 2024 年，大約 60 個其他國家將舉行選舉，這使得嘗試新的內容審查動態成為充滿風險的一年。
美國競選活動已經開始，前總統川普在愛荷華州黨團會議上取得了長足進步，可能為與總統喬拜登的重賽奠定了基礎。鑑於兩位候選人的兩極化性質，現實世界發生暴力的風險更高，2021 年 1 月 6 日國會大廈遇襲事件證明了這一點。
儘管針對煽動暴力或誤導選民的內容制定了政策指導方針，但 X、Meta 和 YouTube 等平臺必須應對維護選舉公正性同時避免審查的挑戰。
財政和政治壓力
有幾個因素導致平臺對內容審核的態度改變。出於經濟動機，例如提高效率，科技公司減少了非工程人員。例如，Meta 的 Mark Zuckerberg 稱該公司的大規模裁員對整個產業有利。
政治壓力也發揮了作用，美國保守派認為科技公司不應該有權定義敏感政治和社會議題的真相。在 2020 年大選之前，有關拜登兒子的報道遭到壓制，後來被認為毫無根據，引發了爭議，並引發了人們對激進內容刪除所涉及的權衡的質疑。
事實證明，執行針對錯誤訊息的政策具有挑戰性，特別是在像 COVID-19 大流行這樣迅速發展的事件期間。試圖以事件快速變化的速度強制刪除內容可能會導致確定真相的限制和困難。
這些挑戰的後果之一是社群媒體平臺轉向爭議較少的主題。 Meta 推出的 Threads 被定位為 Twitter 的競爭對手，專注於生活方式和娛樂內容，以避免與硬新聞和政治相關的審查和負面影響。
人工智慧生成的深度造假：日益引起關注
為了解決人們對人工智慧產生的深度造假日益嚴重的擔憂，Meta 計劃實施與先前選舉中使用的協議類似的協議，包括在選舉前一周禁止新的政治廣告。平臺越來越擔心深度偽造，其中涉及使用人工智慧創建虛假圖像、音訊或視訊。雖然它們對錯誤訊息的影響尚不顯著，但它們有可能引起懷疑，特別是在選舉日等時間敏感的情況下。
拜登競選團隊已經採取措施，透過法律途徑挑戰網路假訊息，包括使用深度造假產品。他們專注於解決可能違反版權法和反假法規的行為。
