蘋果新推出的“蘋果智能”生成式AI技術在英國上線不到48小時內就“翻車”，其AI新聞摘要功能給BBC的新聞報道編造了一條不實標題：“刺殺聯合健康保險公司CEO的嫌疑槍手路易吉·曼吉奧尼開槍自殺”。

該事件不僅是蘋果年末面臨的重大公關危機，也引發了新聞自由倡導組織的廣泛批評，認為人工智能尚不足以承擔生成公共新聞信息的任務。

人工智能成造謠機器？

由“無國界記者”（RSF）提出的批評指出，蘋果新聞摘要的錯誤本質源于生成式人工智能的概率性決策模式。RSF在聲明中表示：“這一事故表明，即便基于權威新聞來源，人工智能系統也無法系統性地產出高質量信息。概率性的運作方式決定了此類技術不適合作為面向公眾的可靠新聞解決方案。”

蘋果的新聞摘要系統錯誤總結了BBC有關“路易吉·曼吉奧尼”的報道，將“涉嫌槍擊聯合健康保險CEO的嫌疑人”篡改為“嫌疑人自殺”，嚴重偏離事實，與造謠無異。這不僅對媒體的公信力造成影響，也可能對公眾的信息獲取權利構成威脅。

新聞摘要功能被要求下架

RSF明確要求蘋果從其操作系統中刪除該功能。RSF科技與新聞部門負責人文森特·貝蒂埃批評稱：“事實不應由擲骰子的方式決定。蘋果應負起責任，下架這一功能。”他進一步指出：“自動生成虛假信息并歸因于權威媒體，既損害了媒體的可信度，也危及公眾獲取可靠新聞的權利。”

這一事件也引發了BBC的不滿。BBC已對此提交正式投訴，指責蘋果的人工智能系統損害了其新聞內容的準確性。然而，蘋果尚未對外界的批評和投訴作出公開回應。

AI新聞功能的“前科”

據BBC透露，這并非蘋果AI系統首次因生成錯誤新聞摘要而陷入爭議。今年11月，一位ProPublica記者曾分享蘋果AI生成的另一則假新聞摘要，錯誤地稱以色列總理本雅明·內塔尼亞胡被捕，并將消息歸因于《紐約時報》。這一系列事件表明，蘋果的AI新聞摘要可能已經成為“習慣性誤讀者”。

更廣泛的技術背景也為這一事件提供了警示。Google的AI搜索曾因錯誤建議用戶“在披薩上涂膠水”而受到批評，Meta則警告硬件故障可能導致AI決策錯誤。顯然，生成式人工智能的“未成熟性”已成為行業的普遍問題。

“機器造謠”的法律與倫理空白

RSF指出，歐洲的《人工智能法案》（AI Act）盡管是目前全球最先進的AI相關立法，但并未將新聞生成類AI列為高風險系統，從而留下了一個重要的法律空白。此外，當前主流的AI安全法律框架未能明確生成虛假信息的責任是歸于技術提供方還是用戶。這種模糊性導致企業在處理此類事件時往往采取“推諉”策略。

貝蒂埃呼吁立法者盡快彌補這一缺口：“這一漏洞必須立即填補，以防止類似事件再次發生。”

RSF呼吁盡快填補法律空白，重點關注以下幾個方面：

• 高風險分類和強制評估。將新聞生成類AI系統列為高風險技術，要求技術提供方進行定期審核和透明報告。
• 虛假信息責任追究機制。明確技術提供方對生成虛假信息的直接責任，并設立糾紛仲裁機制。
• 公眾監督與參與。鼓勵公眾和媒體參與AI信息生成技術的監督，形成技術應用的多方協作機制。

這一事件還暴露了生成式人工智能在新聞領域依然存在重大技術瓶頸和內容風險，也凸顯了企業在AI技術使用中的倫理責任缺失。科技公司在應用AI技術時往往缺乏足夠的責任心和應對機制。業內人士表示，蘋果若不立即采取行動，未來可能面臨更大的監管壓力和用戶信任危機。