這在國內的說合規圈也蕩起了漣漪。有聲音指出：漢堡法院的德國第案本次禁令動作之所以在行業內引發關注，是幻覺話負因為它直接繞過了復雜的算法歸因，將X.AI認定為虛假信息的每句發布者，并課以直接責任，說AI需要為自己“說”的德國第案話負責。

Campact eV的幻覺話負經理Astrid Deilmann認為，像 Grok 這樣的每句AI聊天機器人也有義務提供真相。 背后的說X.AI 公司不能對虛假信息置之不理，必須確保謊言不被傳播。德國第案

這無疑是幻覺話負一個很嚴格的要求。Campact e.V.此前一直有資金來源爭議，每句也持續在為此進行訴訟，說不過，德國第案這次的幻覺話負訴訟對象變成了AI。

“失實信息的出現，通常是已有失實信息廣泛傳播、AI算法運行原理的天然成果，又或是AI服務提供者部分識別攔截機制的不健全。”一位大廠負責內容生態的法務告訴記者。

他認為，Grok總結的內容標注了數據來源、是針對用戶詢問解答，沿用傳統信息檢索平臺或新聞媒體報道的責任認定思路看，如無其他事實補充，Grok并沒有生產虛假信息的主觀意圖、也不具有謠言的“傳播擴散”事實。因此，AI生成虛假內容與AI造謠、AI誹謗并不能劃等號。

天元律師事務所李昀鍇指出，需要判斷涉案言論內容是否有明顯的侮辱、誹謗，是否存在明顯失實。如果AI歸納生成的信息來源于不具有足夠依據（比如采納的是X上的某一個人賬號的不具有可信度的發言），可能會存在未盡到核實責任的問題。

平臺免責聲明還能作數嗎？?

由于當前該案的裁決或詳細論證尚未公布，禁令為法院的“臨時命令”，因此諸多討論尚無基石，但有一點共識：AI平臺的免責聲明可能不再是免死金牌。

這與此前的AI誹謗案件認定標準大不相同。2023年，美國的一名電臺主持人馬克·沃爾特斯 (Mark Walters) 指控OpenAI旗下的 ChatGPT 通過捏造指控和虛構訴訟誹謗自己。

相較于德國協會資金來源存在爭議，馬克·沃爾特斯的誹謗純屬ChatGPT瞎編。ChatGPT生成的內容顯示：馬克·沃爾特斯在一個案件中，涉嫌以SAF財務長的職權非法挪用基金會的資金坐上被告席。而事實是，馬克·沃爾特斯亦從未任職于第二修正案基金會，也沒有牽涉進入這一糾紛案件。

不過，美國佐治亞州法院最終駁回了馬克·沃爾特斯的訴求，認可了OpenAI關于AI幻覺的免責聲明，讓其免除了誹謗責任。

法院指出：任何理性的人都不會將涉案AI生成的內容解讀為真實的事實斷言，尤其是考慮OpenAI 采取了廣泛的措施來警告用戶：ChatGPT 有時可能會生成不準確的輸出。

美國對AI誹謗的認定標準，在歐洲大陸并不適用。盡管德國漢堡地區法院最終會發出什么樣的審判決定還未可知，但是禁言Grok的動作一定程度上意味著對AI緊箍咒的態度。

“無論你的免責聲明寫得多么詳實完整，AI的輸出構成了法律所禁止的侵權行為（如誹謗、造謠），服務商可能就得為此買單。”李昀鍇提到。

“人工智能也不能凌駕于法律之上。”Campact e.V.的經理Deilmann如此說道。?

AI公司扮演何種角色？

與2023年生成式AI剛剛起步不同的是，當前的AI已經“飛入尋常百姓家”，其生成內容的影響力如同水波一樣一層層蕩開。

但與此相對應的，卻是普遍用戶AI素養斷檔。上海交通大學主導的“科技謠言背后的非理性群體心理與輿論生成”研究結果顯示，AI早已進入了人們生活，有近半數的接受調查者經常使用大模型，但對于AI幻覺以及AI的“價值觀”，大部分受調查者卻沒有足夠的認知。?

調研對象覆蓋了全國31個省份的不同性別、不同年齡、不同收入層次的居民，數據顯示，約七成受訪者對大模型生成虛假或錯誤信息的風險缺乏清晰認知，高感知比例者不足一成。

在各種社交平臺上，以AI生成內容作為權威的用戶比比皆是，他們拿著這份未經核實的答案作為金科玉律。也正是這種篤定，衍生出了不少糾紛案件。

21世紀經濟報道記者了解到，AI生成內容、AI幻覺導致的侵權、糾紛案件已經涌入國內司法領域，有的案件最快將于年底宣判。

這些案子讓頭部AI公司的法務頭疼不已，其背后牽涉到AI公司到底應該承擔何種責任，是內容生成者還是傳播者？AI和傳統的互聯網平臺有何區分？

李昀鍇認為，如果相關內容是AI平臺整合多個來源經過判斷后歸納總結出來的內容，那這種情況下其更有可能是內容生成者，平臺提供者應該有更嚴格的審核義務，承擔的是直接侵權責任。

但上述大廠法務則指出，以Grok案件為例，不能簡單將用戶的詢問到Grok解答的過程，理解為“平臺主動發布內容”。AI服務提供者并不能完全控制內容生成邏輯，內容的生成過程中，AI解答用戶問題、滿足其訴求是服務的基本要求；此外，AI生成的內容，如無其他事實補充，通常不能代表AI服務提供者本身的觀點與立場。

一名研究學者則認為，從該案判斷，大模型肯定是內容生成者，但是否是內容傳播者存疑。

他指出，盡管大模型傳播了訓練數據中的內容，但需要考慮非常多技術細節，特別是用戶提示在生成中的貢獻。此外，大模型生成內容在用戶之間的傳播結果不盡相同，大模型對A生成和大模型對B生成，首先AB看到內容不一定一樣，其次即使一樣或者相似，能不能直接推出是大模型在傳播。

“AI平臺的法律角色，決定其可能承擔的責任義務的大小。”李昀鍇指出，Grok案件或許會終結業內“模型犯錯，用戶負責”的商業模式。目前漢堡法院只是做出了臨時禁令（僅需申請人證明侵權的初步蓋然性），不是最終判決。不過，這次禁令留下一道長期的思考題：如果AI幻覺在技術上無法避免，如何設計產品的合規模型使其能最大限度上降低或免除因此產生的侵權責任？