在科幻電影中，人工智能常被塑造成全知全能的“超級大腦
” ，但現(xiàn)實中
，AI卻時常表現(xiàn)為“自信的謊言家”
。比如，請AI描述“關(guān)公戰(zhàn)秦瓊 ” ，它不僅能“敘述
”虛構(gòu)的故事情節(jié)
，還會“猜測”用戶喜好，煞有介事地編造不存在的文獻檔案。這種現(xiàn)象被稱為“AI幻覺 ” ，已經(jīng)成為困擾許多人工智能企業(yè)和使用者的現(xiàn)實難題 。

　　AI為什么會一本正經(jīng)地胡說八道？根源在于其思維方式與人類存在本質(zhì)不同
。今天人們?nèi)粘Ｊ褂煤徒佑|最多的AI大模型本質(zhì)上是一個龐大的語言概率預測和生成模型。它通過分析互聯(lián)網(wǎng)上數(shù)以萬億計的文本
，學習詞語之間的關(guān)聯(lián)規(guī)律，再像玩猜詞游戲一樣 ，逐字逐句生成看似合理的回答 。這種機制使AI擅于模仿人類的語言風格
，但有時缺乏辨別真?zhèn)蔚哪芰?
。

　　AI幻覺的產(chǎn)生與大模型訓練的過程密不可分。AI的知識體系基本來源于訓練時“吞下
”的數(shù)據(jù)源 。來自互聯(lián)網(wǎng)的各類信息魚龍混雜，其中不乏虛假信息、虛構(gòu)故事和偏見性觀點
。這些信息一旦成為AI訓練的數(shù)據(jù)源 ，就會出現(xiàn)數(shù)據(jù)源污染。當某個領(lǐng)域?qū)I(yè)數(shù)據(jù)不足時，AI便可能通過模糊性的統(tǒng)計規(guī)律來“填補空白” 。比如
，將科幻小說中的“黑科技 ”描述為真實存在的技術(shù)
。在AI被越來越多地用于信息生產(chǎn)的背景下，AI生成的海量虛構(gòu)內(nèi)容和錯誤信息正在進入訓練下一代AI的內(nèi)容池 ，這種“套娃
”生態(tài)將進一步加劇AI幻覺的產(chǎn)生。

　　在大模型訓練過程中
，為了使AI生成滿足用戶需求的內(nèi)容，訓練者會設置一定的獎勵機制——對于數(shù)學題等需要邏輯推理的問題 ，往往通過確認答案的正確與否給予獎勵；對于寫作等開放式命題
，則需要判斷其生成的內(nèi)容是否符合人類寫作習慣 。為了訓練效率，這種判斷更多關(guān)注AI語言的邏輯性和內(nèi)容格式等指標 ，卻忽略了事實的核查。

　　此外
，訓練過程的缺陷也會導致AI存在“討好”用戶的傾向，明知道答案不符合事實 ，也愿意遵照指令生成迎合用戶的內(nèi)容
，并編造一些虛假的例證或看似科學的術(shù)語來支撐自己的“假說 ”
。這種“角色扮演式
”的表達讓許多普通用戶難以分辨AI幻覺。上海交通大學媒體與傳播學院進行的一項全國抽樣調(diào)查顯示，約七成受訪者對大模型生成虛假或錯誤信息的風險缺乏清晰認知 。

　　如何破解AI幻覺？開發(fā)者嘗試通過技術(shù)手段為AI“糾偏”
。比如“檢索增強生成 ”技術(shù) ，這意味著AI在回答前需要從最新的數(shù)據(jù)庫檢索相關(guān)信息，降低“信口開河”概率；一些模型被要求在不確定答案時主動承認“不知道
”
，而非強行編造答案。不過，由于目前的AI無法像人類那樣理解語言背后的真實世界 ，因此這些方法難以從根本上解決AI幻覺問題 。

　　應對AI幻覺
，不僅需要技術(shù)規(guī)制，也需要從公民AI素養(yǎng)普及 、平臺責任
、公共傳播等維度構(gòu)建系統(tǒng)性的“幻覺免疫力”
。AI素養(yǎng)不僅包含使用AI的基本技能 ，更重要的是對AI幻覺要有基本的認知能力。明確技術(shù)平臺的責任邊界同樣重要
，AI產(chǎn)品在設計時就應嵌入風險提示機制，自動標記“可能存在事實性錯誤 ”等警示內(nèi)容 ，并提供方便用戶進行事實核查和交叉驗證的功能 。媒體可以通過定期發(fā)布AI偽造事實的典型案例
，進一步培養(yǎng)公眾的識別能力
。通過多方聯(lián)手，智能時代的認知迷霧才能被真正破除。

　　（作者為上海交通大學媒體與傳播學院特聘教授 ，本報記者黃曉慧采訪整理）