包括蘋果聯合創始人史蒂夫·沃茲尼克（Steve Wozniak）和維珍集團董事長理查·布蘭森（Richard Branson）在內的800多名知名人士 ，近日簽署了一份公開聲明，要求立即停止超級智能的開發。

　　“超級智能 ”是指在所有領域超越人類認知能力的人工智能系統 。

　　這個史無前例的聯合聲明警告稱
，超越人類智能的人工智能（AI）系統帶來了從經濟崩潰到人類滅絕的風險。該聲明等同于直接向OpenAI 、Meta和其他科技巨頭正在大肆鼓吹的AI模型競賽“潑了一盆冷水”，可能成為AI行業的一個重大轉折點
。

　　據悉 ，這份聯合聲明的簽名名單包含了世界上最有影響力的科技領袖、科學家和公眾人物
，甚至就連被廣泛認為是現代人工智能教父的約書亞·班吉歐（Yoshua Bengio）和杰佛瑞·辛頓（Geoffrey Hinton）也在其中。

　　“超級智能的前景已經引起了人們的關注，其影響從人類經濟的落伍和權力的剝奪 ，自由
、公民權力、尊嚴和控制權的喪失
，到國家安全風險，甚至可能導致人類滅絕 ，
”簽名者用直言不諱的語言警告說 。

　　這不僅僅是學術上的絕望
。就在這份請愿書發布之際
，Meta將其人工智能部門更名為“Meta超級智能實驗室”（Meta Superintelligence Labs），而OpenAI和馬斯克（Elon Musk）的xAI則陷入了一場越來越公開的競賽 ，看誰能首先實現人工通用智能。

　　但這些行業資深人士卻在此時呼吁“踩剎車 ”
，希望不要發展太快 。

　　不僅如此，這份聯合聲明簽名者名單的覆蓋范圍遠遠超出了硅谷
。前國家安全顧問Susan Rice和前參謀長聯席會議主席Mike Mullen都簽名支持 ，這表明了對國家安全的嚴重擔憂。甚至連英國王妃梅根·馬克爾也出現在名單上，與特朗普的盟友史蒂夫·班農和格林·貝克一起——這種政治團結實屬罕見 。

　　加州大學伯克利分校（UC Berkeley）的Stuart Russell是一位領先的人工智能安全研究員
，多年來一直在對超級智能發出警告，他幫助組織了這項工作
。根據他之前的研究 ，挑戰不在于人類能否建立超級智能系統
，而是一旦它們存在，人類能否控制它們。

　　該聲明呼吁全面禁止超級智能的發展 ，“直到公眾強烈支持并達成廣泛的科學共識
，即它可以安全可控地進行 。這是一個很高的標準，它可能會有效地凍結當前人工智能開發的時間表
。
”

　　這份聯合聲明與此前任何相關警告都不同 ，這里面的許多人都并非來自“外界”
，恰恰相反，他們是建立了今天的人工智能能力的研究人員和企業家。當班吉歐和辛頓之類的頂級科學家——他們的工作使現代大型語言模型得以實現——說“踩剎車 ”時 ，整個行業很可能會認真思考 。

　　不過
，接下來會發生什么，可能取決于各國政府如何應對。歐盟已經在實施人工智能法規 ，美國一直在探索人工智能安全框架
。這份請愿書為立法者提供了借口，可以對最先進的人工智能研究實施更嚴格的控制。