出品 | 搜狐科技
作者 | 梁昌均
編輯 | 楊錦
從全球爆火到反對禁用，ChatGPT正在陷入人工智能發展史上最為激烈的安全爭議。
最新動向是，意大利數據保護局宣布暫時禁使ChatGPT，成為全球開通ChatGPT服務中首個明確禁用的國家。隨后，OpenAI立即關停了意大利當地的ChatGPT服務。
在此之前，ChatGPT已遭遇多方反對。先是特斯拉CEO埃隆·馬斯克（Elon Musk）等千人科學家發表聯名信，呼吁暫停訓練比GPT-4更強大的AI系統。
后來又是美國非營利性科技倫理組織人工智能與數字政策中心（CAIDP）指控GPT-4 違反了消費者保護法，并要求美國聯邦貿易委員會（FTC）展開調查，暫停其進商業化部署。
值得注意的是，ChatGPT近日開始大面積封號，尤其針對亞洲地區，或涉及百萬用戶。具體原因眾說紛紜，有說法是針對批量注冊和API調用，但也有分析稱背后或有對濫用的擔憂。
最大的恐懼源自未知，如今ChatGPT推動人工智能再次進入加速期，它會把人類社會帶向何方還看不清楚，但對技術的監管已不可少。
“現在的問題不是對AI的倫理和風險問題沒有討論，而是在于如何根據國情落實AI治理措施。”長期關注科技與社會沖擊問題的中國人民大學教授劉永謀對搜狐科技表示。
意大利出手“封殺”，多家企業禁用
意大利數據保護局認為，OpenAI沒有告知就收集用戶數據并用于算法訓練的行為，缺乏法律依據。同時ChatGPT缺乏相應的年齡驗證機制，未成年人很可能會看到超出其自身發展和認知水平的信息。
該機構將限制OpenAI處理意大利用戶信息，并要求OpenAI在20天內通報為解決前述問題而采取的措施，否則將被處以最高2000萬歐元或公司全球年營業額4%的罰款。
對此OpenAI當天就在網站設置限制，阻止意大利用戶訪問ChatGPT，并表示正在積極努力減少在訓練ChatGPT等人工智能系統時使用個人數據的情況。
據報道，ChatGPT兩周前發生的用戶信息泄露事件成為被禁用的導火索。由于開源庫漏洞，ChatGPT部分在線用戶姓名、郵件地址等信息可被其他用戶看到，ChatGPT因此還被短暫下線。“這暴露出OpenAI在個人信息處理上存在問題。”意大利數據保護局稱。
類似的信息泄露事件并不少見。三星電子此前被爆出引入ChatGPT不到20天出現3次濫用與誤用事件，導致半導體設備測量數據、產品良率等機密內容被存入ChatGPT學習數據庫。三星表示，如后面仍發生類似事故，將考慮禁止在內網使用ChatGPT。
為規避數據泄露風險，此前已有不少企業明確禁止員工使用ChatGPT，包括摩根大通、德意志銀行、埃森哲、富士通、軟銀、高盛、花旗等公司。
意大利此次直接禁用ChatGPT再次凸顯了人工智能數據保護問題的急迫性，今年2月，意大利就以類似理為由禁止聊天機器人Replika使用該國用戶的個人數據。對于數據和個人隱私監管嚴格的歐盟來說，意大利的做法不排除后續有其他國家效仿。
德國聯邦數據保護專員發言人就在昨日表示，出于數據保護方面的考慮，原則上有可能暫時禁止在德國使用ChatGPT。該發言人稱，禁止使用該軟件的動作將屬于德國聯邦數據保護機構的職權范圍，該機構還要求意大利監管機構提供有關其阻止ChatGPT的更多信息。
馬斯克同盟新增超4000人，引發AI大論戰
在遭意大利禁用之前，ChatGPT已在教育界和學術界被“封殺”，并在近期出現反對高潮。
先是秉持AI威脅論的馬斯克，以及蘋果聯合創始人沃茲尼亞克，深度學習三巨頭之一Yoshua Bengio等上千名科技人士發布聯名信，呼吁立即暫停訓練比GPT-4更強大的AI系統至少6個月，否則政府應該介入并實施停止令。
隨后，CAIDP又指控GPT-4存在偏見和欺騙性，對隱私和公共安全構成了風險，違反了FTC 法案第5條，該法案禁止不公平和欺騙性的商業行為。該機構主席馬克·羅滕伯格（Marc Rotenberg）也是前述聯名信的其中一員。
CAIDP認為，GPT-4跨越了傷害消費者的紅線，FTC有責任調查和禁止不公平和欺騙性的貿易行為，OpenAI應當在遵守有關AI指導方針前暫停GPT-4的商業化部署。
這些反對的聲音尤其是馬斯克的聯名信在科技圈持續震蕩，而似乎站到馬斯克戰線上的人越來越多。截至發稿，聯名信簽名人數已達到5500人，一周內新增超4000人。官網稱目前已收集超5萬個簽名，但需要進行審查，名單更新放緩。
但這封信也引發了很多人的反對。深度學習三巨頭之一的Yann LeCun雖然不看好ChatGPT，但明確反對這封信的內容。機器學習領域創始人之一、美國人工智能協會前主席Thomas Dietterich則稱這封信充斥著可怕的修辭和無效的政策建議。
另一AI大牛、斯坦福大學教授吳恩達則發文稱，暫停AI研究六個月是糟糕的想法，不是實用的建議，讓政府暫停其不了解的新興技術則是反競爭的。
在國內，幾乎沒有公開贊同馬斯克建議的人。360創始人周鴻祎認為，人工智能的發展不以任何人的意志而轉移，現在擔心大語言模型的風險為時尚早，不發展就是最大的不安全。
劉永謀認為，警惕AI發展，防止AI失控，正在成為全球范圍內科技領域的“政治正確”，暫停ChatGPT研發的想法簡單粗暴，作用不大，也實現不了，純屬無效的“嘴炮”。
至于馬斯克為何這么做，周鴻祎猜測可能是GPT的進化路上出現了超乎人類想象的現象。這背后或也有利益之爭——作為OpenAI發起人之一，馬斯克退出后曾多次指責這家公司和ChatGPT，并計劃開發替代品，而他在這場競賽中已經落后。
AI立法監管尚處空白，如何兼顧發展？
盡管遭到不少反對，但“馬斯克們”的擔憂仍值得關注。ChatGPT已暴露出一些現實風險，甚至有人開始利用它來牟利犯罪。這意味著，對AI發展的監管必不可少，而關鍵的問題是如何監管。
“我們應該審慎地發展新科技，對新技術既要運用，又要控制，保證技術不能失控，但這并不代表要禁用新技術。”劉永謀對搜狐科技表示。
ChatGPT可以稱為顛覆性技術，對社會生產力的推動作用已經昭然若揭，但也會導致失業，對應試教育和價值觀造成沖擊，產生版權糾紛等問題。“現在外界可能有些高估，應該客觀準確、審慎辯證地去看待它帶來的影響。”劉永謀表示。
吳恩達也提到，人工智能有風險，負責任的人工智能是重要的，需要平衡人工智能正在創造的巨大價值與現實的風險。“為促進人工智能的安全，圍繞透明度和審計的法規將更加實用，同時也對安全進行更多投資，而不是扼殺進步。”
目前，全球對AI的監管基本走得是政府主導、各方參與的模式，但對AI的立法監管尚處于空白狀態。
劉永謀提到，目前全球對AI的監管存在差別，美國相對寬松，相比之下歐盟比較嚴格，中國則介于兩者之間，屬于比較持中的態度。
近年來，美國在人工智能監管上遲遲未有大的立法動作，對馬斯克等制定相關法規的呼吁保持沉默，一些議員所提的立法建議也都無疾而終，更多是一些不具備約束性的框架。
對比之下，歐盟的監管態度更為積極，早在2021年就提出《人工智能法》（Artificial Intelligence Act）草案，但尚未通過。去年12月獲批的新版本草案，預計最早于今年4月開始的三方談判中敲定細節。
歐盟委員會執行副主席瑪格麗特?維斯塔格（Margrethe Vestager）表示，正在討論歐盟人工智能法案的委員會可能不傾向于禁止人工智能技術，但需要對其使用進行規制。
中國則對人工智能發展過程中的突出問題作出專門的行政規定，如發布《互聯網信息服務算法推薦管理規定》《互聯網信息服務算法推薦管理規定》等，尚未對從更高的立法層面作出系統性的法律規定。
很長一段時間以來，技術發展與安全治理之間似乎總是存在矛盾。一個明顯的現象是，歐盟在AI時代被邊緣化，固然受到市場和產業基礎等因素影響，但也與其嚴格監管有一定關系。
劉永謀認為，技術發展和監管之間并不存在矛盾。新技術想要好的發展，就要避免和主流的價值觀、生活方式、制度設計等相沖突，技術監管恰恰是要解決這樣的問題。“如果能夠很好地去解決，讓新技術和主流社會不相矛盾，這其實還有利于新技術本身的發展。”
如何實現發展與治理的平衡是AI監管時代的難題，這對企業也是持續挑戰。劉永謀表示，作為最重要的利益相關者之一和技術發展戰略的落實者，企業要深刻意識到AI倫理問題的重要性，要把利潤和社會福祉結合起來，同時也要自律，推動公眾更好地理解和接受新科技。