出品｜虎嗅科技組
作者｜齊健
編輯｜陳伊凡
頭圖｜直播截圖
“AI會出錯。”
在當地時間5月16日上午，OpenAI首席執行官Sam Altman在美國國會舉行的關于人工智能監管的聽證會上說。
過去幾個月，OpenAI的產品ChatGPT在全球掀起了新一輪人工智能浪潮，猶如一只橫沖直撞的“燃燒彈”，沖擊了各個領域，點燃一把火，與之相關的生成式AI的監管也在全球范圍展開。
美國政府雖然打起了十二分的精神，并從多個層面提出了高度重視。但Sam Altman卻并沒有如周受資抑或是扎克伯格一樣被美國政客“圍攻”，這場聽證會甚至比多數硅谷科技公司參加過的國會聽證會都短，只有2小時40多分鐘。
在這個過程中，并沒有呈現出劍拔弩張，會議結束后也是一片安靜祥和。
會后，Sam Altman甚至像個大學生一樣，跑到IBM的首席隱私和信任官Christina Montgomery面前主動握手，然后又跑到主席臺前，跟聽證會小組主席“虛心請教”了一番。
有趣的是，許多參議員似乎對Sam Altman十分器重，參議員John Neely Kennedy甚至詢問Sam Altman他本人是否有資格參與組建監管AI的聯邦機構。不過Sam Altman似乎對這份工作并沒什么興趣，他說，“我喜歡我現在的工作。”同時，他也表示OpenAI將會盡快向國會提交一份他們認為適合這份工作的人員名單。
而Sam Altman在這場聽證會中的姿態也非常低，對于生成式AI，他似乎也有迷茫和困擾。“面對日益強大的AI模型，政府監管機構的干預對于控制相關風險來說至關重要。”他表示。
與Sam Altman一同參與這場聽證會的還有一直在社交媒體上對AI研究提出質疑的AI學者，紐約大學心理學和神經科學名譽教授Gary Marcus，以及剛剛宣布用生成式AI替換7000余名人類員工的IBM的首席隱私和信任官Christina Montgomery。
Christina Montgomery，Gary Marcus，Sam Altman（左到右）
本場聽證會聚焦的問題也正是美國政府和全社會廣泛關注的問題，其中包括：
1. AI是否會生成危險內容
2. AI是否會威脅到美國的國家安全
3. AI是否會侵害公民的隱私，以及數據權利
4. AI是否會影響就業
5. 對AI的監管，是否會影響美國在國際競爭中的地位
對此，Sam Altman及其它兩位證人一一做出了回答。
美國應帶頭監管人工智能
在聽證會上，美國議員提出應該組建一個專門監管AI的新機構。Sam Altman非常認可這一做法。
Sam Altman在聽證會上提出OpenAI在這方面的3個計劃：
有國會議員提出關于AI研究的國際監管問題時，提到了世界各國政府在監管核武器方面都有先例。Sam Altman表示了贊同，并且他認為美國應該帶頭監管人工智能， “如果每個國家對每個司法管轄區都有自己的政策和法規，那么AI公司就需要針對不同地區重新訓練模型，如果沒有全球協同，這些公司將很難運作。”
在這方面，Gary Marcus也表示支持，并提出應該像對待原子彈一樣，成立一個類似國際原子能機構的國際組織，以應對人工智能的風險。
在立法方面，美國政府為監管社交媒體平臺專門制定了230法案，該法案免除了在線服務對用戶發布內容的責任，由此大幅促進了社交媒體的興起。新興的生成式人工智能，在內容生產上與社交媒體不無相似之處。這也使得美國政府在立法方面，直接將AI與社交媒體相對比。探討AI技術是否適用230法案，AI公司是否應該對AI生成的內容負責。
對此，Sam Altman認為AI并不適用230法案，他表示生成式人工智能工具需要一套新的責任框架。例如AI研發機構對AI生成的內容需要負有一定的責任。
沒有訓練更高版本的GPT，未來半年內也沒計劃
在聽證會上，有議員提到了此前熱議的“暫停大規模人工智能模型研發”聯名信。
作為聯名信簽署人之一，Gary Marcus解釋說，聯名信的目的并不是要求暫停研發AI，而是希望在具備規范、安全的AI管理措施之前，暫停部署比GPT-4更大的AI模型。他認為現階段，要將這些“超級AI”交給1億普通人使用，還是太快、太冒險了。
Sam Altman則表示，在完成GPT-4的訓練后，OpenAI等了6個月才上線。他表示，“我們目前沒有在訓練更高版本，例如GPT-5。我們在未來6個月內也沒有這樣的計劃。”
但他認為聯名信的框架是錯誤的，他說，“對于AI來說，最重要的是安全審核，紅藍隊模擬（AI的安全對抗模擬）等安全措施。通過這些在部署前達到安全標準。“Sam Altman認為，暫停6個月并不是一個有效的做法，”如果暫停AI研發6個月，AI研發可能就會與時代脫節。6個月之后我們要怎樣？再停6個月嗎？”
不過，Sam Altman也認為，當發現一些不理解的東西時,確實需要停下來。他說，“目前我們對下一個模型就抱有憂慮，我們非常擔心研發過程中可能會產生一些危險的內容，更不用說部署了。”
此外，Sam Altman還表示支持“要求AI公司在推出人工智能產品前評估人工智能產品風險”的新規定。他在提交給委員會的書面證詞中表示,政府應“促進平衡的激勵措施和安全監管,同時確保人們能獲得技術帶來的益處”。
AI大模型的研發主要集中在少數大公司手中，也引起了美國政府的關注。
參議員Cory Booker表示，他很擔心AI領域的“大規模企業集中度”問題，“目前，OpenAI與微軟合作，類似的大模型公司Anthropic則由谷歌支持。”。他認為，隨著這些公司變得越來越大、越來越強大，它們對人們生活的控制和影響也將越來越大，并有可能在商業和技術上實現壟斷。
對此Sam Altman認為，AI大模型的研發相對困難，只有少數企業能夠研發出AI大模型。這并不會造成壟斷，反而會在一定程度上降低監管難度。
生成式AI的監管還有很長的路要走
事實上，美國政府對于這波生成式AI熱潮的關注與擔憂已經有一段時間了，其在監管上也走得更早。美國商務部在4月11日已就相關措施正式公開征求意見，包括新AI模型在發布前是否應經過認證程序。征求意見期限為60天。
對于生成式AI的監管，與上一波人工智能的不同在于，其能夠將數據跨境、知識產權、個人信息保護的問題放大化。因為過去的人工智能更多是針對某種特定場景，而生成式AI涉及到更多數據和通用大模型。涉及到的供應鏈角色更多，例如大模型提供商、在大模型之上做應用的服務商、還涉及存儲數據的云廠商。
“生成式AI對于監管行業來說，是一個太新的事物，而且新技術發展很快，但我們現在針對算法、技術等立法監管并不能完全覆蓋目前出現問題，對于監管來說，是很大的考驗。”觀韜中茂律師事務所合伙人王渝偉曾告訴虎嗅，王渝偉長期進行網絡安全數據合規方面的法律工作。
更早之前，今年1月26日，美國NIST（國家標準與技術研究院）發布了《AI風險管理框架1.0》。這份框架，包括治理、映射、測量和管理的四個部分，治理指要在組織的制度流程、組織建設、組織文化、技術能力等方面踐行AI風險管理框架；映射主要用于確定特定場景與其對應的AI風險解決方案；測量主要采用定量和/或定性的工具、技術和方法來分析、評估、測試和監控AI風險及其相關影響；管理主要是將相關資源分配給相應的AI風險，進行風險處置。治理是一個交叉模塊，融入并影響其他三個模塊。
在框架中也提到了AI系統的可說明性、可解釋性、可追責、透明性的問題。例如，AI可信度特性之間可能相互影響，全面的AI風險管理需要在AI可信度特性之間進行權衡取舍。
另外，優化可解釋性和隱私增強性之間會存在矛盾；或者在數據較稀疏的情況下，隱私增強技術可能導致有效性降低。過度關注某一方面特性，例如：高度安全但不公平的系統、有效但不透明和不可解釋的系統以及不準確但安全、隱私增強和透明的系統都是不可取的。
從這份框架以及美國4月頒布的《人工智能問責政策征求意見》可以看出美國在制定人工智能監管方面政策時，重點在于問責明確。
5月5日，美國國家科學基金會（The National Science Foundation）宣布將撥款1.4億美元（約合人民幣9.67億元），成立7個國家級人工智能研究機構，確保美國在AI領域保持領先的同時，遏制AI引發的道德、社會問題等。
政府還承諾為政府機構發布指導方針草案，以確保對人工智能的使用保障“美國人民的權利和安全”。有消息稱，美國政府已得到Anthropic、Google、Hugging Face、Microsoft、NVIDIA、OpenAI和Stability AI六家公司的承諾，將提交他們的人工智能系統供專家社區進行公開評估，這些公司已同意在8月的一次網絡安全會議上提交其產品以供審查。
美國總統拜登也曾表示，人工智能是否危險“有待觀察”。他任命的一些高級官員承諾，如果以有害方式使用該技術，他們將進行干預。白宮在13日發布的文章中提到，美國總統科技顧問委員會（PCAST）正在組建一個生成式人工智能工作組。該工作組將幫助評估人工智能關鍵機遇和風險，并就如何最好地確保這些技術的開發和部署盡可能公平、負責和安全提供意見。目前已公布的專家名單中，就包括著名華人數學家陶哲軒，以及AMD的首席執行官蘇姿豐。
美國時間5月16日早些時候，在華盛頓郵報的報道中，一位眾議院助手稱，國會人工智能核心小組將于聽證會后與奧特曼舉行僅限特定人員參加的簡報會。這名助手說，該閉門會議將由眾議院議長Kevin McCarthy和眾議院少數黨領袖Hakeem Jeffries共同主持。
在本場聽證會上，兩名參議員則專門針對這一問題微軟及OpenAI就版權付費問題向Sam Altman提出質疑。對此，Sam Altman表示，OpenAI將會拿出保護地方新聞業的相關舉措，但也沒有具體回應如何在AI模型訓練過程中保護內容創作者版權權益的問題。
正在改變與想要改變世界的人，都在虎嗅APP