近日，網信辦、工信部與公安部聯合發布《互聯網信息服務深度合成管理規定》，強調不得利用深度合成服務從事法律、行政法規禁止的活動。該規定自2023年1月10日起施行。

“深度合成”是近年來人工智能領域的新寵技術，已在傳媒、影視、游戲、教育與電商等領域大發神威，成為“元宇宙”等互聯網新生態的引擎。

也許公眾最為熟知的“深度合成”技術要數“深度偽造”（deep fake）：任何人幾乎都可以輕易搖身一變，享受與名人明星“共享人生”的虛擬現實。

此外，深度合成也在各行各業掀起了驚濤駭浪。“AI繪畫”已經大有挑戰職業插畫師生計之虞，深度合成的繪畫幾可以假亂真、“巧奪人工”；深度合成的虛擬形象已經可以取代新聞主播進行工作，甚至成為明星級的虛擬偶像；在“元宇宙”里，深度合成技術更是支柱級的存在，助力搭建了無數虛擬場景與虛擬部件，已有能力創造一個物理世界之外的虛擬世界。

該規定針對的正是極易引發爭議的AI圖像生成、數字仿真、人臉生成/替換、語音合成、虛擬場景等技術。正是利用這些技術，“深度合成”用于“深度偽造”的犯罪案例早已出現。

比如幾年前喧騰一時的“假靳東”事件，深度偽造的人造假靳東在侵犯“真靳東”肖像權與人格權的同時，又騙取了眾多中年女性的錢財與感情；電信詐騙“從業者”也越來越青睞“深度偽造”這款神器。在“溫州好友事件”里，陳先生就被AI打造的“好友”騙取了五萬元；更不必說，如今不少幸進之徒盜用公民肖像，制造色情視頻牟利乃至敲詐威脅，將這項技術“應用”到了令人發指的地步。

就“AI圖像生成”而言，深度合成技術憑借大數據與大量練習，已然攻克了人類畫師的藝術高峰。從現有的AI繪畫作品而言，它們不但能夠博采人類畫師之長，而且還能規避諸多人類畫師的缺點，實現畫作“按需定制”的同時甚至還能青出于藍。

除了讓人類畫師頗有“盧德運動時代工人”的恐懼外，“AI圖像生成”還確實侵犯了不少人類畫師的版權。“深度換臉”技術更是早就爭議滿滿，虛假賬號、網絡詐騙、色情信息借助這項技術“如虎添翼”，侵害肖像權的同時還帶來種種安全隱患。“長此作偽者，初偽而終失其偽”，以假面示人者久則以假面為真面，并且注定會在真實的物理世界帶來法律糾紛。

“深度合成”技術還不由得讓人進一步擔心，歷史學家尤瓦爾?赫拉利預言的“只剩兩種人類”的前景（“控制算法的人”與“被算法控制的人”）會不會進一步以虛擬世界為基地，慢慢變成真實世界的現實。

“技術中立”這四個字并不能保證技術“不作惡”。從馬斯克近來披露的美國科技巨頭一系列操作而言，這種擔憂絕非無的放矢。要想避免這種可怖的預言“不幸言中”，人們就要仔細考量人工智能技術發展全過程中的每個細節，對“深度合成”背后的算法加以監督，并積極研究相關的公共政策。算法并不天然成為平等抑或不平等的力量，關鍵的是誰來利用算法，以及如何利用算法。

不過公眾也不必太過驚慌于“技術之惡”，擔心以深度合成為代表的新型AI技術會帶來所謂的“楚門的（美麗新）世界”。事實證明，媒介的每一次改變都重新塑造了人類對自我對世界的認知，類似“深度合成”的沖擊在史上已經發生過不止一次。“媒介即人的延伸”，無論這種延伸是真實抑或虛幻、便利還是笨拙。新技術與新媒介或許會便利“作惡”，但未嘗不可以助人行善。人為地禁止新技術與徹底放任新技術，無疑都是愚蠢的做法。

“算法沒有價值觀”符合數字技術的邏輯與事實，賦予算法以價值觀的仍然是每一個活生生的人。從這個意義而言，該規定出爐的目的首先是保證深度合成“不作惡”，下一步才是慢慢地“導之向善”。既然“深度合成”技術是在虛擬世界發揮功用，那么也許可以借用尼采那句“真善每托始于偽善”（hypocrisy is sometimes the beginning of virtue），先讓虛擬世界里的“fake”善良起來，保證頂著虛擬形象的真實人類不至作惡。

王兢