人工智能（AI）可能會危害數百萬人的健康，并對人類的生存構成威脅，多國醫生和公共衛生專家呼吁，應停止開發通用人工智能（AGI），直到對其進行監管為止。
AI 有潛力通過改善疾病診斷、找到更好的治療方法和擴大醫療保健覆蓋范圍等方式，徹底改變醫療保健。
但是，來自馬來西亞、英國、美國、澳大利亞、哥斯達黎加的醫療專業人員在科學期刊 BMJ Global Health 上發文表示，AI 也可能產生負面健康影響。
在他們看來，與醫學和醫療保健相關的風險包括“AI 錯誤可能導致患者受傷、數據隱私和安全問題，以及將 AI 用于加劇社會和健康不平等的方式”。
他們舉例說，使用基于 AI 的脈搏血氧儀會高估皮膚較黑的患者的血氧水平，導致他們的低氧血癥得不到充分治療。
AI 可能通過影響健康的社會決定因素危害數百萬人的健康，如對人的控制和操縱，使用致命的自主武器，以及大規模失業對精神健康的影響。
他們聲稱，“當與快速改進的深度偽造（deep fakes）技術相結合時，基于 AI 的信息系統可能會進一步破壞民主，破壞信任，推動社會分裂和沖突，并引發公共衛生影響。”
與廣泛部署 AI 技術相伴隨的工作喪失也帶來了威脅，估計在未來十年內失業人數將達到數千萬人。
他們表示：“雖然結束重復、危險和不愉快的工作將帶來許多好處，但我們已經知道失業與不良健康結果和行為密切相關。”
“此外，我們不知道社會將如何在心理和情感上對一個沒有工作或工作不再必要的世界做出反應，我們也沒有更多地考慮打破失業與健康問題之間聯系所需的政策和策略，”他們說道。
他們認為，自我改進的 AGI 可能構成的威脅將是無處不在的。
“我們現在正在努力創建比我們更聰明、更強大的機器。這些機器應用這種智能和力量的可能性，無論是有意還是無意地，或者對人類造成傷害，都是現實存在的問題，且必須加以考慮。”
隨著 AI 研究與發展的指數級增長，避免嚴重甚至可能導致滅絕性的危害的機會正在逐漸減少。
他們警告說：“需要有效監管 AI 的開發和使用，以避免危害。在建立這種監管機制之前，應該暫停自我改進的 AGI 的進一步開發。”
另外，在英國，一個由健康專家、獨立事實核查人員和醫療慈善機構組成的聯盟，呼吁政府修改即將出臺的網絡安全法案，采取行動打擊健康虛假信息。
“我們保護醫療保健系統未來的一個關鍵途徑是，確保互聯網公司在如何識別其平臺上出現的有害健康錯誤信息方面制定明確的政策，并采取一致的處理方法，”該團體在致英國科技、創新和科技國務大臣 Chloe Smith 的公開信中寫道。
“這將為用戶提供更多的保護，改善信息環境，并增強對公共機構的信任。”
該信件由英國心臟基金會、皇家全科醫師學院和 Full Fact 等機構簽署，并呼吁英國政府在該法案中增加一個新的具有法律約束力的職責，這將要求最大的社交網絡在其服務條款中增加新的規則，管理其對基于健康的虛假信息的審查方式。
Full Fact 的首席執行官 Will Moy 表示：“如果沒有這一修正案，在涉及有害健康虛假信息時，網絡安全法案將毫無用處。”