9月12日，美國白宮發布聲明稱，美國商務部長雷蒙多等政府高官將在白宮召集人工智能(AI)行業高管，宣布Adobe、Cohere、IBM、英偉達、Palantir、Salesforce、Scale AI和 Stability八家公司承諾采取自愿監管措施管理AI技術開發風險，包括在推出前展開安全測試、構建將安全放在首位的系統、為AI生成內容添加數字水印等。

　　承諾聚焦在三方面

　　根據白宮聲明，本次自愿承諾包括三個方面：

　　第一，在向公眾推出產品之前確保產品安全。八家公司承諾在發布AI系統之前，將對其系統進行內部和外部安全測試。這項測試將部分由獨立專家進行，旨在防范人工智能風險的一些最重要的來源，如生物安全和網絡安全，以及其更廣泛的社會影響。此外，公司還承諾在整個行業以及與政府、民間社會和學術界共享有關管理人工智能風險的信息。包括安全最佳實踐、有關規避保障措施的企圖的信息以及技術合作。

　　第二，構建將安全放在首位的系統。公司承諾投資于網絡安全和內部威脅保障措施，以保護專有和未發布的模型權重。這些模型權重是人工智能系統中最重要的部分，八家公司一致認為，只有在預期和考慮安全風險時才發布模型權重至關重要。此外，公司還致力于促進第三方發現和報告其人工智能系統中的漏洞，以便在人工智能系統發布后如果出現問題，報告機制使這些問題能夠快速發現和修復。

　　第三，贏得公眾的信任。相關公司致力于開發強大的技術機制，以確保用戶知道內容何時由人工智能生成，例如水印系統。這一行動使人工智能的創造力和生產力得以蓬勃發展，但減少了欺詐和欺騙的危險。此外，相關公司承諾公開報告其人工智能系統的功能、局限性以及適當和不當使用的領域。這些報告將涵蓋安全風險和社會風險，例如對公平和偏見的影響。

　　八家公司還承諾優先研究人工智能系統可能帶來的社會風險，包括避免有害的偏見和歧視，以及保護隱私。人工智能的記錄顯示了這些危險的潛在規模和普遍性，這些公司承諾推出減輕這些危險的人工智能。

　　連續召集AI企業自愿監管

　　這不是白宮第一次召集人工智能企業進行自愿監管。

　　今年5月，美國總統拜登召集了四家處于人工智能創新前沿的美國公司的首席執行官——谷歌、Anthropic、微軟和OpenAI，強調推動負責任、值得信賴和道德創新的重要性，并采取保障措施，減輕人工智能對個人和社會的風險和潛在傷害。應這些公司的要求，白宮隨后舉辦了一次會議，重點關注網絡安全威脅和最佳實踐。

　　今年7月21日，白宮召集人工智能七大公司做出一系列保護用戶的自愿承諾，包括同意進行安全測試，采用新的水印系統以告知用戶內容是人工智能生成的。

　　這七家公司是亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI，它們的代表與美國總統拜登舉行了會面，并同意白宮提出的一系列要求，以解決人工智能帶來的許多風險。

　　具體來看，這些公司同意進行安全測試，部分由獨立專家進行;對偏見和隱私問題進行研究;與政府和其他組織共享有關風險的信息;開發應對氣候變化等社會挑戰的工具;采取識別AI生成材料的透明度措施。

　　七家公司均表態自己為自愿簽署協議，這些承諾不包括具體的截止日期，如果不履行承諾，目前不會產生任何重大法律后果。此外，每家公司都可以做出不同的解釋。但這些承諾的執行將在很大程度上由美國聯邦貿易委員會監督。而聯邦貿易委員會的一名官員稱，違反公共承諾可以被視為一種欺騙性做法，這將與現有的消費者保護法相沖突。

　　中國由政府主導監管AI

　　今年7月，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》(以下簡稱“《辦法》”)。該辦法已于8月15日起施行。其時，國家互聯網信息辦公室有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發展和規范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

　　《辦法》強調，近年來，生成式人工智能技術快速發展，為經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題，如何統籌生成式人工智能發展和安全引起各方關注。出臺《辦法》，既是促進生成式人工智能健康發展的重要要求，也是防范生成式人工智能服務風險的現實需要。

　　《辦法》提出，國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管，明確了提供和使用生成式人工智能服務總體要求。提出了促進生成式人工智能技術發展的具體措施，明確了訓練數據處理活動和數據標注等要求。規定了生成式人工智能服務規范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務，按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識，發現違法內容應當及時采取處置措施等。此外，還規定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。

　　國家互聯網信息辦公室有關負責人指出，生成式人工智能服務的發展與治理需要政府、企業、社會、網民等多方參與，共同促進生成式人工智能健康發展，讓生成式人工智能技術更好地造福人民。