ChatGPT之父：AI安全始于足下_世界觀熱點

6月10日，在2023北京智源大會“AI安全與對齊”論壇上，被稱為“ChatGPT之父”的OpenAI創始人兼CEO Sam Altman(薩姆·奧特曼)以視頻連線的方式現身，首次對中國觀眾發表演講。

圖：張宏江和Sam Altman對話

在他的開場主題演講中，薩姆·奧特曼圍繞模型的可解釋性、可擴展性和可泛化性給出了見解。隨后，薩姆·奧特曼與北京智源研究院理事長張宏江開展了尖峰對話，主要探討在當前的AI大模型時代，如何深化國際合作，如何開展更安全的AI研究，以及如何應對AI的未來風險。

【資料圖】

“我們正在看到人工智能能力的迅速增長，現在需要做的是負責任地將其應用到世界中去。”薩姆·奧特曼說。

“未來10年內，我們可能會擁有超強的AI系統。”在與張宏江的對話中，薩姆·奧特曼認為，這些系統最終可能超過人類最大體量公司的總體生產力，這里的潛在收益是巨大的。

與此同時，管理風險、共同努力實現預期目標非常必需。隨著越來越強大的人工智能系統的出現，全球合作的利益也變得前所未有地重要。如果不做好規劃，一個未對齊的AI系統可能會通過提供不平衡的建議來破壞整個集體系統。因此，薩姆·奧特曼強調，推進AGI安全是行業尋找共同立場的最重要領域之一。

薩姆·奧特曼認為，保證AGI技術的安全需要國際合作與協調。首先，需要在具備包容性的過程中建立國際規范和標準，并為所有國家使用AGI設置平等、統一的護欄。其次，需要通過國際合作，以可驗證的方式建立全球對AI系統安全開發的信任機制。

“千里之行，始于足下。”薩姆·奧特曼援引《道德經》的話表示，最具建設性的第一步是國際科技界的合作，推動增加AGI安全技術進展的透明度和知識的機制，發現緊急問題的研究人員應該與更多人共享研究成果。更加深入地思考如何在鼓勵推動國際合作的同時尊重和保護知識產權，推動并引導與安全研究一致的投資。

同時，薩姆·奧特曼還介紹，GPT-4從完成預訓練到部署，花了8個月的時間來研究如何前置預判風險并給出對策，“GPT-4的對齊程度超過當前所有的代碼”。

“隨著未來的模型變得越來越智能和強大，作為助手，我們將找到更好的學習技術，在充分發揮AI的非凡好處的同時降低風險。”薩姆·奧特曼說。

在回應張宏江關于國際合作的相關問題時，薩姆·奧特曼表示，保證AI的安全和有益不僅是一個技術問題，這還需要了解不同國家的用戶偏好。中國擁有一些世界上最優秀的AI人才，“我希望中國的AI研究人員在解決AI系統對齊難題上做出重要貢獻。”

“我們看到中美和世界各地的研究人員為實現共同目標而攜手努力的巨大潛力。”薩姆·奧特曼說，“我們希望全世界的研究人員參與其中，在應對AI領域的技術挑戰方面開展合作，利用AI解決全球重大問題，改善人類生存條件和質量。”

關鍵詞：