ChatGPT之父：AI安全始于足下_世界觀熱點

6月10日，在2023北京智源大會“AI安全與對齊”論壇上，被稱為“ChatGPT之父”的OpenAI創(chuàng)始人兼CEO Sam Altman(薩姆·奧特曼)以視頻連線的方式現(xiàn)身，首次對中國觀眾發(fā)表演講。

圖：張宏江和Sam Altman對話

在他的開場主題演講中，薩姆·奧特曼圍繞模型的可解釋性、可擴展性和可泛化性給出了見解。隨后，薩姆·奧特曼與北京智源研究院理事長張宏江開展了尖峰對話，主要探討在當(dāng)前的AI大模型時代，如何深化國際合作，如何開展更安全的AI研究，以及如何應(yīng)對AI的未來風(fēng)險。

【資料圖】

“我們正在看到人工智能能力的迅速增長，現(xiàn)在需要做的是負責(zé)任地將其應(yīng)用到世界中去?！彼_姆·奧特曼說。

“未來10年內(nèi)，我們可能會擁有超強的AI系統(tǒng)。”在與張宏江的對話中，薩姆·奧特曼認為，這些系統(tǒng)最終可能超過人類最大體量公司的總體生產(chǎn)力，這里的潛在收益是巨大的。

與此同時，管理風(fēng)險、共同努力實現(xiàn)預(yù)期目標(biāo)非常必需。隨著越來越強大的人工智能系統(tǒng)的出現(xiàn)，全球合作的利益也變得前所未有地重要。如果不做好規(guī)劃，一個未對齊的AI系統(tǒng)可能會通過提供不平衡的建議來破壞整個集體系統(tǒng)。因此，薩姆·奧特曼強調(diào)，推進AGI安全是行業(yè)尋找共同立場的最重要領(lǐng)域之一。

薩姆·奧特曼認為，保證AGI技術(shù)的安全需要國際合作與協(xié)調(diào)。首先，需要在具備包容性的過程中建立國際規(guī)范和標(biāo)準(zhǔn)，并為所有國家使用AGI設(shè)置平等、統(tǒng)一的護欄。其次，需要通過國際合作，以可驗證的方式建立全球?qū)I系統(tǒng)安全開發(fā)的信任機制。

“千里之行，始于足下。”薩姆·奧特曼援引《道德經(jīng)》的話表示，最具建設(shè)性的第一步是國際科技界的合作，推動增加AGI安全技術(shù)進展的透明度和知識的機制，發(fā)現(xiàn)緊急問題的研究人員應(yīng)該與更多人共享研究成果。更加深入地思考如何在鼓勵推動國際合作的同時尊重和保護知識產(chǎn)權(quán)，推動并引導(dǎo)與安全研究一致的投資。

同時，薩姆·奧特曼還介紹，GPT-4從完成預(yù)訓(xùn)練到部署，花了8個月的時間來研究如何前置預(yù)判風(fēng)險并給出對策，“GPT-4的對齊程度超過當(dāng)前所有的代碼”。

“隨著未來的模型變得越來越智能和強大，作為助手，我們將找到更好的學(xué)習(xí)技術(shù)，在充分發(fā)揮AI的非凡好處的同時降低風(fēng)險?！彼_姆·奧特曼說。

在回應(yīng)張宏江關(guān)于國際合作的相關(guān)問題時，薩姆·奧特曼表示，保證AI的安全和有益不僅是一個技術(shù)問題，這還需要了解不同國家的用戶偏好。中國擁有一些世界上最優(yōu)秀的AI人才，“我希望中國的AI研究人員在解決AI系統(tǒng)對齊難題上做出重要貢獻?！?/p>

“我們看到中美和世界各地的研究人員為實現(xiàn)共同目標(biāo)而攜手努力的巨大潛力。”薩姆·奧特曼說，“我們希望全世界的研究人員參與其中，在應(yīng)對AI領(lǐng)域的技術(shù)挑戰(zhàn)方面開展合作，利用AI解決全球重大問題，改善人類生存條件和質(zhì)量?！?/p>

關(guān)鍵詞：