OpenAI:超智能AI或在這個十年出現(xiàn),將加大資源應對
OpenAI聯(lián)合創(chuàng)始人伊利亞·蘇茨凱弗(Ilya Sutskever)和AI對齊負責人簡·萊克(Jan Leike)在官方博客中表示:“超級智能的巨大能力可能導致人類失去力量甚至滅絕。目前,我們還沒有解決方案來操縱或控制一個可能的超智能AI,并防止其變成無賴。”
這篇博文預測,超智能AI,即相比于人類更智能的系統(tǒng),可能會在未來10年中出現(xiàn)。人類需要比目前更強大的技術來控制超智能AI,因此需要在“AI對齊研究”方面取得突破,確保人AI對人類持續(xù)有益。AI對齊是AI控制中的主要問題,即要求AI的目標和人類的價值觀與意圖保持一致。
作者寫道,OpenAI將在未來4年內,將算力的20%專門用于解決這方面問題。此外,該公司將組建新的“超對齊”團隊來組織這方面的工作。
該團隊的目標是開發(fā)達到“人類水平”,由AI驅動的對齊研究員,隨后通過龐大的算力推動其發(fā)展。OpenAI表示,這意味著將使用人工反饋來訓練AI系統(tǒng),通過訓練AI系統(tǒng)來協(xié)助人工評估,最終訓練AI系統(tǒng)來進行實際的對齊研究。
不過,人工智能安全的倡導者康納·萊希(Connor Leahy)表示,OpenAI的計劃存在根本性缺陷,因為最初的人類水平AI可能會失控并造成嚴重破壞,而這將迫使研究者去解決AI安全問題。他在接受采訪時表示:“在構建人類水平的智能之前,必須先解決對齊問題,否則默認情況下你無法控制它。我個人認為這不是個特別好的、安全的計劃。”
AI的潛在危險一直是AI研究員和公眾最關心的問題。今年4月,一群AI行業(yè)領袖和專家簽署公開信,呼吁暫停6個月開發(fā)比OpenAI的GPT-4更強大的系統(tǒng),原因是對社會存在潛在風險。益普索今年5月的調查發(fā)現(xiàn),超過2/3的美國人擔心AI可能產生的負面影響,61%的人認為AI可能威脅人類文明。
網(wǎng)友評論
智能應用排行
- 網(wǎng)易 UU 加速器完成鴻蒙原生應用開發(fā),上線 HarmonyOS
- 蘋果官方認可“越獄”術語:特殊版iPhone罕見現(xiàn)身 用于查找
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量傾斜,成電商
- 釘釘公布數(shù)據(jù):用戶數(shù)7億 軟件付費企業(yè)數(shù)12萬
- AI大模型讓智慧交通“更聰明” 海信亮相2024世界人工智能大
- 沃爾瑪?shù)娜斯ぶ悄芰闶鄣暌严蚬婇_放
- 歐瑞博攜手南方科技大學打造智能新能源住宅技術聯(lián)合實驗室
- 都是科技的狠活?2024中國國際消費電子博覽會即將全新亮相
- 百度:智能云業(yè)務Q1營收47億元,生成式AI貢獻比例達6.9%
延伸閱讀
- OpenAI推出ChatGPT“克星”:可識別文章是否人工智能代筆
- 游戲聊天社區(qū)Discord整合OpenAI技術 推出多項新功能
- Zoom引入OpenAI生產力功能 推出數(shù)字助手
- “微軟+OpenAI”聯(lián)手的新一站:網(wǎng)絡安全
- 日本政府或引入人工智能技術 OpenAI考慮開設日本辦公室
- 歐盟官員將于6月會見OpenAI CEO:討論人工智能法規(guī)
- Meta正在開發(fā)更強大的AI系統(tǒng) 對標OpenAI
- 微軟據(jù)悉正自主研發(fā)AI模型 降低對OpenAI的依賴
- OpenAI發(fā)布首個視頻生成模型Sora:將AI戰(zhàn)場引向好萊塢
- OpenAI展示新音頻工具 可朗讀文本并模仿聲音
最新智能應用
- 京東11.11再次發(fā)力數(shù)字人:成本更低、直播流量傾
- 歐瑞博攜手南方科技大學打造智能新能源住宅技術聯(lián)
- 網(wǎng)易 UU 加速器完成鴻蒙原生應用開發(fā),上線 H
- 都是科技的狠活?2024中國國際消費電子博覽會即將
- 百度沈抖:百舸4.0升級發(fā)布,模型訓練有效時長達
- 華為云發(fā)布AI原生云基礎設施架構CloudMatrix,新
- 阿里CEO吳泳銘:AI算力需求滲透率已超50%,正主導
- 羅技發(fā)布 G PRO 2 LIGHTSPEED(GPW4 朱雀)
- 華為:將啟動“鴻蒙生態(tài)伙伴及開發(fā)者見非凡體驗計
- 華為運動健康發(fā)布玄璣感知系統(tǒng) 華為手表或將支持