中新網(wǎng)12月19日電 據(jù)彭博社報(bào)道，當(dāng)?shù)貢r間18日，美國人工智能公司OpenAI在其網(wǎng)站上公布一項(xiàng)安全指南，加強(qiáng)其內(nèi)部安全流程，并賦予董事會對高風(fēng)險(xiǎn)人工智能的否決權(quán)。

　　據(jù)報(bào)道，當(dāng)天，OpenAI發(fā)表一系列安全指南，闡釋公司計(jì)劃如何應(yīng)對最強(qiáng)大人工智能(AI)系統(tǒng)可能引起的極端風(fēng)險(xiǎn)。

　　在該指南下，OpenAI只會在確定最新技術(shù)的安全性之后才會開始運(yùn)用。公司將成立一個顧問團(tuán)隊(duì)以審核安全報(bào)告，再轉(zhuǎn)交公司高層和董事會。雖然公司領(lǐng)導(dǎo)負(fù)責(zé)做決策，董事會可推翻決定。

　　OpenAI在2023年10月宣布成立“備災(zāi)小組”，并會持續(xù)評估它的AI系統(tǒng)在網(wǎng)絡(luò)安全、化學(xué)威脅、核威脅和生物威脅等四大范疇的表現(xiàn)，同時減低科技可能帶來的任何危害。

　　具體來說，公司檢查的是定義為：能造成上億美元經(jīng)濟(jì)損失，或?qū)е略S多個人受傷害或死亡的“災(zāi)難性”風(fēng)險(xiǎn)。

　　“AI本身沒有好壞，我們正在塑造它?！鳖I(lǐng)導(dǎo)“備災(zāi)小組”的亞歷山大·馬德里表示，他的團(tuán)隊(duì)會每月提交報(bào)告給內(nèi)部新成立的安全顧問團(tuán)隊(duì)，再由阿爾特曼與公司董事會判斷分析團(tuán)隊(duì)所提交的建議。

　　馬德里希望，其他公司能利用OpenAI的指引，來評估旗下AI模型的潛在風(fēng)險(xiǎn)。

　　2023年3月，包括馬斯克、蘋果聯(lián)合創(chuàng)始人斯蒂夫·沃茲尼亞克在內(nèi)的1000多名人工智能專家和行業(yè)高管簽署了一份公開信，他們在公開信中呼吁暫停高級人工智能開發(fā)，直至此類設(shè)計(jì)的共享安全協(xié)議經(jīng)由獨(dú)立專家開發(fā)、實(shí)施和審核。