美國(guó)開放人工智能研究中心(OpenAI)5月28日表示,該公司新成立一個(gè)安全委員會(huì),並已開始訓(xùn)練新人工智能模型,以取代其ChatGPT聊天機(jī)械人目前所依賴的GPT-4系統(tǒng)。
OpenAI在當(dāng)天發(fā)布的一份聲明中說,該安全委員會(huì)將就其項(xiàng)目和運(yùn)營(yíng)的「關(guān)鍵安全決策」向董事會(huì)提供建議。委員會(huì)成員包括OpenAI行政總裁薩姆·奧爾特曼和董事會(huì)主席布雷特·泰勒,以及其他幾位技術(shù)和決策專家。
據(jù)美媒報(bào)道,OpenAI成立安全委員會(huì),正值該公司的人工智能安全問題引起爭(zhēng)議。有辭職員工批評(píng)OpenAI只顧推出酷炫產(chǎn)品,而使安全「退居次要地位」。OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞·蘇茨克韋爾也於近期辭職。該公司還解散了聚焦人工智能風(fēng)險(xiǎn)的「超級(jí)聯(lián)盟」團(tuán)隊(duì)。
OpenAI在聲明中表示,公司已開始訓(xùn)練下一代「前沿模型」,該模型有望將人工智能技術(shù)能力提升到一個(gè)新層級(jí)。