12月19日消息，美國當?shù)貢r間周一，人工智能研究公司OpenAI表示，即使公司領(lǐng)導層認為人工智能（AI）模型足夠安全，其董事會也可以選擇推遲發(fā)布。這是該公司授權(quán)其董事加強尖端技術(shù)開發(fā)安全保障措施的另一個明顯跡象。
周一發(fā)布的一套指導方針詳細說明了這一決策流程，并解釋了OpenAI計劃如何應(yīng)對其最強大人工智能系統(tǒng)可能帶來的極端風險。該指導方針發(fā)布前，OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）曾被董事會短暫罷免，公司經(jīng)歷了一段動蕩時期，這使得董事和公司高管之間的權(quán)力平衡成為人們關(guān)注的焦點。
OpenAI最近組建的“準備”（Preparedness）團隊表示，它將繼續(xù)評估公司的人工智能系統(tǒng)，以確定它們在四個不同類別中的表現(xiàn)，包括潛在的網(wǎng)絡(luò)安全問題以及化學武器、核武器以及生物武器威脅，并努力減少該技術(shù)可能造成的任何危害。具體來說，OpenAI正在監(jiān)控所謂的“災(zāi)難性”風險，它在指導方針中將其定義為“任何可能導致數(shù)千億美元經(jīng)濟損失或?qū)е略S多人受到嚴重傷害或死亡的風險”。
亞歷山大·馬德里（Aleksander Madry）是“準備”團隊的負責人，目前正在麻省理工學院休假。他稱，該團隊將向一個新的內(nèi)部安全咨詢小組發(fā)送月度報告，后者隨即將分析馬德里團隊的工作，并向奧特曼和公司董事會提交建議。在奧特曼被短暫解雇后，公司董事會進行了全面改革。根據(jù)這份文件，奧特曼及其領(lǐng)導團隊可以根據(jù)這些報告決定是否發(fā)布新的人工智能系統(tǒng)，但董事會有權(quán)否決他們的決定。
OpenAI在10月份宣布成立“準備”團隊，使其成為該公司監(jiān)督人工智能安全的三個獨立團隊之一。另外兩個團隊分別是“安全系統(tǒng)”團隊，著眼于當前的產(chǎn)品，如GPT-4，以及“超級對齊”（Superalignment）團隊，專注于未來可能存在的極其強大的人工智能系統(tǒng)。
馬德里表示，他的團隊將反復評估OpenAI最先進的、尚未發(fā)布的人工智能模型，根據(jù)不同類型的感知風險將它們評為“低等”、“中等”、“高等”或“關(guān)鍵”。該團隊還將做出改變，希望減少他們在人工智能中發(fā)現(xiàn)的潛在危險，并衡量其有效性。根據(jù)新的指導方針，OpenAI將只推出危險評級為“中等”或“低等”的模型。
馬德里還希望其他公司也能使用OpenAI的指導方針來評估其人工智能模型的潛在風險。他說，這些指導方針是OpenAI之前在評估已發(fā)布人工智能技術(shù)時遵循的許多流程的正規(guī)化。他和他的團隊在過去幾個月里提出了許多細節(jié)，并從OpenAI內(nèi)部其他人那里得到了反饋。
來源：網(wǎng)易科技報道
編輯：安安
