9月29日消息，美國加州州長加文 紐森（Gavin Newsom）今日否決了具有爭議的《前沿人工智能模型安全創(chuàng)新法案》（簡稱 SB 1047），他在否決消息中提到了多個影響他決定的因素，包括該法案對 AI 公司施加的負擔(dān)、加州在該領(lǐng)域的主導(dǎo)地位以及對該法案可能過于寬泛的批評。

據(jù)了解，SB 1047 法案旨在為訓(xùn)練成本超過 1 億美元或者達到一定算力的開發(fā)者制定安全標(biāo)準，確保大規(guī)模人工智能模型的安全開發(fā)。該法案要求大型前沿人工智能模型的開發(fā)者采取預(yù)防措施，例如部署前測試、模擬黑客攻擊、安裝網(wǎng)絡(luò)安全保障，以及為舉報人提供保護等。

該法案于今年 2 月被提交給加州議會，引起很大爭議。8 月 19 日，加州立法機構(gòu)公布了法案的修訂版。該法案得到有“人工智能教父”之稱的杰弗里 辛頓和約書亞 本吉奧的支持，但也遭到楊立昆、李飛飛等科學(xué)家，以及頭部人工智能企業(yè)的反對，稱該法律將“阻礙創(chuàng)新”。

紐森稱，“雖然 SB 1047 的出發(fā)點是好的，但它并沒有考慮人工智能系統(tǒng)是否部署在高風(fēng)險環(huán)境中，是否涉及關(guān)鍵決策或使用敏感數(shù)據(jù)。相反，只要是大型系統(tǒng)部署，該法案甚至對最基本的功能都適用嚴格標(biāo)準。我不認為這是保護公眾免受該技術(shù)構(gòu)成的真正威脅的最佳方法。”

紐森還稱，該法案可能“給公眾一種關(guān)于控制這種快速發(fā)展的技術(shù)的虛假安全感”，他稱，“更小、更專業(yè)的模型可能與 SB 1047 所針對的模型一樣甚至更危險 —— 其代價可能是削弱推動公共利益進步的創(chuàng)新。”

紐森表示，他認同應(yīng)當(dāng)應(yīng)該制定安全協(xié)議和護欄，并且不良行為者要承擔(dān)“明確且可執(zhí)行”的后果。然而他指出，他認為國家不應(yīng)該“滿足于一個不以人工智能系統(tǒng)和能力的實證軌跡分析為依據(jù)的解決方案”。

Meta 公共事務(wù)經(jīng)理 Jamie Radice 對此表示，“我們很高興紐森州長否決了 SB 1047。該法案將扼殺 AI 創(chuàng)新，損害業(yè)務(wù)增長和創(chuàng)造就業(yè)機會，并打破該州促進開源開發(fā)的悠久傳統(tǒng)。我們支持負責(zé)任的 AI 法規(guī)，并繼續(xù)致力于與立法者合作，以推廣更好的方法。”