財聯(lián)社8月29日訊（編輯 黃君芝）據(jù)報道，美國加利福尼亞州議會周三（28日）通過了一項備受爭議的人工智能（AI）安全法案，該法案要求相關(guān)公司確保他們的技術(shù)不會造成重大傷害。當天，州議會以41票贊成、9票反對的結(jié)果通過了這項立法。

這也代表著，這項名為SB 1047的法案終于要塵埃落定了?，F(xiàn)在，該法案將回到州參議院進行確認投票和可能的修正案，然后提交給州長紐森（Gavin Newsom）。他必須在9月30日之前決定是否簽署該法案或否決它。

何為SB 1047？

“SB 1047法案”，全稱“前沿人工智能模型安全創(chuàng)新法案”。該法案于今年2月被提交給加州議會，引起很大爭議。8月19日，加州立法機構(gòu)公布了法案修訂版。

SB 1047法案旨在為訓練成本超過1億美元或者達到一定算力的開發(fā)者制定安全標準，確保大規(guī)模人工智能模型的安全開發(fā)。該法案要求大型前沿人工智能模型的開發(fā)者采取預(yù)防措施，例如部署前測試、模擬黑客攻擊、安裝網(wǎng)絡(luò)安全保障，以及為舉報人提供保護等。

這是為了確保他們的技術(shù)不會造成“嚴重傷害”，比如大規(guī)模人員傷亡或5億美元以上的財產(chǎn)損失。另外，在該州運營的人工智能軟件開發(fā)商還需要概述在人工智能模型出現(xiàn)問題時關(guān)閉它們的方法，這實際上是一個“強行終止開關(guān)”。

此外，該法案還賦予州檢察長在開發(fā)商不遵守規(guī)定時提起訴訟的權(quán)力，特別是在出現(xiàn)持續(xù)威脅的情況下，例如人工智能接管電網(wǎng)等政府系統(tǒng)；該法案還要求開發(fā)商聘請第三方審計師來評估他們的安全實踐，并為舉報人工智能濫用行為的舉報人提供額外保護。

引發(fā)爭議

在過去的幾個月里，該法案遭到了許多主要科技領(lǐng)袖、初創(chuàng)公司和風險投資家的強烈反對。他們表示，這代表著政府對一項仍處于起步階段的技術(shù)的過度關(guān)注，可能會扼殺該州的科技創(chuàng)新。上周，OpenAI公開表示反對該法案，認為這樣的政策應(yīng)該在聯(lián)邦而不是州一級實施。

包括前眾議院議長南?！づ迓逦鳎∟ancy Pelosi）、美國眾議員Ro Khanna、舊金山市長London Breed等政界人士也對該法案表示反對，這與科技行業(yè)的擔憂相呼應(yīng)，即該法案可能會阻礙加州在人工智能創(chuàng)新方面的領(lǐng)導(dǎo)地位。

但在投票前的最后階段，該法案也贏得了人工智能領(lǐng)域一些主要企業(yè)的支持。周二，埃隆·馬斯克出人意料地表達了他的支持，盡管他說這是一個“艱難的決定，會讓一些人感到不安”。

OpenAI的競爭對手Anthropic也謹慎地對該法案表達了支持。上周，該公司表示“收益可能大于成本”，并且它可以切實實施這些條款。在Wiener實施了該公司建議的幾項修正后，Anthropic變得更加支持這項立法。

發(fā)起人“辯護”

SB 1047法案發(fā)起人、美國民主黨參議員Scott Wiener稱，認為，人工智能安全與創(chuàng)新并不互斥，該法案的修訂版已經(jīng)解決了此前一些批評者的擔憂。

Wiener在一份最新聲明中說：“創(chuàng)新和安全可以齊頭并進——加州正在引領(lǐng)這一潮流。通過這次投票，大會邁出了真正具有歷史意義的一步，積極努力，確保一項令人興奮的新技術(shù)在發(fā)展過程中保護公眾利益。”

他還稱該法案是一項“溫和的常識性措施”，將許多大公司已經(jīng)做出的安全承諾寫入法律。

Wiener還針對批評人士為該法案進行了辯護，強調(diào)其條款僅適用于成本超過1億美元的大型模型訓練公司或1000萬美元微調(diào)模型的公司，這將豁免大多數(shù)較小的初創(chuàng)公司。

這位議員還表示，雖然他會支持聯(lián)邦立法，但國會在監(jiān)管科技方面一直行動遲緩，在缺乏國家行動的情況下，他認為加州有責任發(fā)揮領(lǐng)導(dǎo)作用。