涉及眾多主流大模型!OpenAI也“參團(tuán)”了 強(qiáng)烈抨擊加州SB-1047法案
原創(chuàng)
2024-08-22 15:02 星期四
財(cái)聯(lián)社 瀟湘
①周三,OpenAI對(duì)加州一項(xiàng)旨在確保強(qiáng)大人工智能安全部署的法案進(jìn)行了猛擊抨擊;
②反對(duì)者陣營(yíng)包括斯坦福大學(xué)教授李飛飛、前百度首席科學(xué)家吳恩達(dá)等AI行業(yè)大佬;
③他們正試圖趕在月底的州議會(huì)投票前,發(fā)動(dòng)阻止該法案通過(guò)的游說(shuō)狂潮。

財(cái)聯(lián)社8月22日訊(編輯 瀟湘)當(dāng)?shù)貢r(shí)間周三,OpenAI對(duì)加州一項(xiàng)旨在確保強(qiáng)大人工智能安全部署的法案進(jìn)行了猛擊抨擊,從而加入了包括斯坦福大學(xué)教授李飛飛、前百度首席科學(xué)家吳恩達(dá)等AI行業(yè)大佬的行列。反對(duì)者試圖趕在月底的州議會(huì)投票前,共同發(fā)動(dòng)阻止該法案通過(guò)的游說(shuō)狂潮……

根據(jù)業(yè)內(nèi)媒體看到的一封周三寄給加州參議員Scott Wiener辦公室的信,OpenAI首席戰(zhàn)略官Jason Kwon在信中寫道,這項(xiàng)由議員Wiener牽頭發(fā)起的SB-1047法案,將損害人工智能行業(yè)的創(chuàng)新。

OpenAI方面在信中認(rèn)為,對(duì)這一問(wèn)題的監(jiān)管應(yīng)來(lái)自聯(lián)邦政府而非各州。其同時(shí)還擔(dān)心,如果該法案獲得通過(guò),可能會(huì)對(duì)美國(guó)的人工智能競(jìng)爭(zhēng)力和國(guó)家安全產(chǎn)生“廣泛而重大”的影響。

SB-1047法案于今年2月份在加州參議院首度被提出,該法案旨在為超過(guò)特定規(guī)模和成本門檻的大型人工智能模型的公司,制定其所稱的“常識(shí)性安全標(biāo)準(zhǔn)”。法案將要求人工智能公司采取措施,防止AI模型造成“嚴(yán)重危害”,如促成可造成大規(guī)模人員傷亡的生物武器的開(kāi)發(fā);或指示人工智能模型策劃網(wǎng)絡(luò)攻擊從而造成超過(guò)5億美元的損失。

image

法案覆蓋的模型規(guī)模范圍如下:

在2027年1月1日之前,(i)使用超過(guò)10^26次整數(shù)或浮點(diǎn)運(yùn)算的計(jì)算能力進(jìn)行訓(xùn)練的人工智能模型,其成本超過(guò)一億美元——該成本是根據(jù)開(kāi)發(fā)者合理評(píng)估的訓(xùn)練開(kāi)始時(shí)云計(jì)算的平均市場(chǎng)價(jià)格計(jì)算得出的。(ii)利用等于或大于10^25次整數(shù)或浮點(diǎn)運(yùn)算三倍的計(jì)算能力,對(duì)范圍內(nèi)的模型進(jìn)行微調(diào)而創(chuàng)建的人工智能模型,其成本經(jīng)開(kāi)發(fā)者合理評(píng)估超過(guò)一千萬(wàn)美元。

image

這一范圍其實(shí)已基本覆蓋了現(xiàn)在市面上主流的大語(yǔ)言模型,OpenAI的GPT4模型顯然也在此列。因而如果法案通過(guò),這些模型都將需要被額外監(jiān)管。

根據(jù)這項(xiàng)SB-1047法案,企業(yè)需要確保AI系統(tǒng)可以隨時(shí)關(guān)閉,采取“合理的謹(jǐn)慎措施”確保AI模型不會(huì)造成災(zāi)難,并向加州總檢察長(zhǎng)披露合規(guī)聲明。如果企業(yè)不遵守這些要求,可能會(huì)被起訴并面臨民事處罰,若向該政府機(jī)構(gòu)虛假陳述模型的功能,甚至可能會(huì)最終使開(kāi)發(fā)人員因偽證而入獄。

法案中還加入了吹哨人保護(hù)條款,保護(hù)和鼓勵(lì)A(yù)I開(kāi)發(fā)實(shí)體內(nèi)部的舉報(bào)者,確保員工可以在不受報(bào)復(fù)的情況下報(bào)告企業(yè)的不合規(guī)情況。

備受爭(zhēng)議

可以說(shuō),SB-1047法案在年內(nèi)早些時(shí)候一經(jīng)公布,就遭到了許多大型科技公司、初創(chuàng)企業(yè)和風(fēng)險(xiǎn)投資家的激烈反對(duì)。

他們認(rèn)為,對(duì)于一項(xiàng)仍處于起步階段的技術(shù)來(lái)說(shuō),該法案過(guò)于寬泛,可能會(huì)扼殺加州的科技創(chuàng)新。該法案的一些批評(píng)者還擔(dān)心,它可能會(huì)把人工智能公司趕出加州。OpenAI在最新給Wiener辦公室的信中也表達(dá)了同樣的擔(dān)憂。

Kwon在信中寫道,“人工智能革命才剛剛開(kāi)始,而加州作為人工智能領(lǐng)域全球領(lǐng)導(dǎo)者的獨(dú)特地位,正在推動(dòng)加州的經(jīng)濟(jì)活力。SB-1047法案將威脅到這種增長(zhǎng),減緩創(chuàng)新步伐,并導(dǎo)致加州的世界級(jí)工程師和企業(yè)家離開(kāi)當(dāng)?shù)?,到其他地方尋找更大的機(jī)會(huì)。”

OpenAI認(rèn)為,白宮科技政策辦公室、商務(wù)部和國(guó)家安全委員會(huì)等聯(lián)邦機(jī)構(gòu),比加州州級(jí)政府機(jī)構(gòu)更適合管理關(guān)鍵的人工智能風(fēng)險(xiǎn)。該公司表示,它支持幾項(xiàng)擬議的聯(lián)邦立法,例如《人工智能創(chuàng)新未來(lái)法案》,該法案為新的美國(guó)人工智能安全研究所提供了國(guó)會(huì)支持。

據(jù)一位熟悉該公司房地產(chǎn)計(jì)劃的人士透露,由于擔(dān)心加州監(jiān)管環(huán)境的不確定性,OpenAI已經(jīng)擱置了擴(kuò)建舊金山辦公室的討論,該人士要求匿名。

除OpenAI外,當(dāng)前市場(chǎng)上的許多批評(píng)者也認(rèn)為,該法案要求企業(yè)向州政府提交有關(guān)其模型的詳細(xì)信息,這將阻礙創(chuàng)新,同時(shí)也會(huì)阻止較小的開(kāi)源開(kāi)發(fā)者創(chuàng)建初創(chuàng)企業(yè),因?yàn)樗麄兒ε卤黄鹪V。

斯坦福大學(xué)教授、人工智能知名學(xué)者李飛飛本月早些時(shí)候就剛剛牽頭撰寫了一封聯(lián)名信。她表示,“加州的SB-1047法案將產(chǎn)生重大而意想不到的后果。如果通過(guò)成為法律,其將損害正在萌芽的人工智能生態(tài)系統(tǒng)。SB-1047法案也將不必要地懲罰開(kāi)發(fā)人員,扼殺開(kāi)源社區(qū),并阻礙人工智能學(xué)術(shù)研究,同時(shí)仍無(wú)法解決其旨在解決的真正問(wèn)題。”

然而對(duì)于AI行業(yè)眼下愈發(fā)洶涌的反對(duì)聲,該法案的發(fā)起者Wiener卻依然并不以為意。Wiener在周三的最新回應(yīng)中表示,他同意聯(lián)邦政府應(yīng)發(fā)揮主導(dǎo)作用,但對(duì)國(guó)會(huì)是否會(huì)采取行動(dòng)表示“懷疑”。

他還批評(píng)了市場(chǎng)上那些“陳詞濫調(diào)”的說(shuō)法——即如果該法案獲得通過(guò),科技初創(chuàng)企業(yè)就會(huì)搬走,并表示總部設(shè)在州外的公司仍需遵守該法案,才能在當(dāng)?shù)亻_(kāi)展業(yè)務(wù)。Wiener在周三寫道:“底線是:SB-1047是一項(xiàng)非常合理的法案,它要求大型人工智能實(shí)驗(yàn)室做他們已經(jīng)承諾要做的事情,即測(cè)試他們的大型模型是否存在災(zāi)難性的安全風(fēng)險(xiǎn)?!?/p>

據(jù)悉,加州議會(huì)將在本月底對(duì)該法案進(jìn)行投票。如果獲得通過(guò),加州州長(zhǎng)紐森(Gavin Newsom)將決定是將其簽署為法律還是予以否決。

收藏
61.19W
我要評(píng)論
歡迎您發(fā)表有價(jià)值的評(píng)論,發(fā)布廣告和不和諧的評(píng)論都將會(huì)被刪除,您的賬號(hào)將禁止評(píng)論。
發(fā)表評(píng)論
要聞
股市
關(guān)聯(lián)話題
4.18W 人關(guān)注
9125 人關(guān)注
1.29W 人關(guān)注