A kaliforniai törvényhozók megszavazzák a mesterséges intelligencia biztonságáról szóló törvényjavaslatot a technológiai cégek ellenállása közepette

A kaliforniai szenátus 1047-es törvényjavaslata, amelynek szerzője Scott Wiener állam szenátora, az első ilyen típusú törvény lenne az Egyesült Államokban, amely előírná a mesterséges intelligencia vállalatokat, hogy nagyméretű modelleket készítsenek, hogy teszteljék őket a biztonság szempontjából.

A kaliforniai törvényhozók több tucat mesterséges intelligenciával kapcsolatos törvényjavaslatot tárgyalnak ezen az ülésen. De Weiner javaslata, a „Biztonságos és biztonságos innováció a vezető mesterségesintelligencia-modellekért törvény” elnevezésű javaslata felkeltette az ország figyelmét a Szilícium-völgy – az Egyesült Államok mesterséges intelligencia-fejlesztésének fő bástyája – heves ellenállása miatt. Az ellenzők szerint a megterhelő technológiai követelmények és az esetleges bírságok kiszabása Kaliforniában elfojtná az innovációt és az ország globális versenyképességét.

Az OpenAI a legújabb mesterséges intelligencia-fejlesztő, aki ellenzi és vitatja Szerdán üzenetben hogy a mesterséges intelligencia szabályozását a szövetségi kormányra kell bízni, és azt állítja, hogy a javasolt törvény elfogadása esetén a vállalatok elhagyják Kaliforniát.

Az állam törvényhozó gyűlése a tervek szerint most szavaz a törvényjavaslatról, amely… A nyertes nemrég módosult A technológiai iparági kritikákra reagálva elmondta, hogy az új nyelv nem válaszol minden, az iparág által felvetett kérdésre.

„Ez egy ésszerű és könnyű törvényjavaslat, amely semmilyen módon nem akadályozza az innovációt, de segít leküzdeni azokat a kockázatokat, amelyek bármilyen nagy teljesítményű technológiát kísérnek” – mondta Weiner újságíróknak a hétfői sajtótájékoztatón.

Mit fog tenni a törvényjavaslat?

A törvényjavaslat előírja, hogy a nagy mesterségesintelligencia-modelleket készítő vállalatok, amelyek képzése több mint 100 millió dollárba kerül, mérsékeljék a rendszerben tapasztalt jelentős kockázatokat biztonsági tesztekkel. Ez magában foglalja a „teljes leállítás” képesség létrehozását – vagy egy módot arra, hogy katasztrofális körülmények között lehúzzuk a dugót egy potenciálisan nem biztonságos modellről.

A fejlesztőknek emellett műszaki tervet kell készíteniük a biztonsági kockázatok kezelésére, és a terv egy példányát meg kell őrizniük mindaddig, amíg az űrlap rendelkezésre áll, plusz öt évig. Az olyan cégek, mint a Google, a Meta és az OpenAI már jelentős AI-műveletekkel rendelkeznek Önkéntes kötelezettségvállalások Lehetséges, hogy a Biden-adminisztráció vállalja a felelősséget az MI-kockázatok kezeléséért, de a kaliforniai jogszabályok jogi és végrehajtási kötelezettségeket írnának elő ezekre a kötelezettségekre.

Minden évben egy külső könyvvizsgáló értékeli, hogy egy cég megfelel-e a jogszabályoknak. Ezenkívül a vállalatoknak dokumentálniuk kell a jogszabályok betartását, és jelenteniük kell minden biztonsági eseményt a kaliforniai főügyésznek. A Legfőbb Ügyészség az első jogsértések esetén 50 000 dollárig terjedő polgári jogi büntetést szabhat ki, a későbbi jogsértések esetén pedig további 100 000 dollárt.

Mik a kritikák?

A technológiai ipar nagy része bírálta a javasolt törvényjavaslatot, mert túlságosan megterhelő. Az Anthropic, egy népszerű mesterséges intelligencia-cég, amely a biztonságra koncentrálóként hirdeti magát, azzal érvelt, hogy a jogszabály korábbi változata olyan összetett jogi kötelezettségeket teremtett volna, amelyek elfojtották volna az AI-innovációt, például a kaliforniai főügyész azon képességét, hogy hanyagságért pereljen, még akkor is, ha az nem történik biztonsági katasztrófa.

Az OpenAI azt javasolta, hogy a cégek elhagyják Kaliforniát, ha elfogadják a törvényjavaslatot, hogy elkerüljék a követelményeket. Ragaszkodott ahhoz is, hogy a mesterséges intelligencia szabályozását a Kongresszusra kell bízni, hogy megakadályozzák, hogy zavaros jogszabályok sorát fogadják el az államok között.

Győztes A lány válaszolt Az Egyesült Államok Szenátusának külügyi bizottsága „nehéz érvnek” minősítette a Kaliforniából menekülő cégek ötletét, megjegyezve, hogy a törvényjavaslat rendelkezései továbbra is vonatkoznának azokra a cégekre, amelyek kaliforniai lakosoknak nyújtják szolgáltatásaikat, még akkor is, ha a székhelyük nincs ott.

A múlt héten az amerikai kongresszus nyolc tagja jelentette be késztetést Gavin Newsom kormányzó megvétózza a szenátusi 1047-es törvényjavaslatot, mert az a mesterséges intelligenciát gyártó és használó vállalatokra róna kötelezettségeket. Nancy Pelosi képviselő csatlakozott ellenzéki kollégáihoz, hívás Az intézkedés „jó szándékú, de átgondolatlan” (Weiner a képviselőház emeritus elnöki székét nézte, ami szükségessé teheti a jövőbeli leszámolást lányával, Christine Pelosival). A Politico szerint.)

Pelosi és a Kongresszus tagjai kiállnak a „mesterséges intelligencia keresztanyjával”, Dr. Vivi Li-vel, a Stanford Egyetem informatikusával és egykori Google-kutatóval. Egy közelmúltbeli közleményében Lee kijelentette, hogy a jogszabály „károsítani fogja feltörekvő mesterséges intelligencia-ökoszisztémánkat”, különösen a kisebb fejlesztőket, akik „már így is hátrányban vannak a mai óriási technológiai vállalatokkal szemben”.

Mit mondanak a támogatók?

A törvénytervezet számos startup támogatást kapott a mesterséges intelligencia területén. A Notion társalapítója Simon Last, valamint a mesterséges intelligencia „keresztapja”, Yoshua Bengio és Geoffrey Hinton. Bengio szerint a jogszabály „pozitív és ésszerű lépés” lenne a mesterséges intelligencia biztonságosabbá tételére, miközben ösztönzi az innovációt.

Megfelelő biztonsági intézkedések hiányában a törvényjavaslat támogatói attól tartanak, hogy a felügyelet nélküli mesterséges intelligencia súlyos következményei olyan egzisztenciális fenyegetéseket jelenthetnek, mint például a kritikus infrastruktúra és a nukleáris fegyverek létrehozásának fokozott kockázata.

Weiner megvédte „egyszerű, józan ész” törvényét, megjegyezve, hogy az csak a legnagyobb mesterségesintelligencia-cégek számára követeli meg biztonsági intézkedések elfogadását. Méltatta Kalifornia vezető szerepét az Egyesült Államok technológiai politikájában is, ami kétségeket ébreszt azzal kapcsolatban, hogy a Kongresszus a közeljövőben elfogad-e bármilyen érdemi jogszabályt a mesterséges intelligenciáról.

„Kalifornia ismételten fellépett lakosaink védelmében, és betölti a Kongresszus tétlensége miatt keletkezett űrt” – válaszolta Weiner, megjegyezve, hogy hiányzik a szövetségi fellépés az adatvédelem és a közösségi média szabályozása terén.

mi lesz ezután?

A törvényjavaslattal kapcsolatos legutóbbi nyilatkozatában Weiner elmondta, hogy a legújabb módosítások figyelembe veszik a mesterséges intelligencia-ipar számos aggályát. A jelenlegi változat a kormánynak való hazudozásért inkább polgári jogi büntetést javasol, mint a törvényjavaslatban eredetileg. Eltávolítja a javaslatot egy új állami szabályozó testület létrehozására is, amely felügyelné az AI-modelleket.

Anthropy mondta Newsomnak írt levélben A felülvizsgált jogszabály előnyei valószínűleg meghaladják a mesterséges intelligencia ágazatot érő potenciális károkat, a fő előnyök pedig az AI biztonságának átláthatósága a nyilvánosság előtt, valamint az, hogy a vállalatokat ráveszik a kockázatcsökkentésbe való befektetésre. Az Anthropic azonban továbbra is óvakodik a széles körű korlátozások és a kiterjesztett jelentési követelmények lehetőségétől.

„Szerintünk kritikus, hogy rendelkezzünk olyan keretrendszerrel a vezető mesterséges intelligencia rendszerek kezelésére, amelyek nagyjából megfelelnek ennek a három követelménynek” – mondta az Anthropic vezérigazgatója, Dario Amodei a kormányzónak, függetlenül attól, hogy a keretrendszer SB-1047-es-e vagy sem.

A kaliforniai törvényhozóknak augusztus 31-ig, az ülés végéig kell elfogadniuk a törvényjavaslatot. Ha jóváhagyják, szeptember végéig Gavin Newsom kormányzóhoz kerül végső jóváhagyásra. A kormányzó nem jelezte, hogy tervezi-e aláírni a jogszabályt.