Egy új eszköz lehetővé teszi a művészek számára, hogy „megmérgezzék” műalkotásaikat, hogy elriasztsák az AI-cégeket

Azok a művészek, akik meg akarják osztani alkotásaikat, gyakran nehéz döntés előtt állnak: vagy offline állapotban tartják, vagy közzéteszik a közösségi médiában, és megkockáztatják, hogy adatéhes mesterséges intelligencia-képgenerátorok képzésére használják fel.

De egy új eszköz hamarosan segíthet a művészeknek elriasztani az AI-cégeket attól, hogy engedély nélkül használják fel műalkotásaikat.

„Nightshade”-nek hívják, és a Chicagói Egyetem kutatócsoportja fejlesztette ki. A Verge szerint úgy működik, hogy „megmérgezi” a művész kreativitását azáltal, hogy finoman megváltoztatja a kép pixeleit, így az AI-modellek nem tudják pontosan meghatározni, mit ábrázol a kép. MIT Technology Review.

Bár az emberi szem nem képes észlelni ezeket a kis változásokat, ezek célja, hogy a gépi tanulási modell helytelenül címkézze fel a képet másként, mint amilyen. Mivel ezek a mesterséges intelligencia modellek pontos adatokra támaszkodnak, ez a „mérgezési” folyamat használhatatlanná teszi a képet edzési célokra.

Ha ezekből a „mérgezett” képekből elegendő mennyiséget kinyerünk az internetről, és egy mesterséges intelligencia-képgenerátor betanításához használjuk fel, előfordulhat, hogy maga az AI-modell nem tud pontos képeket készíteni.

A kutatók például a Stable Diffusion nevű mesterséges intelligencia képgenerátort táplálták be egy mesterséges intelligencia modellbe, amely 50 „mérgező” képet készített kutyákról, majd felkérték, hogy készítsen új képeket a kutyákról. Az MIT Technology Review szerint a képeken túl sok végtaggal vagy rajzfilmszerű arccal rendelkező állatok láthatók, amelyek kissé hasonlítottak a kutyákra.

Miután a kutatók a Stable Diffusion 300 „mérgező” kutyák képeit etették, végül macskákról készült képeket. A Stable Diffusion nem válaszolt a CNBC Make It megjegyzéskérésére.

A felszínen úgy tűnik, hogy az AI művészeti generátorok a semmiből hoznak létre képeket valakitől kapott felszólítás alapján.

De nem varázslat, hogy ezek a generatív mesterséges intelligencia-modellek valósághű képeket készítsenek egy rózsaszín zsiráfról vagy egy víz alatti kastélyról, hanem edzési adatok, és még sok minden.

Az AI-cégek hatalmas adathalmazokra képezik ki modelljeiket, segítve a modelleket annak meghatározásában, hogy mely képek kapcsolódnak szavakhoz. Ahhoz, hogy egy mesterséges intelligencia modell megfelelően készítsen egy rózsaszín zsiráf képét, meg kell tanítani a zsiráfképek és a rózsaszín szín helyes felismerésére.

A sok generatív AI-rendszer betanításához felhasznált adatok nagy része az internetről származik. Bár az Egyesült Államokban törvényes, hogy a vállalatok nyilvánosan elérhető webhelyekről adatokat gyűjtsenek és különféle célokra felhasználják, a műalkotások esetében ez bonyolulttá válik, mivel általában a művészek birtokolják műveik szerzői jogát, és néha… Nem akarom, hogy a műalkotásaikat egy mesterséges intelligencia modell kiképzésére használják fel.

Míg a művészek feliratkozhatnak az „opt-out listákra” vagy a „no-scrape” irányelvekre, gyakran nehéz rákényszeríteni a vállalatokat, hogy tartsák be ezeket az irányelveket, Máz az UChicagóban– mondta a Nightshade-et létrehozó kutatócsoport egy október 24-i szálban az X-en, korábban Twitter néven.

„E mechanizmusok egyike sem érvényesíthető, sőt ellenőrizhető sem” – mondták egy október 24-i szálban. „A vállalatok bebizonyították, hogy vakon figyelmen kívül hagyhatják a kimaradást.” „De még ha megegyeztek és másként cselekedtek is, ezt senki sem tudja ellenőrizni vagy bizonyítani (legalábbis ma nem). Foghíjasak ezek az eszközök” – tette hozzá.

A kutatók végül azt remélik, hogy a Nightshade segít a művészeknek megvédeni művészetüket.

A kutatók még nem adták ki Nightshade eszközüket a nyilvánosság számára, de benyújtották munkájukat szakértői értékelésre, és remélik, hogy hamarosan elérhetővé teszik azt – mondta az UChicago’s Glaze az X-nek.

Ne hagyd ki: Szeretnél okosabb és sikeresebb lenni a pénzedben, a munkádban és az életedben? Iratkozzon fel új hírlevelünkre!

Kap Warren Buffett ingyenes befektetési útmutatója a CNBC-namely egy világos, egyszerű útmutatóban foglalja össze a milliárdos legjobb tanácsait a mindennapi befektetőknek, mit tegyünk és mit ne tegyünk, valamint három kulcsfontosságú befektetési elvet.

megtérülnek: A mesterséges intelligencia a legújabb divatszó a technológiában, de mielőtt befektetne, ismerje meg ezt a négy kifejezést