Miért nem lesz könnyű megoldani a Google „felébredt” AI-ját?

Az elmúlt néhány napban a Google Gemini AI eszköze elérte azt, amit a legjobban úgy lehet leírni, mint az abszolút felfutást az interneten.

Az Ikrek meglehetősen nagy tűzbe kerültek: a bal- és jobboldali közösségek között dúló kultúrháborúba.

A Gemini alapvetően a vírusos ChatGPT chatbot Google verziója. Szöveges formában tud válaszolni a kérdésekre, és szöveges felszólításra is képes képeket készíteni.

Először is, egy vírusos bejegyzés egy nemrégiben elindított mesterséges intelligencia képgenerátort mutatott be (amely csak az Egyesült Államokban volt elérhető), és olyan képet készített az Egyesült Államok alapító atyáiról, amelyekben pontatlanul szerepel egy fekete férfi.

Az Ikrek című filmben a második világháború német katonái is szerepeltek, és helytelenül egy fekete férfit és egy ázsiai nőt mutat be.

A Google elnézést kért, és azonnal leállította az eszközt – írta üzenetében Blog bejegyzés „Eltéveszti a célt”.

De az ügy ezzel még nem ért véget, hiszen továbbra is megjelentek politikailag túlzó válaszai, ezúttal a szöveges változatból.

A Gemini azt válaszolta, hogy „nincs jó vagy rossz válasz” arra a kérdésre, hogy Elon Musk, aki mémeket posztol az X-re, rosszabb-e, mintha Hitler emberek millióit ölné meg.

Arra a kérdésre, hogy elfogadható lenne-e, ha a prominens transznők, Caitlyn Jenner tévednek, ha ez az egyetlen módja a nukleáris apokalipszis elkerülésének, azt válaszolta, hogy „soha” nem lenne elfogadható.

Jenner maga válaszolt, és valójában azt mondta: igen, az adott körülmények között rendben lenne.

Elon Musk egy bejegyzésben a saját platformján

Megkérdeztem a Google-t, hogy szándékozik-e teljesen szüneteltetni a Geminit. Nagyon hosszú szünet után azt mondták, hogy a cégnek nincs megjegyzése. Azt hiszem, a PR-ban dolgozni nem szórakoztató idő.

Úgy tűnik, hogy az egyik probléma – az elfogultság – megoldására a technológiai óriás egy másikat hozott létre: olyan teljesítményt, amely annyira igyekszik politikailag korrekt lenni, hogy az nevetségessé válik.

Ennek oka az a hatalmas adatmennyiségben rejlik, amelyre az AI-eszközöket képezik.

És sok minden elérhető a nyilvánosság számára – az interneten, amelyről tudjuk, hogy mindenféle torzítást tartalmaz.

Például az orvosok képei hagyományosan nagyobb valószínűséggel férfiakat ábrázolnak. Másrészt a takarítókról készült képek nagyobb valószínűséggel nők.

Az ezekkel az adatokkal kiképzett mesterséges intelligencia eszközök a múltban kínos hibákat követtek el, például arra a következtetésre jutottak, hogy csak férfiak töltenek be nagy teljesítményű munkát, vagy nem ismerik fel a fekete arcokat embernek.

Az sem titok, hogy a történelmi történetmesélés általában férfiakat jelenít meg, és tőlük származik, miközben a múlt történetéből kihagyja a női szerepeket.

Úgy tűnik, hogy a Google keményen próbálta pótolni ezt a zűrzavaros emberi elfogultságot azzal, hogy utasította az Ikreket, hogy ne tegyenek ilyen feltételezéseket.

De pont azért sül vissza, mert az emberi történelem és kultúra nem ilyen egyszerű: vannak olyan árnyalatok, amelyeket ösztönösen ismerünk, de a gépek nem.

Hacsak nem programozunk konkrétan egy mesterséges intelligencia eszközt, hogy tudja például, hogy a nácik és az alapító atyák nem voltak feketék, ez a megkülönböztetés nem fog megtörténni.

A képgenerátor kijavítása hetekig tart – közölte hétfőn Demis Hassabis, a Google által felvásárolt mesterséges intelligencia vállalat, a DeepMind társalapítója.

De más AI-szakértők ebben nem biztosak.

„Valójában nincs egyszerű megoldás, mert nincs egyetlen válasz arra, hogy milyen eredményeket kell elérni” – mondta Dr. Sasha Lucioni, a Huggingface kutatója.

„A mesterséges intelligencia etikai közösségének tagjai évek óta dolgoznak a probléma megoldásának lehetséges módjain.”

Hozzátette, hogy az egyik megoldás magában foglalhatja a felhasználók véleményének megkérését, például: „Mennyire szeretnéd, hogy a fényképed legyen változatos?” De nyilván ez önmagában is megvan a maga vörös zászlóival.

„Kicsit arrogáns a Google részéről azt mondani, hogy néhány héten belül megoldják a problémát. De valamit tenniük kell” – mondta.

Alan Woodward professzor, a Surrey Egyetem informatikusa szerint a probléma valószínűleg „mélyen gyökerezik” mind a képzési adatokban, mind az egymást átfedő algoritmusokban – és nehéz lenne megoldani.

„Aminek vagy a tanúja, az az, hogy miért továbbra is alapvető igazság az, hogy minden olyan rendszerhez, amelyben a kimenetekre támaszkodnak, emberre van szükség” – mondta.

Attól a pillanattól kezdve, hogy a Google elindította a Geminit, akkor még Bard néven ismerték, a cég nagyon ideges volt emiatt. A versenytárs ChatGPT hatalmas sikere ellenére ez volt az egyik legcsendesebb indítás, amelyre valaha meghívást kaptam. Csak én, egy Zoom-hívás során, pár Google-vezetővel, akik szívesen hangsúlyozták a korlátait.

A technológiai szektor többi része meglehetősen zavartnak tűnik a történtek előtt.

Mindannyian ugyanazzal a problémával küzdenek. Rosie Campbell, az OpenAI politikai igazgatója, a ChatGPT megalkotója interjút készített a hónap elején Egy blogért Ez kimondja, hogy az OpenAI-ban még az elfogultság azonosítása után is nehéz kijavítani – és emberi közreműködést igényel.

De úgy tűnik, a Google egy kissé elavult módszert választott az ősi előítéletek korrigálása érdekében. Tehát akaratlanul is egy csomó új dolgot hozott létre.

Papíron a Google hatalmas előnnyel rendelkezik az AI-versenyben. Saját mesterségesintelligencia-chipeket gyárt és szállít, saját felhőhálózattal rendelkezik (az AI-feldolgozáshoz elengedhetetlen), nagy mennyiségű adathoz fér hozzá, és hatalmas felhasználói bázissal is rendelkezik. Világszínvonalú AI-tehetségeket alkalmaz, és mesterséges intelligencia munkáját világszerte elismerik.

Ahogy egy rivális technológiai cég egyik felsővezetője elmondta: az Ikrek hibáit nézni olyan érzés, mintha a győzelem állkapcsából kiszakított vereséget nézné.