Ha fényképeket készít a Google Pixel Studiójában, akkor könnyen letérhet a pályáról

A Pixel Studio, a szöveges üzeneteket képpé alakító alkalmazás a Pixel 9 sorozat egyik új, mesterséges intelligencia által vezérelt funkciója. Lehet, hogy egy szórakoztató kis kütyü, de tapasztalataink szerint könnyen letérhet a pályáról.

A Pixel Studio egy olyan alkalmazás, amely szöveges üzenetekkel rendelkező képeket készít. Az alkalmazás ugyanazon az ötlet alapján működik, mint a Gemini és az ImageFX, lehetővé téve a felhasználók számára, hogy szöveges üzenetet írjanak be, és cserébe képet kapjanak. De mint minden tekintélyes képgenerátornak, itt is meg kell határozni a határokat.

Egy nyilatkozatban 9-től 5-ig GoogleA Google kifejti, hogy mind a Pixel Studio, mind a Magic Editor számára korlátozások vannak érvényben a „visszaélések megelőzésére”, ugyanakkor tiszteletben tartják a „felhasználói követelések szándékát”, még akkor is, ha olyan tartalom létrehozására irányulnak, amely „sértő lehet”, ha a felhasználó közvetlenül kéri az alkalmazást. hogy ezt tegye.

A Pixel Studio és a Magic Editor két hasznos eszköz, amelyek célja, hogy felszabadítsa kreativitását a Pixel 9-es eszközökön végzett szövegalkotással és fejlett képszerkesztéssel. A generatív mesterséges intelligencia eszközeinket úgy terveztük, hogy tiszteletben tartsák a felhasználói utasítások szándékát ami sértheti, amikor a felhasználó kéri. Azonban semmi sem megengedett. Világos eszközeink vannak Irányelvek és Szolgáltatási feltételek Az általunk engedélyezett vagy nem engedélyezett tartalomtípusok, valamint a visszaélések megelőzésére szolgáló biztosítékok kidolgozása tekintetében. Alkalmanként a követelések megkérdőjelezhetik ezen eszközök korlátait, és továbbra is elkötelezettek vagyunk biztosítékaink folyamatos fejlesztése és javítása mellett.

Ez hasonló ahhoz, ami a Gemini esetében történik, amely biztosítékokat tartalmaz a sértő vagy megosztó tartalom ellen. A Google-t például kritizálták az emberek történelmi kontextusban való pontatlan ábrázolása miatt, aminek következtében a Google „átmenetileg” letiltotta az emberekről alkotott képek készítésének lehetőségét, ahogy az elmúlt néhány hónapban tette.

A Geminihez hasonlóan a Pixel Studio sem tud fényképeket készíteni emberekről, de azt tapasztaltuk, hogy az alkalmazás igen gyorsan Könnyen kilökődnek a pályáról.

A Pixel 9 mai felülvizsgálati embargója előtt azt tapasztaltuk, hogy a Pixel Studio képes volt képeket készíteni a második világháborús német katonai egyenruhát viselő, egyes esetekben náci jelképeket viselő rajzfilmfigurákról. Egy másik nyugtalanító és nyugtalanító példa, amit láttunk (az emberektől: Digitális trendek Egy személy (aki először fedezte fel ezeket a problémákat) látott egy karaktert, aki fellőtt egy iskolát halott gyerekekkel körülvéve, amit a Google Modelleknek eleve nem kellett volna előállítania.

Mivel ezek az eredmények eredetileg megjelentek, úgy tűnik, hogy a Google letiltotta a létrehozásukhoz használt promptokat Pixel 9 Pro XL készülékünkön, de… Digitális trendek Azt mondják, néhányat még használhatnak.

Mindez azt jelenti, hogy a Pixel Studio akadályai gyakorlatilag egy végtelen csúsztatássá változnak. Valahol, valahogyan besurran egy üzenet, és valami olyasmit hoz létre, amire egy alkalmazásnak nem szabadna képesnek lennie, ha ugyanazokat az akadályokat használja, mint a Gemini – egyeztettünk a Google-lal, és a cég azt mondja, hogy „minden” szöveg-képes eszköz „hasonlóan osztozik” iránymutatások Tiltott használathoz”, linkelve a Mesterséges intelligencia politika.

Valójában ez a fajta elkerülhetetlen az AI képalkotás során. Probléma, hogy szinte az összes mesterséges intelligencia képgenerátor küzdeni fog bizonyos mértékig. Ahogy Abner Lee kifejtette a Pixel 9 Pro korábbi mai áttekintésében:

Ami a Pixel Studiót illeti, általában úgy gondolom, hogy a képalkotás egy csúszós pálya, ahol a negatívok felülmúlják a pozitívumot. Minden bizonnyal ráveheti, hogy megkérdőjelezhető tartalmat állítson elő, és nem hiszem, hogy bármilyen védőkorlát megakadályozhatja ezt.

További információ a Google Pixel 9-ről:

Kövesd Bent: Twitter/X, Szálakés Instagram