Egy lektorált cikkben elborzadnak a tudósok egy furcsa mesterséges intelligencia-egértől, hatalmas szaporítószervekkel

Rémület és megvetés söpört végig a tudósok közösségi oldalain csütörtökön, mivel több, a mesterséges intelligencia által generált borzasztóan rossz szám keringett a… Lektorált cikk Nemrég jelent meg egy rangos magazinban. Ezek a számok – amelyeket a szerzők a cikk szövegében elismernek Midgourney alkotásai – mind megmagyarázhatatlanok. Érthetetlen szöveget tartalmaznak, és ami a legszembetűnőbb, az egyikben egy patkány képe is szerepel furcsán nagy és furcsa nemi szervekkel, valamint a szövegcím: „dck”.

Csütörtökön az áttekintő cikk kiadója, a Frontiers „Aggodalmat fejez ki” Megjegyzi, hogy tisztában van a közzétett darabbal kapcsolatos aggályokkal. „Jelenleg folyamatban van egy vizsgálat, és ezt a közleményt a vizsgálat befejezése után ennek megfelelően frissítjük” – írta a kiadó.

A szóban forgó cikk „A spermatogén őssejtek sejtfunkciói a JAK/STAT jelátviteli útvonallal kapcsolatban” címet viseli, és három kínai kutató írta, köztük a megfelelő szerző, Dingjun Hao, a Xi'an Honghui kórházból. Kedden tették közzé az interneten a Frontiers in Cell and Developmental Biology folyóiratban.

A Frontiers nem reagált azonnal Ars megjegyzéskérésére, de frissíteni fogjuk ezt a bejegyzést a válaszokkal.

Az újság első figurája, amelyik egy egeret tartalmazott, azonnal felkeltette a figyelmet, amikor a tudósok elkezdték széles körben megosztani és kommentálni a közösségi média platformokon, köztük a Bluesky-n és a korábban Twitter néven ismert platformon. Távolról jól látszik, hogy az anatómiai kép teljesen rossz. De ha közelebbről megvizsgáljuk, több hiányosság is kiderül, köztük a „dissilced”, az őssejt, az „iollotte sserotgomar” és a „dck” megnevezések. Sok kutató meglepetésének és megdöbbenésének adott hangot amiatt, hogy a mesterséges intelligencia által generált ilyen kirívóan rossz kép áthaladhat a társakon. – A naplóban jelen lévő felülvizsgálati rendszer és bármely belső feldolgozás.

De nem a patkánycsomag az egyetlen probléma. A 2. ábra kevésbé grafikus, de ugyanolyan torz. Noha egy összetett jelzési útvonal diagramjának kellene lennie, ez egy zavaros rendetlenség. A tudományos integritás szakértője Azon tűnődtem, vajon nem túl bonyolult magyarázatot ad-e arra, hogy „hogyan készítsünk fánkot színes permetekkel”. Az első képhez hasonlóan a diagram is tele van értelmetlen szövegekkel és zavaró képekkel. A 3. ábra sem jobb, kis kör alakú képek gyűjteményét mutatja be, amelyek halandzsa-súlyos megjegyzéseket tartalmaznak. A képnek vizuálisan kell bemutatnia, hogy a 2. ábrán látható jelátviteli útvonal hogyan szabályozza a spermatogén őssejtek biológiai tulajdonságait.

Egyes online tudósok azon töprengtek, vajon a szöveget is mesterséges intelligencia hozta-e létre. Egy felhasználó megjegyezte, hogy a mesterséges intelligencia észlelő szoftvere megállapította, hogy valószínűleg mesterséges intelligencia generálta; Amint azonban az Ars korábban beszámolt róla, az ilyen programok megbízhatatlanok.

A képek, bár kirívó példák, rávilágítanak a tudományos publikáció növekvő problémájára. A tudósok sikere nagymértékben függ publikációs eredményeiktől: a publikációk nagy mennyisége, a gyakori publikáció és a legjobb folyóiratokban megjelenő cikkek mind magasabb rangot biztosítanak a tudósoknak. A rendszer arra ösztönzi a kevésbé alapos kutatókat, hogy rossz minőségű cikkeket publikáljanak, amelyeket valószínűleg a mesterséges intelligencia segítségével generálnak az AI-alapú chatbotok korában. A kutatók attól tartanak, hogy a mesterséges intelligencia növekvő használata miatt a publikált kutatások kevésbé lesznek megbízhatóak. Ennek megfelelően a kutatási folyóiratok a közelmúltban új iránymutatásokat dolgoztak ki a mesterséges intelligencia által generált szövegek készítésére, hogy megpróbálják kezelni a problémát. De egyelőre, amint a Frontiers cikk is mutatja, egyértelműen vannak hiányosságok.