Az Apple társalapítója, Steve Wozniak aggodalmának adott hangot a mesterséges intelligencia és a szabályozás szükségessége miatt

New York (CNN) Geoffrey Hinton, más néven „A mesterséges intelligencia keresztapjaÚgy döntött, le kell fújnia az általa kifejlesztett technológiát, miután aggódott, mennyire okos – mondta kedden a CNN-nek.

„Én csak egy tudós vagyok, aki hirtelen rájön, hogy ezek a dolgok egyre okosabbak nálunk” – mondta Hinton a CNN tudósítójának, Jake Tappernek adott keddi interjújában. „Szeretnék egyfajta sípot fújni, és azt mondani, hogy komolyan kell foglalkoznunk azzal, hogyan tudjuk megakadályozni, hogy ezek a dolgok eluralkodjanak rajtunk.”

Hinton neurális hálózatokkal kapcsolatos úttörő munkája alakítja azokat a mesterséges intelligencia rendszereket, amelyek sok mai terméket táplálnak. Hétfőn az újságok címlapjára került, hogy elhagyta pozícióját a Google-nál, ahol egy évtizedig dolgozott, hogy őszintén beszéljen a technológiával kapcsolatos növekvő aggodalmairól.

Egy interjúban hétfőn A New York TimesHinton, aki elsőként számolt be lépéséről, azt mondta, aggódik amiatt, hogy a mesterséges intelligencia képes felszámolni a munkahelyeket, és olyan világot teremteni, ahol „sokan már nem fogják tudni megmondani, mi a helyes”. Megjegyezte a haladás elképesztő ütemét is, amely messze meghaladja azt, amit ő és mások vártak.

„Ha okosabb lenne nálunk, nagyon jó lenne a manipulációban, mert ezt tőlünk tanulta volna, és nagyon kevés példa van arra, hogy valami intelligensebbet valami kevésbé intelligens dolog irányítson” – mondta Hinton a Tappernek. Kedd.

„Tudja, hogyan kell kódolni, ezért ki fogja találni a módját, hogy megkerülje a rá vonatkozó korlátozásokat. Ki fogja találni a módját, hogyan manipulálja az embereket, hogy azt tegyenek, amit akarnak.”

Nem Hinton az egyetlen technológiai vezető, aki nyíltan hangoztatta a mesterséges intelligencia miatti aggodalmait. A közösség számos tagja aláírta a üzenetet márciusban Az AI Labs felkérése, hogy legalább hat hónapra hagyja abba a legerősebb mesterségesintelligencia-rendszerek képzését, arra hivatkozva, hogy „a társadalom és az emberiség súlyos kockázatai vannak”.

az üzenet, közzétett A Future of Life Institute nonprofit szervezettől Támogatott Elon Musk, mindössze két héttel az OpenAI után bejelenteni GPT-4, a vírusos chatbot technológia erősebb verziója, amely támogatja a ChatGPT-t. A korai tesztek során és a cég demójában a GPT-4-et perek megtervezésére, szabványos tesztek átadására és működő weboldal létrehozására használták egy kézzel rajzolt vázlatból.

Steve Wozniak, az Apple társalapítója, aki a levél egyik aláírója volt, kedden megjelent a CNN This Morning műsorában, és aggodalmát fejezte ki amiatt, hogy az Apple képes félretájékoztatást terjeszteni.

„A megtévesztés sokkal könnyebb lesz azoknak, akik meg akarnak téveszteni téged” – mondta Wozniak a CNN-nek. „E tekintetben nem változtatunk, csak azt feltételezzük, hogy a rendelkezésünkre álló törvények gondoskodnak róla.”

Wozniak azt is mondta, hogy szükség lehet „valamiféle szervezetre”.

A maga részéről Hinton azt mondta a CNN-nek, hogy nem írta alá a petíciót. „Nem hiszem, hogy megállíthatjuk a fejlődést” – mondta. „Nem írtam alá azt a petíciót, amely szerint abba kellene hagynunk a mesterséges intelligencia fejlesztését, mert ha Amerikában az emberek abbahagyják, Kínában nem fognak.”

De elismerte, hogy nincs egyértelmű válasz arra, hogy mit tegyen helyette.

„Nem világos számomra, hogy meg tudjuk-e oldani ezt a problémát” – mondta Hinton a Tappernek. „Úgy gondolom, hogy sok erőfeszítést kell tennünk a probléma megoldására. Jelenleg nincs megoldásom.”