A Samsung három alkalmazottja állítólag érzékeny adatokat szivárogtatott ki a ChatGPT-nek

A felszínen olyan eszköznek tűnhet, amely számos üzleti feladathoz hasznos lehet. Mielőtt azonban megkérne egy chatbotot, hogy foglalja össze a fontos megjegyzéseket, vagy ellenőrizze a munkáját, hogy nincsenek-e benne hibák, érdemes észben tartani, hogy bármi, amit megoszt a ChatGPT-vel, felhasználhatja a rendszer betanítására, és esetleg megjelenhet a többi felhasználónak adott válaszaiban. Ezt valószínűleg sok alkalmazottnak tudnia kellett volna, mielőtt azt mondták nekik, hogy osszák meg bizalmas információkat egy chatbottal.

Nem sokkal azután, hogy a Samsung félvezető részlege engedélyezte a mérnökök számára a ChatGPT használatát, a dolgozók legalább három alkalommal bizalmas információkat szivárogtattak ki. (Ahogy észrevettem ). Az egyik alkalmazott állítólag arra kérte a chatbotot, hogy ellenőrizze az érzékeny adatbázis forráskódját a hibákért, egy másik a kód javítását kérte, a harmadik pedig egy ChatGPT által rögzített megbeszélést vezetett be, és arra kérte, hogy készítsen jegyzőkönyvet.

Megjegyzi, hogy miután tudomást szerzett a biztonsági hibákról, a Samsung megpróbálta korlátozni a jövőbeni hibák mértékét azáltal, hogy az alkalmazottaknak küldött ChatGPT-üzenetek hosszát 1 kilobájtra vagy 1024 karakternyi szövegre korlátozta. A cég állítólag vizsgálja a három érintett alkalmazottat is, és saját chatbotot épít a hasonló incidensek megelőzésére. Az Engadget felvette a kapcsolatot a Samsunggal megjegyzésért.

ChatGPT-k Kijelenti, hogy ha a felhasználók kifejezetten nem tiltják le, akkor az ő utasításaikat használja modelljei betanításához. Az OpenAI a chatbot tulajdonosa Ne ossza meg bizalmas információkat a ChatGPT-vel a csevegésekben, mert az „nem tud bizonyos üzeneteket törölni az előzményekből”. Az egyetlen módja annak, hogy megszabaduljon a személyazonosításra alkalmas adatoktól a ChatGPT-n, a fiók törlése – ez a folyamat .

A Samsung saga egy újabb példa arra, hogy miért pont olyan, amilyennek lennie kell minden online tevékenységével. Soha nem tudhatod, hova kerülnek az adataid.