Az Ars egyik olvasójának által bemutatott képernyőképek alapján úgy tűnik, hogy a ChatGPT szivárogtatja a felhasználói bejelentkezési adatokkal és egyéb személyes adatokkal nem kapcsolatos privát beszélgetéseket. Az olvasó által megosztott hét képernyőkép közül kettő különös figyelmet keltett. Mindkét beszélgetés több felhasználónevet és jelszót tartalmaz, amelyek a gyógyszertár-szabályozási portál alkalmazottainak támogatási rendszeréhez kapcsolódnak. Úgy tűnik, hogy egy alkalmazott, a mesterséges intelligenciával rendelkező chatbotot használva, az alkalmazás használata közben felmerült problémákat oldott meg.
A beszélgetés korántsem volt udvarias nyelvezetű és a bejelentkezési adatok mellett tartalmazta az alkalmazás nevét, amellyel az alkalmazott dolgozott, valamint az üzlet számát, ahol a probléma felmerült.
Az egész beszélgetés arra vonatkozik, amit a fenti képernyőkép kidolgozása mutat. Amikor a Chase Whiteside nevű olvasó az URL-t megosztotta, az teljes beszélgetést mutatott. Az URL további bejelentkezési adatpárokat fedett fel.
Whiteside egy e-mailben így írt nekem: „Egy kérdést tettem fel (ebben az esetben arról, hogy kreatív neveket kitaláljak egy palettához tartozó színeknek), és amikor visszatértem, észrevettem további beszélgetéseket.” „Azok nem voltak ott, amikor utoljára használtam a ChatGPT-t tegnap (viszonylag rendszeres felhasználó vagyok). Nem az én kérdéseim voltak – csak megjelentek a történetemben, és biztosan nem is az én adataim (és nem hiszem, hogy azok sem ugyanattól a felhasználótól fognak származni).”
A kiszivárgott beszélgetések tartalmazták egy prezentáció címét, egy publikálatlan kutatási projekt részleteit és egy PHP programozási nyelvet használó scriptet. A kiszivárgott beszélgetésekben megjelenő felhasználók különbözőek és nem kapcsolódtak egymáshoz. A receptportalról szóló beszélgetésben szerepelt egy 2020-as dátum. Más beszélgetésekben nem voltak megjelenő dátumok.
Az ilyen esetek kiemelik a személyes adatok eltávolításának fontosságát az a ChatGPT-hoz és más mesterséges intelligencia szolgáltatásokhoz benyújtott lekérdezésekből, ha lehetséges. Tavaly márciusban a ChatGPT-t létrehozó OpenAI-nak le kellett állítania az AI chatbotot, miután egy hiba miatt az aktív felhasználók beszélgetéstörténete megjelent más nem kapcsolódó felhasználóknál.
Novemberben kutatók publikáltak egy cikket, amelyben leírták, hogy milyen módon használták a ChatGPT-t, hogy kiszivárogtassák az e-mail címeket, telefonszámokat, faxokat, fizikai címeket és más magánadatokat, amelyek megtalálhatóak a nagy nyelvi modell képzési anyagaiban.
A bizalmas vagy magánvállalati adatok esetleges kiszivárgásának félelmével kapcsolatosan az Apple és más cégek is korlátozták alkalmazottaik ChatGPT és hasonló weboldalak használatát.
Ahogy azt a decemberben megjelent cikkben említettük, amikor sokan felfedezték, hogy az Ubiquity UniFi eszközei magánvideókat sugároznak nem kapcsolódó felhasználóknak, ezek a típusú élmények olyan régiek, mint az internet. Ahogy a cikkben is elmagyaráztuk:
Ezeknek a rendszerhiba-típusoknak a pontos okai esetről esetre eltérnek, de gyakran központi rendszer és hátulsó rendszer között található „köztesdoboz” eszközök kapcsolódnak hozzájuk. A teljesítmény javítása érdekében a köztesdobozok bizonyos adatokat tárolnak, ideértve a nemrégiben bejelentkező felhasználók bejelentkezési adatait is. Abnormális esetekben egy fiók bejelentkezési adatai egy másik fiókkal kapcsolódhatnak össze.
Az OpenAI egyik képviselője azt mondta, hogy a cég vizsgálatot folytat az ügyben.
Gyakran Ismételt Kérdések rész ismert témák alapján, amelyeket az eredeti cikk tárgyal:
1. Miért fontos eltávolítani a személyes adatokat a ChatGPT-hoz benyújtott lekérdezésekből?
A személyes adatok eltávolítása azért fontos, hogy megvédjük a felhasználók személyes adatait és megakadályozzuk a kiszivárgást vagy visszaélést.
2. Miért volt szükség az AI chatbot leállítására az OpenAI által?
Az AI chatbot leállítására azért volt szükség, mert egy hiba miatt az aktív felhasználók beszélgetéstörténete megjelent más nem kapcsolódó felhasználóknál.
3. Milyen adatok szerepeltek a kiszivárgott beszélgetésekben?
A kiszivárgott beszélgetések tartalmazták egy prezentáció címét, egy publikálatlan kutatási projekt részleteit és egy PHP programozási nyelvet használó scriptet, valamint a gyógyszertár-szabályozási portálhoz tartozó bejelentkezési adatokat.
4. Milyen intézkedéseket tett más cégek a bizalmassági vagy magánvállalati adatok védelme érdekében?
Más cégek, például az Apple, korlátozták alkalmazottaik ChatGPT és hasonló weboldalak használatát bizalmas vagy magánvállalati adatok potenciális kiszivárgása miatt.
Forrás: [https://www.example.com](https://www.example.com)
The source of the article is from the blog zaman.co.at