Hat mesterségesintelligencia-eszközt, köztük az OpenAI ChatGPT-jét is arra használták ki, hogy olyan kódot írjanak velük, amely képes károsítani az online kereskedelmi adatbázisokat – írja a New Scientist cikke nyomán a Telex.
Brit kutatók úgy manipulálták a ChatGPT-t és öt másik kereskedelmi MI-eszközt, hogy olyan rosszindulatú kódot hozzanak létre, amely érzékeny információkat szivárogtathat ki vagy törölhet fontos adatokat az online adatbázisokból. Ezzel valójában az MI-eszközök fejlesztőinek akartak segíteni abban, hogy úgy módosíthassák az eszközöket, hogy azokat ne tudják kihasználni olyanok, akik tényleg vissza is akarnak élni ezekkel a kicsalt információkkal.
„Ez a legelső olyan tanulmány, amely bemutatja, hogy a nagy nyelvi modellek sebezhetőségei általában kihasználhatók az online kereskedelmi alkalmazásokban”
– mondta el Xutan Peng, aki a tanulmány társvezetője volt a Sheffieldi Egyetemen.
A kutatók által vizsgált MI-eszközök közül mindegyik képes volt lefordítani a felszólításaikat olyan úgynevezett SQL-kódokra, amelyek aztán alkalmasak például a bankkártyák vagy online vásárlások információinak a megszerzésére, ezen kívül lehívhatják velük a felhasználói profilokat, neveket és jelszavakat tároló adatbázisokat, és szolgáltatás-megtagadási támadások révén túlterhelhetik az adatbázisokat tároló felhőszolgáltatókat.
A kutatócsoport 2023 februárjában kezdett el dolgozni a ChatGPT-vel, és kimutatták, hogy még az is hozzájuthat káros kódhoz, aki az MI-chatbotot mindenféle rosszindulat nélkül kéri arra, hogy generáljon egy adatbázis-lehívó kódot. A kutatók megjegyezték, hogy az azóta végzett tesztek alapján arra következtetnek, hogy az OpenAI javította a ChatGPT „text-to-SQL” funkcióját.
A Trónok harca és a Pelikán-ügyirat szerzője is beperelte a ChatGPT tulajdonosát
Az OpenAI elindította a ChatGPT vállalkozásoknak szóló változatát
Mégis van politikai meggyőződése a ChatGPT-nek egy kutatás szerint
További híreket érhet el a Media1.hu oldalon. Követhet bennünket Facebookon is.
