A mesterséges intelligenciával működő rendszerek eddig is támadhatóak voltak különböző módokon. Például használhatják videókészítésre, melyek leírásában egy hívogató ajánlat képében a linkre kattintva terjesztenek kártevőket vagy különböző nagy nyelvi modelleket is felhasználhatnak arra, hogy e-mailt írjanak, majd a gyanútlan olvasó egy adathalász weboldalra téved.
Valamint bizonyos promptokkal, szöveges utasításokkal is ellehet érni, hogy szokatlan módon reagáljanak. A"jailbreak"során a hackerek kihasználják a szoftverek gyengeségeit, hogy olyan dolgokra késztessék, melyet a fejlesztőik megtiltottak. A szingapúri Nanyang Technológiai Egyetemen Mesterkulcs néven egy olyan nagy nyelvi modellt hoztak létre, mely már saját maga végzi a jailbreak-et egy másik AI rendszeren. A modell olyan promptokat ír, mellyel megpróbálja kikerülni az irányelveket és a sikeres és sikertelen utasítások betanításával képes még hatékonyabb, folyamatos működésre. Hasonló módszerekkel a rendszerek megtaníthatóak arra, hogy megtévesszék a felhasználót és egy csaló weboldalra küldjék.
BlackMamba
Mestersége intelligenciával hozták létre a BlackMamba nevezetű kártevőt, mely képes kicselezni a különböző kiberbiztonsági technológiákat. A BlacMamba egy nagy nyelvi modell használatával minden futtatással mutálódik, így megkerülve a kiszámítható kiberbiztonsági rendszereket. A rendszer polimorf keyloggert használ, azaz minden leütött billentyűzetet feljegyez, elmenti a jelszavakat, bankkártya adatokat, majd továbbítja egy Microsoft Teams csoportba, mivel a felületen nehezen megállapítható mire használják a létrehozott csoportokat. Hasonló egy vírushoz, mivel a mutálódása által nem lehet véglegesen meggátolni.
Jelszavak ellopása
2023 augusztusában a Cornell Egyetem kutatócsapata módosított egy AI bot-ot, mely így képes lehallgatni a felhasználót. Ha egy számítógépet vagy laptopot használva begépeljük jelszavunkat a billentyűzet hangjából megítélve 95% pontossággal tudja azt lemásolni. Ily módon bármilyen személyes adatunk ellophatóvá válik.
Önállóan terjedő férgek
Idén márciusban szintén a Cornell Egyetem kutatója, Ben Nassi, továbbá Stav Cohen és Ron Bitton kutatók egy féregvírust hoztak létre, melyet Morris II-nek neveztek el, az első féreg megalkotója után. A féreg egy olyan vírustípus, mely önállóan is képes a terjedésre. Az egyszerű vírusok egy fertőzött fájl megnyitásával aktiválódnak, míg a féreg terjedéséhez nem szükséges emberi beavatkozás és képes saját magát reprodukálni. A Morris II egy ellenséges önsokszorosító szöveges utasítás, mely majd újabb promptot generál és továbbít.
Morris II használata
Természetesen a férget a kutatók nem publikus felületen próbálták ki. A lefuttatásához egy intelligens e-mail-klienst használtak, mely önállóan küld és fogad üzeneteket. A kliens megtámadásával a mesterséges intelligencia a válaszokban fontos információkat adott ki, mint például bankkártya adatok. Valamint egy beérkező levél címzőjének továbbítani tudja saját promptját, ezzel önállóan sokszorozódva. A féreg nem csak szöveggel működik, hanem például mérgezett kép továbbítására is felhasználható.
Sebezhetőségek kiküszöbölése
A kutatók a férget az OpenAI GPT-4 és a Google Gemini Pro rendszerével próbálták ki. Az eredményeikről beszámoltak a két cégnek. Az OpenAI dolgozik a rosszindulatú promptok szűrésén, a Google pedig személyes találkozót is kért tőlük. Bár a féreg veszélyesnek bizonyul, a jó hír az, hogy még az e-mail-kliens használata mellett is jóvá kell hagynunk az elküldendő üzeneteket, így meggátolható a vírus továbbítása. Azonban a mesterséges intelligencia még mindig tökéletes támadófelületet jelent. A kutatók úgy vélték hasonló férgek egy pár éven belül már nyilvános formában is megjelennek majd.
Felhasznált források:
Elérkezett a mesterséges intelligencián keresztül támadó férgek ideje - Index, Papdi-Pécskői Vikrot, 2024.03.06.
Here Come the AI Worm - Wired, Matt Burges, 2024.03.01.
Nincsenek megjegyzések:
Megjegyzés küldése