Kína a nyugati közösségi oldalakat is megfigyelheti az AI segítségével

Fottás: Rachel Metz

Kína már a 2000-es évek közepe óta hírhedt nagy méretű megfigyelő rendszeréről. Az országban napjainkra több mint 700 millió térfigyelő kamerát telepítettek, ami körülbelül a világ összes térfigyelőjének 70-75%-át teszi ki. Ennek ismeretében kijelenthető, hogy az állam nagyon sok forrást fordít a lakosság megfigyelésére, így a belső rend megtartására. Ezzel párhuzamosan Kína igyekszik nyomást gyakorolni az országon kívül felszólaló hangokra is, melynek egyik legutóbbi kísérletét az OpenAI fedezte fel.

Az OpenAI letiltott számos kínai  profilt

A tiltott kínai profilok az OpenAI kutatásai alapján a cég termékét, a ChatGPT-t social media monitoring-ra, azaz közösségi média oldalak megfigyelésére alkalmas AI fejlesztésére próbálták használni. Az eszköz kifejlesztéséhez a Meta Llama névre hallgató nyílt forráskódú rendszerét használták, ami dokumentumok elemzésével lett volna képes létrehozni egy valós idejű szövegelemző programot. Az eszköz célja a legnépszerűbb nyugati közösségi oldalak posztjaiból kiszűrni azokat, melyek Kína ellenes szövegeket tartalmaznak, valamint Kína ellenes tüntetések szervezésére buzdítanak, majd ezeket továbbítani a működtetőn keresztül az állami szerveknek. A dolog akkor látott napvilágot, mikor a fejlesztők nagy valószínűséggel a szoftver forráskódját a ChatGPT segítségével próbálták meg ellenőrizni, amit a kutatcsoport észre is vett.

Korábban a Google Threat Intelligence Group januárban 57 olyan felhasználót talált, akik a Google Gemini AI-át próbálták meg kutatásokra, valamint tartalom gyártásra és a fejlesztés során felmerült problémák megoldására. A kínai profilok ebben az esetben a Gemini-t leginkább felderítési és rendszerekbe való betörési módszerek kidolgozására alkalmazták a kódok tesztelésén kívül.

Az OpemAI nyilatkozata szerint annak ellenére, hogy látható milyen veszélyeket hordozhatnak magukban az AI rendszerek, hatékonyak a visszaélések felderítésére is. Hozzáteszik továbbá azt is, hogy az ilyen esetek segítik is a technológia fejlesztését is abban az eseteben, ha a tapsztaltakat megosztják más szolgáltatókkal is.

Az esettel kapcsolatban megfigyelhetőek a fentieken felül, hogy Kína a belső információs kontrollon kívül igyekszik valamilyen szinten érdekei szerint manipulálni az országot körülvevő világ véleményét is. Ez önmagában nem tekinthető nagy problémának, hiszen más nagyhatalmak is megpróbálnak kialakítani magukról egy képet a világ számára, amire az internetet is felhasználják, viszont a Kínával kapcsolatos aggályokat az ország zártsága idézi elő, ami államformájából és állami ideológiájából is következik.