A mesterséges intelligencia lehetővé tette képek, mozgóképek és videók létrehozását. Már lehetséges csupán szöveg alapján tartalmakat generálni (text-to-video vagy text-to-image), de meglévő képeket is át tud alakítani az AI egy-egy filter segítségével. Korábban egyértelműen megállapítható volt, hogy mesterségesen generált tartalomról van-e szó, mivel a tartalmak minősége nem volt túlságosan stabil. Ezzel szemben a technológia fejlődésének köszönhetően ma már rengeteg ember nem tud különbséget tenni a valódi és a generált tartalmak között. Az OpenAI
Sora modellje például olyan konzisztens és élethű videót képes készíteni szöveg alapján, amely korábban sosem volt megvalósítható. Különösen nagy problémát okoz mostanában a hamis pornográf videók készítése és megosztása, melyekben visszaélnek az emberek képmásával.
A hamisítás veszélyei
A
deepfake képekhez, videókhoz egy ember arcát vagy testét használják fel, és azt a mesterséges intelligencián keresztül átalakítják. Ebből következik, hogy az AI nem csak ártalmatlan, hanem kifejezetten megalázó helyzetekben tud megjeleníteni bárkit. Egy 2023-as tanulmány szerint 550 százalékkal nőtt 2019 óta a deepfake tartalmak mennyisége, amit az AI megjelenése idézett elő. Sokan még fizetnek is azért, hogy hírességeket, ismerősöket, családtagokat pornográf helyzetben ábrázoljanak. A
Sensity AI nevű vállalat kimutatta, hogy az ilyen pornográf tartalmak 90 százaléka nőket ábrázol és létrejötte nem közös megegyezésen alapul. A mesterséges intelligencia adta lehetőségek súlyos problémákat okoznak, a hamis felvételek áldozatai gyakran öngyilkosságot követnek el a megalázottság miatt.
A deepfake híres áldozatai
A manipulált, úgynevezett deepfake képek áldozata lett nemrég
Taylor Swift énekesnő is. A hamis felvételeket
közösségi oldalakon, többek közt az X-en és a Telegramon tették közzé. Ezek közül volt olyan is, melynek nézettsége megközelítette az 50 milliót. Az eset hatására az amerikai törvényhozók tárgyalni kezdtek egy
rendeletről, mely a nem beleegyezésen alapuló mesterségesen generált tartalmakat büntetné. Taylor Swift ügye az Európai Parlament döntését is felgyorsította, elfogadtak egy deepfake-ekre is kitérő jogszabályt.
Hasonló történt az olasz miniszterelnökkel,
Giorgia Melonival. Az elkövetők mesterséges intelligencia által készítettek hamisított videót, csupán a miniszterelnök arcát felhasználva. A felvételt egy amerikai pornográf weboldalra töltötték fel. Giorgia Meloni eljárást indított, a bírósági dokumentumok alapján több millióan nézték meg az engedélye nélkül alkotott felvételt.
Szankciók az Egyesült Királyságban
A brit
Channel 4 televíziócsatorna kutatta az ismert személyeket ábrázoló hamis felnőttfilmeket, melynek eredményeképp megállapította, hogy közel 4000 celeb érintett. A helyzet súlyosságát mutatja, hogy a kutatott oldalak pár hónap alatt 100 milliós nézettséget értek el. Szükségessé vált a deepfake pornográfia szankcionálása, így egyeztek meg az
Online Safety Act nevű törvényben. Az Egyesült Királyságban új törvényt fogadtak el, melynek értelmében illegálissá vált a deepfake anyagok megosztása, azonban készítésük továbbá sem büntetett. Egyelőre csak az Egyesült Királyság tette hivatalosan is illegálissá a nem beleegyezésen alapuló deepfake pornográfia megosztását. Az elkövetőket akár két év börtönbüntetésre is ítélhetik.
Google és Meta intézkedései
A
Google oldalán keresztül elérhető problémás oldalak törlését kérhetik az érintett áldozatok, emellett a böngésző igyekszik újabb eszközökkel előállni, melyek az emberek védelmét biztosíthatják. A Meta a közösségi oldalain, így például a Facebookon és az Instagramon tilos a hamisított felnőtt tartalmak terjesztése, az ilyen tartalmakat szolgáltató alkalmazások hirdetéseit pedig blokkolják.
Nincsenek megjegyzések:
Megjegyzés küldése