Obama vs Trump : Deep Fake Tejes Kávé

Mint tudjuk, mostanság sok mindenre lehet használni az AI-t.  Receptek, script-ek, programok írására, kép szerkeztésre, kép generálásra.  De természetesen ennek is van árny oldala, ami kicsit talán komolyabb mint 'jaj a művészeknek nem lesz munkája' vagy 'jaj a programozóknak nem lesz munkája'.  A deepfake pornó.

Kezdjük azzal, hogy mi a deepfake.  Olyan videók és képek amik vagy úgy lettek megcsinálva, vagy csak szerkeztve, hogy a médiában található szereplő egy másik személlyel legyen kicserélve.  Ezeknek a pornós változata Redditen kezdődött, amikor egy meg nem nevezett felhasználó egy általa választott színésznő arcát rakta rá egy ... más féle színésznő arcára, amíg ő dolgozott.

Azóta számtalan kép és videó kering influencerek és más ismert emberek arcával és testével, több ezer oldalon.  Sőt, van ahol meg is lehet tanulni hogyan lehet ilyen tartalmakat csinálni, így akár jobban testre szabhatjuk a dolgokat.

Mivel az idő előre haladtával sokkal jobb minőségű képeket és videókat lehet csinálni, a potenciális veszély csak növekszik, így már most meg kell lépni bizonyos lépéseket, hogy ami most nagy probléma, ne legyen kezelhetetlen a jövőben.  Megcáfolhatatlan tény hogy az AI technológia tovább fog fejlődni, és ezért, az emberek használni és kifogják használni, csak azért, mert emberek.

Deep Fake Elleni Harc

Noelle Martin, 18 évesen talált magáról deepfake pornót amikor egy ártalan éjszakán rákeresett magára az interneten.  Máig nem tudja ki és miért csinálta, de már ott tart hogy tőle kérdezik meg hogy miért tesz ki magáról képeket, vagy miért öltözködik úgy ahogy (erős viszhang a nőket érő erőszak témáról).  Persze, megkérte az oldalakat amin voltak a képek, de hát, az internetről nem lehet letörölni semmit se végérvényesen.

Jogi úton indult meg, egy olyan törvényt párolva ami több mint fél millió ausztrál dollárra bírságolná azokat a cégeket amik nem hajtanak fejet azon kérvények előtt amik az online safety regulatoroktól jönnek, hogy szedjenek le bizonyos contenteket.

Természetesen ez csak egy ország problémáit célozza meg, azt is úgy ahogy.  Ott van még a többi rengeteg ország, megannyi hozzáállásal, és lehetetlen ezt kontrollalni.  Egyesek azt mondanák hogy 'szinte lehetetlen', de valljuk be, ha bizonyos emberek jogairól se tudnak megegyezni a vezetők, miért gondoljuk hogy komplikáltabb témákban dűlőre juthatnak?

Próbálkozások

Persze, több AI programmal létező cég is megtett lépéseket hogy ne tudjanak explicit és vagy nem megfelelő tartalmakat generálni a felhasználoik, kisebb nagyobb sikerrel.  Ezen felül TikTok és Twitch is megtett lépéseket a deepfake ellen.  Twitch streamer Artioc streame alatt felfedeztek egy deepfake pornó oldalt a browserében, még meg se volt aktívan nyitva, de elég volt hogy perpatvart kavarjon.

Ami nekem érdekesnek tűnt, és tetszett, még akkor is ha személyszerint több sebből vérzik, Meta, OnlyFans és Pornhub elkezdtek egy online eszközt használni, ami elősegíti a fiatalkoraknak a reportálás lehetőségét ha magukról találnak tartalmat.  Ez a Take It Down.  Miért vannak ilyen oldalakon, és miért léteznek ilyen tartalmak róluk (amik gondolom nem deepfake), az már egy másik történet.

When people ask our senior leadership what are the boulders coming down the hill that we’re worried about? The first is end-to-end encryption and what that means for child protection. And then second is AI and specifically deepfakes,” said Gavin Portnoy, a spokesperson for the National Center for Missing and Exploited Children, which operates the Take It Down tool.

“We have not ... been able to formulate a direct response yet to it," Portnoy said.

Olvasson ehhez hasonló cikkeket még, és ossza meg gondolataid a kommentek között!