Taylor Swift most minden nő pornórémálmát éli át

Taylor Swift mesterséges intelligencia által generált aktjai, erotikus képei az interneten mindenhol, s elsősorban pedig a közösségi média platformjain terjednek. Hamisított képei közül legalább az egyik 17 órán keresztül online maradt, ami 45 millió megtekintést és több százezer kedvelést, újbóli bejegyzést és mentést eredményezett, mire az X végre letiltotta az eredeti képet megosztó fiókot. Addigra már a „Taylor Swift AI” kifejezést az X-en az egész világ felkapta, a képeket számtalan szerver tárolja.

Az X-en – amelyet korábban Twitternek hívtak, mielőtt Elon Musk milliárdos megvásárolta – felfüggesztették a fiókot, amelyen eredetileg posztolták az első aktokat. De ez mit sem számít, a képek továbbra is könnyedén elérhetők még az X-en is egy gyors kereséssel – akárcsak a különféle „nudify”, vagyis lemeztelenítő alkalmazások által gyártott egyéb hamis, de valódinak tűnő képek. Ezek az alkalmazások lehetővé teszik a felhasználóknak, hogy bárkit levetkőztessenek. Csütörtök délután a Swift-képeket még mindig széles körben osztották meg különböző X-fiókok kék pipával – ez a haszontalan jelölés a Musk előtti időkben az ellenőrzött fiókokat jelölte, de ma már bárki megkapja, ha fizet havi néhány száz dollárt.

Ez annyira így van, hogy az X-en a minap simán elterjedhetett a „Defund Israel Now” 35 ezer követővel és pipával, azaz ellenőrzött „hivatalos szervezeteknek” jelölve, miközben nyíltan dicsőíti Adolf Hitlert.

Nincs min meglepődni: Musk a cég megvásárlása – egyesek szerint szétrombolása – óta gyakorlatilag megszüntette a platform moderálását. És más közösségi média platformok is követték a példát, gazdasági okokból eltávolították a gyűlöletbeszéd és a félretájékoztatás elleni küzdelemért felelős alkalmazottak jelentős részét.

A Reddit időben betiltotta a nem konszenzusos alapú meztelen mélyhamisításokat, miután azok már 2018-ban kezdtek elterjedni. Eltávolították az efféle bejegyzéseket, és moderálták a képeket megosztó felhasználókat. A webhely automatizált eszközök és emberi ellenőrzés kombinációját használja ennek megvalósítására, s úgy tűnik, a kontroll nagyrészt működik. A mélyhamisított képek állítólag az Instagramon is keringenek: a Meta közleménye szerint automatizált eszközök segítségével tiltja a nyíltan szexuális tartalmú képek megjelenését a platformjain.

Ami Taylor Swiftet illeti: ő most sokak szerint ennek az évszázadnak a legszembetűnőbb nője, listavezető popsztárként a legnyilvánvalóbb célpontja a mesterséges intelligencia által generált hamisításoknak. Múlt hónapban egy pillanatok alatt vírusossá vált TikTok-átverés Swift hangját utánozta, és hazug ajánlatot hirdetett ingyenes edénykészletekre.

Ez nem tesz jót egyetlen nőnek sem, és rémálom azoknak, akiknek a testét rutinszerűen szexualizálják és kizsákmányolják – különösen azoknak a tinédzsereknek, akiket megszégyenítenek és nagy valószínűséggel károsítanak is az AI által előállított hamis meztelenségekkel. Legutóbb a New Jersey-i tinédzser lányok arról számoltak be, hogy a zaklatók mesterséges intelligencia által generált meztelen képeiket kezdték terjeszteni róluk a saját iskolájukban. És számos más incidens is történt, amikor a bántalmazók „nudify” alkalmazásokat használtak, hogy pornográf képeket generáljanak az osztálytársakról csakúgy, mit a hírességekről.

A nem konszenzusos mesterségesintelligencia-pornó szomorú, de teljesen kiszámítható elterjedése csak az egyik nyilvánvaló következménye az MI által generált tartalom térnyerésének. A technológiát olyan nagyvállalatok teszik lehetővé, amelyek gyakorlatilag nulla elszámoltathatóság mellett profitálnak az MI/AI-eszközökből. A mélyhamisítások kifejezetten azért jöttek létre, hogy valódi nőkről mesterséges intelligencia-pornót hozzanak létre. Ráadásul a mesterséges intelligencia modelleket egy kis szakértelemmel rendelkező felhasználó könnyen úgy módosíthatja, hogy bármilyen illegális képet elkészíthessen velük.

Egyes cégek, az OpenAI, a Meta és a Microsoft, szűrőkkel próbálták csökkenteni a káros tartalmak tömefgtermelését. De ez macska-egér játéknak bizonyult, főként azért, mert a felhasznált rendszereket az internetről leszedett képek milliárdjaiból képezték ki. A mesterséges intelligencia rendszerek képzésére használt egyik legnagyobb adatkészletről, a LAION-ról nemrégiben kiderült, hogy több mint 3000 képet tartalmaz gyermekekkel való szexuális visszaélésről.

Swift egyébként akcióba lendült, hogy megvédje magát. Rajongói, a Swiftyek tömegesen jelentették be a mesterséges intelligencia mélyhamisításait megosztó fiókokat, köztük egy több mint 480 000 követővel rendelkező fiókot, amelyet az X később be is tiltott.

A közelmúltban az Egyesült Államok törvényhozói olyan törvényjavaslatokat terjesztettek elő, amelyek kifejezetten illegálissá tennék a nem konszenzusos mesterségesintelligencia-aktok készítését.

A szakértők azonban megjegyzik, hogy a törvényjavaslatok leginkább gazdag hírességek, például Swift szellemi tulajdonjogainak védelmére irányulnak, és meg sem próbálnak valamit tenni a többi jelenlegi és leendő áldozat megóvásáért.