Teen Marvel zvezdnik Xochitl Gomez je zadnja žrtev globoke lažne pornografije. Vendar pa je bila potem, ko je odkrila spolno eksplicitne globoke ponaredke brez privolitve, ki krožijo na X, prej Twitterju, zmedena, ko platforma ni ukrepala in jih odstranila.
Številni problemi so se pojavili skupaj z vzponom umetne inteligence, vendar je globoko lažna pornografija ena najbolj zaskrbljujočih. Medtem ko so globoke ponaredke prisotne že kar nekaj časa, jih je napredek tehnologije naredil bolj dostopne in prepričljive. Posledično so številni posamezniki, zlasti ženske, ugotovili, da so njihovo podobo posneli ali poustvarili brez njihovega soglasja in uporabili v pornografski vsebini. To je postalo velika težava za zvezdnice, pa tudi za navadne ženske, ki so doživele, da so njihovo podobo uporabili v spolno eksplicitnih vsebinah za maščevanje pornografije, nadlegovanje in ustrahovanje. Obstaja tudi velika skrb, da se globoke ponaredke uporabljajo za prikaz zlorabe otrok.
Na žalost trenutno ni zveznih zakonov proti globoko ponarejeni pornografiji brez privolitve in le nekaj držav ima zakonodajo, ki ščiti državljane pred njo. Številne ženske, ki so postale žrtve globoko ponarejene pornografije, so se znašle brez možnosti za boj proti njej zaradi pomanjkanja regulacije in nezakonitosti interneta. Večina nima finančnih sredstev za sodno ukrepanje. Celo zvezdniki, kot je Scarlett Johansson, so razglasili, da je neuporabno poskušati se boriti proti globokim ponaredkom.
Ena majhna stopnja zaščite, ki jo imajo ženske, izvira iz platform družbenih medijev, ki so prepovedale globoko ponarejanje in pornografijo, ustvarjeno z umetno inteligenco. Če ta spletna mesta izvajajo takšne prepovedi, bi to otežilo kroženje te škodljive vsebine. Vendar Gomezova izkušnja kaže, da socialni mediji ne uveljavljajo svojih pravil.
Xochitl Gomez spregovori o svoji izkušnji z deepfake pornografijo
(Axelle/Bauer-Griffin/Getty)
Med nastopom v podcastu Taylorja Lautnerja in njegove žene, Stiskanje , Xochitl Gomez (alias America Chavez) je spregovorila o svojih izkušnjah kot žrtev globoko lažne pornografije. 17-letnica je razkrila, da je našla spolno eksplicitno gradivo, ki kroži po X, nekdanjem Twitterju, vendar ga ima zelo težko odstraniti. X je že leta 2018 prepovedal pornografijo, ustvarjeno z umetno inteligenco, in ima politike proti spolno eksplicitnim globoko ponarejenim slikam in videoposnetkom ter zavajajočim medijem in goloti brez privolitve. Glede na to, da slike Gomeza očitno kršijo pravila X in da je v tej vsebini mladoletna oseba, bi človek mislil, da bo platforma takoj ukrepala.
Vendar je bila Gomez šokirana, ko je ugotovila, da je njena ekipa že poskušala ukrepati proti vsebini, a neuspešno. NBC News poročali da je bilo še 19. januarja 2024 fotografije še vedno mogoče najti na X, ki se ni odzval na prošnje za komentar. Gomez je pojasnila, da je bila zaradi vsebine čudna in si je obupno želela, da bi jo odstranili, saj ji ni bila najbolj všeč. Vprašala se je, zakaj ga je tako težko odstraniti? To je bila moja celotna misel, zakaj je to dovoljeno?
Na koncu pa se je sprijaznila in sprejela, da vsebine preprosto ni mogoče odstraniti, pri čemer je razkrila, da samo poskuša ne razmišljati o tem in odloži svoj telefon, da bi se spopadla s težavo. Kljub temu ostajajo vprašanja, ki jih je postavila, zelo aktualna. zakaj ali je to vsebino tako težko odstraniti? Moralno obsojanja vredno in gnusno je, če se globoko ponarejena pornografija naredi iz katerega koli posameznika, ki ne privoli. Naravnost grozljivo je, ko gre za mladoletnika. Na X kroži dejanska otroška pornografija, platforma pa, nenavadno, ne naredi ničesar glede tega, čeprav bi to moralo biti najbolj pereče vprašanje, s katerim se je treba ukvarjati.
Komaj zveni kot zapletena situacija, če posameznik prijavi spolno eksplicitno gradivo in obvesti platformo, da s tem ni privolil. Gradivo je v nasprotju s številnimi pravili na spletnem mestu. Kaj je še treba pregledati ali ugotoviti? Za posameznika je že dovolj travmatizirajoče, da najde tovrstno vsebino na družbenih medijih; najmanj, kar bi te platforme lahko naredile, je, da se držijo svojih zahtev po odstranitvi. Noben posameznik, še posebej ne mladoletnik, ne bi smel sprejeti, da je vsebina tam, ker X in druge platforme družbenih medijev vztrajno in begajoče nočejo zaščititi svojih uporabnikov.
(predstavljena slika: Axelle/Bauer-Griffin/FilmMagic/Getty)
