'Lažni fake' vaping tinejdžera u središtu je slučaja uznemiravanja - ali što ako nije lažiran?

'Lažni fake' vaping tinejdžera u središtu je slučaja uznemiravanja - ali što ako nije lažiran?

Stručnjaci izazivaju sumnju da je umjetna inteligencija korištena za stvaranje videozapisa koji policija naziva 'dubokim lažnim' i da je u središtu pravne borbe koja se odvija u Pennsylvaniji.

Incident je prošlog mjeseca donio međunarodne vijesti nakon što je majka srednjoškolske navijačice optužena za manipulaciju slikama i videozapisima u nastojanju da izgleda kao da suparnici njezine kćeri piju, puše i poziraju goli.

Majka, 50-godišnja Raffaela Spone, doktorski je sadržaj poslala s anonimnog broja trojici navijačica i njihovim trenerima.

Okružno tužiteljstvo okruga Bucks, koje je Sponea teretilo za tri točke cyber uznemiravanja djeteta i tri točke uznemiravanja, prilikom rasprave o slikama pozivalo se na pojam deepfake, kao i na video koji prikazuje jedno od nestanka navodne žrtve.

No, optužba otvara ozbiljna pitanja o razumijevanju zakona od duboke lažne tehnologije i spremnosti medija da ponove svoje tvrdnje bez provjere.

Iako tužitelji nisu naveli detalje, alati osmišljeni kako bi žene na fotografijama izgledale gole uz pomoć umjetne inteligencije (AI) postoje . Umjesto toga, navodni vaping video potaknuo je značajan odziv stručnjaka za duboke lažiranje.

Iako navodni deepfake u početku nije bio dostupan javnosti, snimka mobitela drugog uređaja koji reproducira vaping snimke pružena je NBC News prošlog mjeseca nakon što se oglasila jedna od navodnih žrtava.

Madi Hame, sedamnaestogodišnja navijačica iz sastava Victory Vipers, porekla je za NBC News da je snimka zapravo pokazala kako vapira. Hame kaže da je za video saznala nakon što ga je, navodno Spone, poslao njezinim trenerima navijačica.

'Mislio sam da ako kažem, nitko mi neće vjerovati, jer očito, postoji dokaz, postoji i video - ali očito je tim videom izmanipulirano', rekao je Hame za NBC News.

Daily Dot kontaktirao je Hameovu majku Jennifer, koja se pojavila uz Hamea u intervjuu za NBC News, kako bi se raspitao o vaping videu, ali nije stigao odgovor do vremena za tisak.

Henry Ajder, britanski stručnjak za deepfake i sintetičke medije, bio je jedan od prvih koji je pokrenuo pitanja o vaping videu nakon što je ABC News objavio sličan izvještaj.

'Imao sam rezerve u vezi s pričom o mami koja je duboko lažirala rivalice navijačica svoje kćeri', tvitnula je Ajder prošlog mjeseca. 'Čini se da jedan od videozapisa koji je objavio ABC nije lažni fajl, ali svejedno ga označavaju kao jedan bez značajnih dokaza ili analiza.'

Čini se da i drugi stručnjaci za duboku kupnju imaju iste probleme. Popularni kreator deepfakea poznat na mreži pod nadimkom Dr. Fakenstein —Koja trenutno radi kao umjetnik umjetne umjetnosti u humorističnoj emisiji Drska pravda koji su razvili kreatori South Parka Trey Parker i Matt Stone - rekli su za Daily Dot kako izgleda da vaping video nije umjetno generiran.

Točnije, dr. Fakenstein primijetio je da u videozapisu nedostaju određeni propusti koji se gotovo uvijek pojavljuju u dubokim fakeovima kada lice ometa drugi objekt.

'Teško je to vidjeti jer je to video snimka, ali ne izgleda mi kao duboka laž', rekli su. 'Svjetlo se pomiče kao da je prirodno, nema glitanja oko mjesta gdje ruka prekriva lice, nema gnjavaže kad oblak vape ide ispred lica, što je vrlo teško, ako ne i nemoguće učiniti bez kvarova.'

Daily Dot je stigao do Policijska uprava grada Hilltown , koja je istražila i kasnije izvršila uhićenje Sponea, kako bi se raspitala o vaping videu.

Šef policije Christopher Engelhart izjavio je kako vjeruje da dokumenti o optužbama protiv Sponea nisu definitivno označili video zapis kao duboku laž.

'Koliko razumijem, navedeno je da je navedeno ili kao duboka fake ili slična tehnologija', rekao je Engelhart.

U kaznena prijava protiv Sponea, policajac iz općine Hilltown, Matthew Reiss, videozapis o vapingu naziva 'radom programa koji je sličan' Deep Fakes '.'

Kada su ga pritisnuli je li odjel prihvatio mogućnost da video o vapingu uopće nije duboka laž, Engelhart je izjavio da nije siguran je li terminologiju koja se koristi za opisivanje uvela navodna žrtva ili policija.

Engelhart je dalje tvrdio da su istražitelji proveli forenzičku analizu videozapisa kako bi utvrdili da je njime manipulirano.

'Tvrdnja je da ta žrtva nije vapirala', dodao je Engelhart. 'Tvrdnja je da je ona [Spone] bila u mogućnosti to manipulirati tako da se čini da je vapirala.'

No, stručnjaci su sumnjičavi da bi i najbolji deepfake kreatori mogli proizvesti tako uvjerljiv video, a kamoli Spone. Na pitanje je li 50-godišnja majka potencijalno zatražila pomoć tvorca dubokih lanaca, Engelhart je rekao da, iako to postoji mogućnost, trenutno nema dokaza da je Spone imao suučesnika.

Derpfakes, još jedan poznati deepfake umjetnik čije su kreacije skupile milijuni pregleda na mreži, također pogledali vaping video kako ga je predstavio NBC News i rekli za Daily Dot da ne mogu sa sigurnošću reći da je njime izmanipuliran.

'Nagnuo bih se da kažem da je autentičan', rekao je Derpfakes. 'Ako se radi o deepfakeu, onda je za njega bila potrebna određena razina vještine vizualnih efekata, a ne za gotov deepfake softver.'

Tijekom a konferencija za novinare prošlog mjeseca, okružni državni odvjetnik okruga Bucks Matt Weintraub izgleda da je sugerirao da se video o vapingu temelji na postojećim snimkama s računa žrtvine društvene mreže.

“Videozapisi ili slike već su postojali u nekom obliku, a zatim i naša tvrdnja - ovo je naravno predmet dokazivanja na suđenju, nevina je dok joj se ne dokaže krivica - ali naš je navod da je gospođa Spone preuzela postojeće slike s postojećih društvenih mreža s ove tri postojeće račune žrtava na društvenim mrežama i njima manipulirali ”, rekao je Weintraub.

Izjava je slična tvrdnjama Engelharta za Daily Dot da je Spone navodno koristio legitimni video kao osnovu za deepfake. Policija nije znala je li lice navodne žrtve dodano videozapisu još jedne mlade žene koja je vapingirala ili su vaping olovka i dim digitalno dodani legitimnom videu navodne žrtve.

Bez obzira na to, stručnjaci su sumnjičavi da je bilo koji od scenarija točan prikaz snimke.

Istaknuti deepfake tvorac poznat kao Shamook , čiji su videozapisi pregledani više od 21 milijun puta samo na YouTubeu, ustvrdio je da, iako je razlučivost vaping videa 'vrlo niska, jednostavno je previše čista da bi bila lažna faca.'

'Iz moje perspektive to nije deepfake', rekao je Shamook za Daily Dot. 'Dim iz vapea bilo bi previše teško stvoriti ... Jednostavno ne vidim nijedan vjerodostojan dokaz da je riječ o dubokoj laži.'

Weintraub je također izjavio tijekom tiskovne konferencije da su istražitelji utvrdili da je vaping videom manipulirano nakon analize njegovih 'metapodataka', pojma koji se odnosi na ugrađene informacije u digitalne medije koji mogu otkriti kako i kada je zadnji put uređen.

No, nakon što je kontaktirao Reissa, policajca koji je istraživao Sponea, Daily Dot saznao je da policija nikada nije došla do originalnog vaping videa. Umjesto toga, kao i ono što je viđeno na NBC News, policija je imala pristup samo snimci mobitela koju je Spone snimio s video zapisa koji se reproducira na zasebnom uređaju. Svaka analiza metapodataka stoga ne bi uključivala informacije o izvornom videozapisu.

Kao odgovor na pitanja o tome kako je moglo biti utvrđeno da je snimka s vapinga izmanipulirana bez pristupa izvornom videozapisu, Reiss je ustvrdio da svojim golim okom može vidjeti elemente koji 'nemaju smisla'.

'Izvor odakle je gospođa Spone pronašla taj videozapis i dalje je pitanje', rekao je Reiss. 'I nadamo se da će nas gospođa Spone tijekom pripremnog ročišta ili suđenja prosvijetliti koliko je njezin izvor i namjera bila.'

Reiss je definitivno izjavio da je 'umjetna inteligencija korištena' na fotografijama zbog kojih je nekoliko navijačica izgledalo golo, što bi se uskladilo s trenutnom tehnologijom osmišljenom za to. No, čini se da je postojanje tih promijenjenih fotografija, uz poricanje navodne žrtve zbog njezinog očitog uključivanja u vaping video, i cijela osnova za uvjerenje da je snimka izmanipulirana, premda zasad nijedan tehnički dokaz ne podupire zahtjev.

Riječ 'deepfake', kako je spomenuta u dokumentima za naplatu, čini se da je postala pojam među policijom, okružnim državnim odvjetništvom i medijima kada se raspravlja o bilo kojem i svim digitalnim sadržajima povezanim s incidentom.

Sljedeće ročište za Spone zakazano je za 14. svibnja, gdje Reiss kaže kako će više informacija o istrazi biti objavljeno u javnosti.

Iako bi novi dokazi mogli izmijeniti slučaj, mišljenje da policija možda pogrešno upućuje na autentični video zapis kojim se manipulira nije izvan područja mogućnosti.

Još je neugodnije, čini se da niti jedan medij nije pokušao provjeriti je li snimka s vapinga zapravo lažna slika prije nego što su tu tvrdnju prenijeli milijunima Amerikanaca.

Stručnjake najviše zabrinjava moguća pogreška medija i mogućnost da kazneno-pravni sustav pogrešno primijeni zakone protiv videozapisa koji su pogrešno okarakterizirani kao duboki lažni faketi.

'Mada zastrašujuće ako se ne radi o deepfakeu', dodao je Shamook. 'Ovo bi mogao biti početak da ljudi mogu diskreditirati stvarne dokaze jednostavnim izgovaranjem' deepfake '.'

Uz vaping video, ostali navodi protiv Sponea, ako su istiniti, još uvijek su prefinjeni i zastrašujući. No, posljedice postupka protiv nje, ako se oslanjaju čak i djelomično na netočne informacije, mogle bi imati opasne posljedice u svijetu izmanipuliranih (i nemanipuliranih) medija.


Vrhunske tehnološke priče ovog tjedna

'Umoran od gledanja kriminalaca kako se slave': Policajci širom zemlje doniraju prikupljanje sredstava za policajca koji je ubio Breonnu Taylor
FCC je u ćorsokaku. Kada će Biden to napokon popraviti?
Kradljivci Memea, Jerry, uzeo je gotovo milijun dolara pomoći za koronavirus
Dobrodošli u svijet teorija zavjere o putovnicama koji se sve više širi
'Lažni fake' vaping tinejdžera u središtu je slučaja uznemiravanja - ali što ako nije lažiran?
Prijavite se primiti Daily Dot's Internet Insider bilten za hitne vijesti s prve strane interneta.