‘Legitimna upotreba deepfakeova’: AI-generirani video Bidenove objave 3. svjetskog rata, vraćajući stručnjake za raskole

‘Legitimna upotreba deepfakeova’: AI-generirani video Bidenove objave 3. svjetskog rata, vraćajući stručnjake za raskole
  Vodeća slika članka

The Post Millennial Live/Rumble


optad_b

‘Legitimna upotreba deepfakeova’: AI-generirani video Bidenove objave 3. svjetskog rata, vraćajući stručnjake za raskole

'Prikradni pregled stvari koje dolaze.'

Desničarski komentator Jack Posobiec emitirao je ovaj tjedan deepfake video predsjednika Joea Bidena najavljujući povratak vojnog roka i početak trećeg svjetskog rata.

Stručnjaci su podijeljeni oko toga je li to bila opasna zlouporaba tehnologije ili stvarni primjer kako se medijem može postupati odgovorno.



Videozapis, za koji je Posobiec predvidio da će biti 'pregled' stvari koje dolaze, podijelio je s njegovih više od 2 milijuna sljedbenika na Twitteru.

Snimka sadrži kiron koji se poziva na 'stvarnost nuklearnog rata' i prikazuje Bidena koji se poziva na Zakon o selektivnoj službi zbog rastućih napetosti s Rusijom i Kinom.

“Ilegalna ruska ofenziva bila je brza, bešćutna i brutalna. To je barbarski', navodi Biden generiran umjetnom inteligencijom. 'Putinova nezakonita okupacija Kijeva i nadolazeća kineska blokada Tajvana stvorile su krizu nacionalne sigurnosti na dva fronta koja zahtijeva više vojnika nego što dragovoljna vojska može dostaviti.'

Nakon što isječak završi, Posobiec se pojavljuje na ekranu kako bi dao komentar na scenarij koji je generirala umjetna inteligencija.

'Ono što smo vam upravo pustili bio je kratak pregled, nadolazeće atrakcije, pogled u svijet izvan', kaže. “To je bila umjetna inteligencija, ne želim reći rekreacija, ali možda pretkreacija… pretkreacija predsjednika Bidena koju su osmislili i napisali naši producenti ovdje za predstavu o tome što bi se moglo dogoditi ako predsjednik Biden objavi i aktivirati Zakon o selektivnoj službi i početi regrutirati 20-godišnjake ovdje u Sjedinjenim Državama.”

Segment se pokazao kontroverznim na internetu, a neki su prikaz nazivali 'mučno neodgovornim'.

“Stvaranje nečega ovakvog je tako odvratno neodgovorno, u tako lošoj vjeri i takvo rasipanje resursa da nisam potpuno iznenađen,” tvitao je jedan kritičar.

Također je izražena zabrinutost oko sposobnosti ljudi koji gledaju da naprave razliku između legitimnih i manipuliranih medija.



Unatoč tweetu i Posobiecovoj izjavi da je video zapravo napravljen umjetnom inteligencijom, jedan od prvih komentatora videa ipak je pitao je li ono što vide stvarno.

'Je li ovo legitimno ili neka vrsta AI deepfake isječaka?' upitao je jedan korisnik.

U razgovoru s Daily Dotom, autorica i generativna stručnjakinja za umjetnu inteligenciju Nina Schick ustvrdila je da će napredak tehnologija povezanih s umjetnom inteligencijom dovesti do daljnje degradacije povjerenja u sadržaj koji se vidi na internetu čak i kada je označen kao manipuliran.

'Vidjet ćemo puno više sadržaja generiranog umjetnom inteligencijom koji će biti u kontekstu u kojem je označen kao generiran umjetnom inteligencijom, ali ljudi su i dalje prevareni', rekla je.

Twitter je prvotno odgovorio na video tako što je na tweet stavio obavijest o provjeri činjenica. Obavijest je ubrzo nakon toga uklonjena, vjerojatno s obzirom na to da je na snimci jasno stajalo da ju je stvorila umjetna inteligencija.

'Uklonili su provjeru činjenica s ovog tweeta i BlueAnon se topi govoreći da sada pokušavam stvoriti domaću pobunu', tweetao je Posobiec. “Ostanite ljuti, nakaze!”

Daily Dot je kontaktirao Posobieca preko obrasca za kontakt na njegovoj medijskoj web-stranici Human Events, ali do vremena tiska nije dobio odgovor.

S druge strane, Sam Gregory, stručnjak za deepfake i programski direktor u organizaciji za ljudska prava WITNESS, rekao je da je video primjer “legitimne upotrebe deepfakea”.

'Videozapis je vizualizacija hipotetske ili potencijalne budućnosti za daljnju raspravu, i što je važno, kontekstualiziran je kao takav', rekao je Gregory za Daily Dot. „Već smo vidjeli slike generirane umjetnom inteligencijom koje se koriste za predstavljanje potencijalne klimatske budućnosti, nude neočekivane satirične glasove političara i 'deepfake it till they do it', te nude perspektive na trenutne događaje i stvarnosti od ljudi koji su umrli uz deepfake uskrsnuća. ”

Gregory je također rekao da cijeni to što Posobiec nije upotrijebio video kako bi upozorio na opasnosti deepfakeova, koje je opisao kao 'pretjerano korištenu tehniku' koja 'čini se da pridonosi potkopavanju povjerenja u prave medije', već da se usredotoči na politički hipotetski.

'Dok pristupamo deepfakeovima i regulaciji i normama sintetičkih medija, važno je da zaštitimo izražajni govor, politički govor i satiru', dodao je. „Međutim, mislim da je ključno da razmišljamo i o tome kako – osobito sada kada ljudima nije jasno što se može, a što ne može lažirati – da također naglašavamo vidljivo otkrivanje i označavanje na mjestima kao što su TV i web korištenje 'vijesti- kao 'deepfake'.

Dok osjećaji prema Posobiecovu videu uglavnom padaju duž političkih linija na društvenim mrežama, stručnjaci i dalje tvrde da su takva pitanja mnogo složenija.

Stručnjak za sintetičke medije Henry Ajder također je primijetio da, iako se video jasno označava kao generiran umjetnom inteligencijom, čak i iskreni deepfakeovi mogu proizvesti iste probleme kao i oni napravljeni lažno.

“Ovaj deepfake očito je osmišljen kako bi privukao pozornost gledatelja prije nego što se jasno otkrije kao lažni, ali ako se izvuče iz konteksta u našem frakcijskom informacijskom ekosustavu, odgovor publike mogao bi biti vrlo drugačiji,” rekao je Ajder u izjavi za Daily Dot. “U tom smislu, umjetnički ili dobronamjerni deepfake sadržaj još uvijek može postati žrtva grubih oblika medijske manipulacije koji su mnogo izraženiji na internetu. Kreatori moraju razmotriti ne samo kako namjeravaju primiti generativni sadržaj, već i kako bi mogao biti pogrešno predstavljen kada se pusti 'u divljinu'.'

Takav će sadržaj nedvojbeno postati eksponencijalno sve uobičajeniji kako se prepreka ulasku na tržište bude smanjivala za tehnologije povezane s umjetnom inteligencijom. Doista je nejasno je li javnost doista spremna.

  Ikona dnevne točke   web_crawlr Mi indeksiramo web tako da vi ne morate. Prijavite se za Daily Dot newsletter kako biste svaki dan primali najbolje i najgore od interneta u svoju pristiglu poštu. Daj da ga prvo pročitam