U eri kada je stvaranje slika pomoću umjetne inteligencije (AI) postalo dostupno široj javnosti, prepoznavanje lažnih slika, posebice deepfakeova, postaje sve značajnije. Nova istraživanja, predstavljena na Nacionalnom astronomskom sastanku Kraljevskog astronomskog društva u Hull-u, otkrivaju da se AI generirani deepfakeovi mogu prepoznati analizom očiju na način sličan proučavanju slika galaksija.

Temelj rada, koji je izradio magistar znanosti na Sveučilištu Hull, Adejumoke Owolabi, leži u refleksijama u očima osoba. Ako su refleksije dosljedne, slika je vjerojatno stvarna. Ako nisu, najvjerojatnije se radi o deepfakeu.

"Refleksije u očima su dosljedne kod stvarne osobe, ali su netočne kod lažne osobe," istaknuo je Kevin Pimbblet, profesor astrofizike i direktor Centra izvrsnosti za znanost o podacima, umjetnu inteligenciju i modeliranje na Sveučilištu Hull.

Istraživači su analizirali refleksije svjetlosti u očima osoba na stvarnim i AI generiranim slikama. Zatim su koristili metode obično korištene u astronomiji kako bi kvantificirali refleksije i provjerili dosljednost između lijevih i desnih refleksija očiju.

Lažne slike često nemaju dosljednost u refleksijama između svake oči, dok stvarne slike općenito pokazuju iste refleksije u oba oka.

"Za mjerenje oblika galaksija analiziramo jesu li središnje kompaktne, simetrične i koliko su glatke. Analiziramo raspodjelu svjetlosti," rekao je profesor Pimbblet.

"Automatski detektiramo refleksije i provodimo njihove morfološke značajke kroz CAS [koncentracija, asimetrija, glatkoća] i Gini indekse kako bismo usporedili sličnost između lijevih i desnih očiju.

Rezultati pokazuju da deepfakeovi imaju određene razlike između para očiju."

Gini koeficijent se obično koristi za mjerenje kako je svjetlost u slici galaksije raspodijeljena među pikselima. Ovo se mjerenje vrši redoslijedom piksela koji čine sliku galaksije uzlaznim redoslijedom prema fluksu, a zatim uspoređuje s onim što bi se očekivalo od savršeno ravnomjerne raspodjele fluksa.

Gini vrijednost od 0 označava galaksiju u kojoj je svjetlost ravnomjerno raspodijeljena po svim pikselima slike, dok Gini vrijednost od 1 označava galaksiju s cjelokupnom svjetlošću koncentriranom u jednom pikselu.

Tim je također testirao CAS parametre, alat izvorno razvijen od strane astronoma za mjerenje raspodjele svjetlosti galaksija kako bi se utvrdila njihova morfologija, ali su otkrili da nisu bili uspješni prediktori lažnih očiju.

"Važno je napomenuti da ovo nije čarobno rješenje za prepoznavanje lažnih slika," dodao je profesor Pimbblet. "Postoje lažno pozitivni i lažno negativni rezultati; neće sve otkriti. Ali ova metoda nam pruža osnovu, plan napada, u utrci za otkrivanje deepfakeova."

Ovaj rad predstavlja značajan korak naprijed u razvoju tehnologija za prepoznavanje lažnih slika. Kako deepfake tehnologija napreduje, postaje ključno imati pouzdane metode za razlikovanje stvarnih od lažnih slika. Očekuje se da će daljnja istraživanja i usavršavanja ovih metoda dodatno poboljšati točnost prepoznavanja deepfakeova, pružajući tako dodatnu zaštitu od potencijalnih zloupotreba.

Razvoj tehnologija za detekciju deepfakeova ima široke primjene, uključujući sigurnost, novinarstvo i pravosuđe. U svijetu u kojem su vizualne informacije ključne, sposobnost prepoznavanja lažnih slika postaje nezaobilazna vještina. Ovi rezultati naglašavaju potrebu za interdisciplinarnim pristupom, kombinirajući znanja iz astronomije, umjetne inteligencije i forenzike kako bi se učinkovito suprotstavili izazovima koje donosi era deepfakeova.

Izvor: Royal Astronomical Society