W erze, gdy tworzenie obrazów za pomocą sztucznej inteligencji (AI) stało się dostępne dla szerokiej publiczności, rozpoznawanie fałszywych obrazów, zwłaszcza deepfake'ów, staje się coraz bardziej znaczące. Nowe badania, przedstawione na Narodowym Spotkaniu Astronomicznym Królewskiego Towarzystwa Astronomicznego w Hull, ujawniają, że deepfake'y generowane przez AI można rozpoznać, analizując oczy w sposób podobny do badania obrazów galaktyk.

Podstawą pracy, którą stworzył magister nauk Adejumoke Owolabi na Uniwersytecie w Hull, są refleksje w oczach ludzi. Jeśli refleksje są spójne, obraz jest prawdopodobnie prawdziwy. Jeśli nie są, najprawdopodobniej jest to deepfake.

"Refleksje w oczach są spójne u prawdziwej osoby, ale nieprawidłowe u fałszywej osoby," podkreślił Kevin Pimbblet, profesor astrofizyki i dyrektor Centrum Doskonałości w Naukach o Danych, Sztucznej Inteligencji i Modelowaniu na Uniwersytecie w Hull.

Badacze analizowali refleksje światła w oczach ludzi na rzeczywistych i AI generowanych obrazach. Następnie użyli metod zwykle stosowanych w astronomii do kwantyfikacji refleksji i sprawdzenia spójności między lewymi i prawymi refleksjami oczu.

Fałszywe obrazy często nie mają spójności w refleksjach między każdym okiem, podczas gdy prawdziwe obrazy zazwyczaj pokazują te same refleksje w obu oczach.

"Aby zmierzyć kształt galaktyk, analizujemy, czy są centralnie zwarte, symetryczne i jak są gładkie. Analizujemy rozkład światła," powiedział profesor Pimbblet.

"Automatycznie wykrywamy refleksje i przeprowadzamy ich morfologiczne cechy przez indeksy CAS [koncentracja, asymetria, gładkość] i Giniego, aby porównać podobieństwo między lewymi i prawymi oczami.

Wyniki pokazują, że deepfake'y mają pewne różnice między parą oczu."

Współczynnik Giniego jest zwykle używany do mierzenia, jak światło w obrazie galaktyki jest rozłożone między pikselami. To pomiar jest wykonywany przez uporządkowanie pikseli tworzących obraz galaktyki w kolejności rosnącej według strumienia, a następnie porównanie go z tym, co byłoby oczekiwane od idealnie równomiernego rozkładu strumienia.

Wartość Giniego wynosząca 0 oznacza galaktykę, w której światło jest równomiernie rozłożone na wszystkie piksele obrazu, podczas gdy wartość Giniego wynosząca 1 oznacza galaktykę z całym światłem skoncentrowanym w jednym pikselu.

Zespół przetestował również parametry CAS, narzędzie pierwotnie opracowane przez astronomów do mierzenia rozkładu światła galaktyk w celu określenia ich morfologii, ale stwierdzili, że nie były one skutecznymi predyktorami fałszywych oczu.

"Ważne jest, aby zauważyć, że to nie jest magiczne rozwiązanie do rozpoznawania fałszywych obrazów," dodał profesor Pimbblet. "Istnieją fałszywie pozytywne i fałszywie negatywne wyniki; nie wszystko zostanie wykryte. Ale ta metoda daje nam podstawę, plan ataku, w wyścigu do wykrywania deepfake'ów."

Ta praca stanowi znaczący krok naprzód w rozwoju technologii rozpoznawania fałszywych obrazów. W miarę jak technologia deepfake się rozwija, staje się kluczowe posiadanie wiarygodnych metod odróżniania prawdziwych od fałszywych obrazów. Oczekuje się, że dalsze badania i udoskonalanie tych metod dodatkowo poprawią dokładność rozpoznawania deepfake'ów, zapewniając tym samym dodatkową ochronę przed potencjalnymi nadużyciami.

Rozwój technologii wykrywania deepfake'ów ma szerokie zastosowanie, w tym w bezpieczeństwie, dziennikarstwie i wymiarze sprawiedliwości. W świecie, w którym informacje wizualne są kluczowe, umiejętność rozpoznawania fałszywych obrazów staje się niezbędną umiejętnością. Te wyniki podkreślają potrzebę podejścia interdyscyplinarnego, łączącego wiedzę z astronomii, sztucznej inteligencji i kryminalistyki, aby skutecznie stawić czoła wyzwaniom, jakie niesie era deepfake'ów.

Źródło: Royal Astronomical Society