Czy to zdjęcie jest prawdziwe? Sprawdź obraz pod kątem generowania lub edycji przez AI

To zależy od tego, która warstwa udzieliła odpowiedzi, a werdykt Ci to pokaże. Zaufane podpisane poświadczenie, które deklaruje media AI, rozstrzyga plik jako Zdecydowanie AI Slop, a wiersz poświadczenia pod werdyktem wskazuje rodzaj: Media algorytmiczne trenowane oznaczają, że obraz został wygenerowany, a Kompozycja z trenowanymi mediami algorytmicznymi oznacza, że ktoś wziął prawdziwe zdjęcie i zedytował je za pomocą AI. Znak wodny SynthID mówi tylko tyle, że obraz pochodzi z modelu Google lub OpenAI. Gdy żaden z tych elementów nie jest czytelny, model obrazu ocenia piksele, a zamiast tego otrzymujesz przedział prawdopodobieństwa: Prawdziwy, Prawdopodobnie prawdziwy, Bliżej prawdziwego, Nierozstrzygające, Bliżej AI, Prawdopodobnie AI lub AI Slop. Nierozstrzygające to uczciwa odpowiedź. Wynik znajduje się na granicy decyzji, więc traktuj go jako brak wyniku, a nie jako słabe tak.

Tak, o ile edytowany plik nadal zawiera dowód OpenAI. ChatGPT zapisuje C2PA Content Credentials w edytowanych obrazach, a poświadczenie deklaruje połączenie prawdziwych treści i AI, a nie generowanie od zera. Dlatego Slop or Not oznacza obraz jako AI i pokazuje deklarację edycji obok werdyktu. Edycje Gemini zostawiają zapis wskazujący Google i są odczytywane tak samo. Jest jednak haczyk. Jeśli wyślesz ten obraz przez zrzut ekranu lub aplikację do czatu, poświadczenie zwykle znika. Znak wodny SynthID w pikselach jest wtedy jedynym pozostałym sygnałem dostawcy i nie może powiedzieć, czy obraz został wygenerowany czy edytowany.

Tak, i w tym miejscu większość osób się myli. Zrzut ekranu jest nowym plikiem, więc poświadczenie C2PA i pola IPTC oryginału nigdy do niego nie przechodzą. SynthID działa inaczej. Google i OpenAI zapisują go bezpośrednio w pikselach, więc zrzut ekranu jednego z ich obrazów nadal go zawiera, a Slop or Not wciąż go odczytuje. Bez poświadczenia i bez znaku wodnego pozostaje tylko model obrazu, a odpowiedź staje się prawdopodobieństwem.

Prawdopodobnie nie, ale nie bez powodu wybraliśmy słowo Prawdopodobnie. Prawdopodobnie prawdziwe oznacza, że ocena pikseli znalazła się wyraźnie po ludzkiej stronie granicy modelu i nie wykryto dowodów AI. To dowód, a nie pewność. Obraz AI z usuniętym znakiem wodnym i mocną obróbką może przesunąć się w stronę ludzką, a według wewnętrznych testów model obrazu poprawnie rozpoznaje około 90% obrazów AI bez znaku wodnego, nie wszystkie. Wyniki różnią się zależnie od nowych modeli AI i metod stworzonych, by oszukiwać detektory.

Nie. W przeglądarce obraz trafia na prywatny serwer Mac Numen, jest tam sprawdzany i nigdy nie jest przekazywany do OpenAI, Google ani żadnej innej firmy AI. Aplikacje na iPhone, iPad i Mac wykonują to samo sprawdzenie lokalnie na urządzeniu, więc w aplikacji zdjęcie w ogóle go nie opuszcza.