Questa foto è vera? Controlla se una foto è generata o modificata dall'AI

Dipende da quale livello ha risposto, e il verdetto te lo dice. Una credenziale firmata attendibile che dichiara contenuti AI stabilisce che il file è certamente Slop AI, e la riga della credenziale sotto il verdetto indica quale tipo: Media algoritmici addestrati significa che l'immagine è stata generata, Composito con media algoritmici addestrati significa che qualcuno ha preso una foto reale e l'ha modificata con l'AI. Una filigrana SynthID indica solo che l'immagine proviene da un modello Google o OpenAI. Quando nessuno dei due è leggibile, il modello di immagini valuta i pixel e ricevi invece una fascia di probabilità: Reale, Probabilmente reale, Tendente al reale, Non conclusivo, Tendente all'AI, Probabilmente AI o Slop AI. Non conclusivo è il risultato onesto. Il punteggio è sulla soglia decisionale, quindi consideralo un nessun risultato, non un sì debole.

Sì, purché il file modificato conservi ancora la prova di OpenAI. ChatGPT inserisce una Content Credential C2PA nelle foto che modifica, e quella credenziale dichiara una composizione di contenuti reali e AI anziché una generazione dal nulla. Quindi Slop or Not segnala la foto come AI e mostra la dichiarazione di modifica accanto al verdetto. Le modifiche di Gemini lasciano una traccia che indica Google e vengono lette allo stesso modo. C'è però un problema. Invia quella foto tramite screenshot o un'app di chat e la credenziale di solito scompare. Il watermark SynthID nei pixel è allora l'unico segnale rimasto del fornitore e non può dirti se la foto è stata generata o modificata.

Sì, ed è qui che la maggior parte delle persone sbaglia. Uno screenshot è un nuovo file, quindi la credenziale C2PA e i campi IPTC dell'originale non vengono mai trasferiti. SynthID è diverso. Google e OpenAI lo inseriscono nei pixel stessi, quindi uno screenshot di una loro immagine lo conserva e Slop or Not continua a leggerlo. Senza credenziale e senza watermark, rimane solo il modello di immagini e la risposta diventa una probabilità.

Probabilmente no, ma abbiamo scelto la parola Probabilmente per un motivo. Probabilmente reale significa che il punteggio dei pixel è finito nettamente sul lato umano della soglia del modello e non sono emerse prove di AI. È una prova, non una certezza. Una foto AI con il watermark rimosso e sottoposta a un pesante post-processing può avvicinarsi al lato umano e, secondo test interni, il modello di immagini riconosce correttamente circa il 90% delle immagini AI senza watermark, non tutte. I risultati variano con i nuovi modelli AI e con i metodi pensati per ingannare i rilevatori.

No. Nel browser la foto passa dal server Mac privato di Numen, viene controllata lì e non viene mai inoltrata a OpenAI, Google o a qualsiasi altra azienda AI. Le app per iPhone, iPad e Mac eseguono lo stesso controllo sul dispositivo, quindi con l'app la foto non lascia mai il dispositivo.