ChatGPT può riconoscere una persona in una foto?

È progettato per non farlo: la scheda di sistema del primo modello di OpenAI capace di vedere le immagini dice che il modello rifiuta quando gli mostri un volto e chiedi «chi è?», e le regole d’uso di OpenAI vietano di usarlo per costruire database di riconoscimento facciale senza consenso. Però vede tutta l’immagine, sa descrivere la scena e leggere il testo che c’è dentro, ed è per questo che le domande in realtà sono due: cosa dirà il modello della persona, e dove va a finire la foto dopo che hai premuto invio.

La risposta del modello è la parte facile. Quello che succede al file è la parte da tenere d’occhio.

Cosa rifiuta ChatGPT, e dove il rifiuto si ferma

La dichiarazione più chiara sta nella scheda di sistema di GPT-4 con visione, pubblicata da OpenAI a settembre 2023. Dice che il modello rifiuta le richieste sull’identità, con due esempi: un utente carica l’immagine di una persona e chiede chi sia, oppure carica due immagini e chiede se ritraggono la stessa persona. La stessa scheda elenca i rifiuti anche sui tratti sensibili, come l’età e l’origine razziale, e sulle conclusioni tratte da caratteristiche che la foto non mostra.

Quella scheda ha tre anni e i modelli di oggi sono più recenti, quindi leggila come l’intenzione di progetto, non come una garanzia. Ci sono tre limiti.

I volti famosi. Nella scheda la stessa OpenAI lo definiva un tema aperto: se i modelli debbano identificare personaggi pubblici, come Alan Turing, a partire dalle loro immagini. Il suo Model Spec, il documento che fissa come devono comportarsi i modelli, permette all’assistente di condividere informazioni pubbliche e poco dannose sui personaggi pubblici, ma non dettagli privati su nessuno. La scheda ha lasciato la domanda senza risposta, quindi non fare affidamento né sul sì né sul no.

Le persone che nomini tu. Se scrivi «questa è mia sorella Marta», ChatGPT può usare quel nome, perché gliel’hai dato tu. Non è riconoscimento facciale. Sei tu che aggiungi alla chat un dato personale di Marta, e quel dato resta salvato insieme alla foto.

I dati nascosti nel file. La FAQ di OpenAI sugli input di immagini dice che il modello non elabora i nomi file originali né i metadati. Stando a OpenAI, quindi, il modello non legge le coordinate GPS dalla foto. Se il telefono le ha salvate, però, quelle coordinate restano dentro il file che hai caricato, e la guida sulle foto spiega come togliere la posizione su iPhone e Android.

Cosa dicono le regole di OpenAI

Le regole d’uso di OpenAI sono più dirette di qualsiasi scheda di sistema. Nella sezione sul rispetto della privacy (Respect privacy, nella versione inglese) elencano cosa è vietato. Non puoi mai usare i servizi di OpenAI per database di riconoscimento facciale senza il consenso delle persone interessate, per l’identificazione biometrica a distanza in tempo reale nei luoghi pubblici o per classificare le persone in base ai loro dati biometrici. Vietano anche di raccogliere, monitorare, profilare o diffondere le informazioni private di qualcuno senza la sua autorizzazione.

Violare queste regole può costarti l’accesso: le regole stesse avvertono che chi le viola o prova ad aggirarle può perdere l’accesso ai servizi.

Una parte di questi divieti, in Europa, è anche legge. Il regolamento europeo sull’intelligenza artificiale, il Regolamento (UE) 2024/1689 noto come AI Act, all’art. 5 vieta i sistemi di IA che creano o ampliano banche dati di riconoscimento facciale con lo scraping non mirato di immagini facciali da internet o dalle telecamere a circuito chiuso. Quel divieto si applica dal 2 febbraio 2025.

In Italia c’è anche un precedente concreto. Il 9 marzo 2022 il Garante per la protezione dei dati personali ha sanzionato con 20 milioni di euro Clearview AI, una società americana che dichiarava di possedere un database di oltre 10 miliardi di immagini di volti raccolte dal web. Il Garante le ha ordinato di cancellare i dati delle persone che si trovano in Italia e le ha vietato di raccoglierne altri con il suo sistema di riconoscimento facciale. Il riconoscimento dei volti, insomma, è un terreno su cui le autorità per la privacy intervengono davvero.

Dove va la foto dopo che l’hai caricata

È la parte che quasi tutti saltano. Un rifiuto decide cosa ChatGPT dice. Non impedisce che la foto venga conservata.

• Libreria. La pagina di OpenAI sulla Libreria dice che ChatGPT salva in automatico i file che carichi nelle chat, immagini comprese, e che restano lì finché non li elimini tu a mano. La stessa pagina precisa che la Libreria è disponibile anche nello Spazio economico europeo, in Svizzera e nel Regno Unito, quindi vale anche per te. Eliminare la chat non elimina la copia nella Libreria.
• Addestramento. Su Free, Plus e Pro la pagina sui Controlli dei dati di OpenAI dice che la condivisione dei dati è attiva in modo predefinito, quindi quello che carichi può servire ad addestrare i modelli. Se usi Go, controlla la stessa pagina prima di caricare. Gli spazi di lavoro Business, Enterprise ed Edu sono esclusi in modo predefinito.
• L’interruttore. Impostazioni, poi Controlli dei dati, poi disattiva «Migliora il modello per tutti». La pagina di OpenAI sui Controlli dei dati dice che da quel momento le nuove conversazioni non vengono usate per l’addestramento. Le chat che avevi già restano nella cronologia.
• Chat temporanea. Finché resta temporanea non viene usata per l’addestramento, e secondo la pagina sulla Libreria i file caricati lì non finiscono nella Libreria. La pagina sulla Chat temporanea aggiunge un’eccezione: se poi salvi la chat, anche i file idonei possono essere salvati nella Libreria. OpenAI può comunque conservare una copia della chat per un massimo di 30 giorni per motivi di sicurezza.

Niente di tutto questo cambia perché nella foto c’è un volto. Conta solo di più quando il volto non è il tuo.

Se nella foto c’è qualcun altro

Qui la domanda smette di riguardare ChatGPT e comincia a riguardare te. Per chi vive in Italia valgono i Termini d’uso europei di OpenAI, che su questo punto dicono la stessa cosa della versione standard: sei responsabile di quello che carichi e dichiari e garantisci di avere tutti i diritti, le licenze e i permessi necessari per farlo. Quello che carichi resta tuo, come spiega la parte sulla proprietà della guida alle foto, ma possedere la foto di un collega non significa che il collega abbia accettato di finire in un chatbot.

Un volto riconoscibile è un dato personale di quella persona, e qui entra in gioco il GDPR. Il considerando 51 aggiunge una precisazione utile: una fotografia diventa un dato biometrico, cioè una categoria particolare di dati, solo quando viene trattata con mezzi tecnici specifici che consentono di identificare o autenticare una persona in modo univoco. Se la foto arriva dal lavoro, da un cliente o da una scuola, chiedi al responsabile della protezione dei dati (il DPO) prima di caricarla, non dopo. Per il testo che stai per mandare insieme all’immagine, come una didascalia, un nome o un indirizzo, il controllo privacy segnala sul tuo dispositivo dettagli come un indirizzo, un numero di telefono o un’email; i nomi li riconosce solo in modo approssimativo. Legge solo il testo, non l’immagine.

«Ho già caricato la foto di qualcuno»

Quasi tutto si può rimediare.

1. Elimina la chat. OpenAI dice che le chat eliminate vengono programmate per la cancellazione definitiva entro 30 giorni, salvo che debba conservarle più a lungo per motivi di sicurezza o obblighi di legge.
2. Elimina il file dalla Libreria. Apri la Libreria, seleziona l’immagine, scegli Elimina. Se la tua Libreria include la sezione Eliminati di recente, da lì puoi ripristinare il file finché non viene eliminato definitivamente, oppure cancellarlo per sempre senza aspettare, con Elimina definitivamente o Elimina tutto. OpenAI dice che i file eliminati vengono programmati per la cancellazione definitiva entro 30 giorni, salvo che debba conservarli più a lungo per motivi di sicurezza o obblighi di legge.
3. Spegni l’addestramento per la prossima volta, come spiegato sopra.
4. Dillo alla persona. È un messaggio imbarazzante, ed è quello giusto. «Ho messo una tua foto su ChatGPT, l’ho cancellata, scusa» costa meno che fargliela scoprire in un altro modo.

Se invece pensi che un servizio abbia trattato i tuoi dati personali, foto comprese, violando il GDPR, l’art. 77 ti dà il diritto di presentare reclamo a un’autorità di controllo, in particolare quella del Paese in cui vivi o lavori: in Italia è il Garante. Il reclamo si presenta per PEC a protocollo@pec.gpdp.it, con raccomandata A/R a Piazza Venezia 11, 00187 Roma, oppure a mano; il Garante mette a disposizione un modello. È un’informazione generale, non un parere legale.

Risposte veloci

ChatGPT mi dice chi è uno sconosciuto in una foto?

Non dovrebbe. La scheda di sistema del primo modello di OpenAI capace di vedere le immagini dice che il modello rifiuta quando qualcuno carica la foto di una persona e chiede chi sia, o chiede se due immagini mostrano la stessa persona. I rifiuti non sono infallibili, quindi l’abitudine più sicura è non chiederlo.

ChatGPT può capire dal file dove è stata scattata una foto?

La FAQ di OpenAI sugli input di immagini dice che il modello non elabora i nomi file originali né i metadati. Questo riguarda quello che il modello legge, non quello che invii: la posizione salvata dal telefono resta dentro il file che carichi, quindi se ti importa toglila prima.

Ho caricato la foto di un amico. Come la tolgo?

Elimina la chat, poi apri la Libreria e cancella anche lì l’immagine, perché eliminare una chat non elimina i file salvati nella Libreria. OpenAI dice che i file eliminati vengono programmati per la cancellazione definitiva entro 30 giorni, salvo che debba conservarli più a lungo per motivi di sicurezza o obblighi di legge.

Se i volti sono solo una parte di quello che ti preoccupa, l’elenco completo delle cose da non dire a ChatGPT copre il resto.

Continua a leggere

GuideÈ sicuro collegare ChatGPT a Gmail o a Google Drive?Di solito sì, se resti sul minimo. Cosa può leggere e fare ChatGPT con Gmail o Drive collegati, quando OpenAI dice di addestrarsi su quei dati e come blindare tutto.GuideLa chat temporanea di ChatGPT è davvero privata?In parte. Finché resta temporanea, la chat non entra in cronologia, memoria e addestramento, ma OpenAI può tenerne una copia fino a 30 giorni per sicurezza.GuideI link condivisi di ChatGPT sono pubblici? Chi può vederliSì, su un account personale: chiunque abbia il link apre la chat. OpenAI non li destina ai motori di ricerca, ma non sono privati. Eliminali in Controlli dei dati.