Una curiosa limitazione di Google Foto sembra impedire la ricerca di immagini personali usando parole come “weed”, “cannabis”, “marijuana” e “joints”. Il comportamento riguarda Ask Photos e, secondo una segnalazione, persino la ricerca classica. Ancora più strano, basta utilizzare un termine alternativo come “hemp” per ottenere le immagini attese.

Google Foto dovrebbe avere un compito molto semplice quando chiediamo di trovare una fotografia: cercare nella nostra libreria e mostrarci ciò che corrisponde alla richiesta.

Con alcune parole, però, questo meccanismo sembra smettere di funzionare.

Un utente Reddit ha segnalato che Google Foto non restituisce le proprie immagini cercando termini collegati alla cannabis. Il problema sarebbe evidente con Ask Photos, la ricerca potenziata da Gemini, ma interesserebbe anche quella tradizionale.

La situazione appare particolare soprattutto perché non stiamo parlando della generazione di nuovi contenuti. L’utente sta semplicemente cercando fotografie già presenti nella propria raccolta personale.

Google Foto blocca parole come cannabis e marijuana

Secondo la segnalazione, inserendo termini come “weed”, “cannabis”, “marijuana” oppure “joints”, Ask Photos rifiuta di effettuare normalmente la ricerca.

Il comportamento sembra collegato ai sistemi di sicurezza utilizzati da Gemini.

Ask Photos non funziona infatti come una semplice ricerca basata su oggetti e parole chiave. La funzione interpreta richieste formulate in linguaggio naturale e usa l’intelligenza artificiale per comprendere ciò che l’utente sta cercando.

Questo permette domande molto più elaborate rispetto alla ricerca tradizionale. Allo stesso tempo, però, significa che entrano in gioco anche i filtri applicati normalmente ai sistemi generativi.

La possibile conseguenza è quella mostrata in questo caso: una parola collegata a una sostanza regolamentata viene trattata come una richiesta problematica, anche se l’utente vuole soltanto recuperare una propria fotografia.

È una differenza importante.

Cercare “cannabis” nella libreria personale non equivale a chiedere istruzioni su come acquistare, produrre oppure utilizzare una sostanza. Google Foto dovrebbe semplicemente individuare un contenuto esistente.

Anche la ricerca classica avrebbe lo stesso problema

La parte più strana della segnalazione riguarda però la modalità tradizionale.

Google ha recentemente iniziato a distribuire un controllo che permette di disattivare Ask Photos e tornare alla ricerca classica. La possibilità risponde anche alle richieste degli utenti che preferiscono un sistema più semplice e immediato.

Secondo l’utente che ha segnalato il problema, però, nemmeno questa soluzione risolverebbe la situazione.

Le stesse parole causerebbero infatti problemi anche usando la ricerca senza Ask Photos.

Questo dettaglio rende più difficile attribuire tutto direttamente ai filtri di Gemini. Se il comportamento viene replicato dalla ricerca tradizionale, potrebbe esistere una limitazione applicata più in profondità al sistema di indicizzazione o interpretazione delle query.

Il materiale disponibile non permette di stabilire con certezza dove venga applicato il filtro. Inoltre, al momento abbiamo una segnalazione specifica e non elementi sufficienti per dire che il problema interessi tutti gli utenti di Google Foto.

Basta scrivere “hemp” e le fotografie ricompaiono

La cosa diventa quasi paradossale quando si prova a cambiare leggermente la parola utilizzata.

Lo stesso utente ha scoperto che cercando “hemp”, cioè canapa, Google Foto mostra correttamente le immagini desiderate, comprese fotografie di infiorescenze di cannabis.

Questo suggerisce che il problema non riguarda l’incapacità dell’app di riconoscere visivamente il soggetto.

Le immagini risultano indicizzate e possono essere trovate. È il termine utilizzato nella ricerca a determinare il comportamento.

Di conseguenza, il filtro appare anche piuttosto semplice da aggirare.

Se una parola viene bloccata ma un sinonimo restituisce immediatamente le stesse fotografie, la protezione non impedisce realmente l’accesso al contenuto. Introduce soltanto un ostacolo nella ricerca.

Google Foto tratta una ricerca privata come un prompt?

È qui che emerge il dubbio più interessante.

Ask Photos utilizza Gemini per comprendere richieste più complesse e trovare immagini in modo conversazionale. I sistemi Gemini applicano naturalmente regole di sicurezza a determinati argomenti.

Questi limiti hanno una logica quando l’intelligenza artificiale deve generare una risposta. Il contesto cambia però quando la stessa tecnologia viene usata come motore di ricerca per una raccolta privata.

Se abbiamo fotografato qualcosa e vogliamo ritrovare quell’immagine, l’assistente non deve creare contenuti nuovi. Deve soltanto identificare ciò che abbiamo già archiviato.

Applicare gli stessi criteri di moderazione può quindi produrre risultati poco coerenti.

È possibile che Ask Photos interpreti la parola “marijuana” come farebbe Gemini all’interno di una normale conversazione. Questa resta però un’ipotesi basata sul comportamento osservato, non una spiegazione ufficiale di Google.

Il fatto che anche la ricerca classica risulti coinvolta rende il caso ancora meno chiaro.

Alcol e sigarette non vengono bloccati

Un altro elemento rende difficile comprendere la logica del filtro.

Parole come “beer”, “alcohol” e “cigarette” continuerebbero a funzionare normalmente.

Anche questi termini riguardano prodotti soggetti a limitazioni e regolamentazioni. Google Foto, però, non sembra applicare loro lo stesso trattamento.

La differenza potrebbe dipendere dalle categorie utilizzate dai sistemi di sicurezza, oppure dal modo in cui Gemini interpreta determinati termini.

Resta però una certa incoerenza.

In molti luoghi la cannabis è legale o regolamentata. Inoltre, possedere una fotografia della pianta non equivale naturalmente a compiere un’attività illegale.

La posizione geografica dell’utente citato renderebbe inoltre legale il consumo, secondo quanto dichiarato nella segnalazione.

Anche questo elemento non dovrebbe essere determinante. Una ricerca all’interno di una raccolta fotografica privata dovrebbe funzionare indipendentemente dal fatto che il soggetto ritratto sia una birra, una sigaretta oppure una pianta di cannabis.

Il problema mostra i limiti dell’AI dentro le app

La vicenda è piccola, ma mostra un problema più ampio nell’integrazione dell’intelligenza artificiale dentro servizi già maturi.

Google Foto dispone da anni di una ricerca particolarmente efficace. È possibile trovare persone, animali, luoghi e oggetti senza aver aggiunto manualmente alcuna etichetta.

Con Ask Photos, Google vuole rendere tutto ancora più naturale. Possiamo formulare domande complete e lasciare a Gemini il compito di interpretare il contesto.

Più aumenta la capacità di comprensione, però, più cresce anche il rischio che entrino in gioco filtri non adatti alla funzione utilizzata.

Un motore generativo deve valutare cosa può produrre. Un motore che cerca una fotografia privata ha invece un compito differente.

Confondere questi due livelli può rendere l’esperienza meno prevedibile e, in alcuni casi, persino peggiore rispetto alla vecchia ricerca.

Google Foto deve trovare le foto, non giudicare la ricerca

Non sappiamo ancora quanto sia diffusa questa limitazione. La segnalazione disponibile non basta per stabilire che ogni account Google Foto si comporti nello stesso modo.

Il comportamento descritto resta comunque curioso.

Se Google ha introdotto intenzionalmente un filtro, dovrebbe distinguere meglio tra richieste generative e semplici ricerche nella libreria personale. Se invece si tratta di un effetto indesiderato, la possibilità di aggirarlo scrivendo “hemp” mostra quanto sia necessaria una correzione.

Ask Photos può rendere Google Foto molto più potente. Per farlo, però, deve conservare una caratteristica fondamentale: permettere all’utente di ritrovare le proprie immagini.

Quando un termine perfettamente valido viene bloccato mentre un sinonimo funziona senza problemi, l’intelligenza artificiale smette di semplificare il lavoro e aggiunge un limite che prima non esisteva.