Instagram interviene sui profili AI che sembrano appartenere a persone reali. Gli account che utilizzano identità generate artificialmente senza dichiararlo potranno vedere limitata la propria visibilità su Reels ed Esplora. Cambia anche l’etichetta dedicata: “AI creator” diventa “AI-generated profile”.

Instagram prova finalmente ad affrontare uno degli effetti più strani della crescita dell’intelligenza artificiale generativa.

Sempre più account mostrano influencer, modelle e creator che sembrano persone reali, ma che in realtà non esistono.

In alcuni casi capirlo è semplice. In altri, immagini e video generati dall’AI sono ormai abbastanza realistici da rendere la distinzione molto meno immediata.

Instagram vuole quindi intervenire soprattutto su un aspetto: l’utente deve sapere quando la persona rappresentata da un profilo è artificiale.

Instagram cambia le regole per i profili AI

La piattaforma inizierà a individuare gli account che rappresentano persone generate con l’intelligenza artificiale ma non lo dichiarano.

Se un profilo viene riconosciuto come appartenente a questa categoria e non utilizza l’etichetta prevista, Instagram potrà ridurne il raggio.

La conseguenza più importante riguarda le raccomandazioni.

I contenuti dell’account non verranno mostrati ai non follower attraverso Reels ed Esplora.

Il profilo continuerà quindi a esistere e chi lo segue potrà ancora vedere i contenuti. Perderà però una parte fondamentale della distribuzione organica che permette di raggiungere nuovi utenti.

È una penalizzazione potenzialmente molto pesante per creator e influencer.

“AI creator” diventa “AI-generated profile”

Instagram modifica anche il nome dell’etichetta utilizzata per identificare questi account.

La precedente dicitura “AI creator” verrà sostituita da “AI-generated profile”.

La nuova formulazione è molto più esplicita.

“AI creator” poteva infatti far pensare semplicemente a una persona reale che utilizza strumenti di intelligenza artificiale per produrre contenuti.

“AI-generated profile” chiarisce invece che la persona mostrata nel profilo è stata generata artificialmente.

Ed è proprio questa distinzione che Instagram vuole rendere più semplice.

La piattaforma spiega di aver ricevuto feedback da utenti infastiditi nello scoprire soltanto in un secondo momento che la persona apparentemente reale seguita attraverso un account era in realtà una creazione AI.

I profili di Instagram che non si dichiarano AI perderanno visibilità

Instagram non si limiterà a chiedere agli utenti di comportarsi correttamente.

La piattaforma proverà a individuare autonomamente i profili che non applicano l’etichetta.

Se Instagram ritiene che un account rappresenti una persona generata artificialmente, potrà applicare la limitazione della distribuzione.

Il proprietario del profilo avrà comunque la possibilità di presentare ricorso se considera errata la classificazione.

Questo passaggio sarà importante.

Con immagini modificate, filtri avanzati e strumenti generativi sempre più diffusi, distinguere automaticamente una vera persona da un’identità completamente artificiale non sarà sempre semplice.

Instagram dovrà quindi trovare un equilibrio tra trasparenza e falsi positivi.

Non significa che tutti i contenuti AI dovranno essere etichettati

C’è però una distinzione fondamentale.

Le nuove regole non riguardano qualsiasi contenuto realizzato con strumenti AI.

Instagram specifica che una persona reale che utilizza l’intelligenza artificiale per creare immagini, video o altri contenuti non deve necessariamente trasformare il proprio account in un “AI-generated profile”.

La stretta riguarda principalmente quei profili nei quali l’identità stessa del soggetto rappresentato è artificiale.

In altre parole, utilizzare l’AI non rende automaticamente un account un profilo AI.

La differenza sta nel fingere o lasciare intendere che dietro quell’identità ci sia una persona reale quando non è così.

Instagram non sta ancora eliminando l’AI slop

Chi sperava in un sistema capace di nascondere completamente i contenuti generati artificialmente resterà quindi deluso.

Instagram non sta introducendo un filtro che consenta di rimuovere dalla propria esperienza tutti i post realizzati con AI.

Non cambia nemmeno, almeno per ora, l’enorme quantità di immagini, video e contenuti sintetici che possono comparire nei feed.

La misura è molto più specifica.

Instagram vuole intervenire sulla trasparenza dell’identità.

È una differenza importante, perché non affronta direttamente il problema della quantità di contenuti AI presenti sulla piattaforma.

Affronta invece quello della loro capacità di presentarsi come qualcosa che non sono.

Gli influencer AI sono sempre più difficili da riconoscere

Il provvedimento arriva mentre gli influencer virtuali diventano sempre più realistici.

Non parliamo più soltanto di avatar chiaramente digitali.

Alcuni profili utilizzano immagini sintetiche estremamente convincenti, pubblicano fotografie da luoghi differenti, raccontano una quotidianità immaginaria e costruiscono rapporti con i follower proprio come farebbe un creator reale.

Il risultato può essere difficile da distinguere senza prestare molta attenzione.

In questo scenario un’etichetta più esplicita può fare una grande differenza.

L’utente può ancora scegliere di seguire quel personaggio, apprezzarne i contenuti o interagire con lui.

Sa però fin dall’inizio che la persona che sta guardando non esiste realmente.

La trasparenza diventa il primo vero obiettivo

Instagram non sta dichiarando guerra all’intelligenza artificiale.

Anzi, Meta continua a investire pesantemente proprio sull’AI.

La nuova regola cerca invece di tracciare un confine tra utilizzo creativo della tecnologia e identità artificiale presentata come umana.

Per i profili coinvolti, la scelta diventa quindi abbastanza semplice.

Dichiarare chiaramente la propria natura artificiale oppure rischiare di perdere una parte consistente della visibilità attraverso Reels ed Esplora.

Non risolverà il problema generale dei contenuti AI sui social.

È però un primo tentativo di rendere più difficile costruire una popolarità basata sull’ambiguità.

E con persone artificiali sempre più convincenti, sapere chi è reale e chi no sta diventando una funzione tutt’altro che secondaria per un social network.