L’AI Slop sta trasformando YouTube. Così il ceo Neal Mohan vuole mantenerlo umano

Come può il più grande sito video del pianeta gestire l’ondata di contenuti generati dall’intelligenza artificiale in arrivo, sfruttando allo stesso tempo l’AI per potenziare quella creatività umana che ha alimentato la sua ascesa? Il ceo Neal Mohan sta cercando di trovare un equilibrio.

———————————–

In una sala conferenze della sede di YouTube a San Bruno, in California, il ceo Neal Mohan scoppia a ridere. Una settimana prima, OpenAI aveva annunciato senza troppi clamori la chiusura di Sora, la sua popolare app per creare clip video generate dall’intelligenza artificiale. Considerata un tempo un prodotto di punta e il futuro del video AI — aveva attirato anche un investimento da 1 miliardo di dollari da parte di Disney — la chiusura improvvisa si è propagata nell’industria dell’intelligenza artificiale come un’esplosione.

“Oh, cavolo”, dice Mohan a Forbes quando gli viene chiesto della chiusura. “Beh, sono rimasto sorpreso nel sentirlo tanto quanto forse lo sei stato tu”.

YouTube è senza dubbio il re dei video online. Con 2,7 miliardi di utenti, è anche collegato a una delle più grandi e importanti aziende di intelligenza artificiale al mondo: Google. Questo rende la chiusura di Sora da parte della rivale OpenAI una sorta di benedizione per un business che si sta muovendo in un panorama AI in rapidissima trasformazione. Un concorrente in meno — YouTube Shorts ha infatti lanciato ad aprile una propria versione della funzione più virale di Sora, che consente agli utenti di creare avatar digitali di sé stessi — ma anche un segnale di quanto sia complesso generare, ospitare e condividere video creati con l’intelligenza artificiale.

YouTube, la sfida dell’intelligenza artificiale

Per oltre un decennio YouTube ha affrontato diverse minacce, come le accuse di radicalizzare gli utenti o danneggiarne il benessere mentale. Ma l’intelligenza artificiale rappresenta una sfida radicalmente diversa. Ha il potere di trasformare completamente la piattaforma: dal modo in cui le persone creano contenuti fino a ciò che consumano. Mohan non minimizza il fenomeno. “È un profondo cambio di paradigma e la tecnologia cambierà radicalmente il modo in cui vengono fatte le cose”, afferma.

L’esplosione dell’AI significa innanzitutto più contenuti — e più denaro per il business di YouTube, che genera 60 miliardi di dollari di ricavi annuali. L’intelligenza artificiale sta già potenziando enormemente ciò che i creator possono realizzare, abbassando i costi di produzione e aprendo nuove idee e opportunità di business.

I video tutorial, uno dei pilastri di YouTube, possono ora essere generati con pochi semplici comandi. E l’AI sta rivoluzionando anche la velocità e il costo con cui i marketer producono gli annunci pubblicitari, che rappresentano il motore economico della piattaforma.

Secondo un rapporto di gennaio della società di ricerca Omdia, oggi sulla piattaforma ci sono circa 29 miliardi di video complessivi, con una crescita accelerata da fattori come i video generati dall’AI e la popolarità di Shorts.

Allo stesso tempo, però, l’AI permette agli spammer di inondare la piattaforma con un’efficienza mai vista. C’è la minaccia dei deepfake, che sono già diventati un problema: lo scorso anno una versione generata dall’intelligenza artificiale del ceo di Nvidia Jensen Huang, utilizzata per promuovere una truffa legata alle criptovalute durante un keynote, ha ottenuto su YouTube più visualizzazioni dell’evento reale.

La minaccia dell’AI Slop

YouTube deve inoltre affrontare una crescente montagna di contenuti di bassa qualità generati dall’AI, il cosiddetto “slop”. Secondo un rapporto di novembre della società di editing video Kapwing, oltre il 20% dei contenuti mostrati dall’algoritmo di YouTube Shorts ai nuovi utenti sarebbe stato generato dall’intelligenza artificiale. In risposta allo studio, YouTube ha chiuso diversi canali che violavano le sue politiche contro lo spam.

“Questo studio indipendente e non verificato non rappresenta in modo accurato ciò che si trova sulle nostre piattaforme”, ha dichiarato un portavoce di YouTube. “Quando gli utenti si iscrivono per la prima volta a YouTube, vedono un’ampia varietà di contenuti mentre iniziano a esprimere i propri interessi, cosa che aiuta a personalizzare i loro feed.”

Nei test condotti da Forbes, dopo aver riprodotto 200 video YouTube Shorts su un account già esistente, il 17,5% risultava generato dall’intelligenza artificiale. Se l’azienda permetterà ai video AI di bassa qualità di proliferare, gli utenti potrebbero stancarsi. Per questo, mentre l’intelligenza artificiale si diffonde in tutta YouTube, la società deve camminare su una corda tesa: permettere all’AI di generare quella quantità enorme di contenuti che alimenta la piattaforma, preservando però l’autenticità umana che l’ha resa uno dei siti più popolari al mondo dal suo lancio nel 2005.

“Nessuno vuole un feed fatto soltanto di AI slop”, dice Mohan. Ma allo stesso tempo l’obiettivo è “lasciare spazio anche all’incredibile creatività che arriverà dall’AI. Penso che non sia un problema banale”, aggiunge. Un ex dirigente di YouTube è ottimista sul fatto che lo slop non vincerà.

“La realtà è che l’algoritmo è così potente e i consumatori voteranno con le loro ore di attenzione: alla fine lo slop verrà comunque penalizzato”, afferma. “Anche se potrebbe esserci un periodo iniziale in cui tutto sembrerà spazzatura”.

Il difficile equilibrio

Al momento YouTube si trova in una fase confusa e delicata. Nel combattere lo slop deve tenere soddisfatti molti interlocutori, inclusi creator, studi musicali e aziende media che forniscono gran parte dei contenuti più popolari. La resistenza all’AI è particolarmente forte tra gli artisti umani, il cui lavoro è stato copiato e utilizzato per addestrare modelli, e tra i grandi detentori dei diritti d’autore.

“Cosa succede quando qualcuno vede Topolino pronunciare una frase di Kendrick Lamar che Disney potrebbe non volere?” dice l’ex dirigente di YouTube. È una dinamica di cui Mohan è pienamente consapevole. “YouTube è un’azienda che ogni giorno si confronta con l’industria creativa: creator di Hollywood, aziende musicali, media company e così via. E penso che questo ci dia una prospettiva unica sull’AI e sul suo impatto sulla creatività”, afferma. “Il cuore di YouTube resterà sempre umano”.

YouTube è stato un progetto profondamente umano fin dall’inizio. Il primo video mai caricato sulla piattaforma, nel 2005, è un breve e goffo filmato dallo zoo di San Diego realizzato dal cofondatore Jawed Karim, che spiegava perché le proboscidi degli elefanti fossero interessanti.

Karim fondò il sito insieme a Steve Chen e Chad Hurley, che inizialmente avevano immaginato YouTube come un sito di incontri. L’idea fallì rapidamente, ma i fondatori capirono di aver trovato qualcosa di importante rendendo più semplice caricare e ospitare video. Un anno dopo vendettero la startup a Google per 1,65 miliardi di dollari. Da allora YouTube è cresciuto fino a diventare il secondo sito più visitato al mondo, dietro soltanto a Google stesso.

Una delle principali soluzioni di YouTube al problema dell’AI slop è l’etichettatura. Molti contenuti generati dall’intelligenza artificiale sono ormai così realistici che uno spettatore distratto potrebbe non rendersi conto di non stare guardando qualcosa di reale. Il mese scorso YouTube ha annunciato che avrebbe applicato etichette ben visibili ai video “significativamente alterati o generati dall’AI”, utilizzando strumenti interni per individuarli anche quando il creator non li dichiara. Dovrà inoltre controllare attivamente copyright e contenuti dannosi, una sfida già nota per l’azienda.

Nel 2017, YouTube Kids, la versione della piattaforma dedicata ai bambini, finì sotto accusa quando contenuti inquietanti superarono i filtri di sicurezza: ad esempio un video con i personaggi di Paw Patrol che morivano e un altro con personaggi di Nick Jr. ambientati in uno strip club.

L’avanzata dell’intelligenza artificiale

L’AI potrebbe rendere questi contenuti ancora più facili e veloci da creare. Alcuni creator stanno già puntando video AI di bassa qualità direttamente ai bambini. Per quanto YouTube voglia preservare l’anima umana della piattaforma, ha comunque introdotto una serie continua di nuove funzioni basate sull’intelligenza artificiale.

Lo scorso anno ha lanciato un pulsante “Chiedi” nel lettore video di YouTube che permette agli utenti di fare domande su un contenuto, ad esempio come organizzare un itinerario partendo dai luoghi citati in un video di viaggio sulla Croazia. Un nuovo strumento di ricerca permette invece di trovare video come se si stesse interrogando un modello linguistico, in modo simile alla modalità AI di Google.

Ma la funzione degli avatar AI, simile allo strumento Cameo di Sora, ha un potenziale molto maggiore nel cambiare l’anima stessa di YouTube.

Lanciata ad aprile all’interno di YouTube Shorts, la risposta dell’azienda ai video brevi di TikTok e Instagram Reels, la funzione consente agli utenti di creare cloni digitali di sé stessi protagonisti di video generati dall’intelligenza artificiale. Immagina: tu che vinci il Super Bowl, cammini sulla Luna o suoni il banjo in un immaginario programma televisivo via cavo degli anni Ottanta creato da te. YouTube ha rifiutato di condividere dati specifici sulla popolarità della funzione.

Per ora la funzione AI Avatar di YouTube è limitata. Le persone possono creare e controllare soltanto avatar di sé stesse. Ma indica un futuro in cui YouTube potrebbe essere popolato da persone false in situazioni false. Nel frattempo YouTube ha sviluppato uno strumento di sicurezza chiamato Likeness Detection, che controllerà la piattaforma alla ricerca di versioni AI non autorizzate di una persona. (Per attivarlo è necessario caricare una propria foto, ma YouTube assicura che non la utilizzerà per altri scopi).

Le altre funzioni AI di YouTube sono rivolte ai creator, come un prodotto chiamato Ask Studio che utilizza il modello Gemini di Google per aiutare i creator a scrivere script, doppiare o tradurre audio e trovare idee per futuri video. Ma mentre questi strumenti possono aiutare il processo creativo, alcuni creator temono che l’AI possa ridurre il loro ruolo artistico.

Brooke Ashley Hall, che gestisce insieme alla famiglia il canale Beverly Halls con 11,4 milioni di iscritti, afferma che probabilmente non utilizzerebbe la funzione avatar AI per clonarsi digitalmente. “Mi piace poter essere davanti alla telecamera e parlare con il mio pubblico, e non sono sicura che un’AI possa replicare quella cosa”, dice. Tuttavia utilizza spesso l’AI per generare immagini di sé e della sua famiglia per le miniature dei video, oltre che per analizzare dati, creare idee e produrre effetti speciali. “Non penso che sostituirà tutti i creator”, afferma. “Penso che sostituirà i creator che non la integreranno”.

Il ruolo dei creator

Nel frattempo i creator stanno cercando di capire quale ruolo vogliono avere nella formazione dei modelli AI. Possono scegliere di permettere a YouTube di condividere i loro video con laboratori AI e altre aziende per addestrare nuovi modelli. Non sono obbligati a farlo, ma se lo fanno non ricevono alcun compenso. Oggi YouTube afferma che circa un milione di creator hanno aderito, una piccola parte dei circa 69 milioni di creator attivi stimati sulla piattaforma secondo la società di ricerca Social Blade. (YouTube non ha rivelato quanti creator siano presenti sulla piattaforma).

Alcuni creator hanno scritto su Reddit che aziende AI li stanno contattando per ottenere licenze sui loro dati video, con alcune offerte fino a 100.000 dollari ogni 1.000 ore di contenuti. Hall dice di aver “considerato” di concedere in licenza i propri dati video e che “probabilmente” lo farebbe. “Dovrebbe esserci qualche tipo di vantaggio per noi come creatori originali del contenuto”, afferma.

Mentre YouTube affronta promesse e rischi dell’intelligenza artificiale, alla fine vincerà ciò che incoraggerà più contenuti e più tempo trascorso a guardarli, sostiene l’ex dirigente di YouTube. “In definitiva, YouTube come piattaforma si preoccupa del tempo di visione”, dice. “Non interessa davvero — o interessa solo in secondo piano — su cosa venga speso quel tempo”.

L’articolo L’AI Slop sta trasformando YouTube. Così il ceo Neal Mohan vuole mantenerlo umano è tratto da Forbes Italia.