Tecnologia e sicurezza. Le Big Tech corrono ai ripari contro l'abuso social dei giovani
Quanto le grandi Big tech stanno cercando di investire sulla sicurezza delle proprie piattaforme? E quanto stanno lavorando affinché vengano diffusi contenuti adeguati e appropriati per gli utenti più giovani?
Come, spesso, accade il problema non è l’uso, ma l’abuso di piattaforme social e video come TikTok, Instagram, YouTube. Questa differenza rischia però di rimanere solo teorica, poiché le reti sociali sono costruite per creare assuefazione. Fino a poco tempo fa si discuteva molto sul fatto che i giovani entrassero in contatto con contenuti ritenuti pericolosi come video che istigano a comportamenti violenti e intimidatori, sfide diffuse online al limite dell’autolesionismo e contenuti sessualmente espliciti. Oggi, invece, il dibattito si è molto esteso e trasformato: l’utilizzo dei social network, e più in generale l’esposizione agli schermi delle ragazze e dei ragazzi in età adolescenziale, è sempre più associato a un tema di salute pubblica.
Si tratta di un problema complesso e non ci sono risposte semplici: è vero che i dati affermano che gli adolescenti trascorrono più di tre ore al giorno sui social media, ma mancano prove scientifiche sufficienti a dimostrare che questo tempo trascorso online sia la causa di sintomi di ansia e depressione. Secondo la tesi di diversi studiosi e statistici, è più probabile che ci sia una correlazione tra la crisi di salute mentale dei più giovani e l’uso della tecnologia digitale: come a dire, si sta così male, tanto da rifugiarsi fuori dalla realtà, nei social media. Stiamo così male per l’esposizione che abbiamo alla violenze, alle guerre, allo sfruttamento? Per la discriminazione strutturale che viviamo nella nostra società diseguale, per le forme di razzismo e sessismo di cui si legge in continuazione? O per i casi di abusi sessuali o l’uso di droghe, per l’isolamento sociale o le difficoltà economiche? Una risposta semplice continua a non esserci: va detto che ansia e depressione sono guidate da un insieme complesso di fattori genetici e ambientali.
Tornando alle piattaforme social, che responsabilità hanno? Che cosa possono fare di fronte alla comunità scientifica e alla società civile che le incalza sulla salute mentale dei loro giovanissimi utenti?
Dopo l’annuncio da parte di YouTube sulle nuove misure per la sicurezza degli adolescenti in Italia e nel mondo, abbiamo chiesto a James Beser, il director of Product Management, YouTube Kids and Youth, come stanno agendo per garantire il benessere degli adolescenti.
Come si identificano e si controllano i video inappropriati per i bambini su YouTube? Come si selezionano ed escludono quelli che contengono incitamenti all’odio, sfide pericolose o contenuti violenti e dannosi?
Innanzitutto, abbiamo rigide policy su incitamenti all’odio, sfide pericolose e contenuti violenti, che applichiamo rigorosamente con la tecnologia dell’apprendimento automatico (ML) e oltre 20mila revisori umani che lavorano 24 ore su 24. Se un contenuto viola la nostra policy, lo rimuoviamo.
Applichiamo anche limiti di età ai contenuti che non violano le linee guida della community, ma non sono adatti agli spettatori più giovani. Ad esempio, un video di un notiziario da una zona di guerra potrebbe essere soggetto a limiti di età su YouTube. Devi essere un utente registrato, maggiorenne per visualizzarlo. In Italia, devi anche avere almeno 14 anni per utilizzare l’app principale di YouTube o un genitore o tutore legale deve abilitarla per te. Gli account appartenenti a persone di età inferiore ai 14 anni che non hanno la supervisione dei genitori che vengono scoperti possono essere chiusi.
Abbiamo creato YouTube Kids, separato dall’app YouTube principale, come destinazione dedicata ai bambini. YouTube Kids è un’esperienza più sicura e semplice da esplorare per i bambini, con strumenti per genitori e tutori per guidare il loro viaggio. Abbiamo anche sviluppato esperienze supervisionate su YouTube per i genitori che decidono che i loro figli più grandi sono gradualmente pronti a esplorare di più YouTube.
Come rispondete a coloro che affermano che i video di YouTube creano dipendenza emotiva nei bambini, soprattutto a causa della riproduzione automatica e della presenza di video brevi dai contenuti ripetitivi, che escludono una narrazione fantasiosa e complessa?
Niente è più importante che garantire la sicurezza degli spettatori, in particolare dei giovani spettatori, durante l'utilizzo della nostra piattaforma.
Vogliamo anche che il tempo trascorso dagli spettatori su YouTube sia tempo ben speso, e ciò significa fornire loro gli strumenti per stabilire le proprie regole di base digitali e disconnettersi quando necessario. Questo è anche ciò che è positivo per la nostra attività a lungo termine. Dal 2018, YouTube ha reso disponibili promemoria Take a Break e sono attivi per impostazione predefinita per gli utenti adolescenti. Da allora abbiamo inviato miliardi di promemoria agli spettatori, aiutandoli a stabilire le proprie regole di base digitali.
Per quanto riguarda le notifiche in particolare, quando il contenuto è impostato come "Destinato ai bambini", gli spettatori non riceveranno notifiche da un canale e la campanella delle notifiche sarà impostata su nessuna notifica. Non è possibile modificare questa impostazione. La riproduzione automatica è disabilitata anche per i minori di 18 anni.
Abbiamo investito molto in politiche per proteggere meglio i bambini sulle nostre piattaforme. Queste politiche regolano gli annunci e i contenuti commerciali che i bambini vedono. Ad esempio, su YouTube Kids, abbiamo rigide linee guida per gli annunci per limitare i tipi di prodotti e servizi promossi per i bambini.
Gli annunci su YouTube Kids sono anche contestuali, non personalizzati. Ciò significa che l'annuncio viene pubblicato in base al contenuto del video, al contesto della ricerca corrente dello spettatore o alla sua posizione generale, piuttosto che ai dati sull'utente. Su YouTube Kids mostriamo solo annunci a pagamento approvati come adatti alle famiglie e tutti gli annunci a pagamento vengono sottoposti a un rigoroso processo di revisione per la conformità alle nostre politiche. Più in generale, non consentiamo inoltre il targeting degli annunci in base all'età, al sesso o agli interessi di persone notoriamente minorenni. Abbiamo anche rigide politiche che impediscono che categorie di annunci sensibili all'età vengano mostrate a bambini e adolescenti.
Siete pronti a condividere tutti i vostri dati sugli effetti sulla salute delle persone con scienziati indipendenti e al tempo stesso consentire audit di sicurezza indipendenti?
I nuovi strumenti che annunciamo oggi sono stati progettati in consultazione con il Comitato consultivo per i giovani e le famiglie di YouTube, un team di esperti indipendenti in media per bambini, sviluppo infantile, apprendimento digitale e cittadinanza, provenienti da contesti accademici, non profit e clinici. Consigliano YouTube sulle mutevoli esigenze dei giovani, attingendo a ricerche consolidate e alla propria competenza. Sono le loro intuizioni che stiamo citando e che ci hanno portato a sviluppare queste misure di sicurezza aggiuntive per le raccomandazioni sui contenuti.
Più in generale, siamo sempre alla ricerca di nuovi modi per rafforzare la trasparenza e collaborare con ricercatori di tutto il mondo. Nel 2022 abbiamo lanciato il YouTube Researcher Program per dotare la comunità di ricerca di dati, strumenti e supporto per migliorare la comprensione del pubblico della nostra piattaforma e del suo impatto.
Attraverso questo programma globale, ricercatori accademici qualificati ottengono un accesso alla Data API di YouTube con la quota necessaria per il loro progetto, una nuova capacità di ricavare informazioni e un solido supporto tecnico interno. E continuiamo ad ampliare il nostro Community Guidelines Transparency Report per fornire ancora più dati sul nostro lavoro, come il nostro tasso di visualizzazione in violazione. Inoltre, ricercatori idonei ai sensi del Digital Services Act (DSA), possono anche richiedere l'accesso a un'estrazione limitata di metadati dai dati pubblici su YouTube per contribuire a informare la loro ricerca sui rischi sistemici dei contenuti nell’Ue.