• I molestatori utilizzano Instagram per promuovere siti Web che vendono materiale di aggressione
• Stanno generando migliaia di immagini sessuali di bambini utilizzando l’intelligenza artificiale
• Lo studio legale Schillings ha intentato una causa contro il gigante dei social media Meta

Instagram sta affrontando una sfida legale per le accuse secondo cui trarrebbe profitto consentendo agli utenti di pubblicizzare immagini di abusi sessuali su minori generate dall'intelligenza artificiale.

Ne consegue un'indagine della polizia che ha scoperto che i predatori utilizzavano Instagram per promuovere siti Web che vendevano materiale abusivo, disponibile in soli due clic.

In quella che gli attivisti descrivono come una “nuova frontiera dell’orrore”, i pedofili utilizzano software di intelligenza artificiale per generare migliaia di immagini sessuali di bambini, che commercializzano sfacciatamente su Instagram, dicendo agli utenti di cliccare sui loro siti per acquistare materiale più esplicito.

Lo studio legale Schillings ha lanciato una “sfida legale innovativa” contro il colosso dei social media Meta, proprietario di Instagram, Facebook e WhatsApp, per conto dell'organizzazione benefica per bambini 5 Rights Foundation.

La causa sostiene che Instagram è “complice dello sfruttamento online dei bambini” ospitando “contenuti che mettono a rischio gli utenti adulti e i bambini”.

Ha citato un fascicolo della polizia che “dimostra chiaramente che le immagini di bambini generate dall'intelligenza artificiale sono ampiamente diffuse su Instagram e che Instagram collega gli utenti a contenuti illegali”.

Fare clic qui per ridimensionare questa unità

La baronessa Beban Kidron, fondatrice della 5 Rights Foundation, che lavora per un ambiente digitale sicuro per i bambini, ha promesso di perseguire Meta attraverso i tribunali se non agisce, avvertendo: “È davvero facile iniziare a utilizzare le piattaforme Meta e finire per all'inferno dopo soli due clic.

Un rapporto separato oggi rivela che le segnalazioni pubbliche di immagini di abusi generate dall'intelligenza artificiale sul web aperto sono quadruplicate in soli sei mesi, seguendo una nuova terrificante tendenza in cui i criminali rubano immagini di bambini innocenti dai social media e utilizzano software per… Smascherare le vittime e manipolare le immagini per soddisfare le loro fantasie contorte.

Il rapporto della Internet Watch Foundation avverte che la Gran Bretagna ha raggiunto uno “spaventoso punto critico” con strumenti di intelligenza artificiale ora in grado di creare immagini e video così realistici che è impossibile distinguere tra reale e falso, rendendo difficile per gli agenti salvare le vittime.

La baronessa Kidron ha detto: “Vedere queste immagini sessuali mi ha fatto venire voglia di piangere. Sono immagini di ragazze molto giovani che indossano abiti molto provocanti”.

“Il materiale pedopornografico generato dall’intelligenza artificiale sta creando una nuova frontiera dell’orrore e Instagram sta attirando le persone lì e consentendo agli utenti di accedere a materiale pedopornografico.

“I bambini vengono sfruttati e Mita aiuta a sviluppare il desiderio per questi materiali.

“Se il tuo lavoro è far sì che le persone clicchino sulle tue pagine e non ti interessa su cosa fanno clic, questa è cecità intenzionale perché il motivo ultimo è fare soldi.”

Quando gli agenti di polizia sotto copertura iniziarono a indagare a dicembre, trovarono dozzine di account con nomi come “Perversions” che contenevano immagini sessuali di bambini piccoli generate dall’intelligenza artificiale.

Accanto alle foto seminude c'erano collegamenti a siti pay-per-view e canali di messaggistica istantanea crittografati sull'app Telegram che mostravano filmati di bambini veri stuprati.

Fare clic qui per ridimensionare questa unità

Durante i sei mesi di indagine, gli algoritmi di Instagram hanno raccomandato agli agenti diversi account simili, sollevando preoccupazioni sul fatto che i bambini che navigavano sui siti potessero finire nelle grinfie di reti di pedofilia.

Schillings ha affermato che l’apertura del materiale “legittima” gli abusi sui minori perché i pedofili possono comunicare tra loro in bella vista senza doversi nascondere nel dark web.

Per capire come funzionava, la baronessa Kidron ha dato alla polizia l'accesso alle sue fotografie, e loro sono state in grado di mostrare come l'intelligenza artificiale creasse immagini di abusi su di lei quando aveva otto anni.

“È stato orribile vedere queste foto”, ha detto. “Non posso più guardare le foto di me stessa da bambina e non vedere queste foto”.

A gennaio, gli agenti hanno segnalato quattro profili criminali tramite la funzione di segnalazione in-app di Instagram, ma non è successo nulla.

La polizia ha successivamente presentato una richiesta formale di informazioni sui conti, ma non ha ricevuto risposta da Meta.

Il mese scorso, Schillings ha presentato un dossier contenente prove, chiedendo un'indagine indipendente.

Meta non ha risposto finché non è stata contattata dal Mail, che ha affermato di non aver mai ricevuto l'e-mail. Da allora ha cancellato tutti gli account.

“Abbiamo rimosso tutti gli account offensivi all'inizio di quest'anno”, ha detto Meta. “Che si tratti di un'intelligenza artificiale o di una persona reale, lo sfruttamento minorile di qualsiasi tipo è orribile e abbiamo regole chiare contro di esso.

“Segnaliamo regolarmente casi evidenti di questo contenuto al Centro nazionale per i bambini scomparsi e sfruttati.

“Stiamo anche condividendo prove con altre società per combattere gli abusi multipiattaforma e supportare le forze dell'ordine nei loro sforzi per catturare e perseguire i criminali dietro di esso.”