In un rapporto recentissimo della Internet Watch Foundation (Iwf), emerge un dato allarmante che riguarda la proliferazione di immagini di abusi sessuali su minori create mediante intelligenza artificiale. I numeri parlano chiaro: nel corso del 2024, le segnalazioni di tali immagini sono aumentate del 380% rispetto al 2023. Mentre nell'anno precedente erano soltanto 51 le segnalazioni elaborate, nell'anno in corso si è arrivati a ben 245.
Questa crescita esponenziale solleva interrogativi seri sulle capacità delle tecnologie di riconoscere e combattere contenuti di questa natura. La maggior parte delle immagini segnalate rientra, purtroppo, nella categoria A, ovvero quella dei contenuti estremi di abuso sessuale su minori, che rappresentano circa il 39% del totale delle segnalazioni.
Il rapporto dell'Iwf sottolinea inoltre la difficoltà nel distinguere le immagini generate artificialmente da quelle reali. Questo rende non solo la sorveglianza di tali contenuti più complicata, ma amplifica anche la preoccupazione per la protezione dei minorenni, già vulnerabili di fronte a queste tematiche. Le immagini create tramite intelligenza artificiale possono sembrare così realistiche che i filtri di sicurezza e i sistemi di monitoraggio attualmente in uso rischiano di non reggere il passo con l'evoluzione tecnologica e le tecniche di generazione di contenuti.
L'Sociale e il Settore Tecnologico devono ora convergere in uno sforzo comune per affrontare questa sfida emergente. L'aumento dei contenuti di abusi sessuali generati dall'IA rappresenta non solo una crisi di ordine etico e legale, ma pone anche un'importante questione riguardante la responsabilità delle imprese tecnologiche nell'accertarsi che i propri strumenti non siano utilizzati per perpetuare abusi di questo tipo.
Intanto a Bruxelles, i leader europei sono chiamati a discutere di queste preoccupazioni in vista di una possibile legislazione più severa sul monitoraggio e la regolamentazione dei contenuti generati dall'intelligenza artificiale. Il cammino verso una soluzione duratura è costellato da sfide, non ultima quella di garantire la libertà di espressione senza compromettere la sicurezza e la protezione dei più giovani.
