Ue indaga X per immagini esplicite su Grok

La Commissione europea ha avviato un'indagine su X, il social network di Elon Musk, per la produzione di immagini sessualmente esplicite generate dal chatbot Grok. L'indagine valuterà se X abbia rispettato i propri obblighi ai sensi della legislazione digitale dell'Unione (Digital Services Act), inclusi i requisiti relativi alla mitigazione del rischio, alla governance dei contenuti e alla tutela dei diritti fondamentali.

Il caso è stato sollevato dopo che sono state generate immagini sessualizzate di donne e bambini attraverso l'utilizzo di Grok. La Commissione europea ha dichiarato che «i deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione».

L'indagine è stata avviata undero il Digital Services Act, una normativa che regola le piattaforme online, i loro contenuti e il comportamento con i consumatori. La Commissione ha già multato X per 120 milioni di euro per violazione delle obbligazioni di trasparenza.

La vicenda ha sollevato interrogativi sulla capacità delle piattaforme di valutare correttamente i rischi e di impedire la diffusione di contenuti illegali e dannosi. L'Unione europea ha chiarito che «le regole devono avere un significato pratico, soprattutto quando tecnologie potenti vengono implementate su larga scala».

L'indagine si inserisce nel quadro del procedimento avviato da Bruxelles il 18 dicembre 2023 su X, che tocca anche il funzionamento del meccanismo di notifica e azione, le misure di contrasto ai contenuti illegali e i rischi legati ai sistemi di raccomandazione.