L’Unione Europea ha aperto un’indagine formale sulla piattaforma social di Elon Musk, X, a causa di preoccupazioni che il chatbot di intelligenza artificiale Grok possa aver generato immagini deepfake che “potrebbero costituire materiale di abuso sessuale su minori.”

La Commissione Europea ha dichiarato che l’indagine valuterà se X abbia rispettato i suoi obblighi ai sensi del Digital Services Act (DSA) del blocco di identificare, valutare e mitigare correttamente i rischi associati all’implementazione di Grok nei 27 stati membri dell’UE.

L’indagine aumenta il controllo sulle pratiche di moderazione dei contenuti di X e potrebbe ulteriormente infiammare le tensioni tra Bruxelles e Washington.

Focus sulla valutazione del rischio e mitigazione

Secondo la Commissione, l’indagine esaminerà se X abbia affrontato adeguatamente i rischi sistemici legati al lancio di Grok, in particolare il rischio di generare deepfake sessuali non consensuali che coinvolgono donne e bambini.

Il caso rientra nella DSA, il regolamentare ampio dei contenuti online dell’UE che impone requisiti severi alle grandi piattaforme per prevenire la diffusione di materiale illegale e dannoso.

“I deepfake sessuali non consensuali di donne e bambini sono una forma violenta e inaccettabile di degradazione”, ha dichiarato il commissario europeo alla tecnologia Henna Virkkunen.

“Con questa indagine, determineremo se X ha adempiuto ai suoi obblighi legali previsti dalla DSA, o se ha trattato i diritti dei cittadini europei — inclusi quelli di donne e bambini — come danni collaterali al suo servizio.”

La Commissione ha dichiarato che l’indagine non prevede misure provvisorie in questa fase.

Secondo il Digital Services Act, entrato in vigore nel 2023, l’UE ha il potere di imporre multe fino al 6% del fatturato annuo mondiale di un’azienda per mancata lotta contro contenuti illegali, mitigazione dei rischi sistemici o rispetto dei requisiti di trasparenza.

Crescente reazione internazionale per Grok

L’indagine dell’UE segue la crescente condanna globale di Grok nelle ultime settimane.

Utenti in diversi paesi hanno riferito che il chatbot AI ha generato immagini sessualizzate e le ha pubblicate su X, scatenando reazioni negative da parte di regolatori e sostenitori della sicurezza dei minori.

Nel Regno Unito, l’ente regolatore delle comunicazioni Ofcom sta già indagando formalmente se X abbia violato l’Online Safety Act del paese in relazione ai risultati di Grok.

Anche le autorità in Francia e India hanno sollevato preoccupazioni, accusando il chatbot di creare illegalmente immagini sessualizzate di individui senza il loro consenso.

X, che è una controllata della società di intelligenza artificiale di Musk, xAI, ha già dichiarato di rimuovere contenuti illegali, inclusi contenuti abusati di minori, sospendere gli account responsabili e collaborare con le forze dell’ordine quando necessario.

Le tensioni con Washington incombono

L’indagine Grok arriva poco dopo che l’UE ha imposto una sanzione separata di 120 milioni di euro (142 milioni di dollari) a X ai sensi della DSA.

In quel caso precedente, i regolatori dell’UE hanno concluso che il sistema di spunti blu a pagamento di X aveva ingannato gli utenti, che la piattaforma non forniva un adeguato accesso ai dati ai ricercatori e che non aveva istituito adeguatamente un archivio di trasparenza pubblicitaria.

Quella multa ha suscitato forti critiche dall’amministrazione Trump, che ha presentato la regolamentazione digitale dell’UE come un attacco alla libertà di parola e alle aziende tecnologiche americane.

Prima della sanzione di dicembre, il vicepresidente USA JD Vance ha scritto su X che “l’UE dovrebbe sostenere la libertà di parola, non attaccare le aziende americane per spazzatura.”

I funzionari europei, tuttavia, hanno costantemente respinto tali affermazioni, sostenendo che la DSA è pensata per proteggere i diritti e la sicurezza degli utenti piuttosto che limitare l’espressione legale.

The post L’UE apre un’indagine sull’X di Musk riguardo all’IA di Grok e a potenziali violazioni della sicurezza dei minori appeared first on Invezz