Il Giappone si è unito a una lista crescente di paesi che stanno esaminando X a causa del servizio di intelligenza artificiale Grok di Elon Musk e le preoccupazioni che il chatbot possa essere usato per creare e diffondere immagini sessualizzate di persone senza il loro consenso.

Lo sviluppo aumenta la pressione sulla piattaforma social mentre i regolatori di tutto il mondo intensificano i controlli sugli strumenti di IA che potrebbero violare la privacy e i diritti sulle immagini.

La mossa del Giappone arriva dopo che Grok ha scatenato critiche questo mese per quanto facilmente possa essere usato per manipolare le foto al fine di sessualizzare o denigrare le persone. Sebbene siano state introdotte restrizioni, i funzionari affermano che il rischio non è stato completamente contenuto.

Secondo Bloomberg, il Cabinet Office ha chiesto a X di migliorare le tutele e limitare la produzione di immagini sessualmente alterate create tramite Grok, ha detto il ministro per la Sicurezza Economica Kimi Onoda.

I funzionari hanno anche inviato domande scritte sulle misure che X ha adottate per prevenire deepfake e altre immagini che violano la privacy, la proprietà intellettuale e il diritto di controllare l’uso delle immagine, ha aggiunto.

Il Cabinet Office spinge X a rafforzare le tutele di Grok

Onoda ha detto che il governo sta cercando risposte più chiare su come X intenda fermare la creazione di immagini dannose e manipolate, inclusi deepfake sessualizzati non consensuali.

Il Cabinet Office giapponese sta anche valutando se le attuali misure della piattaforma siano sufficientemente efficaci da prevenire un uso improprio, soprattutto man mano che gli strumenti diventano più accessibili e difficili da rilevare.

Grok ha ricevuto forti critiche questo mese da utenti e governi, dalla Malesia all’Italia, per la facilità con cui poteva essere usato per manipolare le immagini.

Da allora, Grok ha applicato alcune restrizioni alle sue capacità di generazione di immagini e le ha messe dietro un paywall.

Il Giappone avverte che rimane possibile provvedimenti legali

L’intervento del Giappone è stato accompagnato da un avvertimento che un’azione più severa è possibile se il problema persisterà. Parlando a una conferenza stampa venerdì, Onoda ha detto che tutte le opzioni restano disponibili se X non migliora le tutele.

Ha detto che il governo è disposto a prendere in considerazione provvedimenti legali se non ci saranno miglioramenti.

Onoda ha anche segnalato che il Giappone potrebbe adottare misure simili contro altre piattaforme qualora lo stesso problema dovesse emergere altrove, indicando che i regolatori stanno monitorando il mercato più ampio dell’IA, non solo Grok.

All’inizio di questa settimana, xAI, l’azienda dietro Grok, ha dichiarato di disabilitare la possibilità per gli utenti di generare immagini sessualizzate di persone reali utilizzando il chatbot.

Tuttavia, Onoda ha affermato che la possibilità continua di creare tali contenuti rimane una preoccupazione e potrebbe richiedere ulteriori misure.

Le indagini globali si ampliano mentre i paesi rafforzano l’accesso

La mossa del Giappone arriva mentre le indagini si espandono in più giurisdizioni.

Canada, California, Unione Europea e singoli stati membri dell’UE come la Francia stanno indagando se le immagini generate da Grok violino i diritti delle persone.

In alcune zone del Sud-est asiatico, le autorità hanno adottato una strada più diretta limitando l’accesso.

Malesia, Indonesia e Filippine hanno limitato l’accesso interno a Grok, riflettendo la crescente preoccupazione per la rapidità con cui i contenuti generati dall’IA possono diffondersi e per quanto sia difficile contenerli una volta creati.

La questione ha portato X e xAI sotto rinnovata attenzione in un momento in cui i governi sono sempre più concentrati sulla regolamentazione degli strumenti di IA che possono sfumare il confine tra media reali e sintetici.

La legge giapponese sull’IA limita il potere di applicazione

Il Giappone sta cercando di bilanciare controlli più rigidi con la sua ambizione di raggiungere Stati Uniti e Cina nell’IA, un ambito che ritiene importante per la strategia nazionale.

Tuttavia, il suo attuale quadro potrebbe limitare la sua aggressività in grado di rispondere.

La legge giapponese sull’IA, entrata pienamente in vigore a settembre, non prevede sanzioni.

Questo limita l’interferenza governativa principalmente alle indagini e all’emissione di linee guida formali quando si verificano violazioni, piuttosto che imporre sanzioni dirette.

Le discussioni tra i responsabili politici giapponesi si sono concentrate su misure come l’educazione degli utenti e l’obbligo ai servizi di IA di mostrare quando le immagini sono state modificate.

Secondo Bloomberg, il Cabinet Office sta anche cercando di coordinare possibili passi con il Ministero della Giustizia, l’Agenzia Nazionale di Polizia e il Ministero delle Comunicazioni.

The post X è sotto una nuova attenzione giapponese mentre le preoccupazioni sul deepfake di Grok si diffondono in tutto il mondo appeared first on Invezz