Grok, l’IA d’Elon Musk qui déshabille les femmes pourrait bien être interdit en Europe

Grok, l'intelligence artificielle multimodale développée par l'entreprise X, a récemment suscité des préoccupations légales concernant une fonctionnalité permettant de générer des images manipulées sans consentement. Cette fonctionnalité a été restreinte aux abonnés payants, tout en étant rappelé que les deepfakes non consentis sont contraires aux politiques d'utilisation de la plateforme.

Les autorités françaises et européennes ont jugé cette fonctionnalité illégale. En France, la Haute commissaire à l'Enfance, Sarah El Haïry, a pris des mesures légales, impliquant la justice, l'Arcom, et la plateforme Pharos pour retirer les contenus concernés. Le parquet de Paris a élargi une enquête sur des contenus pédopornographiques générés par Grok, en rappelant les sanctions prévues par le droit français pour de tels délits. Parallèlement, le gouvernement a signalé des manquements potentiels de X au Digital Services Act (DSA).

À l'échelle européenne, l'affaire a été portée à l'attention de la commissaire européenne à la souveraineté numérique. Il a été estimé que Grok viole le DSA et le régime des marchés numériques (DMA). Une mesure conservatoire a été imposée à X suite à cette affaire, dans le contexte d'une amende antérieure de 120 millions d'euros infligée fin 2025.

Cette situation reflète les tensions entre l'Union européenne et les États-Unis, avec des divergences sur la régulation des contenus numériques et la protection des mineurs.

D’après Journal du Geek.