Ces dernières années, les gouvernements du monde entier ont instauré des réglementations sur les contenus générés ou modifiés par l’IA. Le 13 juin 2024, l’UE a signé le règlement européen sur l’intelligence artificielle (AI Act, règlement 2024/1689). Son article 50, paragraphe 2, impose aux fournisseurs de systèmes d’IA qui génèrent des contenus de synthèse de type audio, image, vidéo ou texte de veiller à ce que leurs sorties soient « marquées dans un format lisible par machine et identifiables comme ayant été générées ou manipulées par une IA ». Les solutions techniques doivent être « efficaces, interopérables, solides et fiables ».
Amendes jusqu’à 15 000 000 € ou 3 % du chiffre d’affaires mondial
Métadonnées signées numériquement (1.1.1)
Filigranage imperceptible (1.1.2)
En cas de non-conformité, la sanction prévue à l’article 99 peut atteindre 15 000 000 € ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (le plus faible pour les PME et les jeunes pousses). Pour toute entreprise qui recourt à l’IA dans sa chaîne de production de contenus, il s’agit d’un risque réglementaire majeur.
Tous les fournisseurs d’IA doivent s’y conformer : toute entreprise qui propose un système d’IA générative dans l’UE sous son propre nom est concernée, y compris lorsque le produit repose sur le modèle ou l’API d’un tiers, quel que soit le lieu d’établissement de l’entreprise.
