Google signe le code européen sur la transparence du contenu généré par l'IA

Google a signé le Code de bonnes pratiques de l’Union européenne sur la transparence du contenu généré par l’IA, liant l’un des engagements politiques publics de l’entreprise en matière d’IA aux efforts croissants visant à aider les gens à comprendre comment le matériel en ligne a été créé ou modifié. Cette décision place Google parmi les entreprises travaillant avec des règles européennes axées sur la divulgation, la provenance et la présentation pratique des informations sur le contenu généré par l'IA.

Le code s'inscrit dans le cadre plus large de la loi européenne sur l'IA et se concentre sur les questions de transparence qui se posent lorsque du texte, des images, de l'audio ou de la vidéo synthétiques transitent sur des plateformes publiques. Le principal défi est facile à décrire mais difficile à résoudre à l’échelle d’Internet : les gens ont besoin d’un contexte utile sur le contenu sans être confrontés à des étiquettes si nombreuses, vagues ou incohérentes qu’elles ne véhiculent plus de sens. Un système crédible doit fonctionner sur plusieurs produits et plates-formes plutôt que uniquement au sein des outils d’une seule entreprise.

Google a déclaré que sa participation s'appuie sur un engagement antérieur envers le code de bonnes pratiques en matière d'IA à usage général et sur des travaux liés à la norme technique C2PA. C2PA est conçu pour transmettre des informations sur la provenance du contenu numérique, tandis que la technologie SynthID de Google est utilisée pour intégrer des signaux qui peuvent aider à identifier le matériel créé ou édité avec l'IA. La société a également souligné sa collaboration avec d’autres groupes d’IA et de technologie dans le cadre de la promotion d’approches interopérables en matière de filigrane et de divulgation.

Pour les utilisateurs de services en ligne, la valeur pratique de telles mesures dépendra moins du nom d’une norme que de la question de savoir si l’information est visible et compréhensible au moment où elle est nécessaire. Un spectateur qui décide de faire confiance à une image, un éditeur qui vérifie le matériel avant sa distribution ou un annonceur qui examine un travail créatif peuvent tous avoir besoin de différents types de contexte. La conception des étiquettes, la capacité des services à conserver les données de provenance et le traitement des contenus édités à plusieurs reprises compteront donc autant que le marqueur technique sous-jacent.

L’annonce de Google a également clairement indiqué qu’il voyait un risque à superposer trop de mentions légales et d’étiquettes techniques qui se chevauchent sur le même contenu. Cette préoccupation n’est pas un argument contre la transparence ; cela rappelle que les systèmes de divulgation doivent être lisibles s’ils doivent soutenir des décisions éclairées. La société a déclaré que les solutions techniques sont toujours en évolution et a préconisé une mise en œuvre qui donne aux utilisateurs un contexte clair plutôt qu'un ensemble déroutant de signaux.

Cette étape politique arrive alors que les entreprises, les régulateurs et les organismes de normalisation réfléchissent encore à la manière dont les obligations de divulgation devraient fonctionner au-delà des frontières et entre différents types de médias. Les filigranes et les enregistrements de provenance peuvent aider à établir une trace, mais ils ne répondent pas à toutes les questions sur l'exactitude, l'intention ou la fiabilité d'une affirmation dans le contenu lui-même. Les utilisateurs devront toujours évaluer le matériel qu’ils voient, et les plateformes auront toujours besoin de règles pour les utilisations nuisibles ou trompeuses qui vont au-delà d’une étiquette.

Google n'a pas annoncé une seule nouvelle fonctionnalité destinée aux consommateurs ni un calendrier universel pour chaque produit dans le cadre de la signature. La signification immédiate est plutôt l’accord de l’entreprise à participer à un cadre de transparence partagé tout en continuant à développer ses propres outils. Le prochain test sera celui de la mise en œuvre : si les normes, les interfaces de produits et les orientations réglementaires peuvent fournir aux utilisateurs des informations plus utiles sur le contenu généré par l'IA sans rendre l'expérience en ligne plus difficile à comprendre.