Google firma un código de la UE sobre transparencia para el contenido generado por IA

Google ha firmado el Código de prácticas de la Unión Europea sobre transparencia del contenido generado por IA, vinculando uno de los compromisos públicos de política de IA de la compañía con el creciente esfuerzo por ayudar a las personas a comprender cómo se creó o modificó el material en línea. La medida coloca a Google entre las empresas que trabajan con normas europeas que se centran en la divulgación, la procedencia y la presentación práctica de información sobre el contenido generado por IA.

El código se ubica junto al marco más amplio de la Ley de IA de la UE y se concentra en las cuestiones de transparencia que surgen cuando textos, imágenes, audio o videos sintéticos se mueven a través de plataformas públicas. El desafío central es fácil de describir pero difícil de resolver a escala de Internet: las personas necesitan un contexto útil sobre el contenido sin verse confrontadas con etiquetas tan numerosas, vagas o inconsistentes que dejen de transmitir significado. Un sistema creíble tiene que funcionar en todos los productos y plataformas y no sólo dentro de las herramientas de una sola empresa.

Google dijo que su participación se basa en un compromiso anterior con el código de práctica de IA de propósito general y en el trabajo relacionado con el estándar técnico C2PA. C2PA está diseñado para transportar información de procedencia sobre contenido digital, mientras que la tecnología SynthID de Google se utiliza para incorporar señales que pueden ayudar a identificar material creado o editado con IA. La compañía también ha señalado la colaboración con otros grupos de tecnología e inteligencia artificial como parte del impulso para enfoques interoperables para marcas de agua y divulgación.

Para las personas que utilizan servicios en línea, el valor práctico de tales medidas dependerá menos del nombre de un estándar que de si la información es visible y comprensible en el momento en que se necesita. Un espectador que decide si confiar en una imagen, un editor que verifica el material antes de su distribución o un anunciante que revisa un trabajo creativo pueden necesitar diferentes tipos de contexto. Por lo tanto, el diseño de las etiquetas, la capacidad de los servicios para preservar los datos de procedencia y el tratamiento del contenido que ha sido editado varias veces serán tan importantes como el marcador técnico subyacente.

El anuncio de Google también dejó claro que ve un riesgo al superponer demasiados avisos legales y etiquetas técnicas en el mismo contenido. Esa preocupación no es un argumento contra la transparencia; es un recordatorio de que los sistemas de divulgación deben ser legibles si quieren respaldar decisiones informadas. La compañía dijo que las soluciones técnicas aún están evolucionando e instó a una implementación que brinde a las personas un contexto claro en lugar de una colección confusa de señales.

La medida política llega mientras las empresas, los reguladores y los organismos de normalización aún están trabajando en cómo deberían funcionar las obligaciones de divulgación a través de fronteras y en diferentes tipos de medios. Las marcas de agua y los registros de procedencia pueden ayudar a establecer un rastro, pero no responden todas las preguntas sobre la exactitud, la intención o la confiabilidad de una afirmación en el contenido mismo. Los usuarios seguirán necesitando evaluar el material que ven, y las plataformas seguirán necesitando reglas para usos dañinos o engañosos que vayan más allá de una etiqueta.

Google no anunció ninguna característica nueva orientada al consumidor ni un cronograma universal para cada producto como parte de la firma. En cambio, el significado inmediato es el acuerdo de la empresa de participar en un marco de transparencia compartido mientras continúa desarrollando sus propias herramientas. La próxima prueba será la implementación: si los estándares, las interfaces de los productos y la orientación regulatoria pueden brindar a las personas información más útil sobre el contenido generado por IA sin hacer que la experiencia en línea sea más difícil de entender.