Engaños, fraudes y fake news pululan por estos tiempos en internet y las redes sociales. En la actualidad, rastrear la procedencia del contenido hecho con inteligencia artificial y su veracidad es cada vez más difícil, por ello crearon un código abierto conocido como C2PA.
La necesidad de saber de dónde proviene el contenido hecho con inteligencia artificial, de proteger a las personas de las fake news, la desinformación, el fraude en línea, del contenido mal intencionado y manipulativo, fue lo que impulsó la creación de C2PA, un protocolo universal para etiquetar el contenido de IA y su procedencia.
En este blog le explicaré qué C2PA, en qué consiste y por qué podría empezar a marcar la diferencia en la web y por qué sería una herramienta para contribuir con las bases éticas para regular la IA.
Empecemos por lo básico: ¿qué es C2PA?
C2PA es un protocolo de Internet Universal que les permite a los creadores de contenido etiquetar contenido audiovisual con los datos de procedencia, según explica la revista MIT Technology Review.
Se trata de una iniciativa generada por Microsoft, Intel, Adobe, BBC, Truepic y Arm. Empresas que crearon The Coalition for Content Provenance and Authenticity (C2PA), de donde el protocolo toma su nombre.
Dicha coalición nació como un proyecto de la Joint Development Foundation, del que hacen parte estos grandes de la tecnología, con la finalidad de “abordar la prevalencia de información engañosa en línea, mediante el desarrollo de estándares técnicos para certificar la fuente y el historial o procedencia del contenido”.
A raíz de este proyecto se generaron diversos documentos que contienen los estándares técnicos para certificar la fuente y el historial o procedencia de los contenidos. Estos se compartieron en su página web y junto al código están disponibles para su descarga de manera gratuita.
“Existe una necesidad crítica de abordar el engaño generalizado en el contenido en línea, ahora supercargado por los avances en IA y gráficos, y difundido de manera rápida por internet. Nuestro imperativo como investigadores y tecnólogos es crear y refinar enfoques técnicos y sociotécnicos para este gran desafío de nuestro tiempo”, comentó Eric Horvitz, director científico y patrocinador ejecutivo del Proyecto Origin en Microsoft.
Las empresas que hacen parte del proyecto ya han integrado el protocolo en sus contenidos y por ejemplo Adobe, una compañía que además motiva a otra a unirse a esta iniciativa, cuenta con este protocolo en Photoshop y Adobe Firefly,
“Con la experiencia colectiva del grupo, aceleraremos el trabajo crítico de reconstruir la confianza del público en el contenido en línea a través de la adopción amplia y abierta de un estándar de procedencia a escala. Damos la bienvenida a todos a unirse y participar en este esfuerzo tan crucial para todos nosotros”, señaló Dana Rao, consejero general y patrocinador ejecutivo de la Iniciativa de Autenticidad de Contenido en Adobe.
Truepic también demostró que el protocolo funciona con un video deepfake hecho con Reel.ai y según la revista MIT el usuario puede pasar el mouse sobre un pequeño ícono en la esquina superior derecha y le aparecerá información sobre el video, la cual incluye señala que es un “contenido generado o que contiene IA”.
“Creemos de manera firme que la adopción en todo el ecosistema, a través de un estándar abierto, es crucial para la salud de internet a largo plazo. C2PA optimizará la distribución de contenido digital de alta integridad a escala, un paso vital para restaurar el sentido de la realidad compartido por la sociedad”, agregó Jeffrey McGregor, CEO de Truepic.
¿Cómo funciona la etiqueta de procedencia C2PA?
El protocolo está protegido con criptografía la cual está basada en una serie de códigos y claves, diseñados para proteger la información contra posibles manipulaciones y que permite registrar el origen de la misma.
C2PA además puede aprender a mejorar en la evasión de la detección, está estandarizado y da mayor visibilidad que las marcas de agua. Es un protocolo que, de acuerdo con la revista MIT, podría funcionar junto a herramientas de detección de IA y marcas de agua.
C2PA no es un protocolo obligatorio
Como se trata de una iniciativa privada, la implementación del protocolo no es obligatoria o vinculante y depende de que los creadores de contenido decidan participar o no en su implementación y uso.
Y si bien se están construyendo leyes para regular la inteligencia artificial en diferentes partes del mundo como Europa, Latam y Estados Unidos la obligatoriedad todavía no es la norma. Por lo que motivar su implementación así como vincularla como obligatoria a las propuestas de regulación de la IA serían los retos.
