OpenAI agregará marcas de agua para sus imágenes generadas por IA

OpenAI ha anunciado que agregará marcas de agua digitales a las imágenes generadas utilizando su modelo de IA generativa DALL-E 3.

En una publicación de blog publicada este martes, la compañía anunció que integrará las marcas de agua de DALL-E 3 en las imágenes generadas por DALL-E 3. Coalición por la autenticidad y procedencia de la imagen (C2PA, por sus siglas en inglés). La empresa cree que el uso de estas marcas de agua ayudará a aumentar la confianza de las personas en la información distribuida en Internet.

Sitios como Contents Credentials Verify permiten a los usuarios verificar si una imagen se creó mediante inteligencia artificial. OpenAI ha destacado que muchos medios utilizan este estándar Verificar el origen de gran parte del contenido. Digital.

Sin embargo, OpenAI también conoce el método. No es una solución perfectaya que esta marca de agua digital se puede eliminar fácilmente.

Desde hace algún tiempo, ha habido una creciente preocupación por el aumento de la desinformación, en particular la que se puede generar utilizando modelos de IA: audio, imágenes y vídeos generados. Especialmente en un año, 2024, que es claramente un año electoral.

Los deepfakes y la IA provocarán el caos en el año electoral

Dado que Miles de millones de personas acudirán a las urnas este añoMuchos votantes ya han tenido problemas con contenidos generados por inteligencia artificial, como llamadas automáticas en las que una voz imitaba al presidente de Estados Unidos. Joe Bidena anuncios con vídeos falsos del Primer Ministro británico, Rishi Sunak.

Por otro lado, los deepfakes explícitos de artistas como Taylor Swift También ocuparon los titulares el mes pasado, lo que provocó la condena internacional e incluso el lanzamiento de algunas iniciativas legislativas. En España, Sumar presentó a finales del año pasado una propuesta para una nueva ley anti-deepfakes.

Otra empresa de tecnología, Meta, también ha anunciado algunas medidas para combatir la difusión de contenidos generados por IA. La multinacional también anunció este martes que prevé etiquetar el contenido generado con estos sistemas en sus plataformas Facebook, Instagram y Threads.

No es una bala de plata

OpenAI es consciente de esto Sus planes no son perfectos.

La compañía anunció que las marcas de agua digitales C2PA ya aparecen en los metadatos de las imágenes generadas con DALL-E 3 en la versión del navegador y que espera llevar esta funcionalidad a los usuarios móviles a partir del 12 de febrero.

Sin embargo, OpenAI también explicó que los metadatos no son una “panacea para garantizar la procedencia” de este contenido, ya que la marca de agua podría ser «Fácil de eliminar, ya sea intencional o accidentalmente».

Intentar etiquetar el contenido generado por IA como tal ha demostrado ser muy complejo. Varios estudios han descubierto que la mayoría de las formas de poner marcas de agua en este contenido artificial están sobre la mesa. Inútil dada la complejidad de las respuestas. que los actores maliciosos puedan tomar el control.

De hecho, los primeros intentos de los sistemas para comprobar si el contenido escrito se generó mediante inteligencia artificial tampoco tuvieron éxito. OpenAI ha retirado discretamente su sistema de detección debido a los problemas de fiabilidad que encontró.

Los portavoces de OpenAI aún no han respondido a las preguntas enviadas por Business Insider.