OpenAI avanza en la procedencia de contenido con nuevas herramientas

OpenAI ha anunciado un conjunto de nuevas medidas diseñadas para mejorar la procedencia del contenido y combatir la desinformación en la era de los medios generados por IA. La empresa está adoptando Credenciales de Contenido basadas en el estándar C2PA e integrando la tecnología de marca de agua SynthID de Google en sus productos. Además, OpenAI ha lanzado una herramienta de verificación para ayudar a los usuarios a identificar y confiar en imágenes y videos generados por IA. La adopción del estándar C2PA es un paso significativo hacia la creación de un ecosistema digital transparente. Las Credenciales de Contenido permiten a los creadores adjuntar metadatos a su trabajo, indicando cómo fue creado y por quién. Esto facilita que las plataformas y los usuarios verifiquen la autenticidad de los medios. Al integrar SynthID de Google, OpenAI añade una marca de agua invisible al contenido generado por IA, que puede ser detectada por herramientas especializadas incluso después de modificaciones como recortes o compresión. La nueva herramienta de verificación está diseñada para ser fácil de usar, permitiendo a las personas comprobar si una imagen o video fue generado por los modelos de OpenAI. Esto aborda las crecientes preocupaciones sobre los deepfakes y la desinformación generada por IA, que se han vuelto cada vez más sofisticados. La herramienta es parte de un esfuerzo más amplio de la industria para generar confianza en las tecnologías de IA, mientras gobiernos y organizaciones de todo el mundo lidian con las implicaciones de los medios sintéticos. Estas medidas no se tratan solo de detección; se trata de crear un ecosistema de IA más seguro. Al facilitar la identificación de contenido generado por IA, OpenAI espera reducir el potencial de uso indebido, al tiempo que fomenta el uso responsable de sus herramientas. La empresa también está colaborando con otras empresas tecnológicas y organismos de normalización para garantizar la interoperabilidad y la adopción generalizada de estas técnicas de procedencia. A medida que el contenido generado por IA se vuelve más prevalente, estas salvaguardas serán esenciales para mantener la confianza pública y prevenir la propagación de información falsa.