¿Sabes si las imágenes que ves en las redes sociales son reales o no? Meta, la empresa matriz de Facebook, Instagram y Threads, ha anunciado una nueva iniciativa para etiquetar el contenido generado por inteligencia artificial (IA) y así ayudar a sus usuarios a distinguir lo que es real y lo que no lo es.
Meta ya se encuentra trabajando con otras empresas en el Partnership on AI (PAI) para desarrollar mejores prácticas para la IA generativa. Se planea que, en un futuro no muy lejano, también se puedan etiquetar videos y audios generados por herramientas de IA.
La compañía fundada por Mark Zuckerberg agregó que comenzará a pedir a sus usuarios que revelen cuando las publicaciones que realicen tengan contenido realizado con IA y quienes no lo hagan podrán ser sancionados o incluso podrían ser bloqueados de las plataformas de Meta.
Meta ha anunciado que pedirá a sus usuarios que declaren si el contenido que realizan ha sido creado o modificado con IA. Para ello, se habilitará una opción en las plataformas de Meta que permitirá marcar el contenido como generado por IA. Los usuarios que no cumplan con esta norma podrían enfrentarse a medidas disciplinarias, como la eliminación de sus publicaciones, la reducción de su alcance o el bloqueo de sus cuentas. Meta utilizará algoritmos de detección de IA y reportes de otros usuarios para verificar el cumplimiento de esta norma.
Meta ha tomado esta decisión ante el creciente uso y la mejora de la calidad de las herramientas de IA que permiten crear y distribuir imágenes, videos y audios falsos o manipulados. Estos contenidos pueden causar daño a las personas o a las instituciones que los protagonizan, al afectar a su imagen, su credibilidad o su seguridad. Además, pueden generar confusión, desconfianza o polarización entre los usuarios que los consumen, al difundir información falsa o sesgada sobre temas de actualidad o de interés público.
Otras compañías también han empezado a preocuparse por el contenido creado por IA, es por eso que Adobe lanzó su sistema Content Credentials que coloca información de procedencia del contenido en los metadatos de las imágenes. Google también extendió su marca de agua SynthID a archivos de audio, después de lanzarla en versión beta para imágenes y a finales del año pasado, YouTube anunció que los creadores de contenido deberán revelar cuando usen inteligencia artificial en sus videos.
El presidente de asuntos globales de Meta, Nick Clegg, no especificó este martes cuándo empezarán a aparecer las etiquetas, pero dijo que será “en los próximos meses” y en diferentes idiomas, señalando que “se están llevando a cabo varias elecciones importantes en todo el mundo”.¿Qué opinas sobre esta iniciativa de Meta? ¿Crees que es suficiente para evitar el abuso de la IA? ¿Qué otras medidas se podrían tomar para regular el uso de la IA en las redes sociales?”
