Las creaciones realizadas con IA están aumentando sustancialmente a medida que crece su popularidad. Lo hemos visto en los últimos días con un repunte en los vídeos en los que se dobla y traduce la voz de un vídeo original, uno de los contenidos más populares en TikTok y redes sociales .
Messi, Belén Esteban… En los últimos días los vídeos de famosos hablando inglés (u otros idiomas) o aquellos en los que se utiliza la voz para generar mensajes que nunca ha dicho una persona son ejemplos del riesgo que hay con los contenidos generados por IA y cómo podrían hacer que se extiendan bulos y desinformación.
A medida que las diferentes aplicaciones generadas por Inteligencia Artificial se vuelven más y más populares (como está sucediendo en los últimos días con las herramientas de doblaje y traducción automática a otros idiomas), la línea entre lo que es real y lo que no se vuelve más difusa. Es por ello que en TikTok han decidido echar una mano para distinguir cuáles son este tipo de contenidos.
La red social propiedad de ByteDance ha anunciado el lanzamiento de una nueva herramienta para que los creadores etiqueten contenido generado por IA. Adicionalmente, comenzará a probar otras formas de etiquetar el contenido generado por IA automáticamente.
Según afirma la red social de moda, se sintió la necesidad de introducir etiquetas de IA porque el contenido generado de esta forma puede potencialmente confundir o engañar a los usuarios. Hasta ahora, la postura había sido que, bajo la posibilidad de ser retirado en caso contrario, las personas etiqueten el contenido de IA que contenga imágenes, audio o vídeos realistas, como deepfakes, para ayudar a los espectadores a contextualizar el vídeo y evitar la difusión de información engañosa.
Ahora se va un paso más allá del caso extremo de usar IA para engañar intencionalmente a los usuarios. Algunos contenidos generados por IA pueden estar en la línea entre parecer real o falso. Para clarificar estas zonas grises, gracias a las nuevas etiquetas los usuarios contarán con una mayor transparencia para saber si el contenido que están viendo ha sido editado en gran medida o creado con IA. La herramienta estará disponible para los creadores al subir el video, aunque TikTok no requerirá que los creadores de contenido vuelvan a etiquetar sus vídeos anteriores.
Cuando el creador use la nueva herramienta, TikTok mostrará un mensaje debajo del nombre de usuario en el vídeo, indicando que el creador ha etiquetado el mismo como generado por IA. De momento, TikTok no penalizará a los creadores por no etiquetar su contenido de IA, a pesar de estar incluido en la política de medios sintéticos existente.
Esto se debe a que el paso final será implementar la nueva función en desarrollo para detectar y etiquetar automáticamente contenido de IA. Por el momento no han querido compartir detalles sobre cómo su tecnología buscará posible contenido de IA, y señaló que compartir esos detalles podría permitir que los ciberdelincuentes eviten sus capacidades de detección. Sin embargo, TikTok dijo que probará diferentes modelos de detección de IA.
La Unión Europea está presionando para que las plataformas etiqueten el contenido de IA como regla general en su lucha contra la desinformación. Europa se prepara para regular ciertas prácticas en las que la IA puede suponer un peligro para la seguridad o los derechos de los ciudadanos europeos. Precisamente se busca aportar una mayor sensación de transparencia para que aquellos que se exponen a los contenidos generados por IA lo sepan, incluyendo algún tipo de identificador para, por ejemplo, distinguir las imágenes reales de las falsas o generadas artificialmente. TikTok se adelanta a esta normativa y ya tiene medio camino hecho.
Como resultado de su nuevo impulso por la transparencia, TikTok ahora también cambiará el nombre de todos sus efectos que usan IA incluyendo explícitamente «AI» en sus nombres. Eso es algo que anteriormente se negaba a revelar. De hecho, cuando el filtro Bold Glamour de TikTok se volvió viral debido a la gran hazaña técnica que representaba en términos de transformar los rostros de los usuarios, algunos sospecharon que el filtro no estaba usando AR (realidad aumentada), sino Inteligencia Artificial. Sin embargo, TikTok se negó a responder a las preguntas de la prensa sobre si el producto era IA en ese momento.
