Por qué la basura de la IA es peligrosa y qué puedes hacer para detectarla

Preocupaciones de mal uso

Pero todavía hay consecuencias potencialmente preocupantes asociadas con los derechos de autor, engaños, desinformación y la mayor dificultad para determinar qué es creíble y qué no en los videos generados por IA.

“Las barreras de entrada para crear desinformación y estafas con IA son más bajas que nunca, y la tecnología es mejor que nunca”, dice Alex Mahadevan, director de MediaWise en el Instituto Poynter. “Creo que lo que ves en Sora es la convergencia de la basura de la IA y deepfakes”.

Por supuesto, los deepfakes han existido durante varios años, pero la gente generalmente podía darse cuenta de lo que no era real por imperfecciones visuales reveladoras: un dedo extra en la mano de alguien, por ejemplo, o pupilas desalineadas.

Hoy en día, es más difícil de distinguir.

Un estudio de investigación reciente de The CareSide, un proveedor de cuidados en Australia, examinó qué tan bien una muestra de casi 3,200 adultos mayores en países de habla inglesa, incluido EE.UU., podía distinguir correctamente entre contenido generado por IA y por humanos: texto, fotos, audio y, sí, video. Las puntuaciones disminuyeron significativamente con la edad, y el estudio encontró que “los adultos mayores pueden detectar contenido generado por IA solo moderadamente mejor que lanzar una moneda al aire”.

Los grupos de edad más jóvenes también estaban lejos de ser perfectos, encontró el estudio.

En octubre, Newsguard, una organización que califica la confiabilidad de los sitios web de noticias e información, encontró que Sora generó videos convincentes que avanzaron “afirmaciones demostrablemente falsas” el 80% de las veces cuando se le solicitó hacerlo.

“Estás viendo la capacidad de generar personas reales, y podrían ser figuras históricas”, añade Mahadevan. “Puedes visitar [Sora] y hacer que el creador de la tecnología, Sam Altman, diga [algo como] ‘Soy Sam Altman, fundé ChatGPT, y aquí está la razón por la que quiero que inviertas en mi criptomoneda’. En las manos correctas, la IA es un sueño. Pero lo que he visto es que la tecnología avanza más rápido de lo que creo que podemos ayudar a la gente a entender los peligros de ella”.

Mahadevan en realidad anima a la gente a usar Sora si solo para entenderla. Luego, dice, “Piensa en cómo la tecnología podría ser utilizada por operativos políticos. Es bastante espeluznante”.

Más allá de divertirse, ciertamente hay usos legítimos de la tecnología. Podrías, por ejemplo, hacer videos explicativos para mostrar cómo se hace algo.

A través de una función llamada Cameos, puedes aparecer en tus propios videos de Sora, o en videos de personas que apruebas usando tu imagen. Ellos, a su vez, pueden darte el visto bueno para usar sus Cameos. Se te da la opción de crear tu propio cameo cuando te registras por primera vez en la aplicación y luego decides si hacerlo disponible para toda la comunidad de Sora o mantenerlo para ti mismo. También puedes establecer preferencias sobre cómo se comporta y se ve tu cameo para otras personas.

Como ejercicio, usé mi propio Cameo para producir un clip inverosímil de mí mismo alimentando a un oso con M&M, y otro en el que interpreto una canción y un baile funky que no están a la altura de Fred Astaire.

Los términos de uso de OpenAI estipulan que no puedes representar lo que produces como generado por humanos cuando no lo es. Además, al crear un video, Sora no permite subir imágenes que contengan personas fotorrealistas.

Aun así, pueden ocurrir abusos.

La decisión de OpenAI de detener los videos de King se tomó a petición de la familia del líder de derechos civiles. En una declaración conjunta con la herencia de King, la compañía afirmó: "Aunque hay fuertes intereses de libertad de expresión al representar figuras históricas, OpenAI cree que las figuras públicas y sus familias deben tener el control sobre cómo se usa su imagen. Los representantes autorizados o los propietarios de la herencia pueden solicitar que su imagen no se use en cameos de Sora".

La compañía ha implementado otras medidas de seguridad. Los videos de Sora llevan una marca de agua visible de Sora que los identifica como tales, y OpenAI afirma que puede utilizar herramientas de búsqueda inversa de imágenes y audio para rastrear los orígenes de esos videos. OpenAI también dice que tiene otras medidas en marcha para asegurar que tus imágenes y audios se usen solo con tu consentimiento, el cual puedes revocar en cualquier momento.

Pero ninguna de las medidas de seguridad es infalible. Han surgido herramientas con el propósito específico de eliminar las marcas de agua de Sora. La gente también puede recortar las marcas de agua de los videos de Sora descargados o de los compartidos en redes sociales.

Además, incluso cuando aparecen etiquetas de advertencia, pueden pasarse por alto fácilmente.

Una lista de verificación para escépticos

Aunque se está volviendo cada vez más difícil distinguir qué es real, hay algunos pasos de sentido común que puedes tomar para ayudar a verificar la autenticidad de lo que estás viendo.

¿Quién o qué está detrás de un video? Haz clic en el perfil de la persona que compartió el video para descubrir sus inclinaciones políticas o si están tratando de venderte algún producto falso. Por ejemplo, si te encuentras con un video de una celebridad promocionando un suplemento de salud, trata de determinar si esa persona realmente promovería el producto.

Si se menciona una empresa, haz tu debida diligencia investigando información disponible públicamente y realizando una búsqueda en Google a la antigua usanza.

Examina los metadatos. Claro, esto puede requerir algo de esfuerzo, pero con suerte puedes acceder a los metadatos o la información contextual subyacente capturada sobre la imagen o video. Los metadatos incluyen el autor, la fecha de creación, el tamaño del archivo y otros datos que pueden proporcionar pistas sobre los orígenes de un contenido, pero no son visibles en la superficie, generalmente requiriendo herramientas especializadas y conocimientos técnicos para acceder a ellos. Una cosa que podrías intentar: Sube un video sospechoso a una herramienta de verificación en internet conocida como la Iniciativa de Autenticidad de Contenidos, ubicada en verify.contentauthenticity.org. En el sitio, haz clic en “Select a file from your device” (Seleccionar un archivo de tu dispositivo) para representar el video en cuestión, o arrastra y suelta el archivo en el espacio proporcionado. Luego puede decirte que un video fue generado por IA.

La herramienta es parte de un estándar técnico desarrollado por la Coalition for Content Provenance and Authenticity (C2PA), y está destinada a proporcionar una "etiqueta nutricional" digital. Las empresas detrás de esto incluyen Adobe, Amazon, Google, Meta, Microsoft, OpenAI y Sony.

"Estamos en la desafortunada situación donde tienes que hacer más tarea", dice Mahadevan.

Resiste la tentación de actuar por emoción y compartir el video. Muchos videos generados por Sora u otras IA se vuelven virales, pero ejerce moderación. Si algo te hace enojar o te piden que saques tu tarjeta de crédito o una aplicación de efectivo entre pares, detente. Esas son probablemente señales de alerta de que algo anda mal.

Confía en tu instinto. Al final, si algo parece raro, probablemente lo sea. Si lo que se anuncia en un video parece demasiado bueno para ser verdad, asume que ese es el caso.