Un usuario de Reddit que afirmaba ser un informante de una aplicación de entrega de comida ha sido desenmascarado como un impostor. El usuario publicó un mensaje viral en el que alegaba que la empresa para la que trabajaba estaba explotando a sus repartidores y usuarios.
“Siempre sospecháis que los algoritmos están manipulados en vuestra contra, pero la realidad es mucho más deprimente que las teorías conspirativas”, escribió el supuesto informante.
Afirmó estar borracho y en la biblioteca usando la conexión Wi-Fi pública, donde estaba escribiendo este largo alegato sobre cómo la empresa estaba aprovechando lagunas legales para robar las propinas y los salarios de los repartidores con total impunidad.
Estas afirmaciones eran, desafortunadamente, creíbles: DoorDash fue demandada por robar propinas a sus repartidores, lo que resultó en un acuerdo de 16,75 millones de dólares. Pero en este caso, el autor de la publicación se había inventado la historia.
La gente miente en internet constantemente. Pero no es tan común que este tipo de publicaciones lleguen a la página principal de Reddit, obtengan más de 87.000 votos positivos y se compartan en otras plataformas como X, donde obtuvieron otros 208.000 me gusta y 36,8 millones de impresiones.
Casey Newton, el periodista de Platformer, escribió que contactó con el usuario de Reddit, quien luego se puso en contacto con él a través de Signal. El usuario de Reddit compartió lo que parecía ser una foto de su credencial de empleado de UberEats, así como un «documento interno» de 18 páginas que describía el uso de la IA por parte de la empresa para determinar la «puntuación de desesperación» de los repartidores. Pero cuando Newton intentó verificar la legitimidad de la cuenta del informante, se dio cuenta de que estaba siendo víctima de un engaño con IA.
“Durante la mayor parte de mi carrera hasta ahora, el documento compartido por el informante me habría parecido muy creíble, en gran parte porque habría requerido mucho tiempo elaborarlo”, escribió Newton. “¿Quién se tomaría la molestia de crear un documento técnico detallado de 18 páginas sobre la dinámica del mercado solo para trolear a un periodista?. ¿Quién se molestaría en crear una credencial falsa?”.
Siempre ha habido personas malintencionadas que intentan engañar a los periodistas, pero la prevalencia de las herramientas de IA ha hecho que la verificación de hechos requiera aún más rigor.
Los modelos de IA generativa a menudo no detectan si una imagen o un vídeo son sintéticos, lo que dificulta determinar si el contenido es real. En este caso, Newton pudo usar Gemini de Google para confirmar que la imagen se había creado con una herramienta de IA, gracias a la marca de agua SynthID de Google, que resiste recortes, compresión, filtros y otros intentos de modificar una imagen.
Max Spero, fundador de Pangram Labs, una empresa que desarrolla una herramienta para detectar texto generado por IA, trabaja directamente con el problema de distinguir entre contenido real y falso.
“La cantidad de contenido basura generado por IA en internet ha empeorado mucho, y creo que parte de esto se debe al mayor uso de los modelos de lenguaje grandes (LLM), pero también a otros factores”, declaró Spero. “Hay empresas con millones de dólares en ingresos que pueden pagar por ‘interacción orgánica’ en Reddit, lo que en realidad significa que intentarán hacerse virales en Reddit con publicaciones generadas por IA que mencionan su marca”.
Herramientas como Pangram pueden ayudar a determinar si un texto ha sido generado por IA, pero, sobre todo en el caso del contenido multimedia, estas herramientas no siempre son fiables, e incluso si se demuestra que una publicación sintética es falsa, es posible que ya se haya vuelto viral antes de ser desmentida. Así que, por ahora, nos vemos obligados a navegar por las redes sociales como detectives, dudando de la autenticidad de todo lo que vemos.
Un ejemplo: cuando le dije a una editora que quería escribir sobre el “engaño viral de entrega de comida con IA que circuló en Reddit este fin de semana”, pensó que me refería a otra cosa. Efectivamente, hubo más de un “engaño viral de entrega de comida con IA en Reddit este fin de semana”.
