El ejecutivo argumenta que necesitamos una nueva metáfora que se centre en la IA como una herramienta de progreso en lugar de una amenaza para el empleo.

Grok, el chatbot de IA propiedad de xAI, la empresa de Elon Musk, se enfrenta a una oleada de indignación después de que los usuarios le pidieran que creara imágenes de personas desnudas o con poca ropa a partir de fotografías reales, algunas de ellas de menores de edad.

Grok es un chatbot creado originalmente por xAI, la startup de inteligencia artificial de Elon Musk. A principios de este año, xAI adquirió X, la red social antes conocida como Twitter, que también controla Elon Musk, e integró la plataforma en su startup de IA.

Recientemente, algunos usuarios de X notaron que si tomaban una fotografía publicada en la plataforma y le pedían a Grok que eliminara la ropa de la imagen, este lo hacía y publicaba los resultados públicamente en X. Esto podría haber violado varias leyes, como la Ley TAKE IT DOWN, aprobada por el Congreso de Estados Unidos en abril y promulgada en mayo, que «penaliza la publicación no consentida de imágenes íntimas».

Los usuarios tomaron capturas de pantalla de las respuestas a sus solicitudes y las publicaron en las redes sociales, lo que llevó a los periodistas a escribir artículos escandalizados sobre el chatbot de IA, atribuyéndole intencionalidad, a pesar de que se trata de una colección de algoritmos informáticos que realizan cálculos con grandes cantidades de datos proporcionados por los usuarios de internet durante muchos años, y luego devuelven el resultado en forma de palabras que imitan las generadas por un ser humano.

Otro usuario escribió una solicitud diferente que hizo que Grok respondiera con una serie de palabras que parecían una disculpa. Luego, la cuenta de X de Grok publicó un tuit, o como se llame ahora, culpando a «fallos en las medidas de seguridad» y afirmando que los estaban «solucionando urgentemente». No está claro si este último tuit fue escrito por un humano o si fue otra respuesta generada por IA a otra solicitud.

En resumen: Grok no es un ser consciente. No tiene voluntad propia. Es un software informático creado y mantenido por humanos. Los creadores humanos de la mayoría de los bots de IA los programan para que no generen respuestas que sean obviamente ilegales, inmorales o que resulten desagradables para los usuarios que intentan atraer. En este caso, los creadores humanos de Grok parecen no haber logrado evitar que creara publicaciones que eliminan la ropa de personas reales en fotografías reales cuando se les solicita.

Esto puede ser intencional o no. Pero sé que Grok es bastante popular entre cierto grupo precisamente porque es más permisivo a la hora de mostrar imágenes explícitas que otros chatbots. Un ejemplo: hace un par de semanas, en un bar de mala muerte en un barrio costero de San Francisco, vi a dos tipos con pinta de universitarios mostrando algo en sus teléfonos con grandes sonrisas. Les pregunté qué estaban haciendo, y uno de ellos me tomó una foto y luego usó inteligencia artificial para generar imágenes que me mostraban en situaciones comprometedoras: en una aparecía besando a una mujer imaginaria, en otra estaba rodeado de dos bailarinas con poca ropa. Las imágenes eran extremadamente realistas. Les pregunté cómo lo habían hecho, qué herramienta estaban usando.

«Grok».

No sé adónde nos llevará todo esto. Pero las imágenes generadas por IA solo van a mejorar, ser más baratas y rápidas, y siempre habrá uno o más proveedores dispuestos a traspasar los límites. Eso es lo que hace la industria tecnológica: avanzar rápido y romper las reglas. Pedir perdón, no permiso. Que te detengan si pueden.

Pase lo que pase, la sociedad tendrá que adaptarse a las consecuencias.