OpenAI anunció el jueves que suspendió la posibilidad de que los usuarios generaran videos que se asemejaran al fallecido activista por los derechos civiles Martin Luther King Jr. utilizando su modelo de video con IA, Sora. La compañía afirma que añade esta protección a petición de los herederos del Dr. King, después de que algunos usuarios de Sora generaran «representaciones irrespetuosas» de su imagen.
«Si bien existe un fuerte interés en la libertad de expresión para representar a figuras históricas, OpenAI cree que las figuras públicas y sus familias deberían, en última instancia, tener control sobre cómo se utiliza su imagen», declaró OpenAI en una publicación en X desde su cuenta oficial de redacción. «Los representantes autorizados o los herederos pueden solicitar que su imagen no se utilice en los cameos de Sora».
La restricción llega tan solo unas semanas después del lanzamiento de Sora, su plataforma de video social, que permite a los usuarios crear videos realistas generados por IA que se asemejan a figuras históricas, a sus amigos y a usuarios que deseen que se recree su imagen en la plataforma. El lanzamiento ha suscitado un intenso debate público sobre los peligros de los videos generados por IA y cómo las plataformas deberían implementar medidas de seguridad en torno a esta tecnología. La Dra. Bernice King, hija del Dr. King, publicó en Instagram la semana pasada pidiendo que dejaran de enviarle videos de IA que se parecían a su padre. Se unió a la hija de Robin Williams, quien también pidió a los usuarios de Sora que dejaran de generar videos de IA de su padre.
El Washington Post informó a principios de esta semana que usuarios de Sora habían creado videos generados por IA del Dr. King haciendo ruidos de mono y luchando con otro ícono de los derechos civiles, Malcolm X. Al navegar por la aplicación Sora de OpenAI, es fácil encontrar videos groseros que se asemejan a otras figuras históricas, como el artista Bob Ross, la cantante Whitney Houston y el expresidente John F. Kennedy.
El licenciante del patrimonio del Dr. King no respondió de inmediato a la solicitud de comentarios.
Más allá de cómo Sora representa a los humanos, el lanzamiento también ha suscitado una oleada de preguntas sobre cómo las plataformas de redes sociales deberían gestionar los videos de IA de obras protegidas por derechos de autor. La aplicación Sora también está llena de videos que representan dibujos animados como Bob Esponja, South Park y Pokémon.
OpenAI ha añadido otras restricciones a Sora en las semanas posteriores a su lanzamiento. A principios de octubre, la compañía anunció que planeaba otorgar a los titulares de derechos de autor un control más preciso sobre los tipos de videos de IA que se pueden generar con su imagen. Esto podría haber sido una respuesta a la reacción inicial de Hollywood ante Sora, que no fue muy positiva.
A medida que OpenAI añade restricciones a Sora, la compañía parece estar adoptando un enfoque más pasivo en la moderación del contenido en ChatGPT. OpenAI anunció esta semana que permitiría a los usuarios adultos tener chats «eróticos» con ChatGPT en los próximos meses.
Con Sora, parece que OpenAI está lidiando con las preocupaciones que conlleva la generación de videos con IA. Algunos investigadores de OpenAI se enfrentaron públicamente a preguntas sobre la primera plataforma de redes sociales impulsada por IA de la compañía en los días posteriores a su lanzamiento y cómo dicho producto encaja en la misión de la organización sin fines de lucro. El director ejecutivo de OpenAI, Sam Altman, afirmó que la compañía sentía inquietud por Sora el día del lanzamiento.
Nick Turley, director de ChatGPT, me comentó a principios de mes que la mejor manera de dar a conocer una nueva tecnología es difundirla. Comentó que eso es lo que la empresa aprendió con ChatGPT, y lo que OpenAI también está descubriendo con Sora. Parece que la empresa también está aprendiendo a distribuir esta tecnología.
