- OpenAI lanzará a finales de mes una experiencia ChatGPT dedicada a usuarios menores de 18 años.
- La startup de IA y otras empresas tecnológicas se enfrentan a una investigación de la FTC sobre cómo sus chatbots de IA podrían afectar negativamente a niños y adolescentes.
- OpenAI también está desarrollando una tecnología para predecir mejor la edad del usuario.
OpenAI anunció el martes el lanzamiento de una experiencia ChatGPT dedicada con control parental para usuarios menores de 18 años, como parte de los esfuerzos de la compañía de inteligencia artificial para mejorar la protección de la seguridad de los adolescentes.
Cuando OpenAI identifica que un usuario es menor de edad, se le redirige automáticamente a una experiencia ChatGPT adaptada a su edad, que bloquea el contenido gráfico y sexual, y que puede involucrar a las fuerzas del orden en casos excepcionales de angustia aguda, según informó la compañía.
OpenAI también está desarrollando una tecnología para predecir mejor la edad del usuario, pero ChatGPT ofrecerá por defecto la experiencia para menores de 18 años si hay incertidumbre o información incompleta.
Las actualizaciones de seguridad de la startup llegan después de que la Comisión Federal de Comercio (FTC) iniciara recientemente una investigación a varias empresas tecnológicas, incluida OpenAI, sobre cómo los chatbots de IA como ChatGPT podrían afectar negativamente a niños y adolescentes.
La agencia afirmó que desea comprender las medidas que estas empresas han tomado para «evaluar la seguridad de estos chatbots cuando actúan como acompañantes», según un comunicado.
OpenAI también compartió cómo ChatGPT manejará «situaciones delicadas» el mes pasado, después de que una familia presentara una demanda que culpó al chatbot por el suicidio de su hijo adolescente.
“Priorizamos la seguridad por encima de la privacidad y la libertad de los adolescentes; esta es una tecnología nueva y potente, y creemos que los menores necesitan una protección significativa”, escribió Sam Altman, director ejecutivo de OpenAI, en una entrada de blog el martes.
En agosto, OpenAI anunció el lanzamiento de controles parentales para ayudarles a comprender y controlar cómo sus hijos adolescentes usan ChatGPT. OpenAI compartió más detalles sobre estos controles parentales el martes y afirmó que estarán disponibles a finales de mes.
Los próximos controles de la compañía permitirán a los padres vincular su cuenta de ChatGPT con la de sus hijos adolescentes por correo electrónico, establecer horarios de inactividad para cuando sus hijos adolescentes no puedan usar el chatbot, gestionar las funciones que se deshabilitarán, guiar la respuesta del chatbot y recibir notificaciones si el adolescente se encuentra en una situación de angustia grave.
ChatGPT está dirigido a usuarios mayores de 13 años, afirmó OpenAI.
“Son decisiones difíciles, pero tras hablar con expertos, esto es lo que consideramos mejor y queremos ser transparentes en nuestras intenciones”, escribió Altman.
