Los responsables de formular políticas corren el riesgo de repetir los errores cometidos al intentar regular las redes sociales en su afán por proteger a los niños de los posibles daños que plantean los chatbots de inteligencia artificial (IA), según un nuevo informe de un centro de estudios de Washington D. C.
Al buscar soluciones para los daños —reales o supuestos— que sufren los niños en las redes sociales, los legisladores recurrieron a políticas defectuosas (como la verificación de edad y las prohibiciones totales) que privaron a los menores de los beneficios de estas plataformas en lugar de abordar directamente sus riesgos; así lo sostuvo el informe publicado por la Information Technology & Innovation Foundation (ITIF).
El informe, redactado por el analista de políticas Alex Ambrose, sostiene que los legisladores están replicando ahora esa misma estrategia con los chatbots de inteligencia artificial (IA), es decir, sistemas que procesan las entradas de los usuarios para responder mediante una conversación simulada.
Sin embargo, dicha estrategia no funciona ni para la IA ni para los chatbots, afirma el documento.
Al mismo tiempo, señala que sucesos recientes y lamentables —como suicidios infantiles, tiroteos violentos y la radicalización de jóvenes— ponen de manifiesto la clara necesidad de contar con regulaciones eficaces para los chatbots en lo que respecta a la seguridad de los niños en línea.
No obstante, trasladar a los chatbots los marcos normativos ineficaces de las redes sociales no resuelve adecuadamente las preocupaciones sobre la seguridad infantil y, como mínimo, genera molestias a los usuarios adultos, añade el texto.
Centrarse en salvaguardas específicas.
El informe argumenta que la mejor manera de abordar la seguridad de los chatbots para los niños es centrarse en la transparencia, las salvaguardas específicas y el empoderamiento de los padres.
«Centrarse en la transparencia, las salvaguardas específicas y en dar a los padres mayor control hace que los chatbots sean más seguros, ya que estos enfoques permiten abordar daños documentados —como conversaciones que profundizan en temas de daño físico o mental extremo y funciones que propician relaciones parasociales poco saludables con los chatbots— sin restringir excesivamente el acceso a la tecnología», declaró Ambrose.
La transparencia permite a los padres saber qué puede hacer el chatbot y qué datos recopila, explicó Rohit Poduval, ingeniero de software sénior en Amazon y miembro del Integrity Institute, un centro de estudios global integrado por profesionales del sector tecnológico con experiencia práctica en la identificación y mitigación de daños en redes sociales y plataformas de Internet.
«Las salvaguardas específicas abordan daños concretos sin bloquear el uso legítimo», dijo. «Por ejemplo, se puede prohibir que un chatbot simule relaciones románticas con menores sin impedir que ayude con las tareas escolares».
«Los controles parentales permiten a las familias establecer límites acordes con el nivel de madurez de sus hijos», señaló. «Estos tres elementos en conjunto sitúan el control donde corresponde: en manos de padres informados, con un acceso adecuado y reglas claras para las plataformas».
«Por supuesto, es importante contar con transparencia y medidas de protección específicas para los chatbots. Sin embargo, es fundamental que los padres comprendan, en primer lugar, cuáles son los riesgos a los que deben prestar atención», añadió Jeffrey Nadrich, fundador y abogado director del bufete Nadrich Accident Injury Lawyers en Los Ángeles.
«En muchos casos, los padres no tienen idea de que sus hijos están manteniendo conversaciones de varias horas con un chatbot en línea», declaró.
Los controles parentales tienen límites.
Madeline Pendley, abogada del bufete Rafferty Domnick Cunningham & Yaffa en Palm Beach Gardens (Florida), señaló que, si bien la transparencia, las medidas de protección específicas y el empoderamiento de los padres pueden hacer que los chatbots sean más seguros, estas medidas solo son efectivas cuando las plataformas realmente crean, mantienen y exigen el uso de dichas herramientas.
Por ejemplo, el sistema de identificación de menores propuesto en el informe es una herramienta excelente que las plataformas de IA deberían implementar. «Sin embargo, en la práctica, sigue recayendo sobre los padres la responsabilidad de señalar activamente el dispositivo», comentó.
«En teoría, esta podría ser una de las muchas funciones necesarias para prevenir daños derivados de la IA, pero por sí sola no basta», argumentó ella.
«Esto ocurre con muchos de los controles parentales en plataformas web», señaló. «Son fáciles de eludir o los padres desconocen cómo aplicarlos».
«Empoderar a los padres y fomentar la alfabetización digital es sin duda crucial», añadió, «pero la responsabilidad de garantizar que las plataformas sean seguras no recae en los padres, sino en los desarrolladores de dichas plataformas».
Demasiada responsabilidad para los padres.
La transparencia y las medidas de protección específicas son, sin duda, las prioridades correctas, coincidió Whitney Ray Di Bona, abogada y defensora de la seguridad del consumidor en Drugwatch, un sitio web centrado en medicamentos recetados peligrosos y dispositivos médicos defectuosos. «Donde discrepo de este informe es en el peso que otorga a la supervisión parental como solución principal», declaró.
«En mi opinión, cargar a los padres con la responsabilidad de proteger a sus hijos de los peligros de los chatbots de IA demuestra una falta de comprensión fundamental de la realidad que viven la mayoría de las familias», argumentó.
«Muchos padres no saben que sus hijos utilizan estas herramientas», continuó. «Muchos no comprenden del todo qué son los chatbots de IA ni cómo funcionan. Y muchos, sencillamente, no están en condiciones de supervisar el uso de tecnología de sus hijos las 24 horas del día».
«Eso no es un fallo en la crianza», afirmó. «Es una realidad que los responsables políticos y las empresas deben tener en cuenta».
Los controles parentales por sí solos no son suficientes, añadió Alex Zeig, director ejecutivo y fundador de BlueCheck, una empresa de verificación de identidad y edad con sede en Austin, Texas. «Un padre puede restringir un dispositivo doméstico y, aun así, ver que su hijo consume contenido sin moderación en un Chromebook escolar», explicó. «Eso no es un fallo de los padres, ya que no pueden ganar una partida que abarca todos los dispositivos, redes y plataformas con los que su hijo pueda encontrarse».
«Aquí es donde creo que la verificación de edad cobra importancia», continuó. «Si una plataforma sabe que está interactuando con un menor de 12 años en lugar de con una persona de 32, debe modificar realmente el contenido que le ofrece a ese niño. La verificación de edad no solo ayuda a los padres; cambia quién asume la responsabilidad».
Las restricciones de amplio alcance suscitan preocupaciones sobre la privacidad y la libertad de expresión.
El informe de la ITIF también sostuvo que muchos proyectos de ley destinados a proteger a los niños de los riesgos asociados a los chatbots cometen el error de trasladar sin más enfoques ineficaces propios de las redes sociales, tales como la verificación de edad, las restricciones de contenido y las prohibiciones generalizadas.
«Estas medidas son ineficaces porque, al intentar proteger a los niños de posibles daños, restringen el acceso a la información tanto de los menores como de los adultos», explicó Ambrose, de la ITIF.
«Asimismo, arrebatan la capacidad de decisión a los padres, quienes suelen estar mejor preparados para determinar qué chatbots de IA son adecuados para sus hijos, basándose en su propio conocimiento sobre la madurez de estos, el nivel de supervisión adulta y el uso previsto», añadió.
El nuevo informe del ITIF sostiene acertadamente que las prohibiciones generalizadas, las restricciones de contenido y la verificación de edad para los chatbots son ineficaces, contraproducentes y plantean problemas relacionados con la Primera Enmienda; así lo afirmó David Inserra, investigador especializado en libertad de expresión y tecnología del Instituto Cato, un centro de estudios con sede en Washington D. C.
«Los requisitos de verificación de edad masiva para la IA plantean importantes preocupaciones sobre la privacidad que, además, inhiben la libertad de expresión», declaró. «Tal como argumenta el informe del ITIF, exigir una identificación, datos biométricos u otra forma de información de identificación genera riesgos para la privacidad, ya que obliga a las empresas de IA a recopilar y almacenar datos sobre las personas que utilizan sus servicios».
«Las restricciones de contenido y las prohibiciones generalizadas también plantean problemas más directos para la libertad de expresión», continuó. «Exigir a las empresas que protejan a los niños de contenidos violentos, de acoso, que provoquen depresión o ansiedad, o que sean peligrosos para los menores, constituye una censura basada en el contenido de dudosa constitucionalidad, y con razón. Los estadounidenses no se ponen de acuerdo sobre qué tipos de contenido son perjudiciales o peligrosos para los niños».
Desarrolladores eximidos de responsabilidad.
Entre las recomendaciones más contundentes del informe se encuentran las relativas a los controles y la educación, según Giselle Fuerte, fundadora y directora ejecutiva de Being Human With AI. Estas incluyen otorgar a los padres control sobre características como el lenguaje adulador y fomentar la alfabetización digital para que los niños puedan aplicar sus habilidades de pensamiento crítico —aún en desarrollo— al interactuar con los chatbots.
Los controles parentales pueden suplir las carencias cuando los niños aún no están cognitivamente preparados para gestionar los riesgos de la misma manera que los adultos, añadió Fuerte, cuya empresa —con sede en Spokane, Washington— se centra en la educación sobre la ética de la inteligencia artificial.
«Sin embargo, este enfoque exime de responsabilidad a los desarrolladores», dijo. «Toma los controles de un sistema de predicción de texto sumamente impredecible —que cuenta con un razonamiento de ‘caja negra’ tan opaco que existe todo un campo de investigadores de IA dedicado a descifrarlo— y los pone en manos de padres ya sobrecargados, exigiéndoles que actúen como los últimos guardianes de un sistema implicado en la muerte de niños como Adam Raine. Es una carga pesada para trasladar al consumidor».
«El informe no llega lo suficientemente lejos a la hora de exigir restricciones de diseño que obliguen a los desarrolladores a lanzar productos seguros desde el principio, en lugar de dejar en manos de los padres la tarea de asegurarse de que sus hijos no se corten con el filo irregular de un defecto de diseño», señaló. Con las protecciones adecuadas, los chatbots y otras tecnologías basadas en la IA pueden ser herramientas beneficiosas para los niños, señaló Jessica Bregant, profesora adjunta de Derecho y docente asociada del Departamento de Psicología de la Universidad de Houston.
«El beneficio más evidente es adquirir soltura con una tecnología que, al parecer, desempeñará un papel importante en su vida laboral y personal en el futuro», declaró.
«Me resultan alentadores los nuevos estudios que indican que interactuar con chatbots de IA puede favorecer el aprendizaje en lugar de sustituirlo, como muchos temían», añadió. «Los niños poseen una gran flexibilidad de pensamiento y aprendizaje, y es probable que desarrollen formas de interactuar con la IA que aún no podemos ni imaginar».
«Para bien o para mal, esta tecnología forma parte de la cultura, y capacitar a los niños para utilizarla de manera responsable supondrá un reto tanto para los padres como para los educadores», afirmó.
El nuevo informe del ITIF sostiene acertadamente que las prohibiciones generalizadas, las restricciones de contenido y la verificación de edad para los chatbots son ineficaces, contraproducentes y plantean problemas relacionados con la Primera Enmienda; así lo afirmó David Inserra, investigador especializado en libertad de expresión y tecnología del Instituto Cato, un centro de estudios con sede en Washington D. C.
«Los requisitos de verificación de edad masiva para la IA plantean importantes preocupaciones sobre la privacidad que, además, inhiben la libertad de expresión», declaró. «Tal como argumenta el informe del ITIF, exigir una identificación, datos biométricos u otra forma de información de identificación genera riesgos para la privacidad, ya que obliga a las empresas de IA a recopilar y almacenar datos sobre las personas que utilizan sus servicios».
«Las restricciones de contenido y las prohibiciones generalizadas también plantean problemas más directos para la libertad de expresión», continuó. «Exigir a las empresas que protejan a los niños de contenidos violentos, de acoso, que provoquen depresión o ansiedad, o que sean peligrosos para los menores, constituye una censura basada en el contenido de dudosa constitucionalidad, y con razón. Los estadounidenses no se ponen de acuerdo sobre qué tipos de contenido son perjudiciales o peligrosos para los niños».
Desarrolladores eximidos de responsabilidad.
Entre las recomendaciones más contundentes del informe se encuentran las relativas a los controles y la educación, según Giselle Fuerte, fundadora y directora ejecutiva de Being Human With AI. Estas incluyen otorgar a los padres control sobre características como el lenguaje adulador y fomentar la alfabetización digital para que los niños puedan aplicar sus habilidades de pensamiento crítico —aún en desarrollo— al interactuar con los chatbots.
Los controles parentales pueden suplir las carencias cuando los niños aún no están cognitivamente preparados para gestionar los riesgos de la misma manera que los adultos, añadió Fuerte, cuya empresa —con sede en Spokane, Washington— se centra en la educación sobre la ética de la inteligencia artificial.
«Sin embargo, este enfoque exime de responsabilidad a los desarrolladores», dijo. «Toma los controles de un sistema de predicción de texto sumamente impredecible —que cuenta con un razonamiento de ‘caja negra’ tan opaco que existe todo un campo de investigadores de IA dedicado a descifrarlo— y los pone en manos de padres ya sobrecargados, exigiéndoles que actúen como los últimos guardianes de un sistema implicado en la muerte de niños como Adam Raine. Es una carga pesada para trasladar al consumidor».
«El informe no llega lo suficientemente lejos a la hora de exigir restricciones de diseño que obliguen a los desarrolladores a lanzar productos seguros desde el principio, en lugar de dejar en manos de los padres la tarea de asegurarse de que sus hijos no se corten con el filo irregular de un defecto de diseño», señaló. Con las protecciones adecuadas, los chatbots y otras tecnologías basadas en la IA pueden ser herramientas beneficiosas para los niños, señaló Jessica Bregant, profesora adjunta de Derecho y docente asociada del Departamento de Psicología de la Universidad de Houston.
«El beneficio más evidente es adquirir soltura con una tecnología que, al parecer, desempeñará un papel importante en su vida laboral y personal en el futuro», declaró.
«Me resultan alentadores los nuevos estudios que indican que interactuar con chatbots de IA puede favorecer el aprendizaje en lugar de sustituirlo, como muchos temían», añadió. «Los niños poseen una gran flexibilidad de pensamiento y aprendizaje, y es probable que desarrollen formas de interactuar con la IA que aún no podemos ni imaginar».
«Para bien o para mal, esta tecnología forma parte de la cultura, y capacitar a los niños para utilizarla de manera responsable supondrá un reto tanto para los padres como para los educadores», afirmó.
