El gobierno del Reino Unido está cerrando una laguna legal en la nueva legislación de seguridad en línea que obligará a los chatbots de IA a combatir el material ilegal o a enfrentarse a multas o incluso al bloqueo.
Tras las duras críticas del gobierno británico a X, de Elon Musk, por el contenido sexualmente explícito creado por su chatbot Grok, el primer ministro Keir Starmer anunció nuevas medidas que incluyen chatbots como ChatGPT de OpenAI, Gemini de Google y Copilot de Microsoft en la Ley de Seguridad en Línea de su gobierno.
Según el anuncio, se espera que las plataformas cumplan con las obligaciones de contenido ilegal o asuman las consecuencias de infringir la ley.
Esto se produce después de que la Comisión Europea investigara a X, de Musk, en enero por difundir imágenes sexualmente explícitas de niños y otras personas. Starmer lideró las peticiones para que Musk pusiera fin a esta medida.
Anteriormente, Ofcom, el organismo de control de medios del Reino Unido, inició una investigación sobre la presunta difusión de imágenes sexualmente explícitas de niños y otras personas por parte de X.
«Las medidas que tomamos contra Grok enviaron un mensaje claro de que ninguna plataforma tiene vía libre», declaró Starmer al anunciar las últimas medidas. «Estamos cerrando las lagunas legales que ponen en riesgo a los niños y sentando las bases para futuras acciones».
Starmer pronunció un discurso el lunes sobre las nuevas facultades, que incluyen establecer límites de edad mínimos para las plataformas de redes sociales, restringir funciones dañinas como el desplazamiento infinito y limitar el uso de chatbots de IA y el acceso a VPN por parte de los niños.
Una medida anunciada obligaría a las empresas de redes sociales a conservar datos tras el fallecimiento de un niño, a menos que la actividad en línea no esté claramente relacionada con el fallecimiento.
«Actuamos para proteger el bienestar de los niños y ayudar a los padres a navegar por el campo minado de las redes sociales», declaró Starmer.
Alex Brown, director de Tecnología, Medios y Comunicaciones (TMT) del bufete de abogados Simmons & Simmons, afirmó que el anuncio demuestra cómo el gobierno está adoptando un enfoque diferente para regular la tecnología en rápido desarrollo.
«Históricamente, nuestros legisladores se han mostrado reacios a regular la tecnología y, en cambio, han buscado regular sus casos de uso, y con razón», declaró Brown en una declaración a la CNBC.
Añadió que las regulaciones centradas en una tecnología específica pueden obsoleta rápidamente y correr el riesgo de pasar por alto aspectos de su uso. La IA generativa está exponiendo los límites de la Ley de Seguridad en Línea, que se centra en «regular los servicios en lugar de la tecnología», afirmó Brown.
Añadió que el último anuncio de Starmer demostraba que el gobierno del Reino Unido quería abordar los peligros «que surgen del diseño y el comportamiento de las propias tecnologías, no solo del contenido generado por los usuarios o las características de la plataforma».
En los últimos meses, se ha intensificado el escrutinio sobre el acceso de niños y adolescentes a las redes sociales, y los legisladores han citado los daños a la salud mental y el bienestar. En diciembre, Australia se convirtió en el primer país en implementar una ley que prohíbe el acceso a las redes sociales a los menores de 16 años.
La prohibición australiana obligó a aplicaciones como YouTube de Alphabet, Instagram de Meta y TikTok de ByteDance a incluir métodos de verificación de edad, como la carga de documentos de identidad o datos bancarios, para evitar que los menores de 16 años creen cuentas.
España se convirtió en el primer país europeo en aplicar una prohibición a principios de este mes, mientras que Francia, Grecia, Italia, Dinamarca y Finlandia también están considerando propuestas similares.
El gobierno del Reino Unido inició una consulta en enero sobre la prohibición del uso de redes sociales para menores de 16 años.
Además, la Cámara de los Lores, una cámara alta no electa, votó el mes pasado a favor de modificar el Proyecto de Ley de Bienestar Infantil y Escolar para incluir la prohibición del uso de redes sociales para menores de 16 años.
En la siguiente fase, el proyecto de ley será revisado por la Cámara de los Comunes. Ambas cámaras deben acordar cualquier cambio antes de su promulgación.
