El regulador británico actúa después de que los usuarios incitaran a la IA a crear deepfakes sexualmente íntimos, lo que aumenta el temor a un abuso generalizado de imágenes en la plataforma.
El regulador británico de medios inició el lunes una investigación sobre X, de Elon Musk, para determinar si los deepfakes sexualmente íntimos producidos por su chatbot de la IA de Grok incumplieron su deber de proteger a los ciudadanos del Reino Unido de contenido que podría ser ilegal.
Ha habido informes muy preocupantes sobre la cuenta del chatbot de inteligencia artificial Grok.
El regulador se encuentra bajo presión para actuar después de que el primer ministro Keir Starmer declarara que las imágenes producidas por Grok eran «repugnantes» e «ilegales».
El ex de Musk tenía que «controlar» a Grok, declaró Starmer el jueves, añadiendo que Ofcom contaba con el pleno apoyo del gobierno para tomar medidas.
Crear o compartir imágenes íntimas no consentidas o material de abuso sexual infantil, incluidas las imágenes sexuales generadas por IA, es ilegal en Gran Bretaña.
Además, las plataformas tecnológicas deben evitar que los usuarios británicos se encuentren con contenido ilegal y eliminarlo en cuanto tengan conocimiento de él.
Uno de estos casos es el de Julie Yukari, una música residente en Río de Janeiro. Tras publicar una foto suya con un vestido rojo en Nochevieja, descubrió que otros usuarios incitaban a Grok a desnudarla digitalmente. Grok obedeció, y pronto circularon imágenes de ella semidesnuda en la plataforma.
