La Comisión Federal de Comercio de Estados Unidos (FTC) anunció el jueves que está solicitando información a varias empresas, entre ellas Alphabet, Meta Platforms y OpenAI, que ofrecen chatbots orientados al consumidor basados en IA, sobre cómo estas empresas miden, prueban y monitorean los posibles impactos negativos de esta tecnología. La FTC quiere saber cómo estas empresas, incluyendo Character.AI, Snap, opens new tab y xAI, monetizan la interacción de los usuarios, procesan sus entradas, generan resultados en respuesta a sus consultas y utilizan la información obtenida a través de las conversaciones con los chatbots.
Las empresas de IA generativa han estado bajo escrutinio en las últimas semanas, después de que Reuters informara sobre políticas internas de Meta que permitían a los chatbots mantener conversaciones románticas con niños, y de que una familia demandara a OpenAI por el papel de ChatGPT en el suicidio de un adolescente.
Un portavoz de Character.AI afirmó que la empresa espera «ofrecer información sobre la industria de la IA de consumo y la rápida evolución tecnológica de este sector», y añadió que ha implementado numerosas funciones de seguridad durante el último año. La empresa se enfrenta a otra demanda por el suicidio de otro adolescente. Un portavoz de Snap declaró: «Compartimos el enfoque de la FTC en garantizar el desarrollo riguroso de la IA generativa y esperamos colaborar con la Comisión en políticas de IA que impulsen la innovación en EE.UU. y protejan a nuestra comunidad».
Un portavoz de Meta declinó hacer comentarios. Las demás empresas no respondieron de inmediato a las solicitudes de comentarios.
