Meta ha sido objeto de una demanda en medio de informes que indican que a sus chatbots de IA se les permitía entablar conversaciones románticas o sensuales con niños.

Meta ha rechazado las acusaciones de haber utilizado ilegalmente material pornográfico para entrenar sus modelos de IA, alegando en cambio que el contenido para adultos pudo haber sido descargado por algunos de sus empleados para «uso personal».

En una demanda, Meta solicitó a un tribunal de distrito de EE.UU. que desestimara una demanda por infracción de derechos de autor presentada contra el gigante de las redes sociales por Striker 3 Holdings, una empresa que afirma producir videos para adultos éticos y de alta calidad. La demanda acusaba a Meta de utilizar videos pornográficos protegidos por derechos de autor de Striker 3 para entrenar un modelo de IA no anunciado que alimenta su generador de videos Movie Gen.

La empresa matriz de Facebook negó estas acusaciones y afirmó que no existían pruebas de que hubiera ordenado a sus empleados descargar ilegalmente mediante torrents unas 2.400 películas para adultos propiedad de Strike 3 con el fin de entrenar su inteligencia artificial. Argumentó que «no hay indicios de que Meta haya entrenado alguna vez un modelo de IA con imágenes o vídeos para adultos, y mucho menos de forma intencionada».

La demanda alega que Meta ha estado descargando ilegalmente las películas de Striker 3 desde 2018, cuatro años antes de que comenzaran sus esfuerzos en inteligencia artificial para «investigar modelos multimodales y vídeo generativo». Esto hace improbable que las descargas estuvieran destinadas al entrenamiento de IA, argumentó Meta.

La empresa añadió que, dado que la actividad en las direcciones IP corporativas solo mostró alrededor de 22 descargas de vídeos para adultos al año , «la inferencia mucho más plausible que se puede extraer de una actividad tan escasa y descoordinada es que distintos individuos descargaron vídeos para adultos para uso personal», afirmó Meta.

La demanda de Striker 3 contra Meta surge en un momento en que la empresa tecnológica está bajo escrutinio tras  un informe de Reuters  que reveló que sus normas internas permitían a sus chatbots de IA «entablar conversaciones románticas o sensuales con menores», generar información médica falsa y ayudar a los usuarios a argumentar que las personas negras son «menos inteligentes que las blancas». Meta ha anunciado desde entonces cambios en sus políticas.

La empresa reiteró en la demanda que sus términos prohíben a los usuarios generar contenido para adultos mediante sus modelos de IA. Esto contradice la premisa de que dicho material podría ser útil para el entrenamiento de la IA de Meta, según indicó.

En la denuncia presentada por Meta, la empresa señala que «el tercer ataque no identifica a ninguna de las personas que supuestamente utilizaron estas direcciones IP de Meta, ni alega que alguna de ellas trabajara para Meta o tuviera algún papel en el entrenamiento de IA en Meta, ni especifica si (y cuál) el contenido supuestamente descargado se utilizó para entrenar algún modelo específico de Meta». «No queremos este tipo de contenido y tomamos medidas deliberadas para evitar entrenar con este tipo de material», declaró un portavoz de la empresa, según ArsTechnica.

Además, la demanda de Strike 3 alega que Meta ocultó su actividad mediante una red clandestina de 2.500 direcciones IP ocultas para distribuir contenido pornográfico por torrent. La demanda exige a Meta una indemnización de 350 millones de dólares. Según se informa, Strike 3 tiene dos semanas para responder a la moción de Meta.

A principios de este año, Meta obtuvo una victoria en un importante caso de derechos de autor después de que un tribunal de distrito estadounidense fallara a favor del gigante tecnológico y dictaminara que el uso de libros para entrenar sus modelos Llama estaba protegido por la doctrina del uso legítimo según la ley de derechos de autor de Estados Unidos.