La empresa acepta un paquete de compromisos, que incluye abordar los problemas de «alucinaciones» del modelo de IA, con la Autoridad de Competencia italiana.

La empresa china de inteligencia artificial DeepSeek ha acordado lanzar la primera versión específica para un país de su chatbot, al tiempo que aborda el problema de las «alucinaciones» en sus modelos de IA para cumplir con los requisitos de los reguladores en Italia.

DeepSeek aceptó el paquete de compromisos tras una negociación de varios meses con la Autoridad de Competencia italiana, conocida como AGCM, que anteriormente había acusado a la startup con sede en Hangzhou de no advertir suficientemente a los usuarios del país sobre el riesgo de que su chatbot alucinara, es decir, que produjera información incorrecta o engañosa.

La AGCM anunció el lunes que su investigación sobre DeepSeek había concluido después de que la empresa se comprometiera a «hacer que sus divulgaciones sobre el riesgo de alucinaciones sean más transparentes, inteligibles e inmediatas».

En particular, el regulador elogió a DeepSeek por comprometerse a reducir la tasa de alucinaciones de sus modelos de IA mediante soluciones técnicas, calificándolo de «encomiable».

«[DeepSeek] ha declarado que el fenómeno de las alucinaciones en los modelos de IA es un desafío global que no se puede eliminar por completo», dijo la AGCM en un comunicado.

Si bien las alucinaciones ocurren en todos los servicios de IA generativa, el esfuerzo de DeepSeek por cumplir con las autoridades italianas, que se encuentran entre las más activas de Europa en la aplicación de las regulaciones de IA, parece ser un buen augurio para la futura expansión comercial de la empresa.