Dario Amodei, director ejecutivo de Anthropic, declaró el lunes que su empresa «nunca ha abogado por prohibir los modelos de pesos abiertos»; con ello, intentaba contrarrestar las críticas surgidas en el sector tecnológico, según las cuales el laboratorio de IA pretende ejercer un control excesivo sobre el futuro de la inteligencia artificial.

Amodei expuso su postura en una entrada de blog el lunes, después de que una coalición de empresas tecnológicas —entre ellas Nvidia, Microsoft, Meta y Palantir— publicara una carta a finales de la semana pasada instando a los legisladores a evitar «restricciones prematuras» sobre los modelos de pesos abiertos, los cuales los usuarios pueden descargar, modificar y ejecutar en su propia infraestructura. Las empresas emergentes chinas dominan actualmente este mercado, y algunos funcionarios gubernamentales han empezado a evaluar si dichos modelos deberían prohibirse o restringirse en Estados Unidos.

Anthropic es conocida principalmente por desarrollar una familia de modelos propietarios llamada Claude, que comercializa entre empresas. Su principal rival, OpenAI, también crea mayoritariamente modelos cerrados; sin embargo, esta última se sumó al apoyo de la carta sobre modelos de pesos abiertos tras su publicación, mientras que Anthropic no lo hizo.

«Para resumir mi postura y la de Anthropic: no hemos abogado ni abogamos por prohibir los modelos de pesos abiertos como categoría», escribió Amodei. «En su lugar, deberíamos centrarnos en impedir que los chips potentes caigan en manos autoritarias, detener la destilación a escala industrial y exigir pruebas de seguridad para todos los modelos con capacidad suficiente, ya sean abiertos o cerrados».

La destilación es un método de entrenamiento de IA mediante el cual se crea un modelo más pequeño y menos capaz utilizando los resultados de un modelo más grande que ya está en el mercado. El mes pasado, Anthropic envió una carta al Comité de Banca, Vivienda y Asuntos Urbanos del Senado de EE.UU. alegando que la empresa china Alibaba —desarrolladora de la familia de modelos Qwen— había llevado a cabo contra ella el «mayor ataque de destilación conocido» hasta la fecha.

En la carta del viernes, los firmantes afirmaron que las preocupaciones sobre la destilación ilícita debían abordarse mediante «marcos legales y comerciales específicos», una idea con la que Amodei se mostró de acuerdo el lunes.

Amodei señaló que también coincide con otros puntos de la carta: concretamente, que los modelos de pesos abiertos ofrecen a los clientes mayor control, amplían el acceso a la economía de la IA y fomentan la competencia en determinados casos de uso. No obstante, expresó su desacuerdo con la idea de que los modelos de pesos abiertos favorezcan a los defensores frente a los atacantes en el ámbito de la ciberseguridad, o que faciliten a los usuarios el desarrollo de medidas de protección. Aun así, Amodei dejó claro que no apoya la prohibición de los modelos de peso abierto.

«Las prohibiciones proteccionistas no abordarían mis preocupaciones más graves en materia de seguridad nacional», afirmó Amodei.