El Senado estatal de California aprobó recientemente un nuevo proyecto de ley sobre seguridad de la IA, el SB 53, y lo envió al gobernador Gavin Newsom para su firma o veto.
Si todo esto les suena familiar, es porque Newsom vetó el año pasado otro proyecto de ley sobre seguridad de la IA, también redactado por el senador estatal Scott Wiener. Sin embargo, el SB 53 es más específico que el anterior SB 1047 de Wiener, y se centra en las grandes empresas de IA que generan más de 500 millones de dólares en ingresos anuales.
Tuve la oportunidad de hablar sobre el SB 53 con mis colegas Max Zeff y Kirsten Korosec en el último episodio del podcast Equity. Max cree que el nuevo proyecto de ley de Wiener tiene más posibilidades de convertirse en ley, en parte debido a su enfoque en las grandes empresas y a que cuenta con el respaldo de la empresa de IA Anthropic.
Max: ¿Por qué debería importarte la legislación sobre seguridad de la IA que se está aprobando en una cámara de California?. Estamos entrando en una era en la que las empresas de IA se están convirtiendo en las más poderosas del mundo, y este será potencialmente uno de los pocos límites a su poder.
Esto es mucho más limitado que la SB 1047, que recibió mucha oposición el año pasado. Pero creo que la SB 53 aún impone algunas regulaciones significativas a los laboratorios de IA. Les obliga a publicar informes de seguridad de sus modelos. Si tienen un incidente, básicamente los obliga a informarlo al gobierno. Y también, a los empleados de estos laboratorios, si tienen inquietudes, les da un canal para informar al gobierno y evitar la oposición de las empresas, a pesar de que muchas de ellas han firmado acuerdos de confidencialidad.
Para mí, esto parece un límite potencialmente significativo al poder de las empresas tecnológicas, algo que no hemos tenido en las últimas dos décadas.
Kirsten: En cuanto a tu punto sobre la importancia a nivel estatal, es importante considerar que se trata de California. Prácticamente todas las grandes empresas de IA, si no tienen su sede aquí, tienen una presencia importante en este estado. No es que otros estados no importen —no quiero recibir correos de la gente de Colorado ni de donde sea—, pero sí importa que se trate específicamente de California, porque es un verdadero centro de actividad de IA.
Mi pregunta, Max, es que parece que hay muchas excepciones y exclusiones. Es más limitado, pero ¿es más complejo que el proyecto de ley anterior?.
Max: En cierto modo, sí. Diría que la principal excepción de este proyecto de ley es que intenta no aplicarse a las pequeñas startups. Básicamente, una de las principales controversias en torno al último esfuerzo legislativo del senador Scott Weiner, representante de San Francisco y autor de este proyecto de ley, fue que muchos afirmaron que podría perjudicar al ecosistema de startups, algo con lo que muchos discrepan, ya que es un sector en auge de la economía californiana en este momento.
Este proyecto de ley se aplica específicamente a los desarrolladores de IA que generan más de 500 millones de dólares con sus modelos de IA. En realidad, apunta a OpenAI, Google DeepMind y a estas grandes empresas, no a una startup común y corriente.
Anthony: Según tengo entendido, si eres una startup pequeña, sí tienes que compartir cierta información de seguridad, pero no tanta.
También vale la pena hablar del panorama general en torno a la regulación de la IA y del hecho de que uno de los grandes cambios entre el año pasado y este es que ahora tenemos un nuevo presidente. La administración federal ha adoptado una postura mucho más favorable a la no regulación y a que las empresas puedan hacer lo que quieran, hasta el punto de haber incluido en los proyectos de ley de financiación una disposición que estipula que los estados no pueden tener su propia regulación de la IA.
No creo que nada de esto se haya aprobado hasta ahora, pero potencialmente podrían intentar conseguirlo en el futuro. Así que este podría ser otro frente en el que la administración Trump y los estados demócratas están luchando.
