El artículo de Mark Zuckerberg titulado «El futuro es para todos» (*The Future is for Everyone*), publicado la semana pasada, expone una visión amplia de la superinteligencia personal basada en el empoderamiento individual, la invención y la distribución generalizada de las capacidades de la IA. En lugar de concentrar la IA avanzada en manos de gobiernos, corporaciones o un puñado de proveedores tecnológicos, Zuckerberg sostiene que los individuos deberían tener acceso a potentes agentes de IA alineados con sus propios objetivos y valores.
Es una visión ambiciosa, pero también exige a los lectores depositar una confianza considerable en Meta como una de las empresas capaces de hacerla realidad. Esto genera una tensión evidente. Meta es una de las plataformas tecnológicas más poderosas del mundo, construida en gran medida sobre la publicidad, la recopilación de datos a gran escala y servicios de consumo propios. La empresa que aboga en contra de la concentración excesiva del poder de la IA es, a su vez, una de las más capaces de acumular dicho poder.
Analicemos si la visión de Zuckerberg puede realmente poner más poder de IA en manos de los individuos sin otorgar a Meta aún más control.
La historia de Meta complica la visión de Zuckerberg.
El argumento de Zuckerberg a favor de distribuir el poder de la IA choca frontalmente con la propia historia de Meta. Facebook e Instagram son plataformas de enorme éxito, pero no son ejemplos de tecnología de consumo descentralizada. Meta controla sus algoritmos, interfaces, sistemas publicitarios, motores de recomendación y las normas que rigen el acceso a sus audiencias.
Dicha historia no invalida el argumento de Zuckerberg sobre la superinteligencia personal. Sin embargo, sí justifica el escepticismo respecto a quién controla, en última instancia, la infraestructura. Zuckerberg sostiene que concentrar la superinteligencia en un número reducido de empresas, gobiernos o individuos produciría resultados menos favorables para el resto de la sociedad.
La propia Meta es una de las pocas empresas que cuentan con el capital, la infraestructura informática, los modelos, los datos y la capacidad de distribución global necesarios para desarrollar IA a esta escala.
La cuestión importante, por tanto, no es si Meta apoya la IA de código abierto, sino cuánto control real conservarían los individuos sobre sus agentes, datos, modelos e identidades digitales si Meta se convirtiera en un proveedor principal de superinteligencia personal.
¿Quién controla el agente de IA personal?.
Zuckerberg imagina agentes personales capaces de comprender los objetivos, intereses, salud, finanzas, relaciones y otros aspectos de la vida de sus usuarios. Estos agentes operarían de forma continua, convirtiéndose potencialmente en intermediarios mucho más cercanos al usuario que las redes sociales o las aplicaciones de teléfonos inteligentes actuales.
Zuckerberg afirma que estos agentes incorporarán sólidas medidas de privacidad y seguridad, y Meta planea ofrecer un modo totalmente privado en el que ni siquiera la propia empresa pueda acceder a la información del usuario. Se trata de un compromiso importante. También pone de relieve la trascendencia que tendrá la arquitectura subyacente.
Si un agente de IA personal se convierte en la interfaz a través de la cual las personas se comunican, compran, trabajan, aprenden y toman decisiones, el control sobre dicho agente podría llegar a ser más importante que el control sobre los sistemas operativos o las plataformas sociales actuales. Los usuarios necesitarían tener un control efectivo sobre sus datos, comprender claramente cómo funciona el agente y disponer de medios prácticos para trasladar su información a otro lugar.
Una superinteligencia personal no puede empoderar realmente a los individuos si cambiar de proveedor implica renunciar al historial digital y al conocimiento que, en primer lugar, confieren al agente su carácter personal.
La IA personal genera nuevas formas de dependencia.
Zuckerberg tiene razón al señalar que concentrar la IA avanzada en unas pocas instituciones conlleva riesgos. Sin embargo, una distribución generalizada de la IA no elimina automáticamente la concentración de poder si los modelos, la infraestructura informática, los sistemas de identidad o las plataformas de distribución siguen bajo el control de un reducido número de empresas.
Los agentes de IA personales podrían ejercer una influencia extraordinaria, ya que su función iría más allá de la simple presentación de información. Podrían recomendar compras, redactar comunicaciones, gestionar agendas, realizar transacciones, filtrar información y, cada vez más, actuar en nombre del usuario. La empresa que gestione dicho intermediario ocuparía una posición de enorme poder entre los individuos y la economía digital.
Esto hace que la transparencia en torno a los incentivos sea especialmente importante. Si los agentes personales llegan a incorporar publicidad, recomendaciones comerciales u otros mecanismos de monetización, los usuarios necesitarán saber cuándo un agente actúa exclusivamente en su interés y cuándo las consideraciones comerciales influyen en sus recomendaciones.
Por tanto, el argumento de Zuckerberg sobre el equilibrio de poder debe ir más allá del simple acceso a la IA. Los individuos también necesitan tener un control efectivo sobre los agentes que actúan en su nombre.
La soberanía digital es importante.
En última instancia, la visión de Zuckerberg depende de si la superinteligencia personal otorga a los individuos un mayor control o si simplemente crea un intermediario más capaz entre las personas y el mundo digital.
Los usuarios deberían poder controlar qué información personal conservan sus agentes, entender cómo se utiliza dicha información, trasladar sus datos entre servicios y elegir alternativas sin enfrentarse a barreras técnicas o económicas injustificadas. Los modelos abiertos pueden contribuir a este objetivo, pero la apertura a nivel de modelo no garantiza por sí sola la autonomía del usuario.
Así pues, la versión más sólida de la visión de Zuckerberg requeriría algo más que una IA ampliamente accesible. Exigiría una portabilidad, privacidad, transparencia y control por parte del usuario que fueran efectivos en toda la arquitectura tecnológica.
Conclusión.
El manifiesto de Mark Zuckerberg plantea la pregunta fundamental adecuada: ¿quién debería controlar una IA cada vez más poderosa? Su respuesta —distribuir ampliamente ese poder entre los individuos en lugar de concentrarlo en unas pocas instituciones— resulta atractiva.
La incógnita pendiente es si Meta podrá ayudar a crear ese futuro sin acumular el tipo de poder concentrado contra el que el propio Zuckerberg advierte. Los modelos abiertos son parte de la respuesta, pero el verdadero empoderamiento individual también requerirá privacidad, portabilidad, transparencia, competencia y un control efectivo sobre los agentes de IA personales.
Zuckerberg sostiene que la superinteligencia puede poner más poder en manos de las personas. El éxito de esta visión no se medirá por el alcance de la distribución de la IA por parte de Meta, sino por el grado de control que las personas conserven una vez que dispongan de ella.
