Una nueva organización sin fines de lucro está intentando facilitar que los trabajadores del sector tecnológico puedan denunciar problemas similares conectándolos con otros que han sido testigos de problemas similares.

Psst, que se pronuncia como un susurro, creó una plataforma que almacena información cifrada y relatos personales proporcionados por empleados que se sienten incómodos con su trabajo. La organización sin fines de lucro conecta a personas con quejas similares. Si deciden compartir información con un periodista, un congresista o una agencia reguladora, pueden presentar una historia más sólida como grupo. Si bien actualmente los empleados de Psst se encargan de la búsqueda de coincidencias, la organización está desarrollando un algoritmo que eventualmente lo hará de forma autónoma. Abogados que trabajan pro bono también están presentes en cada paso del proceso, asegurándose de que los posibles denunciantes conozcan sus derechos. La idea es «usar la tecnología para enfrentar a la tecnología», dijo la cofundadora y abogada Jennifer Gibson.

“Tenemos [una industria] posiblemente más poderosa que el gobierno, desarrollando una tecnología a un ritmo vertiginoso sin barreras de seguridad y con trabajadores que podrían no tener buenas opciones para dar la alarma”, declaró. “Si nadie va a regular, necesitaremos que personas de adentro nos digan qué está pasando”.

A medida que los sistemas de IA se vuelven cada vez más potentes y disruptivos, también son más opacos que muchas de las tecnologías que los precedieron. Los mensajes sobre sus capacidades están cuidadosamente seleccionados, mientras que las elevadas inversiones y la presión de la Casa Blanca para cumplir con los objetivos incentivan a las empresas a presentar una imagen idealista de sus tecnologías y ocultar cualquier posible problema. Psst forma parte de un creciente esfuerzo por encontrar métodos alternativos para promover la seguridad de la IA y mantener a las empresas bajo control.

Suresh Venkatasubramanian, quien trabajó en la Oficina de Política Científica y Tecnológica de la Casa Blanca durante la administración Biden, afirmó que el impulso para desarrollar la IA y la falta de una supervisión sólida dificultan el seguimiento de los posibles daños. «Aún estamos en las primeras etapas de comprender cómo funcionan muchos de estos sistemas, y esa información es crucial para comprender su eficacia», declaró a Semafor. «Ante la falta de capacidad para regular estos sistemas, no disponemos de muchos mecanismos para investigar a fondo. Los denunciantes son una forma de obtener información».

PASO ATRÁS.

El rápido desarrollo de la IA ha dificultado que los empleados compartan información crítica, incluso cuando las decisiones internas de la empresa condicionan el futuro del público. Sin una regulación federal de la IA y con normas estatales limitadas, la protección de los denunciantes sigue siendo poco clara y, a menudo, solo se aplica si una empresa infringe una ley específica, la mayoría de las cuales son anteriores al auge de la IA. Los salarios exorbitantes también aumentan el riesgo personal de denunciar.

Mientras tanto, algunas empresas tecnológicas han tomado medidas drásticas contra las filtraciones. Meta despidió recientemente a unos 20 empleados por compartir información interna con periodistas y demandó a una exejecutiva por sus memorias. Las empresas también aíslan cada vez más la información, lo que dificulta que una sola persona tenga una visión completa de los posibles daños.

Al conectar a empleados del sector tecnológico con inquietudes similares y ofrecer asesoramiento legal gratuito, Psst busca superar algunas de estas barreras. Muchos trabajadores desean compartir su información de forma anónima y conservar su empleo, afirmó Gibson, y los abogados pueden recomendar con quién hablar según las expectativas del denunciante.

SABER MÁS.

Fundada el año pasado, Psst tiene cinco empleados y una red de abogados que trabajan pro bono o en contingencia si un trabajador emprende acciones legales y gana una compensación monetaria, por ejemplo, si lo despiden por plantear inquietudes internas.

Es uno de los pocos grupos que ayuda a los denunciantes a compartir información con el público. SecureDrop, gestionado por la Fundación para la Libertad de Prensa, conecta a fuentes anónimas con periodistas. Signals Network ofrece apoyo legal, alojamiento y atención de salud mental. El sistema de emparejamiento de denunciantes de Psst les ayuda a hablar en grupo, lo que protege mejor la identidad de las personas.

La financiación de Psst proviene de una fundación tecnológica privada y de donantes individuales, según la cofundadora y directora Rebecca Petras. Se creó el primer prototipo con una línea de denuncia de código abierto llamada Hushline y ahora se está desarrollando una versión actualizada con un laboratorio tecnológico universitario.

ESPACIO PARA EL DESACUERDO.

Si bien las plataformas que ayudan a publicar estas cuentas pueden contribuir a una tecnología más segura, las empresas aún necesitan implementar mecanismos internos de denuncia sólidos para abordar las inquietudes de los empleados antes de que se conviertan en denunciantes. Muchas empresas tecnológicas ofrecen líneas de denuncia anónimas, pero si los empleados sienten que sus quejas fueron atendidas adecuadamente es otra cuestión.

NOTABLE.

Contar con un sistema de apoyo de compañeros con inquietudes similares puede ayudar a aliviar la presión personal y social que conlleva compartir públicamente información sensible, especialmente cuando un empleado decide revelar su identidad. Un estudio realizado en los Países Bajos muestra que la mayoría de los denunciantes sufren ansiedad grave, depresión y otros problemas de salud mental.