Varias startups apuestan a que los modelos de IA encriptados atraerán a clientes empresariales preocupados por los riesgos de seguridad de los chats, incluso cuando grandes empresas de IA ofrecen modelos privados. Una de estas startups, NEAR AI, lanzó recientemente una plataforma que alberga populares frameworks de peso abierto que encriptan todas las indicaciones y respuestas, impidiendo que los proveedores de modelos vean esos chats, realicen capacitaciones sobre el material, los entreguen en un proceso judicial o los filtren accidentalmente.
«Algunas personas no se sienten cómodas conectando su correo electrónico o dando acceso directo a la IA desde su computadora», afirmó Illia Polosukhin, cofundadora de NEAR y coautora del artículo fundacional de Google «Attention Is All You Need». «Estamos limitando el uso de la IA debido a la falta de privacidad».
WhatsApp ofrece encriptación de extremo a extremo para algunas funciones de IA, como la asistencia para la escritura y los resúmenes de mensajes. La IA de Apple se ejecuta en el dispositivo cuando las tareas son lo suficientemente pequeñas, y para cálculos más grandes, la empresa no almacena ni visualiza los datos procesados a través de servidores, afirma.
El software de NEAR cifra localmente la solicitud del usuario al enviarla, de forma similar a cómo funcionan Signal o Threema. En un entorno seguro, el hardware de Nvidia o Intel que utiliza NEAR descifra automáticamente la consulta, el modelo la infiere y la devuelve cifrada. Es una alternativa interesante que podría atraer a usuarios que desean participar en la IA pero no confían en las empresas especializadas, así como a las empresas de blockchain y criptomonedas que valoran el cifrado.
Sin embargo, es difícil de vender a las empresas tradicionales cuando existen otras opciones de privacidad más comunes, como ejecutar modelos más pequeños localmente. En definitiva, incluso la IA cifrada requiere la confianza del usuario. Y en el caso de NEAR, los usuarios deben seguir confiando en que la tecnología informática de Nvidia e Intel esté diseñada para mantener la confidencialidad, tal como se anuncia.
