Mistral AI ahora puede recordar tus datos personales y utilizarlos para ofrecer mejores indicaciones. También cuenta con nuevos conectores MCP que las empresas pueden implementar para conectar a sus usuarios con servicios tecnológicos de terceros.
La empresa de IA con sede en París lanzó el martes una versión beta de Memories para Le Chat, la respuesta de la compañía a ChatGPT y un juego de palabras felino en francés.
La retención de datos, ya disponible en competidores como OpenAI y Anthropic, permite que el chatbot de IA de la compañía sea más útil al almacenar las preferencias establecidas y detalles sobre interacciones pasadas para guiar las respuestas futuras.
Este tipo de personalización plantea el mismo problema potencial de privacidad que la búsqueda y la publicidad. La exposición inadvertida de indicaciones de usuario que contienen información personal ya ha planteado problemas para varios servicios de IA y ha afectado a los usuarios. Quizás porque Mistral opera desde Europa, donde existe una regulación de datos sustancial, la empresa ha publicado una explicación detallada en su Política de Privacidad y documentación sobre cómo podría usar dichos datos y las opciones que tienen los clientes para controlarlos.
«Si incluye datos sensibles en su entrada, como información de salud, estos datos podrían almacenarse como un Recuerdo para brindarle respuestas más relevantes y personalizadas», explica la documentación de la empresa, señalando que Recuerdos es un servicio de suscripción voluntaria.
Por ejemplo, la empresa sugiere que si le dice a Le Chat que tiene alergia al cacahuete, «Le Chat podría recordarlo para excluirlo de las sugerencias de recetas».
Observamos que existe una diferencia significativa entre «podría recordar» y «recordará». La publicación de la empresa sobre el tema sugiere que la probabilidad de que Le Chat recupere con precisión la información guardada es del 86%.
Esto no es del todo seguro. Por lo tanto, quienes tengan alergia al cacahuete deberían pensarlo dos veces antes de confiar en Le Chat para pedir comida a domicilio (o podrían simplemente indicar «sin cacahuetes» en el mensaje del restaurante).
Este escenario es ahora un poco más plausible gracias al lanzamiento por parte de Mistral de más de 20 conectores seguros basados en MCP que permiten a los clientes de Le Chat conectarse a herramientas empresariales.
MCP significa Protocolo de Contexto de Modelo (MCP). Es una forma en que los desarrolladores permiten que los modelos de IA interactúen con servicios de terceros. Los modelos de IA así habilitados suelen denominarse «agentes», aunque no han funcionado del todo bien.
Si la palabra «seguro» realmente se aplica en este caso, sería fantástico. Sin embargo, las implementaciones de MCP hasta la fecha, como el servidor MCP SQLite de Anthropic o el servicio MCP del editor de código de IA Cursor, se han quedado cortas. La empresa de seguridad Pynt descubrió recientemente que uno de cada 10 plugins de MCP es totalmente explotable, y tener tres de estos plugins elevaba el riesgo de explotación a más del 50%.
No obstante, Mistral afirma que «los usuarios administradores pueden controlar con confianza qué conectores están disponibles para cada usuario en su organización, con autenticación en nombre, lo que garantiza que los usuarios solo accedan a los datos a los que tienen permiso».
Los conectores disponibles incluyen: Asana, Atlassian, Box, Brevo, Cloudflare, Databricks (próximamente), GitHub, Linear, Monday.com, Notion, PayPal, Pinecone, Plaid, Prisma, Postgres, Salesforce (próximamente), Sentry, Snowflake (próximamente), Square, Stripe y Zapier.
