Un ejecutivo de Búsqueda de Google dijo que una de las mayores oportunidades de la compañía en IA radica en su capacidad de conocer mejor al usuario y personalizar sus respuestas.
La promesa es una IA excepcionalmente útil porque te conoce. Pero el riesgo es que la IA se sienta más como vigilancia que como servicio.
En un episodio reciente del podcast Limitless, Robby Stein, vicepresidente de productos de Búsqueda de Google, explicó que la IA de Google tiende a responder más consultas que buscan consejos o recomendaciones, y es más probable que este tipo de preguntas se beneficien de respuestas más subjetivas.
“Creemos que nuestra IA tiene una gran oportunidad de conocerte mejor y, gracias a ese conocimiento, ser de gran ayuda”, dijo Stein en la entrevista. “Y uno de los temas que abordamos en la conferencia para desarrolladores de Google I/O fue cómo la IA puede comprender mejor a través de servicios conectados como Gmail”.
Google lleva tiempo integrando IA en sus aplicaciones, desde cuando Gemini aún se conoció como Bard. Recientemente, comenzó a extraer datos personales para otro producto de IA: Gemini Deep Research. Gemini ya está integrado en aplicaciones de Google Workspace como Gmail, Calendario y Drive.
Pero a medida que Google integra más datos personales en su IA (como correos electrónicos, documentos, fotos, historial de ubicación y comportamiento de navegación), la línea entre un asistente útil y uno intrusivo se difumina cada vez más. Y, a diferencia de los servicios de suscripción voluntaria, evitar la recopilación de datos de Google puede volverse más difícil a medida que la IA se vuelve fundamental en sus productos.
El argumento de Google es que esta profunda personalización hace que la IA sea mucho más útil. La idea es que la tecnología de IA de Google pueda aprender de las interacciones del usuario en sus diversos servicios y luego usar ese conocimiento para crear recomendaciones más personalizadas. Por ejemplo, si detecta que a un usuario le gustan determinados productos o marcas, las respuestas de la IA podrían favorecerlos en sus recomendaciones.
Eso, dijo Stein, sería «mucho más útil» que simplemente mostrar a los usuarios una lista más genérica de los productos más vendidos en una categoría determinada. «Esa es, creo, la visión: crear algo que realmente te aporte conocimiento, específicamente».
Esta idea no difiere mucho de cómo los «Otros» de la exitosa serie de Apple TV «Pluribus» han absorbido el conocimiento mundial, incluyendo detalles íntimos de las personas. Cuando el sistema interactúa con la protagonista de la serie, Carol, utiliza esos datos para personalizarlo todo: cocinar sus platos favoritos, adoptar una cara familiar para comunicarse con ella y anticiparse a sus necesidades.
Pero a Carol no le gustan las respuestas personalizadas; las encuentra invasivas. Nunca dio su consentimiento para compartir sus datos con la mente colmena, pero esta la conoce mejor de lo que le gustaría.
De manera similar, parece que evitar los métodos de consumo de datos de Google será cada vez más difícil en la era de la IA y, si Google no logra el equilibrio adecuado, los resultados podrían parecer más espeluznantes que útiles.
(Para ser claros: Google te permite controlar las aplicaciones que usa Gemini para que su IA tenga más conocimiento sobre ti específicamente: está en “Aplicaciones conectadas” en la configuración de Gemini).
Si compartes datos de la aplicación con Gemini, Google afirma que los guardará y usará de acuerdo con la política de privacidad de Gemini. Esta política recuerda a los usuarios que los revisores humanos pueden leer algunos de sus datos y que no deben «ingresar información confidencial que no querrían que un revisor viera o que Google usara para mejorar sus servicios».
Pero a medida que más datos ingresan a la mente colectiva de Google, es fácil ver cómo la IA podría hacer que la privacidad de los datos sea una zona más gris.
Google, sin embargo, cree que tiene algún tipo de solución.
Stein dice que Google indicará cuándo sus respuestas de IA son personalizadas.
«Creo que la gente quiere entender intuitivamente cuándo se les está personalizando, cuándo la información está hecha para ellos, en comparación con cuándo es algo que todos verían si hicieran esta pregunta», dijo.
Stein también señaló que Google podría enviar una notificación push a los usuarios cuando un producto que habían estado considerando después de varios días de investigación en línea esté disponible o en oferta.
“Hay muchas maneras en las que Google ahora, en todos los modos y en diferentes aspectos de tu vida, te está siendo increíblemente útil…”, dijo. “Y creo que así es como concibo el futuro de la búsqueda, más que cualquier característica específica o formato en particular”.
