¿Ha notado que últimamente llega más spam a través del filtro de correo corporativo?. Los atacantes están utilizando una técnica conocida como «text salting» (salpimentado de texto), que oculta palabras de apariencia inofensiva destinadas a confundir a algunos filtros de correo electrónico impulsados ​​por IA, según informa la empresa de ciberseguridad Barracuda.

La compañía de seguridad de correo electrónico anunció el jueves que, desde abril, ha detectado más de un millón de ataques de “phishing” relacionados con el sector minorista que emplean esta técnica. No es, ni mucho menos, un método nuevo; se ha utilizado durante años para engañar a las puertas de enlace de correo seguro tradicionales. Sin embargo, Barracuda afirma que también puede confundir a las herramientas de seguridad basadas en aprendizaje automático y en modelos de lenguaje de gran tamaño (LLM).

El «salpimentado de texto» consiste en espolvorear (disculpen el juego de palabras) un correo malicioso con palabras aleatorias e inofensivas para engañar al sistema de escaneo y hacerle creer que el «sabor» del mensaje no tiene nada extraño (perdón de nuevo), logrando así que el sistema lo entregue al destinatario para su «consumo» (aquí dejo las bromas sobre comida).

No obstante, si se vertiera una gran cantidad de texto «salado» sobre un correo, un lector humano probablemente sospecharía. Por ello, los atacantes suelen utilizar una o varias de tres variantes de «sabor» (vale, ya termino, lo prometo) para ocultar estos añadidos a los humanos, aunque no a los escáneres automatizados, según Barracuda.

Entre las técnicas habituales se incluyen el recorte mediante CSS (que ajusta la ventana visible a un tamaño tan reducido que el humano no ve el texto de relleno oculto), la manipulación de texto para desplazar el contenido «salado» fuera de la pantalla visible y las técnicas de fuente de tamaño cero, que insertan palabras engañosas entre el texto sospechoso de “phishing”, haciéndolas visibles para la máquina pero no para el ojo humano.

El resultado final de estas técnicas es un mensaje que, para la máquina, parece menos malicioso y más bien una serie de palabras sin sentido, lo que la lleva a asumir que el correo es legítimo; al mismo tiempo, cuando un humano lo visualiza, el mensaje se ve exactamente como el atacante pretendía.

Los sistemas modernos de seguridad de correo electrónico se han adaptado en gran medida a estas técnicas: las herramientas más recientes son capaces de eliminar el texto oculto para mostrar lo que el lector debería ver, o de activar alertas cuando se inserta una gran cantidad de contenido oculto en un correo, entre otras medidas. Sin embargo, la IA no ha logrado seguir el mismo camino, señala Barracuda. «El “text salting” (inserción de texto aleatorio) y técnicas similares pueden utilizarse para confundir a los motores de análisis de contenido basados ​​en IA, inundando el correo electrónico con términos aleatorios que inducen al sistema de IA a tomar una decisión de clasificación incorrecta», señaló la empresa en su informe; algo muy parecido a lo que hacían las soluciones de seguridad de correo (SEG) de principios de los años 2000. ¡Menudo salto tecnológico hemos dado!.

Según explicó Barracuda, los modelos de lenguaje de gran tamaño (LLM) suelen diseñarse para procesar el texto del correo y el código fuente de forma directa, sin distinguir si el texto es visible para el usuario o está oculto. Pueden entrenarse para…

Entonces, ¿qué pueden hacer las empresas para frenar la llegada de este tipo de “spam” a sus empleados?. Barracuda recomienda adoptar un enfoque de seguridad del correo electrónico basado en capas, en lugar de depender únicamente de la detección de palabras clave; esto incluye verificar la reputación del remitente, los resultados de autenticación, las URL incrustadas, las técnicas de renderizado HTML y las diferencias entre el contenido visible para el usuario y el oculto.

Quizás tampoco sea mala idea prescindir de ese filtro de “spam” basado en IA.