Si creías que la Inteligencia Artificial (IA) iba a protegerte de fraudes, te tengo malas noticias: los cibercriminales en México ya encontraron cómo burlarla… y tu celular o laptop podría ser la siguiente en caer.
Una investigación de la empresa de ciberseguridad ESET alertó que los hackers crearon una técnica silenciosa y casi imposible de detectar, que permite manipular lo que ves, lo que haces y hasta lo que crees que estás decidiendo a través de plataformas de Inteligencia Artificial.
Reveló que esta nueva amenaza ya tiene nombre: PromptFix, un código que engaña a la IA, toma el control sin que te des cuenta y puede llevarte directo a un fraude digital, generalmente basado en técnicas muy sofisticadas de phishing
¿Qué es PromptFix?
La investigadora de Seguridad Informática de ESET Latinoamérica, Martina López, explicó que el PromptFix es una variante específica del prompt injection, diseñada para engañar a los asistentes integrados en navegadores.
Precisó que, a través de instrucciones ocultas, logra que la IA interactúe con sitios web maliciosos o de phishing, cuya función es engañar a los usuarios para que hagan clic en verificaciones falsas y así ejecutar acciones de alto riesgo.
“Los actores maliciosos insertan instrucciones en contenido aparentemente legítimo, para que la IA realice ciertas acciones sin que el usuario lo sepa ni tenga que intervenir.
“Por ejemplo, te llevan a dar clic en botones invisibles que simulan verificaciones, descargar archivos maliciosos o interactuar con enlaces fraudulentos”, comentó Martina López.
¿Cómo opera el PromptFix?
ESET señaló que, para que un ataque PromptFix sea efectivo, los cibercriminales ocultan instrucciones maliciosas en sitios web comprometidos o en contenido que controlan, incluso en redes sociales o plataformas públicas como los comentarios en Reddit, o las publicaciones en Facebook.
Refirió que algunas técnicas consisten en esconder instrucciones en texto invisible o en comentarios HTML, incrustar texto oculto dentro de imágenes o esconder información en archivos digitales sin alterar su apariencia.
“El ataque funciona cuando un usuario navega por un sitio comprometido y utiliza el asistente de IA para resumir contenido o extraer puntos clave, el modelo procesa todo el texto sin distinguir entre datos e instrucciones.
“De esta manera interpreta comandos ocultos como si fueran solicitudes legítimas del usuario. Lo que puede llevar a realizar acciones no deseadas, como interactuar con enlaces fraudulentos o iniciar descargas”, explicó la firma de ciberseguridad.
Advirtió que un ataque PromptFix pueden inducir a la IA a descargar archivos maliciosos infectados con malware, hacer clic en botones para evadir pasos de validación o seguir enlaces de phishing y exponer los datos personales y financieros de los usuarios de las herramientas de Inteligencia Artificial.
Tips vs. ataques del PromptFix
Para estar protegido y prevenir ataques del PromptFix, ESET te recomienda:
- No autorizar acciones automáticas: si la Inteligencia Artificial quiere hacer clic, enviar archivos o completar formularios, primero debe pedirlo y obtener la confirmación del usuario.
- Limitar al agente: no otorgar permiso a la IA para que navegue libre por Internet, para que acceda a las contraseñas guardadas ni tampoco para usar el autocompletado.
- Revisar imágenes y archivos antes de procesarlos: debido a que los ciberatacantes pueden esconder instrucciones dentro de imágenes o archivos, lo ideal es que se pase por un filtro que busque texto oculto o señales extrañas.
- Usar listas de sitios confiables: permitir que el agente solamente interactúe con sitios conocidos y confiables. Ante un link sospechoso, la IA debe bloquearlo y pedir autorización.