Ciberseguridad Srini Devadas, investigador del MIT, opina de Atlas: “Cuando otorgas acceso y permisos a una IA, cualquier engaño hacia ella es, en realidad, un engaño hacia ti”.
Seguramente ya te hayas enterado de la gran novedad de esta semana. OpenAI ha presentado ChatGPT Atlas, su navegador con IA integrado. La idea es que el propio ChatGPT no solo te ayude a buscar información, sino que también haga tareas por ti: reservar vuelos, organizar un viaje, llenar formularios o comprar entradas. Todo controlado por voz o mediante texto.
Aunque suena bastante bien, cuidado porque debes saber que cuando dejas que una máquina haga todo por ti, también le abres la puerta a tus datos.. Y según varios expertos en ciberseguridad, ese poder que le das a la IA puede convertirse fácilmente en un arma de doble filo.
“Atlas podría ser el sueño de un hacker”advierten algunos investigadores. Cualquier error, cualquier página maliciosa y el propio navegador podrían ser manipulados para robar información personal o ejecutar comandos sin permiso..
El profesor George Chalhoub, especialista en interacción humano-máquina del University College London, explica a Fortuna lo peligroso que es todo esto. “Siempre habrá riesgos residuales en torno a las inyecciones rápidas, ya que es la naturaleza de los sistemas que interpretan el lenguaje natural y ejecutan acciones”.
Ciberseguridad Escoge tu IP con Surfshark VPN por 1,99€
Los hackers pueden ver tu IP y qué haces en internet. Las VPN te permiten cifrar tus datos y mantenerte 100% anónimo, protegiendo tus tarjetas, cuentas y contraseñas
Darte de alta
“El principal riesgo es que se desvanezca la frontera entre los datos y las instrucciones: podría convertir a un agente de IA en un navegador, de una herramienta útil a un posible vector de ataque contra el usuario. Así, podría extraer todos tus correos electrónicos y robar tus datos personales del trabajo, o acceder a tu cuenta de Facebook y robar tus mensajes, o extraer todas tus contraseñas, de modo que le hayas dado al agente acceso sin filtros a todas tus cuentas“añade.
Esto se conoce como inyección inmediataun tipo de ataque que consiste en engañar a la IA para que entienda instrucciones falsas como si fueran legítimas. Y lo peor es que esas instrucciones pueden ocultarse en cualquier rincón del código: en un párrafo, en una imagen o hasta en una línea en blanco.
Ciberseguridad Un navegador que lo recuerda todo (y justo ahí está el enorme peligro)
Para que hagas una idea, Atlas funciona distinto a Chrome o Edge. Tiene algo llamado memoria del navegador, una base interna donde ChatGPT guarda detalles sobre cómo navegas, qué te interesa o qué necesidades tienes, para personalizar tus respuestas.
Lo combina con un modo agente, que directamente puede tomar el control del navegador por ti y realizar acciones, como responder mensajes o hacer clics automáticos.
“Es como tener un asistente virtual dentro del navegador”dicen en OpenAI. Pero para los especialistas en seguridad, esa es precisamente la parte que más miedo da. Si ese asistente se confunde de instrucción o cae ante un engaño en una web maliciosa, el daño podría ser enorme.
Lo peor de todo es que los usuarios en redes ya han mostrado ejemplos de estos ataques. En uno de ellos, bastó un pequeño botón oculto en una página para conseguir que Atlas copiara un enlace malicioso al portapapeles del usuario. En cuanto la persona lo pegó en otra aplicación, el navegador le redirigió a una web falsa que pretendía robarle los datos del banco.
Brave, famoso por su obsesión con la privacidad, también ha querido dar su opinión sobre el tema. Explicaron que este tipo de navegadores inteligentes son especialmente vulnerables. De hecho, ya identificaon errores parecidos en Comet, el navegador con IA de Perplexity, y en Fellou, otro del mismo estilo.
En algunos casos, bastaba con visitar una página para que el agente ejecute instrucciones ocultas. “La superficie de ataque aquí es mucho más grande que en los navegadores normales”explica Chalhoub.
Ciberseguridad OpenAI lo admite: “Sabemos que no es perfecto, pero estamos trabajando en ello”
Ante todo este revuelo, OpenAI ha emitido una respuesta firmada por su jefe de seguridad, Dane Stuckey. Dice que la empresa está trabajando de forma muy cuidadosa para mitigar estos riesgos y que el navegador ya incluye múltiples mecanismos de protección.
Entre otras cosas, asegura que se han hecho pruebas internas con ataques simulados, que el modelo se entrena para ignorar órdenes sospechosas y que hay capas de defensa activas para bloquear comportamientos extraños..
Aun así, el propio Stuckey reconoce que no hay solución 100% segura. “Los ‘prompt injections’ siguen siendo un problema abierto en el mundo de la seguridad. Siempre habrá alguien buscando una forma de burlar los filtros”. Por eso, OpenAI ha añadido detalles para tranquilizar a los usuarios, como un modo sin sesión que evita que el sistema utilice tus credenciales personales y un modo de vigilancia que permite ver, paso a paso, lo que el agente está haciendo.
Mientras tanto, Atlas sigue disponible en formato beta y, según los foros de OpenAI, miles de usuarios ya lo han descargado. Ahora es el momento de esperar y ver qué tal se desenvuelve y si causa o no estos problemas que ya se están poniendo sobre la mesa.
