OpenAI acaba de asumir una verdad incómoda sobre los navegadores con IA: hay un tipo de ataque imposible de bloquear

OpenAI acaba de asumir una verdad incómoda sobre los navegadores con IA: hay un tipo de ataque imposible de bloquear

El navegador está dejando de ser solo una ventana a Internet para convertirse en una herramienta que también opera dentro de la web. En el caso de Modo agente en ChatGPT Atlas , OpenAI explica que su agente ve páginas y puede realizar acciones, clics y pulsaciones de teclado dentro del navegador, igual que haría una persona. La promesa es clara, ayudar en flujos cotidianos con el mismo contexto y los mismos datos. La consecuencia también lo es, cuanto más poder concentramos en un agente, más atractivo se vuelve para quien busque manipularlo. Qué es un prompt injection. En términos sencillos, un prompt injection es una técnica que busca colar instrucciones maliciosas dentro de contenidos aparentemente normales para que un sistema de inteligencia artificial las interprete como órdenes legítimas. IBM lo describe como un tipo de ciberataque contra modelos de lenguaje en el que se camuflan entradas maliciosas como prompts válidos para manipular el comportamiento del sistema. El objetivo puede ir desde forzar respuestas indebidas hasta provocar filtraciones de información o desviar una tarea, sin necesidad de explotar vulnerabilidades clásicas de software. La raíz del problema es menos “mágica” de lo que parece y más estructural. Muchas aplicaciones con modelos de lenguaje combinan instrucciones del desarrollador y entradas del usuario como cadenas de texto en lenguaje natural, sin una separación rígida por tipo de dato. El modelo decide qué priorizar a partir de patrones aprendidos y del contexto del propio texto, no porque haya una frontera infalible entre “orden” y “contenido”. Si una instrucción externa se formula de manera convincente, puede ganar peso aunque no debería. Cuando el contexto se vuelve inabarcable. El riesgo se amplifica cuando el agente no procesa un único mensaje, sino que recorre fuentes muy distintas dentro de un mismo encargo. OpenAI advierte de una superficie prácticamente ilimitada, correos y adjuntos, invitaciones de calendario, documentos compartidos, foros, redes sociales y páginas web arbitrarias. En ese recorrido, el agente puede encontrarse con instrucciones no fiables mezcladas con contenido legítimo. El usuario no siempre ve cada paso, pero el sistema sí lo consume, y ahí es donde la manipulación puede colarse. Lo inquietante es que esto puede encajar en flujos de trabajo corrientes sin levantar una alarma evidente. La firma de IA describe un ejemplo en el que un atacante “siembra” una bandeja de entrada con un correo malicioso, y más tarde, cuando el usuario pide una tarea inocua, el agente lee ese mensaje durante la ejecución normal. En una dema, el resultado es extremo a propósito, el agente termina enviando un email de renuncia en lugar de redactar una respuesta automática. Todo esto gracias a un ataque externo. Por qué no existe el blindaje perfecto. En ciberseguridad hay una idea ampliamente asumida, ningún sistema es completamente seguro, y OpenAI encuadra el prompt injection como un problema persistente. En su texto lo formula así: “Esperamos que los atacantes sigan adaptándose. La inyección de prompts, como las estafas y la ingeniería social en la web, difícilmente se resolverá por completo”. El objetivo, por tanto, no es prometer invulnerabilidad, sino elevar el coste del ataque y reducir el impacto cuando algo falla. En Xataka Hay 500 millones de de usuarios que podrían perfectamente actualizar a Windows 11. El problema es que no quieren En ese contexto, los liderados por Sam Altman explican que ha desplegado una actualización de seguridad para el agente de Atlas motivada por una nueva clase de ataques descubierta mediante red teaming interno automatizado. La compañía afirma que la entrega incluye un modelo del agente entrenado de forma adversarial y salvaguardas reforzadas alrededor del sistema, con la intención de mejorar su resistencia frente a instrucciones no deseadas durante la navegación. Lo que hacemos sigue importando . OpenAI recomienda usar el agente sin sesión iniciada cuando no sea necesario acceder a sitios con cuenta, y revisar con calma las solicitudes de confirmación en acciones sensibles, como enviar un correo o completar una compra. También aconseja dar instrucciones explícitas y acotadas, evitando encargos demasiado amplios que obliguen al agente a recorrer grandes volúmenes de contenido. No elimina el riesgo, pero reduce oportunidades de manipulación y ayuda a que los controles existentes funcionen como están diseñados. Imágenes | OpenAI En Xataka | Cada cuánto debemos cambiar TODAS nuestras contraseñas según tres expertos en ciberseguridad - La noticia OpenAI acaba de asumir una verdad incómoda sobre los navegadores con IA: hay un tipo de ataque imposible de bloquear fue publicada originalmente en Xataka por Javier Marquez .

Els missatges de Mazón amb Feijóo després de sortir d'El Ventorro: "Això serà un puto desastre, presi"

Els missatges de Mazón amb Feijóo després de sortir d'El Ventorro: "Això serà un puto desastre, presi"

El president del Partit Popular, Alberto Núñez Feijóo , ha remès aquest dimecres al Jutjat d’Instrucció de Catarroja els missatges de WhatsApp que es va intercanviar amb l’aleshores president de la Generalitat Valenciana, Carlos Mazón , la nit del 29 d’octubre de 2024 que va causar 230 morts a la província de València. En l’escrit, Feijóo també sol·licita que la seva declaració com a testimoni, prevista per al 9 de gener, es faci per via telemàtica. Segons l’acta notarial aportada al jutjat, Mazón i Feijóo es van intercanviar missatges entre les 20.08 i les 23.29 hores d’aquell dimarts . En aquests whatsapps, el dirigent valencià informava de la gravetat de la situació. “ Això serà un puto desastre, presi ”, va escriure Mazón poc abans de la mitjanit. La redacció d' ElNacional.cat està treballant per ampliar aquesta informació. Per llegir l'última hora de la notícia, actualitza la pàgina. Segueix ElNacional.cat a WhatsApp , hi trobaràs tota l'actualitat, en un clic!

La Navidad vuelve a Belén con la tregua en Gaza

La Navidad vuelve a Belén con la tregua en Gaza

La Navidad ha vuelto a celebrarse en Belén , la cuna de Jesús , gracias a la tregua en Gaza. Al compás de tambores y bajo un cielo resplandeciente, jóvenes palestinos han desfilado este miércoles por las calles de Belén para dar inicio a la primera Navidad festiva después de dos años ensombrecidos por la guerra en la Franja . Durante toda la contienda, que comenzó con el salvaje atentado terrorista de Hamás contra Israel en octubre de 2023 , un tono sombrío ha marcado las navidades en Belén, ciudad bíblica donde nació Jesucristo. Pero las celebraciones han vuelto con fuerza a esta ciudad de Cisjordania ocupada por Israel mientras se mantiene una frágil tregua en la franja de Gaza, donde cientos de miles de personas afrontan el invierno en tiendas improvisadas . Cristianos de todas las edades se dirigieron a la céntrica plaza del Pesebre , donde espectadores se asomaban desde los balcones del edificio municipal para observar las celebraciones. Cientos de personas participaron en el desfile del grupo scout salesiano por la estrecha calle de la Estrella de Belén. «Se siente que la Navidad ha llegado de verdad» , se alegró Milagros Anstas , de 17 años, con su uniforme azul y amarillo. «Es un día lleno de alegría, porque antes no podíamos celebrarlo debido a la guerra», declaró. Un imponente árbol de Navidad, cubierto de esferas rojas y doradas, brillaba junto a la iglesia de la Natividad . Esta basílica data del siglo IV y fue construida sobre una gruta donde los cristianos creen que Jesús nació hace más de 2.000 años. Por su parte, el papa León XIV llamó el martes a una tregua global de un día por Navidad. «Renuevo mi llamamiento a todas las personas de buena voluntad para que respeten un día de paz, al menos en la festividad del nacimiento de nuestro Salvador», declaró el pontífice en la residencia de Castel Gandolfo , cerca de Roma. El municipio de Belén optó por reducir las celebraciones navideñas mientras la guerra asoló Gaza, territorio costero palestino geográficamente separado de Cisjordania por Israel. Un alto el fuego mediado por Estados Unidos entre Israel y Hamás , que comenzó en octubre, detuvo los combates a gran escala en Gaza, aunque muchos siguen afrontando una vida de penurias tras perder sus hogares y a sus seres queridos. El patriarca latino de Jerusalén, el cardenal Pierbattista Pizzaballa , llegó a Belén antes de presidir la tradicional misa del Gallo en la iglesia de la Natividad. El alto prelado visitó la devastada Gaza durante el fin de semana y celebró una misa de Navidad en la parroquia de la Sagrada Familia, en Ciudad de Gaza, el domingo. Los habitantes de Belén, cuya economía depende casi por completo del turismo , esperan que el regreso de las celebraciones navideñas devuelva la vida a la ciudad y reactive la llegada de visitantes. En los últimos meses, los peregrinos cristianos han comenzado lentamente a regresar la ciudad santa. «Es un lugar muy especial», comentó George Hanna , originaria de Beit Jala. «Necesitamos transmitir ese mensaje a todo el mundo y esta es la única manera, subrayó, antes de lanzar una pregunta de fácil respuesta: ¿Qué es la Navidad sin celebrarla?».

VIDEO: El volcán Kilauea entra en erupción con fuentes de lava comparables con rascacielos

VIDEO: El volcán Kilauea entra en erupción con fuentes de lava comparables con rascacielos

El volcán Kilauea, uno de los más activos del mundo, ubicado en la Isla Grande de Hawái, reanudó su actividad eruptiva este martes tras un breve período de calma. El evento se caracteriza por la aparición de impresionantes fuentes de lava, cuyas columnas alcanzan 420 metros de altura, comparables a las de algunos rascacielos, y que emergen de tres bocas eruptivas. El Kilauea ya ha entrado en erupción 39 veces.

Los científicos alucinan: encuentran un pan de 8.000 años que pone en duda lo que sabíamos de la fermentación

Los científicos alucinan: encuentran un pan de 8.000 años que pone en duda lo que sabíamos de la fermentación

La arqueología sigue revelando hallazgos asombrosos que nos acercan al pasado de antiguas civilizaciones. Cada día aparecen nuevos vestigios que nos permiten entender mejor cómo vivían nuestros antepasados: desde pinturas rupestres escondidas en cuevas remotas, hasta jeroglíficos aún por descifrar o ciudades enteras que permanecieron enterradas durante siglos. Sin embargo, esta vez el hallazgo no … Continuar leyendo "Los científicos alucinan: encuentran un pan de 8.000 años que pone en duda lo que sabíamos de la fermentación"

Los cazadores se quedan sin palabras: le instalan un GPS a un jabalí y en 2 años descubren su truco secreto para evitarlos

Los cazadores se quedan sin palabras: le instalan un GPS a un jabalí y en 2 años descubren su truco secreto para evitarlos

En un mundo donde la estrategia de caza evoluciona constantemente, a menudo subestimamos la inteligencia y la capacidad de adaptación de la fauna salvaje. No es solo cuestión de perfeccionar las técnicas humanas, sino de descifrar las tácticas ingeniosas que los animales emplean para sobrevivir. Los cazadores europeos han llegado a fijarse en los métodos … Continuar leyendo "Los cazadores se quedan sin palabras: le instalan un GPS a un jabalí y en 2 años descubren su truco secreto para evitarlos"