Traducido del inglés por TechUpscale con ayuda de IA y verificado con el original. Leer el original en inglés
Nueva investigación sobre inteligencia artificial y seguridad, seleccionada por su relevancia para modelos de lenguaje, agentes de IA y ciberseguridad. Los resúmenes son palabras de los propios autores o de la editorial, con enlaces al original.
Revisados por pares
Re-timing mortality risk through individualized modelling of lifespan trajectories
AI needs meaningful versioning
State space models naturally produce time cell and oscillatory behaviors and scale to abstract cognitive functions
Nuevos preprints (todavía no revisados por pares)
PrivacyFlow: Privacy in AI Agents through Information Flow Analysis and Consequence-Aware Risk Management
Los agentes autónomos de LLM que ejecutan flujos de trabajo de múltiples pasos con datos personales a menudo no se alinean con las expectativas de privacidad de los usuarios y filtran información confidencial fuera de contexto. Aunque la integridad contextual (IC) formaliza este problema, los puntos de referencia y las defensas existentes rara vez operacionalizan la IC para secuencias de tareas realistas de múltiples pasos en entornos cambiantes.
Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement
La autorreparación recursiva (RSI) permite a los grandes modelos de lenguaje mejorar sus capacidades mediante actualizaciones sucesivas, pero estas actualizaciones también pueden introducir nuevos riesgos y debilitar las salvaguardas existentes. En consonancia con la ley AI-45{deg}, perseguimos la RSI de seguridad, en la que la seguridad se desarrolla como una capacidad intrínseca junto con las capacidades generales del modelo a través del descubrimiento y la reparación continuos de riesgos, al tiempo que se preserva la utilidad y se limita el exceso de rechazo.
MetaVul: Agentic Harness Discovery for Vulnerability Detection
Los agentes de LLM se utilizan cada vez más para automatizar la detección de vulnerabilidades, pero una detección fiable es difícil porque los agentes deben distinguir las correcciones sutiles relacionadas con la seguridad de la variación benigna del código. Aunque la capacidad subyacente de los LLM ha mejorado significativamente, la precisión del agente sigue dependiento en gran medida del entorno: el código que define la estructura alrededor del LLM.
AgentShield: Fortifying Web Applications Against AI Agents and Agentic Browsers
Los agentes de navegación impulsados por LLM están transformando la automatización web al interactuar de forma autónoma con sitios web y ejecutar flujos de trabajo complejos. Sin embargo, la eficacia de las defensas antibot existentes contra estos sistemas sigue sin estar clara.
What Standard Evaluations Hide About Detectors of Hijacked LLM Agents: Rare Attacks, Unseen Tools and Benchmark Transfer
Los detectores pueden señalar agentes de grandes modelos de lenguaje (LLM) secuestrados a partir de los rastros de las herramientas que invocan. En las once evaluaciones que auditamos, los ataques o anomalías representan entre el 16% y el 86% de las muestras de prueba, ninguna evaluación varía esa proporción y seis no informan de ninguna prueba con datos de un segundo punto de referencia o fuente.
Learning to Reason from Reference Samples Alone: Reinforced Adversarial Learning for Modern LLM Post-Training
En muchos entornos donde el posentrenamiento de LLM es deseable, las respuestas de alta calidad son reconocibles pero difíciles de puntuar con recompensas explícitas. El aprendizaje por refuerzo con recompensas verificables (RLVR) se limita a tareas donde se dispone de una señal explícita de corrección.
Communication-Efficient Private Federated Reinforcement Learning with Post-Quantum Authentication for Vehicular Networks
El aprendizaje federado por refuerzo admite el enrutamiento vehicular cooperativo sin centralizar los datos de trayectoria, pero las actualizaciones del modelo pueden revelar información privada e incurrir en sobrecarga de comunicación a través de enlaces intermitentes de vehículo a infraestructura, particularmente cuando se requiere autenticación post-cuántica. Estudiamos la cuantización privada correlacionada, utilizando aleatoriedad compartida complementaria entre vehículos emparejados para reducir el error cuadrático medio de agregación mientras se preserva la privacidad diferencial local marginal a nivel de parámetro y el costo de comunicación de un bit de la cuantización independiente.
Consensus Within, Competition Between: Decentralized LLM Teams for Perimeter Defense
El uso de grandes modelos de lenguaje (LLM) para coordinar equipos multiagente plantea una cuestión arquitectónica fundamental: si la asignación de tareas debe centralizarse en un único controlador LLM o distribuirse entre agentes LLM autónomos, especialmente cuando la comunicación no es fiable. En una simulación de defensa perimetral deliberadamente simplificada contra intrusos controlados por LLM, comparamos un comandante central, un equipo de consenso basado en subastas y agentes independientes bajo cinco condiciones de red.