Traducido del inglés por TechUpscale con ayuda de IA y verificado con el original. Leer el original en inglés
Nuevas investigaciones sobre inteligencia artificial y seguridad, seleccionadas por su relevancia para modelos de lenguaje, agentes de IA y ciberseguridad. Los resúmenes son palabras de los autores o del editor, enlazados al original.
Revisados por pares
Layer-wise Prediction for Interpretation of Hidden Representations in Deep Neural Networks through Evolving Probability Distributions
Designing a blockchain-enabled certification framework for food loss and waste reduction: a proof-of-concept in the fresh food supply chain
Applying digital twins to prevent preterm births
Author Correction: Prediction of protein subcellular localization in single cells
Nuevos preprints (aún sin revisión por pares)
ICALL-BENCH: Benchmarking LLM Interprocedural Reasoning in Binary Programs
Los puntos de referencia recientes muestran que los LLM logran un sólido rendimiento tanto en la comprensión de binarios a nivel de función como en tareas de ingeniería inversa de binarios de extremo a extremo, pero aún no está claro si los LLM pueden razonar sobre la semántica interprocedural en binarios compilados. Los puntos de referencia a nivel de función ofrecen una visibilidad limitada de las relaciones entre funciones, mientras que los puntos de referencia de programas completos suelen evaluar los resultados finales de tareas que pueden resolverse únicamente a partir de pistas locales, lo que dificulta separar el razonamiento interprocedural de la exploración, el uso de herramientas, la ejecución y la recuperación.
Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak
Los grandes modelos de lenguaje multimodales (MLLM, por sus siglas en inglés) son vulnerables a ataques de fuga visual (jailbreak) que eluden las medidas de seguridad. Los métodos existentes suelen optimizar ejemplos adversarios aislados, lo que limita la diversidad, la transferibilidad y la generalización de los ataques.
SkillMem: Compact External Skill Memory for Latent Multi-Agent Reasoning
Los sistemas multiagente latentes reducen el coste de inferencia al mantener el razonamiento intermedio y la comunicación entre agentes en representaciones continuas. Sin embargo, las habilidades reutilizables se suelen proporcionar como texto o se almacenan como estados de Clave-Valor por capa o como parámetros de modelo específicos de cada habilidad, lo que introduce un procesamiento repetido o un almacenamiento sustancial por habilidad. Presentamos textbf{SkillMem}, que representa cada habilidad reutilizable como una pequeña memoria latente externa y la pone directamente a disposición durante el razonamiento multiagente latente. Un lector de atención cruzada condicionado por roles permite que la misma memoria guíe a diferentes agentes según sus roles y estados ocultos actuales. Entrenamos las memorias de habilidades y el lector compartido mediante destilación conductual, haciendo coincidir el cambio en las predicciones de tokens inducidas por una habilidad textual mientras mantenemos congelada la columna vertebral. Para nuestros experimentos, obtenemos habilidades textuales a partir de trayectorias multiagente emparejadas de éxito y fracaso, aunque las habilidades existentes también se pueden compilar directamente. En seis puntos de referencia y modelos Qwen3 que van desde 4B hasta 14B parámetros, SkillMem ofrece importantes mejoras para las estructuras más pequeñas a la vez que preserva una inferencia multiagente latente eficiente en todas las escalas de modelos. Utilizamos la misma configuración de memoria $8times256$ en todas las escalas de modelos evaluadas, lo que requiere 9,6,KB de almacenamiento específico por habilidad, incluido su embedding de recuperación. Para una biblioteca de 100 habilidades, SkillMem reduce el almacenamiento total en más de $38times$ en comparación con otras representaciones de habilidades y logra una aceleración de la inferencia de extremo a extremo de hasta $4,23times$. Estos resultados muestran que las memorias procedimentales compactas se pueden reutilizar sin sacrificar la eficiencia del razonamiento multiagente latente.
Evaluating Causal Reasoning in LLMs: A Case Study in the Challenges of Procedural Generation
Los grandes modelos de lenguaje (LLM) parecen representar y razonar sobre una amplia gama de fenómenos. En particular, estudios recientes han examinado si los LLM pueden razonar con precisión sobre la causalidad.
WAAA! Web Adversaries Against Web Agents
Los grandes modelos de lenguaje (LLM) se están integrando cada vez más en los navegadores web para crear sistemas de navegación con agentes que ejecutan acciones en nombre del usuario. Los trabajos anteriores que consideran la seguridad de los navegadores con agentes se centran en ataques de inyección de instrucciones indirectas.
Judging Before Propagation: Task-Graph Contextual Integrity for Multi-Agent Privacy
Los sistemas LLM multiagente dependen cada vez más de la memoria persistente y de la comunicación entre agentes. Estas capacidades crean riesgos de privacidad que van más allá de las interacciones individuales: una divulgación adecuada de forma aislada puede volverse inapropiada cuando se combina con información revelada previamente a un destinatario o propagada a agentes posteriores a lo largo del flujo de trabajo planificado.
PrivCode: When Code Generation Meets Differential Privacy
Los grandes modelos de lenguaje (LLM) han mostrado un rendimiento sobresaliente en la generación y el autocompletado de código. Sin embargo, el ajuste fino de estos modelos en conjuntos de datos privados puede plantear problemas de privacidad y propiedad intelectual, como la filtración de información personal confidencial.
Is it my preference? Role Grounding Attack against Agent's Memory via Social Interaction
Los agentes basados en LLM ahora comparten experiencias en plataformas sociales y recuerdan nuevas preferencias para mejorar su rendimiento. Sin embargo, los sistemas de memoria existentes contienen una vulnerabilidad en la atribución de rol a principal que los atacantes pueden explotar.