Traduit de l’anglais par TechUpscale à l’aide de l’IA et vérifié par rapport à l’original. Lire l’original en anglais
Nouvelles recherches sur l’IA et la sécurité, sélectionnées pour leur pertinence concernant les modèles de langage, les agents IA et la cybersécurité. Les résumés sont dans les mots des auteurs ou de l’éditeur, avec des liens vers les originaux.
Évalués par des pairs
Re-timing mortality risk through individualized modelling of lifespan trajectories
AI needs meaningful versioning
State space models naturally produce time cell and oscillatory behaviors and scale to abstract cognitive functions
Nouvelles prépublications (non encore évaluées par des pairs)
PrivacyFlow: Privacy in AI Agents through Information Flow Analysis and Consequence-Aware Risk Management
Les agents LLM autonomes exécutant des flux de travaux en plusieurs étapes sur des données personnelles ne parviennent souvent pas à s’aligner sur les attentes des utilisateurs en matière de confidentialité et laissent fuiter des informations sensibles hors contexte. Bien que l’intégrité contextuelle (Contextual Integrity – CI) formalise ce problème, les benchmarks et les défenses existants opérationnalisent rarement l’intégrité contextuelle pour des séquences de tâches réalistes en plusieurs étapes dans des environnements en évolution.
Safin-1.5: Safety-Native Architecture and Verifiable Reasoning for Recursive Safety Improvement
L’auto-amélioration récursive (Recursive self-improvement – RSI) permet aux grands modèles de langage d’améliorer leurs capacités grâce à des mises à jour successives, mais ces mises à jour peuvent également introduire de nouveaux risques et affaiblir les garanties existantes. Conformément à la loi AI-45{deg}, nous poursuivons la sécurité par auto-amélioration récursive, dans laquelle la sécurité se développe en tant que capacité intrinsèque aux côtés des capacités générales du modèle grâce à la découverte et à la correction continues des risques, tout en préservant l’utilité et en limitant les sur-refus.
MetaVul: Agentic Harness Discovery for Vulnerability Detection
Les agents LLM sont de plus en plus utilisés pour automatiser la détection des vulnérabilités, mais une détection fiable est difficile car les agents doivent distinguer les correctifs subtils liés à la sécurité des variations de code bénignes. Bien que les capacités sous-jacentes des LLM se soient considérablement améliorées, la précision de l’agent dépend toujours fortement du harnais : le code qui définit l’échafaudage autour du LLM.
AgentShield: Fortifying Web Applications Against AI Agents and Agentic Browsers
Les agents de navigation alimentés par des LLM transforment l’automatisation du Web en interagissant de manière autonome avec les sites Web et en exécutant des flux de travaux complexes. Cependant, l’efficacité des défenses anti-bot existantes contre ces systèmes reste incertaine.
What Standard Evaluations Hide About Detectors of Hijacked LLM Agents: Rare Attacks, Unseen Tools and Benchmark Transfer
Les détecteurs peuvent signaler les agents de grands modèles de langage (LLM) détournés à partir des traces des outils qu’ils appellent. Dans les onze évaluations que nous avons auditées, les attaques ou les anomalies représentent 16 % à 86 % des échantillons de test, aucune évaluation ne fait varier cette proportion, et six ne signalent aucun test sur des données provenant d’un deuxième benchmark ou d’une deuxième source.
Learning to Reason from Reference Samples Alone: Reinforced Adversarial Learning for Modern LLM Post-Training
Dans de nombreux contextes où le post-entraînement des LLM est souhaitable, les réponses de haute qualité sont reconnaissables mais difficiles à évaluer avec des récompenses explicites. L’apprentissage par renforcement avec des récompenses vérifiables (Reinforcement learning with verifiable rewards – RLVR) se limite aux tâches où un signal d’exactitude explicite est disponible.
Communication-Efficient Private Federated Reinforcement Learning with Post-Quantum Authentication for Vehicular Networks
L’apprentissage par renforcement fédéré prend en charge le routage véhiculaire coopératif sans centraliser les données de trajectoire, mais les mises à jour des modèles peuvent révéler des informations privées et entraîner un surcoût de communication sur les liaisons véhicule-infrastructure intermittentes, en particulier lorsqu’une authentification post-quantique est requise. Nous étudions la quantification privée corrélée, utilisant un aléa partagé complémentaire entre des véhicules appariés pour réduire l’erreur quadratique moyenne d’agrégation tout en préservant la confidentialité différentielle locale marginale au niveau des paramètres et le coût de communication d’un bit de la quantification indépendante.
Consensus Within, Competition Between: Decentralized LLM Teams for Perimeter Defense
L’utilisation de grands modèles de langage (LLM) pour coordonner des équipes multi-agents soulève une question architecturale fondamentale : déterminer si l’attribution des tâches doit être centralisée dans un unique contrôleur LLM ou répartie entre des agents LLM autonomes, en particulier lorsque la communication est peu fiable. Dans une simulation de défense périmétrique délibérément simplifiée contre des intrus contrôlés par LLM, nous avons comparé un commandant central, une équipe de consensus basée sur les enchères et des agents indépendants dans cinq conditions de réseau.