Traduit de l’anglais par TechUpscale à l’aide de l’IA et vérifié par rapport à l’original. Lire l’original en anglais
De nouvelles recherches sur l’intelligence artificielle et la sécurité, sélectionnées pour leur pertinence concernant les modèles de langage, les agents IA et la cybersécurité. Les résumés sont rédigés par les auteurs ou l’éditeur, avec des liens vers les documents originaux.
Évalué par les pairs
A document classification benchmark dataset on cybersecurity policy domain
DSIN: dynamic system-empowered implicit neural representation for medical image compression
Limitations of de novo peptide sequencing in resolving sequence ambiguity
Universities must measure learning, both with and without AI assistance
Genome-anchored foundation model embeddings improve molecular prediction from histology images
Building a pre-trained model for single-cell multi-omics analysis beyond highly variable feature selection
Nouvelles prépublications (non encore évaluées par les pairs)
MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems
L’IA agentique étend les grands modèles de langage (LLM), qui passent de la simple génération de réponses à la planification et à l’exécution de flux de travail complexes, élargissant considérablement leur utilité tout en exposant les applications à des actions non sécurisées, à des fuites d’informations et à des manipulations contradictoires. Les systèmes multi-agents renforcent encore ces capacités grâce à la spécialisation et à la collaboration, mais l’autorité distribuée, les rôles hétérogènes et les participants opaques ou potentiellement compromis rendent la protection encore plus difficile.
Benchmarking Classical and Quantum Machine Learning for Intrusion Detection Across Multiple Datasets
La détection des intrusions est examinée à travers un banc d’essai comparatif de modèles d’apprentissage automatique classique et quantique sur trois ensembles de données : NSL-KDD, UNSW-NB15 et MQTTEEB-D2025. L’analyse se concentre sur la manière dont les décisions de prétraitement, les stratégies de sélection des caractéristiques et les schémas de codage quantique façonnent les performances des modèles sur des données présentant différents niveaux de bruit et de complexité.
AgentCap: Capability-Based Runtime Authorization for Secure LLM Agent Execution
Les agents basés sur des modèles de langage fusionnent généralement deux décisions que les systèmes de sécurité séparent : la sélection d’une action et la détermination de l’autorisation de cette action. Lorsqu’un modèle exerce une autorité permanente, une injection de requêtes indirecte peut convertir l’influence sur son raisonnement en effets non autorisés.
AgentTypo: Adaptive Typographic Prompt Injection Attacks against Black-box Multimodal Agents
Les agents multimodaux construits sur de grands modèles vision-langage sont de plus en plus déployés dans des environnements ouverts, mais restent très vulnérables aux injections de requêtes. Les attaques typographiques de type texte dans l’image, telles que FigStep, ont principalement été évaluées sur des modèles vision-langage autonomes.
Do Agents Still Follow the Rules? Benchmarking Rule Compliance under Agent Context Compaction
Les agents LLM compactent de longs historiques pour s’adapter à leurs fenêtres de contexte, mais le contexte compacté doit tout de même porter les règles d’exploitation qui régissent les actions ultérieures. Des travaux antérieurs montrent que les violations augmentent après la compactation, mais mesurent la conformité en dehors d’un cadre d’agent complet et n’identifient pas l’origine de chaque violation.
How Safe Are AI-Generated Patches? A Large-scale Study on Security Risks in LLM and Agentic Automated Program Repair on SWE-bench
Les grands modèles de langage (LLM) et les cadres agentiques sont de plus en plus utilisés pour des tâches de développement telles que la réparation automatisée de programmes (APR). Des travaux antérieurs ont identifié des risques de sécurité dans le code généré par les LLM, mais la plupart des études se concentrent sur des tâches synthétiques, simplifiées ou isolées.
Decentralized Multi-Agent Coordination and Communication in Shared Codebases
Les agents de codage travaillant dans des dépôts partagés peuvent recevoir des demandes distinctes et motivées de manière indépendante par des développeurs humains, créant un cadre qui est par nécessité multi-agents. Lorsque ce scénario se produit, leurs implémentations individuelles peuvent fonctionner séparément mais entrer en conflit lorsqu’elles sont combinées.
Systematic Evaluation of Adversarial Jailbreaking Attacks and Defenses Across Seven Large Language Models
Les grands modèles de langage (LLM) déployés dans des environnements critiques pour la sécurité doivent résister aux entrées contradictoires conçues pour provoquer des sorties nuisibles. Nous présentons une évaluation empirique systématique de cinq familles d’attaques de jailbreak contradictoires — requêtes directes, jailbreak basé sur le jeu de rôle, cadrage hypothétique, contournement d’instructions et obfuscation — sur sept LLM à poids ouverts servis localement : Llama-3-8B, Llama-3.1-8B, Llama-3.2-3B, Mistral-7B, Qwen2.5-7B, Gemma2-9B et Phi-4-14B.