Traduit de l’anglais par TechUpscale à l’aide de l’IA et vérifié par rapport à l’original. Lire l’original en anglais
Nouvelles recherches sur l’IA et la sécurité, sélectionnées pour leur pertinence par rapport aux modèles de langage, aux agents IA et à la cybersécurité. Les résumés proviennent des auteurs ou de l’éditeur et renvoient vers les originaux.
Évalués par des pairs
Prédiction par couche pour l’interprétation des représentations cachées dans les réseaux de neurones profonds grâce à des distributions de probabilité évolutives
Conception d’un cadre de certification basé sur la blockchain pour la réduction des pertes et du gaspillage alimentaires : une preuve de concept dans la chaîne d’approvisionnement des produits frais
Application des jumeaux numériques pour prévenir les naissances prématurées
Correction de l’auteur : Prédiction de la localisation subcellulaire des protéines dans les cellules uniques
Nouvelles prépublications (pas encore évaluées par des pairs)
ICALL-BENCH: Benchmarking LLM Interprocedural Reasoning in Binary Programs
De nouveaux bancs d’essai montrent que les LLM atteignent de solides performances à la fois dans la compréhension de binaires au niveau des fonctions et dans les tâches de rétro-ingénierie binaire de bout en bout, mais il reste à savoir si les LLM peuvent raisonner sur la sémantique interprocédurale dans les binaires compilés. Les bancs d’essai au niveau des fonctions offrent une visibilité limitée sur les relations inter-fonctions, tandis que les bancs d’essai à l’échelle du programme évaluent généralement les résultats finaux de tâches qui peuvent être résolues à partir d’indices locaux seuls, ce qui rend difficile de dissocier le raisonnement interprocédural de l’exploration, de l’utilisation d’outils, de l’exécution et de la recherche.
Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak
Les grands modèles de langage multimodaux (MLLM) sont vulnérables aux attaques de jailbreak visuel qui contournent les mesures de sécurité. Les méthodes existantes optimisent généralement des exemples contradictoires isolés, ce qui limite la diversité, la transférabilité et la généralisation des attaques.
SkillMem: Compact External Skill Memory for Latent Multi-Agent Reasoning
Les systèmes multi-agents latents réduisent le coût d’inférence en maintenant le raisonnement intermédiaire et la communication inter-agents dans des représentations continues. Les compétences réutilisables sont toutefois généralement fournies sous forme de texte ou stockées sous forme d’états Clé-Valeur par couche ou de paramètres de modèle spécifiques aux compétences, ce qui entraîne un traitement répété ou un stockage important par compétence. Nous présentons extbf{SkillMem}, qui représente chaque compétence réutilisable sous la forme d’une petite mémoire latente externe et la rend directement disponible lors du raisonnement multi-agent latent. Un lecteur d’attention croisée conditionné par le rôle permet à la même mémoire de guider différents agents en fonction de leurs rôles et de leurs états cachés actuels. Nous entraînons les mémoires de compétences et le lecteur partagé par distillation comportementale, en faisant correspondre le changement des prédictions de jetons induit par une compétence textuelle tout en maintenant le modèle de base gelé. Pour nos expériences, nous obtenons des compétences textuelles à partir de trajectoires multi-agents réussies et échouées appariées, bien que les compétences existantes puissent également être compilées directement. Sur six bancs d’essai et des modèles Qwen3 allant de 4B à 14B paramètres, SkillMem offre de solides gains pour les modèles de base plus petits tout en préservant une inférence multi-agent latente efficace à travers les échelles de modèles. Nous utilisons la même configuration de mémoire $8 imes256$ sur toutes les échelles de modèles évaluées, nécessitant 9,6…Ko de stockage spécifique par compétence, y compris son encadrement de récupération. Pour une bibliothèque de 100 compétences, SkillMem réduit le stockage total de plus de $38 imes$ par rapport aux autres représentations de compétences et atteint une accélération de l’inférence de bout en bout allant jusqu’à $4,23 imes$. Ces résultats montrent que les mémoires procédurales compactes peuvent être réutilisées sans sacrifier l’efficacité du raisonnement multi-agent latent.
Evaluating Causal Reasoning in LLMs: A Case Study in the Challenges of Procedural Generation
Les grands modèles de langage (LLM) semblent représenter et raisonner sur un large éventail de phénomènes. En particulier, des études récentes ont examiné si les LLM pouvaient raisonner avec précision sur la causalité.
WAAA! Web Adversaries Against Web Agents
Les grands modèles de langage (LLM) sont de plus en plus intégrés dans les navigateurs Web pour créer des systèmes de navigation autonomes qui exécutent des actions pour le compte de l’utilisateur. Les travaux antérieurs concernant la sécurité des navigateurs autonomes se concentrent sur les attaques par injection de requêtes indirectes.
Judging Before Propagation: Task-Graph Contextual Integrity for Multi-Agent Privacy
Les systèmes LLM multi-agents s’appuient de plus en plus sur une mémoire persistante et une communication inter-agents. Ces capacités créent des risques pour la vie privée qui vont au-delà des interactions individuelles : une divulgation appropriée de manière isolée peut devenir inappropriée lorsqu’elle est combinée avec des informations précédemment divulguées à un destinataire ou propagées à des agents en aval le long du flux de travail planifié.
PrivCode: When Code Generation Meets Differential Privacy
Les grands modèles de langage (LLM) ont présenté des performances exceptionnelles en matière de génération et de complétion de code. Cependant, le réglage fin de ces modèles sur des ensembles de données privés peut soulever des problèmes de confidentialité et de propriété, tels que la fuite d’informations personnelles sensibles.
Is it my preference? Role Grounding Attack against Agent’s Memory via Social Interaction
Les agents basés sur les LLM partagent désormais leurs expériences sur les plateformes sociales et mémorisent de nouvelles préférences pour améliorer leurs performances. Cependant, les systèmes de mémoire existants comportent une vulnérabilité dans l’attribution du rôle au mandant que les attaquants peuvent exploiter.