Monday, November 16, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

Radar de la recherche, 13 novembre 2026 : 8 nouvelles publications sur l’IA et la sécurité à connaître

Les nouvelles recherches les plus pertinentes sur l'IA et la sécurité issues d'arXiv, avec les résumés des auteurs et les liens vers les articles.

8 papers, arXiv

Traduit de l’anglais par TechUpscale à l’aide de l’IA et vérifié par rapport à l’original. Lire l’original en anglais

Nouvelles recherches sur l’IA et la sécurité, sélectionnées pour leur pertinence par rapport aux modèles de langage, aux agents IA et à la cybersécurité. Les résumés sont les propres termes des auteurs ou des éditeurs, avec un lien vers l’original.

Nouveaux préimprimés (non encore évalués par des pairs)

Protection axée sur l’intention pour les agents IA

arXiv · Fady Copty, Neta Haiby, Max Braitmaiere, Julia Korsunsky

Les agents d’IA accèdent de plus en plus aux données d’entreprise, invoquent des outils puissants et agissent avec une supervision humaine limitée. Les défenses de sécurité existantes détectent principalement l’injection d’instructions, les sorties nocives ou les comportements suspects, mais ne déterminent pas si un agent reste fidèle à l’objectif pour lequel il a été déployé.

De la délégation à la coordination : apprendre une recherche approfondie multi-agents efficace

arXiv · Yuyang Wu, Yang Liu, Zequn Xie, Junjie Wang, Dan Yang, Zehao Tan, Ding-Chu Zhang, Junming Yang, Yue Shen, Jian Wang, Jinjie Gu

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

Les systèmes de recherche approfondie multi-agents utilisent la délégation pour paralléliser la recherche et maintenir les longues traces d’outils hors du contexte de l’agent principal. Pourtant, la délégation n’aide que lorsque l’attribution des tâches et l’exécution des sous-tâches sont coordonnées : l’agent principal doit émettre des sous-tâches utiles, tandis que les sous-agents doivent renvoyer des preuves fiables.

Bait : atténuer l’apprentissage par renforcement agentique nocif via le sondage de la fonction de récompense

arXiv · Tiansheng Huang, Ananth Balashankar, Virat Shejwalkar, Santosh Pande, Ling Liu

Nous exposons une vulnérabilité de sécurité dans l’apprentissage par renforcement agentique en tant que service émergent. Plus précisément, avec un coût d’à peine $20, nous montrons que l’alignement de sécurité d’un grand modèle de langage (ex. Inkling) peut être complètement subverti par des cycles d’apprentissage par renforcement agentique nocif (RL agentique) avec un environnement toxique provenant de ses utilisateurs.

Évaluation de la sécurité basée sur des spécifications pour l’appel d’outils par des agents du monde réel dans des tâches à contexte à long terme

arXiv · Yuchuan Fu, Minghe Wang, Xiaohan Yuan, Chenlin Zou, Kaitong Jia, Jinfeng Li, Dongxia Wang

Alors que les agents basés sur de grands modèles de langage (LLM) sont de plus en plus déployés dans des scénarios non surveillés à long terme, leur évaluation de sécurité avant le déploiement devient de plus en plus essentielle et difficile. Les méthodes d’évaluation existantes suivent principalement les paradigmes du LLM en tant que juge ou de l’Agent en tant que juge.

CellularS2-Bench : un benchmark par étapes et fondé sur des preuves pour le raisonnement de sécurité des réseaux cellulaires

arXiv · Ke Xie, Xingyi Zhao, Yiwen Hu, Haotian Lin, Shuhan Yuan, Wen Li, Tian Xie

Les réseaux cellulaires sont des infrastructures critiques qui prennent en charge des milliards d’utilisateurs dans le monde entier ainsi que des services critiques pour la sécurité et la mission. Les vulnérabilités des réseaux cellulaires peuvent donc provoquer des interruptions de service, des violations de la vie privée et des préjudices sociétaux étendus, ce qui motive des efforts croissants pour analyser les spécifications 3GPP qui définissent le comportement requis des appareils et des opérateurs.

BELLS-O : évaluation des compromis opérationnels des systèmes de supervision de LLM

arXiv · Leonhard Waibl, Felix Michalak, Hadrien Mariaccia

Les systèmes de supervision de LLM, à savoir les filtres de modération d’entrée/sortie et les détecteurs de jailbreak, constituent le principal garde-fou contre l’utilisation abusive dans les applications d’IA déployées, mais les benchmarks existants présentent souvent des biais en faveur des fournisseurs, omettent le coût et la latence, et comparent rarement les garde-fous spécialisés aux LLM généralistes réattribués. Nous présentons BELLS-O (Benchmark for the Evaluation of LLM Supervision Systems, Operational), un benchmark opérationnel indépendant qui évalue 33 systèmes issus de 17 développeurs : des garde-fous spécialisés (ex. Llama Guard 4, ShieldGemma-2B, Lakera Guard) et des généralistes de pointe réattribués comme superviseurs (ex. GPT-5.4, Claude Sonnet 4.6, Grok 4.1 Fast), conjointement sur le taux de détection, le taux de faux positifs, la latence et le coût.

SynthCorp : une plateforme pour créer des benchmarks pour les agents de données

arXiv · Jiani Zhang, Manav Garg, Eugenie Lai, Cheng Zhen, Eva Sharma, Yang Pan, Yaming Lin, Alon Halevy

Les benchmarks actuels pour les agents de données pilotés par LLM saturent rapidement et ne peuvent pas cibler des capacités spécifiques. Nous présentons SynthCorp, une plateforme qui crée des domaines de données et des benchmarks personnalisables en simulant la façon dont les événements d’entreprise produisent et modifient les données d’entreprise au fil du temps.

Beyond the Diff – VulSpot : un jeu de données de vulnérabilités où aucune vulnérabilité ne reste non localisée

arXiv · Dyna Soumhane Ouchebara, St’ephane Dupont

Un détecteur de vulnérabilités n’est aussi fiable que le benchmark qui l’évalue, et les jeux de données réels d’aujourd’hui ont tendance à flatter les détecteurs. Ils sont souvent créés une fois et jamais rafraîchis, de sorte qu’ils manquent rapidement les nouvelles vulnérabilités, leurs étiquettes sont soit bruitées, soit fortement filtrées, et leurs divisions aléatoires permettent aux modèles de s’entraîner sur des quasi-copies de code de test et sur de futures vulnérabilités.

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research