Monday, November 16, 2026
Translate
PrivacySubmit newsShare your story Newsletter Advertise
Breaking
Research news

رادار الأبحاث، 13 نوفمبر 2026: 8 أوراق بحثية جديدة في الذكاء الاصطناعي والأمن يجب معرفتها

أحدث أبحاث الذكاء الاصطناعي والأمن وأكثرها أهمية من arXiv، مع ملخصات وضعها المؤلفون بأنفسهم وروابط للأوراق البحثية.

8 papers, arXiv

تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية

أبحاث جديدة في الذكاء الاصطناعي والأمن، مختارة لصلتها بالنماذج اللغوية ووكلاء الذكاء الاصطناعي والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشرين أنفسهم، مع روابط للأصل.

طبعات مسبقة جديدة (لم تخضع للمراجعة من قبل الأقران بعد)

Intent-Aware Protection for AI Agents

arXiv · Fady Copty, Neta Haiby, Max Braitmaiere, Julia Korsunsky

تصل وكلاء الذكاء الاصطناعي بشكل متزايد إلى بيانات المؤسسات، وتستدعي أدوات قوية، وتعمل بإشراف بشري محدود. تكتشف الدفاعات الأمنية الحالية في المقام الأول هجمات توجيه الأوامر (prompt injection)، أو المخرجات الضارة، أو السلوك المشبوه، لكنها لا تحدد ما إذا كان الوكيل يظل مخلصًا للغرض الذي نُشر من أجله.

From Delegation to Coordination: Learning Efficient Multi-Agent Deep Research

arXiv · Yuyang Wu, Yang Liu, Zequn Xie, Junjie Wang, Dan Yang, Zehao Tan, Ding-Chu Zhang, Junming Yang, Yue Shen, Jian Wang, Jinjie Gu

The TechUpscale Brief. The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

تستخدم أنظمة البحث العميق متعددة الوكلاء التفويض لتوازيات عملية البحث وإبقاء تتبعات الأدوات الطويلة خارج سياق الوكيل الرئيسي. ومع ذلك، فإن التفويض لا يساعد إلا عندما يتم التنسيق بين تخصيص المهام وتنفيذ المهام الفرعية: يجب على الوكيل الرئيسي إصدار مهام فرعية مفيدة، بينما يجب على الوكلاء الفرعيين إعادة أدلة موثوقة.

Bait: Mitigating Harmful Agentic Reinforcement Learning via Probing Reward Function

arXiv · Tiansheng Huang, Ananth Balashankar, Virat Shejwalkar, Santosh Pande, Ling Liu

نكشف عن ثغرة أمنية في خدمات التعلم التعزيزي الوكيلي الناشئة كخدمة. على وجه التحديد، وبكلفة منخفضة تصل إلى $20، نوضح أن محاذاة السلامة لنموذج لغوي كبير (مثل Inkling) يمكن تقويضها بالكامل من خلال جولات من التعلم التعزيزي الوكيلي الضار (agentic RL) مع بيئة سامة من مستخدميه.

Specification-based Security Evaluation of Real-World Agents Tool-Calling under Long-Horizon Context Tasks

arXiv · Yuchuan Fu, Minghe Wang, Xiaohan Yuan, Chenlin Zou, Kaitong Jia, Jinfeng Li, Dongxia Wang

مع نشر وكلاء النماذج اللغوية الكبيرة (LLM) بشكل متزايد في سيناريوهات طويلة الأمد دون إشراف، يصبح التقييم الأمني لها قبل النشر ضروريًا وتحديًا متزايدًا. تتبع أساليب التقييم الحالية بشكل أساسي نماذج LLM-as-a-Judge أو Agent-as-a-Judge.

CellularS2-Bench: A Staged, Evidence-Grounded Benchmark for Cellular Network Security Reasoning

arXiv · Ke Xie, Xingyi Zhao, Yiwen Hu, Haotian Lin, Shuhan Yuan, Wen Li, Tian Xie

تعد الشبكات الخلوية بنيات تحتية حيوية تدعم مليارات المستخدمين حول العالم والخدمات الحساسة للسلامة والمهام. لذلك يمكن للثغرات في الشبكات الخلوية أن تسبب انقطاع الخدمة، وانتهاكات الخصوصية، وأضرارًا مجتمعية واسعة النطاق، مما يحفز الجهود المتزايدة لتحليل مواصفات 3GPP التي تحدد سلوك الأجهزة والمشغلين المطلوب.

BELLS-O: Evaluating the Operational Trade-offs of LLM Supervision Systems

arXiv · Leonhard Waibl, Felix Michalak, Hadrien Mariaccia

تعد أنظمة الإشراف على النماذج اللغوية الكبيرة (LLM)، وتحديدًا تصفية الإشراف على المدخلات/المخرجات وكاشفات كسر الحماية، الوقاية الأساسية ضد إساءة الاستخدام في تطبيقات الذكاء الاصطناعي المنشورة، ومع ذلك غالبًا ما تكون المعايير الحالية متحيزة للبائعين، وتتجاهل التكلفة وزمن الاستجابة، ونادرًا ما تقارن بين حواجز الحماية المتخصصة والنماذج العامة المعاد استخدامها. نقدم BELLS-O (Benchmark for the Evaluation of LLM Supervision Systems, Operational)، وهو معيار تشغيلي مستقل يقيم 33 نظامًا من 17 مطورًا: حواجز حماية متخصصة (مثل Llama Guard 4، وShieldGemma-2B، وLakera Guard) ونماذج عامة متقدمة تم إعادة استخدامها كمشرفين (مثل GPT-5.4، وClaude Sonnet 4.6، وGrok 4.1 Fast)، بشكل مشترك من حيث معدل الكشف، ومعدل الإيجابيات الكاذبة، وزمن الاستجابة، والتكلفة.

SynthCorp: A Platform for Creating Benchmarks for Data Agents

arXiv · Jiani Zhang, Manav Garg, Eugenie Lai, Cheng Zhen, Eva Sharma, Yang Pan, Yaming Lin, Alon Halevy

تصل معايير التقييم الحالية لوكلاء البيانات المعتمدين على النماذج اللغوية الكبيرة إلى حد التشبع سريعًا ولا يمكنها استهداف قدرات محددة. نقدم SynthCorp، وهي منصة تنشئ أصول بيانات ومعايير تقييم قابلة للتخصيص من خلال محاكاة كيفية إنتاج أحداث الأعمال لبيانات الشركات وتعديلها مرورًا بالوقت.

Beyond the Diff – VulSpot: A Vulnerability Dataset Where No Vulnerability Goes Unlocalized

arXiv · Dyna Soumhane Ouchebara, St'ephane Dupont

لا تتجاوز موثوقية كاشف الثغرات مدى موثوقية معيار التقييم الذي يمنحه الدرجات، وتتميل مجموعات البيانات الواقعية اليوم إلى إظهار الكواشف بصورة أفضل من واقعها. وغالبًا ما يتم بناؤها مرة واحدة ولا يتم تحديثها أبدًا، لذا فهي تفوت الثغرات الجديدة سريعًا، وتكون تصنيفاتها إما مليئة بالضوضاء أو مصفاة بشكل مكثف، وتتيح تقسيماتها العشوائية للنماذج التدرب على نسخ شبه مطابقة لكود الاختبار وعلى ثغرات مستقبلية.

Add TechUpscale as a preferred source on Google

The TechUpscale Brief

The day's cyber, AI and tech news in one short email, every weekday morning. Free. Unsubscribe anytime.

I'm most interested in

Join the conversation

Comments are moderated. Be civil and stay on the story: no personal attacks, hate, spam or ads, and no one else's private details. Your email is never shown. Privacy policy.

More Research