تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة في الذكاء الاصطناعي والأمن، مختارة لصلتها بالنماذج اللغوية ووكلاء الذكاء الاصطناعي والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشرين أنفسهم، مع روابط للأصل.
طبعات مسبقة جديدة (لم تخضع للمراجعة من قبل الأقران بعد)
Intent-Aware Protection for AI Agents
تصل وكلاء الذكاء الاصطناعي بشكل متزايد إلى بيانات المؤسسات، وتستدعي أدوات قوية، وتعمل بإشراف بشري محدود. تكتشف الدفاعات الأمنية الحالية في المقام الأول هجمات توجيه الأوامر (prompt injection)، أو المخرجات الضارة، أو السلوك المشبوه، لكنها لا تحدد ما إذا كان الوكيل يظل مخلصًا للغرض الذي نُشر من أجله.
From Delegation to Coordination: Learning Efficient Multi-Agent Deep Research
تستخدم أنظمة البحث العميق متعددة الوكلاء التفويض لتوازيات عملية البحث وإبقاء تتبعات الأدوات الطويلة خارج سياق الوكيل الرئيسي. ومع ذلك، فإن التفويض لا يساعد إلا عندما يتم التنسيق بين تخصيص المهام وتنفيذ المهام الفرعية: يجب على الوكيل الرئيسي إصدار مهام فرعية مفيدة، بينما يجب على الوكلاء الفرعيين إعادة أدلة موثوقة.
Bait: Mitigating Harmful Agentic Reinforcement Learning via Probing Reward Function
نكشف عن ثغرة أمنية في خدمات التعلم التعزيزي الوكيلي الناشئة كخدمة. على وجه التحديد، وبكلفة منخفضة تصل إلى $20، نوضح أن محاذاة السلامة لنموذج لغوي كبير (مثل Inkling) يمكن تقويضها بالكامل من خلال جولات من التعلم التعزيزي الوكيلي الضار (agentic RL) مع بيئة سامة من مستخدميه.
Specification-based Security Evaluation of Real-World Agents Tool-Calling under Long-Horizon Context Tasks
مع نشر وكلاء النماذج اللغوية الكبيرة (LLM) بشكل متزايد في سيناريوهات طويلة الأمد دون إشراف، يصبح التقييم الأمني لها قبل النشر ضروريًا وتحديًا متزايدًا. تتبع أساليب التقييم الحالية بشكل أساسي نماذج LLM-as-a-Judge أو Agent-as-a-Judge.
CellularS2-Bench: A Staged, Evidence-Grounded Benchmark for Cellular Network Security Reasoning
تعد الشبكات الخلوية بنيات تحتية حيوية تدعم مليارات المستخدمين حول العالم والخدمات الحساسة للسلامة والمهام. لذلك يمكن للثغرات في الشبكات الخلوية أن تسبب انقطاع الخدمة، وانتهاكات الخصوصية، وأضرارًا مجتمعية واسعة النطاق، مما يحفز الجهود المتزايدة لتحليل مواصفات 3GPP التي تحدد سلوك الأجهزة والمشغلين المطلوب.
BELLS-O: Evaluating the Operational Trade-offs of LLM Supervision Systems
تعد أنظمة الإشراف على النماذج اللغوية الكبيرة (LLM)، وتحديدًا تصفية الإشراف على المدخلات/المخرجات وكاشفات كسر الحماية، الوقاية الأساسية ضد إساءة الاستخدام في تطبيقات الذكاء الاصطناعي المنشورة، ومع ذلك غالبًا ما تكون المعايير الحالية متحيزة للبائعين، وتتجاهل التكلفة وزمن الاستجابة، ونادرًا ما تقارن بين حواجز الحماية المتخصصة والنماذج العامة المعاد استخدامها. نقدم BELLS-O (Benchmark for the Evaluation of LLM Supervision Systems, Operational)، وهو معيار تشغيلي مستقل يقيم 33 نظامًا من 17 مطورًا: حواجز حماية متخصصة (مثل Llama Guard 4، وShieldGemma-2B، وLakera Guard) ونماذج عامة متقدمة تم إعادة استخدامها كمشرفين (مثل GPT-5.4، وClaude Sonnet 4.6، وGrok 4.1 Fast)، بشكل مشترك من حيث معدل الكشف، ومعدل الإيجابيات الكاذبة، وزمن الاستجابة، والتكلفة.
SynthCorp: A Platform for Creating Benchmarks for Data Agents
تصل معايير التقييم الحالية لوكلاء البيانات المعتمدين على النماذج اللغوية الكبيرة إلى حد التشبع سريعًا ولا يمكنها استهداف قدرات محددة. نقدم SynthCorp، وهي منصة تنشئ أصول بيانات ومعايير تقييم قابلة للتخصيص من خلال محاكاة كيفية إنتاج أحداث الأعمال لبيانات الشركات وتعديلها مرورًا بالوقت.
Beyond the Diff – VulSpot: A Vulnerability Dataset Where No Vulnerability Goes Unlocalized
لا تتجاوز موثوقية كاشف الثغرات مدى موثوقية معيار التقييم الذي يمنحه الدرجات، وتتميل مجموعات البيانات الواقعية اليوم إلى إظهار الكواشف بصورة أفضل من واقعها. وغالبًا ما يتم بناؤها مرة واحدة ولا يتم تحديثها أبدًا، لذا فهي تفوت الثغرات الجديدة سريعًا، وتكون تصنيفاتها إما مليئة بالضوضاء أو مصفاة بشكل مكثف، وتتيح تقسيماتها العشوائية للنماذج التدرب على نسخ شبه مطابقة لكود الاختبار وعلى ثغرات مستقبلية.
