تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة في الذكاء الاصطناعي والأمان، تم اختيارها لمدى صلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات بقلم المؤلفين أنفسهم أو الناشر، مع وجود روابط للأصل.
مراجعة الأقران
الإشراف على عملية البحث ينتج وكلاء بحث عن المعلومات يتمتعون بالموثوقية وقابلية التعميم
مسودات جديدة (لم تُراجع من الأقران بعد)
PrivacyEvalClaw: وكيل تداولي مدعوم بالأدوات لتدقيق تسريب الخصوصية في استجابات كسر الحماية لنماذج اللغات الكبيرة
يُعد التقييم الموثوق عقبة رئيسية في اختبارات الاختراق للخصوصية في نماذج اللغات الكبيرة (LLMs): إذ قد يكون تحديد ما إذا كانت استجابة كسر الحماية تكشف حقاً عن معلومات شخصية أمرا صعبا عندما تكون الإفصاحات غير مباشرة، أو سياقية، أو جزئية، أو مموهة. تعتمد نهج التقييم الحالية بشكل متزايد على نماذج الحماية ونماذج اللغات كحكام (LLM-as-Judges)، ومع ذلك قد تفسر هذه الأدوات التقييمية الاستجابة نفسها بطرق مختلفة.
LM-DSB: نظام خفيف الوزن متعدد الوكلاء لتوليد نشرات السلامة اليومية الآلية في قطاع البناء
لا تزال إدارة سلامة البناء تواجه صعوبة في إنتاج نشرات السلامة اليومية (DSBs)، وهي اتصالات يومية منظمة تحدد المخاطر الخاصة بالموقع، وتنقل بروتوكولات السلامة، وتضع تدابير وقائية للعمال. استغراق إنشاء نشرات السلامة اليومية يدويًا من 2 إلى 3 ساعات يوميًا وينتج عنه جودة غير متسقة، حيث لا يجري 25% من الطواقم أي تخطيط مسبق للمهام (Olson et al., 2016)، مما يحول موظفي السلامة عن الإشراف الميداني.
RouteDRAG: التعلم على توجيه والتحكم في تنفيذ الوكلاء لاسترجاع المستندات المتعددة الوسائط المعزز بالجيل
تعتمد التطبيقات المستندة إلى الويب بشكل متزايد على فهم المستندات الطويلة المتعددة الوسائط، حيث تتطلب الإجابة على الأسئلة غالبًا الجمع بين المعلومات عبر الصفحات والجداول والأشكال. يعالج الاسترجاع والجيل المعزز بالوكلاء هذه المهام من خلال الاسترجاع التكراري والاستدلال.
AgentSentry: التخفيف من حقن الأوامر غير المباشر في وكلاء نماذج اللغات الكبيرة عبر التشخيص السببي الزمني وتطهير السياق
تقوم وكلاء نماذج اللغات الكبيرة (LLM) المعززة بالأدوات بتجميع تاريخ الحوار، ومخرجات الأدوات، والمحتوى المسترجع في حالة وقت تشغيل متراكمة لإكمال المهام متعددة الخطوات. يعرض نموذج التنفيذ هذا الوكلاء لهجمات حقن الأوامر غير المباشر (IPI)، حيث تدخل التعليمات التي يتحكم بها المهاجم والمضمنة في القطع الأثرية الخارجية إلى حالة الوكيل وتؤثر لاحقًا على استخدام الأدوات.
RHINO: الاستدلال الموجه لتعيين سجلات الشبكة لتكتيكات وتقنيات الخصم باستخدام نماذج اللغات الكبيرة
تُولد أنظمة كشف التسلل الحديثة للشبكات (NIDS) كميات هائلة من التنبيهات منخفضة المستوى التي تظل مجزأة دلاليًا، مما يتطلب ارتباطًا يدويًا كثيف العمالة السلوكيات الخصم عالية المستوى. تتميز الأتمتة الحالية، وهي الأنظمة القائمة على القواعد ومصنفات التعلم الآلي، بقيود حاسمة: تفشل النهج القائمة على القواعد في التكيف مع تباينات الهجوم الجديدة، بينما تفتقر طرق التعلم الآلي إلى الوعي السياقي وتعامل تعيين التكتيك والتقنية (TT) كمطابقة نحوية بدلاً من الاستدلال.
تتبع التتابع: إطار تقييم مدرك للطوبولوجيا لهلوسات الوكلاء العلميين
يتم نشر وكلاء نماذج اللغات الكبيرة (LLM) بشكل متزايد في البحث العلمي، حيث تكون الموثوقية بالغة الأهمية والمعرفة الأساسية مترابطة بشكل وثيق. في مثل هذه الإعدادات، تكون الهلوسة ضارة بشكل خاص: يمكن لادعاء خاطئ واحد حول مفهوم أساسي أن ينتشر عبر الاستدلال متعدد الخطوات ويفسد مسارات كاملة.
OA-RAG: الاسترجاع والجيل المعزز بالوكلاء القائم على الأنطولوجيا للاستدلال الموثوق لنماذج اللغات الكبيرة
تؤدي نماذج اللغات الكبيرة (LLMs) بشكل جيد عبر العديد من المهام الواقعية ولكنها تظل عرضة للهلوسة، مما يحد من موثوقيتها في مجالات مثل الطب الحيوي والرعاية الصحية، حيث يجب أن تكون الإجابات مبنية على معرفة راسخة. يعمل الاسترجاع والجيل المعزز (RAG) على تخفيف هذه المشكلة من خلال دمج معلومات خارجية، ولكنه غالبًا ما يتغاضى عن العلاقات المنطقية ويعتمد بشكل كبير على استدلال نموذج اللغات الكبيرة نفسه، مما قد يضر بأمانة الإجابة.
MAREval: إطار عمل متعدد الوكلاء لتقييم تفسيرات التوصيات باللغة الطبيعية
يُعد تقييم تفسيرات اللغات الطبيعية في أنظمة التوصية أمرًا أساسيًا لتعزيز ثقة المستخدمين وشفافيتهم ومشاركتهم. ومع ذلك، فإن نهج التقييم الحالية مثل التقييمات البشرية، على الرغم من دقتها، كثيفة الموارد وغير عملية بالحجم الذي تتطلبه منصات التوصية الحديثة.