تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة في الذكاء الاصطناعي والأمن، تم اختيارها لمدى صلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشر أنفسهم، مع وجود روابط للأصل.
مراجعة الأقران
مجموعة بيانات التعلم الآلي والمعيار للتنبؤ الدقيق بارتباط مستقبل الخلايا التائية وpHLA
تطوير طريقة آلية لاستخراج وتحليل بيانات قياس السمع باستخدام التعرف البصري على الحروف القائم على التصويت
ظهور نماذج الانتشار من الذاكرة الترابطية من خلال الحفظ والتعميم
مسودات أبحاث جديدة (لم تخضع لمراجعة الأقران بعد)
WebAgentGuard: نموذج حماية مدفوع بالاستدلال لاكتشاف هجمات حقن الأوامر في وكلاء الويب
تمكن وكلاء الويب المدعومون بنماذج الرؤية واللغة (VLMs) من التفاعل بشكل مستقل مع بيئات الويب من خلال إدراك محتوى صفحة الويب المرئي والنصي والتفاعل معه لإنجاز المهام التي يحددها المستخدم. ومع ذلك، فهي عرضة بشدة لهجمات حقن الأوامر، حيث يمكن للتعليمات العدائية المضمنة في لغة HTML أو لقطات الشاشة المعروضة التلاعب بسلوك الوكيل وتؤدي إلى نتائج ضارة مثل تسرب المعلومات.
هل يحافظ وكلاء الذكاء الاصطناعي من أجل العلوم على سلامة النماذج؟
يتم استخدام وكلاء الذكاء الاصطناعي من أجل العلوم بشكل متزايد صياغة الفرضيات العلمية، وإجراء تجارب مستقلة، وتفسير الأدلة. يتم بناء هؤلاء الوكلاء من خلال دمج نموذج لغوي كبير (LLM) في تسخير وكيل خاص بالمجال، مما يمكن بدوره من تحسين القدرة العلمية للنموذج وتمكينه من تنسيق الأدوات العلمية.
إيقاع الكم: التوافق ما بعد الكمي مع مقترحين متزامنين متعددين
تستخدم بروتوكولات التوافق لمعظم شبكات بلوكتشين عالية الأداء شهادات النصاب القانوني، والتي تجمع تواقيع نصاب من المدققين. يمكن لمخططات التوقيع مثل BLS دمج تواقيع نصاب بأكمله في توقيع قصير واحد، مما يحافظ على صغر حجم هذه الشهادات.
Omni-UBench: قياس حواجز الأمان المستندة إلى النماذج اللغوية الكبيرة الشاملة عبر الأمان، والفائدة، والموثوقية
لقد مكّنت التطورات في النماذج اللغوية الكبيرة الشاملة (OLLMs) من تفاعل أكثر سلاسة بين الإنسان والذكاء الاصطناعي، إلا أن معالجتها الموحدة للأنماط غير المتجانسة توسع أيضاً سطح الهجوم، مما يسمح للخصوم باستغلاب تركيبات مدخلات أغنى للالتفاف حول محاذاة الأمان. وللتعامل مع مثل هذه المخاطر، تم اقتراح حواجز حماية شاملة لاكتشاف وتصفية الاستعلامات غير الآمنة عبر أي أنماط عشوائية.
معرفة من تثق به ليست كافية: فجوة الثقة والاتفاق في مفاوضات النماذج اللغوية الكبيرة المتكررة متعددة الأطراف
يشارك وكلاء النماذج اللغوية الكبيرة (LLM) بشكل متزايد في المفاوضات نيابة عن الأفراد والمنظمات، ومع ذلك فإنهم يظللون عرضة للتلاعب، لا سيما في التفاعلات المتكررة متعددة الأطراف. تعالج أنظمة الوكلاء المتعددين الكلاسيكية هذا التحدي من خلال نماذج الثقة والسمعة صريحة، في حين تتعامل الأعمال الحالية حول مفاوضات النماذج اللغوية الكبيرة إلى حد كبير مع الثقة كظاهرة ناشئة.
مشكلة الوكيل المساعد: عندما يتجاوز التعاون الناشئ بين وكلاء النماذج اللغوية الكبيرة سير العمل المقصود
يتم نشر وكلاء النماذج اللغوية الكبيرة بشكل متزايد في بيئات تعاونية حيث يسعون وراء مهام منفصلة مع مشاركة الموارد والعمل تحت عمليات المراجعة أو الإشراف. تخلق هذه البيئات مخاطر أمان ليس فقط عندما يكون الوكلاء خبيثين، ولكن أيضاً عندما يحاولون ببساطة المساعدة.
آمن في حلقة واحدة، ومحفوف بالمخاطر في حلقة أخرى: محاذاة الأمان عبر الأعماق المتكررة في النماذج اللغوية الحلقية
توفر النماذج اللغوية الحلقية (LoopLMs) نهجاً فعالاً من حيث المعلمات لتوسيع قدرات النموذج من خلال الاستخدام المتكرر للمعلمات المشتركة عبر الخطوات المتكررة. وبما أنه يمكن قراءة كل عمق متكرر بشكل مستقل، فإن نموذج LoopLMs واحد يعرض مساحة إخراج أوسع عبر أعماق الاستدلال، مما يثير سؤالاً مهمّاً: عما إذا كان الأمان يتم الحفاظ عليه طوال الحساب المتكرر.
في المهمة، وخارج المسار: قياس متانة النماذج اللغوية الكبيرة والوكلاء تجاه حقن الأوامر القريب من الهدف
تقيم معايير حقن الأوامر ما إذا كانت النماذج اللغوية الكبيرة (LLMs) والوكلاء يقاومون التعليمات الخبيثة المضمنة في المحتوى الخارجي. ومع ذلك، يمكن للنظام أن يؤدي أداءً جيداً من خلال رفض الهجمات التي تتخلى بوضوح عن طلب المستخدم، مع الاستمرار في قبول التغييرات التي تحتفظ بمعظم الإجابة الشرعية ولكنها تجعلها غير صحيحة أو ضارة.