تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة حول الذكاء الاصطناعي والأمن، تم اختيارها لصلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشر نفسها، مع روابط للأصل.
مراجعة النظراء
هل أنت محقق علمي ناشئ؟ شارك في اختبار الانتحال الخاص بنا لاختبار مهاراتك
تحويل تحليلات التطور الجزيئي باستخدام نماذج الأساس البروتينية
النسخ الأولية الجديدة (لم تخضع لمراجعة النظراء بعد)
مرتدين عباءة السلطة: الاختراق العملي للصناديق السوداء لنماذج اللغات الكبيرة متعددة الوسائط (MLLMs) عبر التحيز والثقة البصرية
تتقدم نماذج اللغات الكبيرة متعددة الوسائط (MLLMs) بسرعة، ومع ذلك يظل أمانها مصدر قلق بالغ، لا سيما في ظل محاولات كسر الحماية (Jailbreak). تعمل عمليات كسر الحماية الحالية لـ MLLMs إما على حقن اضطرابات خصمية هشّة في صور غير صلة أو اصطناع إشارات بصریة سامة لتحقيق نوايا هجوم مدفوعة بالنص.
تحويل الكود الطبيعي يربك الوكلاء في تحليل الثغرات الأمنية
بعد أن أثبت وكلاء الذكاء الاصطناعي إمكانات قوية لأتمتة اكتشاف الثغرات الأمنية، يمكن استخدامهم أيضاً لمهاجمة أنظمة البرمجيات على نطاق واسع. تحتاج أنظمة البرمجيات اليوم إلى آليات لتكافؤ الفرص من خلال إبطاء الهجمات المحتملة، مما يمنحها وقتاً لتصحيح الثغرات وتعزيز البرمجيات.
SEAM: وكلاء استخدام الكمبيوتر يعرفون الضرر بين الشاشات، ويرتكبونه على أي حال
تضع معايير الأمان لوكلاء استخدام الكمبيوتر (CUAs) الضرر إما في هدف المهمة أو على شاشة واحدة: تعليمات خبيثة، أو أمر محقون، أو صفحة التصيد الاحتيالي. يمكن للوكيل الذي يفحص المهمة وكل شاشة بمعزل عن الأخرى اجتيازها، لذا فهي لا تختبر ما إذا كان يدمج الحقائق التي شوهدت على شاشات مختلفة.
GapLeak: متى يصبح وكلاء الويب القائمون على نماذج اللغات الكبيرة (LLM) والحفاظ على الخصوصية خطراً على الخصوصية
يعتمد وكلاء الويب القائمون على نموذج اللغة الكبير (LLM) على تقليل البيانات وأقل الامتيازات لحماية خصوصية المستخدم. نحن نُظهر أن هذه المبادئ ضرورية ولكنها غير كافية: فهي تقيد المصادر المصرح بها، ولكن ليس المصادر ذات الحساسية العالية التي تظل قابلة للوصول.
الرؤية معك: التطور المشترك للإدراك والتفكير من أجل الاستدلال متعدد الوسائط
عزز التعلم المعزز بمكافآت قابلة للتحقق (RLVR) بشكل كبير قدرات الاستدلال لنماذج اللغات الكبيرة متعددة الوسائط (MLLMs). ومع ذلك، عادة ما تعتمد نهج RLVR الحالية على التحسين المدفوع بالنتائج والذي يقوم بتحديث كل من الإدراك والاستدلال باستخدام مكافأة مشتركة تعتمد فقط على الإجابة النهائية.
WebAgents: فصل إنشاء الوكلاء واستضافتهم وتنفيذهم من أجل شبكة أصلية للوكلاء
تنتقل نماذج اللغات الكبيرة من مساعدين معزولين نحو وكلاء أقطاب مستقلين يمكنهم التخطيط، واستخدام الأدوات، والتنسيق مع الآخرين، مما يحفز شبكة وكلاء ناشئة من الوكلاء والخدمات المتطورة بشكل مستقل. يتطلب تحقيق هذه الرؤية انتقال سلوك الوكيل عبر المبدعين والمستضيفين وبيئات التشغيل دون ربط النشر بيئة تنفيذ معينة أو نقل السلطة على موارد المستخدم.
ما الذي يحتاجه الوكيل؟ تكوين موارد الوكيل المدرك للحزم
تعتمد قيمة مورد الوكيل على مورده الأساسي والمصاحب ولا تُعرف إلا بعد التنفيذ. تظل المولدات المستندة إلى الرموز مرتبطة بكتالوج التدريب الخاص بها، بينما يفتقر تسجيل الموارد المستقل إلى التكاملات وتستهدف الحزم المعاد استخدامها مهام أخرى.
من بحث الإستراتيجية إلى تعلم السياسات: التطور المشترك المعادي الموجه بواسطة MCTS لمحاذاة أمان نماذج اللغات الكبيرة
تقود نماذج اللغات الكبيرة (LLMs) بشكل متزايد التطبيقات المواجهة للويب، بما في ذلك مساعدي المحادثة وخدمات المحتوى، حيث تعرضهم تفاعلات المستخدم المفتوحة لتهديدات أمنية متنوعة وهجمات تككيفية. على وجه الخصوص، يعيد مهاجمو كسر الحماية صياغة الطلبات الضارة بشكل متكرر لتجاوز محاذاة الأمان.
