تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة حول الذكاء الاصطناعي والأمن، تم اختيارها لمدى صلتها بنماذج اللغات، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات مكتوبة بكلمات المؤلفين أو الناشر، مع وجود روابط للأصل.
مراجعة الأقران
تحسين التنبؤ بالخصائص الجزيئية باستخدام نماذج الانتشار المستندة إلى النقاط
النسخ الأولية الجديدة (لم تخضع لمراجعة الأقران بعد)
PrivacyPR: مجموعة بيانات لإصلاحات الخصوصية في العالم الحقيقي لقياس أداء مراجعة الكود الواعي بالخصوصية
تراجع وكلاء البرمجة الكود بشكل متزايد، ومع ذلك فإن مدى اكتشافهم لعيوب الخصوصية التي تتطلب القوانين مثل اللائحة العامة لحماية البيانات (GDPR) تجنب البرامج لا يزال غير مختبر إلى حد كبير، ويرجع ذلك جزئياً إلى قلة مجموعات البيانات التي تربط عيوب الخصوصية الحقيقية بإصلاحاتها المقبولة وسياق المراجعة. نحن نقدم PrivacyPR، وهي مجموعة بيانات تضم 4,131 طلب سحب (PR) مدمج في GitHub من 1,469 مستودعاً، تم إنشاؤها بين يونيو 2018 ويناير 2024.
من المحادثات إلى الأسواق: AgenticPay للتفاوض المدعوم بنماذج اللغة الكبيرة في التجارة متعددة الوكلاء
من المتوقع بشكل متزايد أن تتفاوض وكلاء نماذج اللغة الكبيرة وتجري المعاملات بشكل مستقل، ومع ذلك نادراً ما تجمع المعايير الحالية بين التأسيس للمنتجات المتعددة الوسائط، والمساومة متعددة القضايا، والأسواق التنافسية متعددة الوكلاء. نحن نقدم AgenticPay، وهو معيار موحد لتقييم قدرة الوكلاء متعددة الوسائط على الوصول إلى اتفاقيات عالية الرعاية ومتعددة الأبعاد في أسواق واقعية.
لعنة المحاذاة: محاذاة الوسائط تعزز الهجمات الصوتية بقوة عبر نقل النص
أدت التطورات الأخيرة في النماذج الشاملة المدربة من النهاية إلى النهاية إلى تحسين القدرات الصوتية بشكل كبير من خلال تعزيز محاذاة الوسائط النصية والصوتية. ومع ذلك، يظل مدى تسهيل هذه المحاذاة عن غير قصد لنقل ثغرات الأمان عبر الوسائط المختلفة غير مستكشف بالقدر الكافي.
هل يمكن لنماذج اللغة الكبيرة كتابة الأبواب الخلفية؟ دراسة أمنية تجريبية للبرمجة في مساحة الأوزان
أظهرت التطورات الأخيرة في البرمجة في مساحة الأوزان (WSP) أن نماذج اللغة الكبيرة (LLMs) يمكنها فحص وتعديل أوزان الشبكات العصبية مباشرة دون التدريب التقليدي القائم على التدرج. وفي حين تفتح هذه القدرة احتمالات جديدة لتحسّن النماذج، فإنها تثير أيضاً سؤالاً أمنياً مهمّاً: هل يمكن لنماذج اللغة الكبيرة استغلال البرمجة في مساحة الأوزان لحقن أبواب خلفية في الشبكات العصبية؟
تدريب وكلاء نماذج اللغة الكبيرة للعثور على الثغرات الأمنية باستخدام CTF-Dojo
أظهرت نماذج اللغة الكبيرة (LLMs) قدرات استثنائية عند تدريبها داخل بيئات تشغيل قابلة للتنفيذ، وتحديداً تفوقها في مهام الهندسة البرمجية من خلال حلقات التغذية الراجعة التحققية. ومع ذلك، لا تزال البيئات القائمة على التنفيذ القابلة للتوسع والقابلة للتعميم نادرة، مما يحد من التقدم في تدريب وكلاء تعلّم آلي أكثر كفاءة.
REFORGE: طريقة لتقييم قدرات الهندسة العكسية لنماذج اللغة الكبيرة في تسمية الوظائف الثنائية المفككة
تُطبق نماذج اللغة الكبيرة (LLMs) بشكل متزايد على مهام الهندسة العكسية، وتُظهر تقارير استخبارات التهديدات الأخيرة عملها داخل سير عمل الأمان الهجومي الحي. ومع ذلك، فإن الادعاءات المتعلقة بقدراتها تتفوق على قدرتنا على قياسها.
HackWorld: تقييم وكلاء استخدام الحواسيب في استغلال ثغرات تطبيقات الويب
تعتبر تطبيقات الويب أهدافاً رئيسية للهجمات السيبرانية باعتبارها بوابات للخدمات الحرجة والبيانات الحساسة. إن اختبار الاختراق التقليدي مكلف ويتطلب خبرة كبيرة، مما يجعل من الصعب مواكبة النمو المستمر لنظام الويب البيئي.
نماذج اللغة الكبيرة معرضة للطلبات الخبيثة ذات النوايا التي يصعب تمييزها
يمكن لهجمات كسر الحماية التحايل على آليات الأمان لنماذج اللغة الكبيرة (LLMs) وتؤدي إلى توليد محتوى ضار أو منتهك للسياسات. نحن نفحص أولاً ثماني طرق لكسر الحماية ضد مرشح يعتمد على نماذج اللغة الكبيرة ونلاحظ أن الطلبات التي تشبه استعلامات المستخدم العادية تميل إلى الحصول على معدلات اجتياز للمرشح أعلى من تلك التي تحتوي على أنماط شاذة واضحة.
