تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة في الذكاء الاصطناعي والأمن، تم اختيارها لمدى صلتها بالنماذج اللغوية، ووكلات الذكاء الاصطناعي، والأمن السيبراني. الملخصات مصاغة بكلمات المؤلفين أو الناشر، مع وجود روابط للأصل.
مراجعة الأقران
التصميم العكسي الموجه بالذكاء الاصطناعي والذي يضم عنصراً بشرياً لهياكل هندسية عالية الأداء
المسودات الأولية الجديدة (التي لم تُراجع من الأقران بعد)
META-IR: التفكير الاستباقي الفوقي لمواءمة السلامة التكيفية في النماذج اللغوية الكبيرة
تظل النماذج اللغوية الكبيرة (LLMs) عرضة لهجمات كسر الحماية والموجهات ذات المحتوى الضار، لا سيما في ظل تحولات التوزيع الخصومي حيث تفشل خطوط أنابيب المواءمة الثابتة في التعميم. على الرغم من أن الطرق الاستباقية مثل STAIR تعزز اتساق الرفض، إلا أنها تعتمد على سياسات تقييم ذاتي ثابتة لا يمكنها التكيف بسرعة مع استراتيجيات التلاعب المتطورة.
فهم تقديم النماذج اللغوية الكبيرة بكفاءة: دراسة تجريبية للأطر، وخوارزميات التحسين، والتبني في العالم الحقيقي
يتم دمج النماذج اللغوية الكبيرة (LLMs) في أنظمة البرمجيات وخدمات الذكاء الاصطناعي، مما يجعل تقديم هذه النماذج بكفاءة مصدر قلق لهندسة البرمجيات. يعد تقديم النماذج اللغوية الكبيرة أمراً يكتنفه التحدي نظراً لأن الاستدلال يتطلب حوسبة، وذاكرة، وموارد وحدة معالجة رسومية، وتنفيذاً مع الحفاظ على زمن الوصول وإنتاجية العمل.
MetaPI: بناء معايير حقن الموجهات من معايير وكلاء النماذج اللغوية الكبيرة
تؤدي وكلاء النماذج اللغوية الكبيرة (LLM) بشكل متزايد مهام معقدة باستخدام أدوات ذات امتيازات عالية، مما يجعل حقن الموجهات غير المباشر (IPI) مخاطرة أمنية حرجة. ومع ذلك، تتخلف معايير حقن الموجهات غير المباشر عن نظيراتها سريعة التطور، حيث لا توفر سوى تغطية محدودة للمهام والبيئة وتعتمد على سيناريوهات هجوم ضيقة وثابتة.
التقييم الخصومي للنماذج اللغوية الكبيرة لتلخيص تقارير الأشعة الصديقة للمرضى
الغرض: تطوير والتحقق من صحة إطار عمل تقييم خصومي قابل للتطوير لتقييم متانة النماذج اللغوية الكبيرة (LLMs) التي تولد ملخصات صديقة للمرضى لتقارير الأشعة. الطرق: قدمنا إطار عمل خصومياً مستنداً إلى السريرية يستخدم استبدالات المصطلحات الخاضعة للرقابة وإزالة الانطباعات عبر مستويات الشدة.
اكتشاف الذكاء الاصطناعي الخفي: وكلاء النماذج اللغوية الكبيرة غير المصرح بها على نقاط النهاية للمؤسسات: تصنيف، ومكتشف مفتوح، وتقييم خاضع للرقابة
تعتبر تكنولوجيا المعلومات الخفية، وهي استخدام تكنولوجيا لم توافق عليها منظمة تكنولوجيا المعلومات، مشكلة حوكمة طويلة الأمد. نحن نجادل بأن وكلاء الذكاء الاصطناعي المستقلين يمكنهم جعلها تنمو بشكل أسرع بكثير: فالوكلاء يجعلون بناء الأدوات مجانياً تقريبا، ويعملون بامتيازات مستخدميهم، ويتركون وراءهم نصوصاً برمجية، وأتمتة، وخوادم بروتوكول سياق النموذج (MCP) غير المصرح بها.
محول اتجاه الأمان: تصحيح أمان لاحق خالٍ من التدريب للنماذج اللغوية الكبيرة ذات الأوزان المفتوحة والمضبوطة دقيقاً
يتم ضبط النماذج اللغوية الكبيرة ذات الأوزان المفتوحة دقيقاً بشكل روتيني من المستودعات العامة، ومع ذلك فإن التكيف الخاص بالمهمة يمكن أن يؤدي إلى تآكل صامت لمواءمة السلامة الموروثة من القواعد المعدة للتعليمات. يمثل هذا مخاطر في سلسلة التوريد عندما تشحن المؤسسات نقاط تحقق طرف ثالث دون إعادة مواءمة كاملة.
CyberBinGym: هل يمكن لوكلاء الذكاء الاصطناعي تحويل التصحيحات الثنائية إلى استغلالات حقيقية؟
عادة ما تصل الإصلاحات الأمنية إلى المستخدمين في شكل تحديثات مجمعة، ولكن تأخيرات النشر تترك الأنظمة غير المصححة مكشوفة. خلال هذه النافذة، يمكن مقارنة الثنائيات المصححة وغير المصححة لكشف كيفية استغلال ثغرة أمنية، مما يحول التحديث الدفاعي إلى معلومات قابلة للتنفيذ للمهاجمين.
فرض الاتساق الديموغرافي: إطار عمل مدرك للأضرار للتفكير في إصدار البيانات الخاصة
تتكون الأدبيات التقنية حول خصوصية البيانات إلى حد كبير من نهجين متكاملين: تعريفات رسمية للشروط الكافية للحفاظ على الخصوصية، والهجمات التي توضح خرق الخصوصية. الخصوصية التفاضلية هي معيار مقبول في المجال الأول.
