تُرجم من الإنجليزية بواسطة TechUpscale بمساعدة الذكاء الاصطناعي، وتمت مراجعته مقابل النص الأصلي. اقرأ النص الأصلي بالإنجليزية
أبحاث جديدة حول الذكاء الاصطناعي والأمن، مختارة لملاءمتها لنماذج اللغة، ووكلاء الذكاء الاصطناعي، والأمن السيبراني. الملخصات هي كلمات المؤلفين أو الناشرين نفسها، مع روابط إلى الأصل.
مراجعة الأقران
الجمهور يثق في العلماء فيما يتعلق بالذكاء الاصطناعي — أكثر مما يثق بأي شخص آخر
رؤية موحدة لتحديد الأنظمة في عصر التعلم
مسودات جديدة (لم تُراجع بعد)
حول استرجاع المعرفة الخاصة والاستدلال الخاص للأنظمة متعددة الوكلاء الآمنة
توفر الأنظمة متعددة الوكلاء إطارًا ملائمًا للنشر الواسع للوكلاء المستندين إلى نماذج اللغة الكبيرة (LLMs). وهو يوفر إطارًا قويًا حيث يمكن للوكلاء التفاعل مع البرمجيات القائمة لأداء الإجراءات بطريقة مستقلة.
BypassGym: معيار لتقييم قدرة وكلاء الذكاء الاصطناعي على التهرب من دفاعات النقاط الطرفية
تقوم وكلاء الذكاء الاصطناعي بأتمتة مهام الأمن السيبراني بشكل متزايد، بما في ذلك العمليات الهجومية. تجعل الهجمات المتكررة عبر الويب كشف النقاط الطرفية والاستجابة (EDR) دفاعًا حاسمًا، لكن ما إذا كانت وكلاء الذكاء الاصطناعي يمكنها التهرب منه لا يزال غير واضح.
من الأسئلة إلى القرارات: معيار لتقييم كيفية اكتساب وكلاء LLM للمعلومات ذات الصلة بالقرارات من البشر
يُطلب من وكلاء LLM بشكل متزايد وضع خطط للناس، مثل جدولة السائقين أو تعيين الممرضات. ومع ذلك، غالبًا ما تكون طلبات الأشخاص غير مكتملة، وقد تكون المعلومات الداعمة لاتخاذ القرار قديمة، مما يتطلب من الوكلاء طلب توضيح.
TERM: دفاع ضد الاختراق بدون هدف عبر تعديل المتبقي الموجه بالانتروبيا
أظهرت نماذج اللغة الكبيرة (LLMs) قدرات قوية عبر تطبيقات متنوعة، مما يجعل كلًا من السلامة والفائدة أمرًا أساسيًا للنشر الموثوق. تستخدم هجمات الاختراق أشكالًا متنوعة من التحفيز العدائي لتجاوز ضوابط التوافق وإجبار LLMs على إنتاج ردود ضارة.
تقييم أمان قائم على المواصفات للوكلاء الواقعيين عند استدعاء الأدوات في مهام سياقية طويلة الأمد
مع تزايد نشر وكلاء نماذج اللغة الكبيرة (LLM) في سيناريوهات طويلة الأمد دون إشراف، يصبح تقييم أمانهم قبل النشر أمرًا أساسيًا وتحديًا متزايدًا. تتبع طرق التقييم الحالية في الغالب نماذج LLM كقاضٍ أو الوكيل كقاضٍ.
RoCoMark: وضع علامة مائية قوية على الشيفرة ضد هجمات إعادة الكتابة التي تحافظ على الوظيفة المستندة إلى LLM
تشكل نماذج اللغة الكبيرة (LLMs) تحديات كبيرة لتتبع مصدر الشيفرة المولدة، حيث يمكن لإعادة كتابة LLM أن تغير بشكل كبير الخصائص النحوية والهيكلية للشيفرة ذات العلامة المائية. ومع ذلك، غالبًا ما تعاني طرق وضع العلامة المائية الحالية من تدهور شديد في الأداء تحت هجمات إعادة الكتابة التي تحافظ على الوظيفة المستندة إلى LLM.
POEM: انتباه كتلي متفرق نسبي للإخراج لتعبئة السياق الطويل
أظهرت نماذج اللغة الكبيرة (LLMs) قدرات قوية عبر تطبيقات متنوعة، مما يجعل كلًا من السلامة والفائدة أمرًا أساسيًا للنشر الموثوق. تستخدم هجمات الاختراق أشكالًا متنوعة من التحفيز العدائي لتجاوز ضوابط التوافق وإجبار LLMs على إنتاج ردود ضارة.
دراسة تجريبية حول انتشار الثغرات المستندة إلى CVE من نظام إلى نظام آخر (داخل المشروع مقابل بين المشاريع)
غالبًا ما يتم استغلال الثغرات في التطبيقات، بما في ذلك المتصفحات، مشغلات الوسائط، الخدمات عبر الإنترنت وقارئات المستندات، وما إلى ذلك، وتسبب أضرارًا جسيمة. قد توجد الثغرات في نظامك بسبب أخطاء برمجية، إغفالات في التصميم، برمجيات قديمة، شيفرات مولدة بالذكاء الاصطناعي أو ربما تم نقلها من نظام آخر أثناء التطوير (مثل استنساخ الشيفرة).
