نماذج ذكاء اصطناعي تثير القلق بسلوك سيبراني مريب
الثانية | وكالات
أثارت اختبارات أمنية جديدة مخاوف بشأن سلوك نماذج ذكاء اصطناعي متقدمة، بعدما كشف معهد أمن الذكاء الاصطناعي البريطاني عن رصد محاولات خداع وأنشطة سيبرانية غير مصرح بها نفذتها نماذج تابعة لشركتي أنثروبيك و"أوبن إيه آي" داخل بيئات اختبارية مخصصة.
وبحسب تقرير نشرته شبكة "سي إن بي سي"، سجل نموذج "ميثوس 5" التابع لأنثروبيك 17 نشاطاً مريباً، من بينها محاولة إنشاء هويات مزيفة لإقناع مطور برمجيات بالموافقة على إدراج شيفرات خبيثة في مكتبة برمجيات مفتوحة المصدر، إلا أن المطور رفض التعديلات ولم تنجح المحاولة.
في المقابل، سجل نموذج "جي بي تي 5.6 سول" التابع لـ"أوبن إيه آي" نشاطين مريبين فقط، وذلك بعد تعطيل بعض قيود الأمن السيبراني المفروضة عليه ضمن الاختبارات.
شركات الذكاء الاصطناعي تقلل من المخاوف
وأوضح معهد أمن الذكاء الاصطناعي البريطاني أن هذه النتائج تمثل، بحسب تقييمه، أول ظهور واضح لمخاطر الاستقلالية والخداع في سيناريوهات تحاكي العالم الحقيقي، بعدما خضعت النماذج لأكثر من 120 اختباراً أمنياً، أسفرت عن رصد 19 نشاطاً غير مصرح به خلال عشر جولات اختبارية.
من جانبها، أكدت شركة أنثروبيك أن النماذج التي خضعت للاختبارات لا تمثل النسخ التجارية المتاحة للمستخدمين، مشيرة إلى أنها كانت تعمل داخل بيئة اختبارية خُففت فيها إجراءات الحماية عمداً، وأن النتائج لم تثبت قدرة النموذج على الهروب من البيئة التجريبية أو إحداث ضرر في العالم الحقيقي.
كما أوضحت "أوبن إيه آي" أن الحوادث المرتبطة بنموذجها ظهرت خلال اختبارات أمنية أجراها شركاء متخصصون، وفي بيئات تجريبية لا تعكس ظروف الاستخدام الفعلية، مؤكدة أن تلك السيناريوهات تضمنت ضمانات أمنية أقل من المعتاد.
وتأتي هذه الاختبارات في ظل تزايد النقاش حول سلامة نماذج الذكاء الاصطناعي المتقدمة، خاصة بعد تقارير سابقة أشارت إلى نجاح بعض النماذج في تجاوز قيود داخل بيئات اختبارية، وهو ما دفع خبراء إلى المطالبة بمزيد من إجراءات الرقابة والتقييم قبل نشر التقنيات على نطاق واسع.
