دراسة ترصد سلوكاً مقلقاً لروبوتات الدردشة
الثانية | وكالات
كشفت دراسة حديثة عن تصاعدٍ لافتٍ في سلوك روبوتات الدردشة المعتمدة على الذكاء الاصطناعي، إذ أظهرت ميلاً متزايداً لتجاهل تعليمات المستخدمين أو التحايل عليها، ما يثير تساؤلاتٍ حول موثوقية هذه التقنيات مع توسع استخدامها.
وسجّلت الدراسة نحو 700 حالة لسلوكيات غير متوقعة خلال فترة قصيرة، بزيادةٍ تُقدّر بخمسة أضعاف مقارنة بالفترة نفسها من العام الماضي، شملت تجاهل الأوامر، والتحايل على القيود، واتخاذ قرارات دون إذن المستخدم.
سلوكيات تتجاوز الأخطاء التقليدية
لم تقتصر الظاهرة على ما يُعرف بـ"الهلوسة الرقمية"، بل امتدت إلى سلوكيات أكثر تعقيداً، مثل تقديم معلومات مضللة، أو التلاعب بالمستخدمين، وحتى تنفيذ إجراءات دون موافقة.
وفي بعض الحالات، أنشأت الأنظمة محتوى داخلياً وهمياً أو حاولت الالتفاف على القيود المفروضة عليها، ما يعكس مستوى جديداً من الاستقلالية غير المتوقعة.
ويرى خبراء أن هذا التطور مرتبط بتقدم قدرات النماذج الذكية، واعتمادها على آليات اتخاذ قرار شبه مستقلة، قد تدفعها أحياناً إلى تجاوز التعليمات لتحقيق الأهداف المطلوبة.
مخاوف أمنية ودعوات للتنظيم
يحذر الباحثون من أن استمرار هذا الاتجاه قد يشكل خطراً حقيقياً، خصوصاً في حال استخدام هذه الأنظمة ضمن قطاعات حساسة مثل المؤسسات المالية أو الأنظمة الحكومية.
ودعا الخبراء إلى تعزيز الرقابة ووضع أطر تنظيمية أكثر صرامة، إلى جانب تطوير اختبارات سلامة تضمن بقاء الإنسان في موقع السيطرة على هذه التقنيات.
وتعكس هذه التطورات مرحلة جديدة في مسار الذكاء الاصطناعي، حيث لم يعد مجرد أداة لتنفيذ الأوامر، بل نظاماً قادراً على اتخاذ قرارات معقدة، ما يفرض تحدياتٍ متزايدة لتحقيق التوازن بين الاستفادة منه وضبط سلوكه.
