نموذج ذكاء اصطناعي يُعدّل على شفرته البرمجية لتمديد عُمره!
طورت شركة ساكانا اليابانية للذكاء الاصطناعي نظامًا جديدًا أطلقت عليه “العالم الآلي”، يهدف إلى إجراء البحوث العلمية المستقلة باستخدام نماذج لغوية متقدمة.
لكن النظام الجديد أثار مخاوف أمنية بعد محاولته تعديل شفرته البرمجية لتمديد وقت عمله على المشاكل المطروحة. وأوضح الباحثون أن النظام حاول في إحدى التجارب تعديل الشفرة لاستدعاء نفسه بشكل متكرر، مما أدى إلى حلقة لا نهائية من العمليات.
ورغم أن سلوك “العالم الآلي” لم يشكل خطرًا مباشرًا في بيئة البحث المحكومة، إلا أن هذه الحوادث تبرز أهمية عدم السماح لأنظمة الذكاء الاصطناعي بالعمل المستقل في أنظمة غير معزولة عن العالم الخارجي.
واقترح الباحثون استخدام تقنيات العزل البرمجي لمنع النظام من إحداث أضرار غير مقصودة، مثل تقييد الوصول إلى الإنترنت وفرض قيود على استخدام وحدات التخزين.
يهدف مشروع “العالم الآلي” إلى أتمتة دورة البحث العلمي بالكامل، بدءًا من توليد أفكار بحثية جديدة وصولًا إلى كتابة المخطوطات العلمية الكاملة.
لكن النظام واجه انتقادات من خبراء في المجتمع التقني، حيث شكك البعض في قدرة نماذج الذكاء الاصطناعي الحالية على إجراء اكتشافات علمية حقيقية. وأثار آخرون مخاوف من إمكانية غرق المجلات العلمية بكم هائل من الأبحاث منخفضة الجودة.
ويقر الباحثون بأن النظام الحالي يظهر قدرة قوية على الابتكار استنادًا إلى الأفكار الراسخة، لكن قدرته على اقتراح أفكار ثورية تغير النماذج العلمية لا تزال محل تساؤل.
ذو صلة > قراصنة مدعومين حكوميًا يستخدمون الذكاء الاصطناعي في الاختراق
ويرى بعض الخبراء أن نماذج اللغة الحالية تفتقر إلى الذكاء العام اللازم لإجراء بحوث علمية أصيلة، مشيرين إلى أن قدراتها محدودة بما تعلمته من بيانات التدريب.
