دراسة: أدوات كشف النصوص المولّدة بالذكاء الاصطناعي ليست دقيقة

كشف باحثون من جامعة بنسلفانيا أن أدوات الكشف عن النصوص المولّدة بواسطة الذكاء الاصطناعي ليست موثوقة كما يعتقد البعض. تُستخدم هذه الأدوات في تحليل النصوص لمعرفة ما إذا كانت قد كُتبت بواسطة الذكاء الاصطناعي أم لا، إلا أن هذه الأدوات تعتمد على علامات محددة قد تظهر في النصوص التي يكتبها الإنسان أيضًا.

في بعض الأحيان، تستطيع أدوات الكشف تحديد النصوص المولّدة بالذكاء الاصطناعي بسهولة، لكنها تواجه صعوبة في التعامل مع بعض النصوص مثل المقالات الإخبارية.

بل إن بعض هذه الأدوات تصنف نصوصًا كتبها البشر على أنها مولّدة بالذكاء الاصطناعي.

واقترح الباحثون في دراستهم نهجًا جديدًا لتعميم النصوص المولّدة بواسطة الذكاء الاصطناعي، وذلك من خلال تزويد أدوات الكشف بمجموعة بيانات ضخمة تضم 10 ملايين وثيقة متنوعة تشمل المقالات الإخبارية والمدونات والوصفات.

بعد ذلك، سيتم تصنيف أدوات الكشف في قائمة عامة وفقًا لأدائها بناءً على تلك البيانات. وأوضح الباحثون أنهم يسعون إلى وضع معايير جديدة لأدوات الكشف بحيث يمكن التحقق من أن النص مكتوب بالفعل من قبل الإنسان.

منذ إطلاق GPT-2 في عام 2019 وGPT-3 في عام 2022، ظهرت العديد من المشاكل المتعلقة بالنصوص التي يولّدها الذكاء الاصطناعي.

وأعرب العديد من المعلمين عن قلقهم من استخدام الطلاب لهذه النماذج في كتابة الواجبات الدراسية والأبحاث الأكاديمية.

تدّعي بعض أدوات الكشف أنها تتمتع بدقة تصل إلى 99%، وهو أمر يصعب تصديقه. ويذهب البعض إلى القول إن اكتشاف النصوص المولّدة بالذكاء الاصطناعي أصبح معقدًا.

وأشار الباحثون إلى أن أدوات الكشف يمكن خداعها بسهولة إذا ما تم استبدال بعض الكلمات أو استخدام لهجة بريطانية.

كما أن بعض الأدوات تعمل بشكل أفضل مع النماذج التي تم تدريبها عليها، مما يعني أنها قد تفشل في كشف النصوص المكتوبة بنماذج أخرى.

ذو صلة > ميتا تُعلن عن ميزة جديدة للكشف عن المحتوى المُنشأ بالذكاء الاصطناعي

بالإضافة إلى ذلك، قد تواجه أدوات الكشف المصممة خصيصًا للكشف عن المقالات الإخبارية صعوبة في التعامل مع نصوص الوصفات.

باختصار، مع تطور نماذج اللغة الكبيرة، تواجه أدوات الكشف تحديات متزايدة في تحديد النصوص المولدة بواسطة الذكاء الاصطناعي بدقة.

المصدر