OpenAI تبحث وضع علامات مائية على النصوص لبرنامج ChatGPT

بعد تقرير من صحيفة وول ستريت جورنال يزعم أن شركة OpenAI كانت تعمل على أداة يمكنها اكتشاف المقالات التي كتبها برنامج ChatGPT بدرجة عالية من الدقة، شاركت الشركة بعض المعلومات حول بحثها في وضع علامات مائية على النصوص - ولماذا لم تصدر طريقة الكشف الخاصة بها. وفقًا لتقرير صحيفة وول ستريت جورنال، فإن الجدل حول ما إذا كان ينبغي إصدار الأداة قد منعها من رؤية ضوء النهار، على الرغم من كونها "جاهزة". في تحديث نُشر يوم الأحد لمنشور مدونة في شهر مايو، رصدته TechCrunch، قالت شركة OpenAI، "لقد طورت فرقنا طريقة لوضع علامات مائية على النصوص والتي نستمر في النظر فيها أثناء بحثنا عن بدائل".

وقالت الشركة إن وضع العلامات المائية هو أحد الحلول المتعددة، بما في ذلك المصنفات والبيانات الوصفية، التي بحثت فيها كجزء من "بحث مكثف في مجال منشأ النص". وفقًا لـ OpenAI، فقد "كان دقيقًا للغاية" في بعض المواقف، لكنه لا يعمل بشكل جيد عند مواجهة أشكال معينة من التلاعب، "مثل استخدام أنظمة الترجمة، أو إعادة الصياغة باستخدام نموذج توليدي آخر، أو مطالبة النموذج بإدراج حرف خاص بين كل كلمة ثم حذف هذا الحرف". وكتبت OpenAI أن وضع علامة مائية على النص قد "يؤثر بشكل غير متناسب على بعض المجموعات. على سبيل المثال، يمكن أن يوصم استخدام الذكاء الاصطناعي كأداة كتابة مفيدة للمتحدثين باللغة الإنجليزية غير الأصليين".

وفقًا لمنشور المدونة، كانت OpenAI تزن هذه المخاطر. كما كتبت الشركة أنها أعطت الأولوية لإصدار أدوات المصادقة للمحتوى السمعي البصري. في بيان لـ TechCrunch، قال متحدث باسم OpenAI إن الشركة تتخذ "نهجًا متعمدًا" فيما يتعلق بمصدر النص بسبب "التعقيدات المتضمنة وتأثيرها المحتمل على النظام البيئي الأوسع خارج OpenAI".