لن تقوم OpenAI بوضع علامة مائية على نص ChatGPT لأن مستخدميها قد يتعرضون للقبض عليهم
لدى OpenAI نظام لوضع علامة مائية على النصوص التي تم إنشاؤها بواسطة ChatGPT وأداة للكشف عن العلامة المائية جاهزة منذ حوالي عام، تقرير صحيفة وول ستريت جورنالولكن الشركة منقسمة داخليًا بشأن ما إذا كانت ستطلقها أم لا. فمن ناحية، يبدو الأمر وكأنه الشيء المسؤول الذي ينبغي القيام به؛ ومن ناحية أخرى، قد يضر ذلك بنتائجها النهائية. يُوصَف وضع العلامة المائية في OpenAI بأنه تعديل لكيفية توقع النموذج للكلمات والعبارات الأكثر احتمالية والتي ستتبع الكلمات والعبارات السابقة، مما يخلق نمطًا يمكن اكتشافه. (هذا تبسيط، ولكن يمكنك الاطلاع على Google's شرح أكثر تفصيلا ل علامة مائية على نص الجوزاء يبدو أن الشركة وجدت أن هذا “فعال بنسبة 99.9٪” لجعل نص الذكاء الاصطناعي قابلاً للكشف عندما يكون هناك ما يكفي منه – وهي نعمة محتملة للمعلمين الذين يحاولون ردع الطلاب عن تسليم مهام الكتابة إلى الذكاء الاصطناعي – مع عدم التأثير على جودة إخراج نص روبوت الدردشة الخاص بها. في استطلاع أجرته الشركة، “أيد الناس في جميع أنحاء العالم فكرة أداة اكتشاف الذكاء الاصطناعي بهامش أربعة إلى واحد”، كما كتبت المجلة. لكن يبدو أن OpenAI قلقة من أن استخدام العلامة المائية قد يؤدي إلى إبعاد مستخدمي ChatGPT الذين شملهم الاستطلاع، والذين أخبر ما يقرب من 30 في المائة منهم الشركة بوضوح أنهم سيستخدمون البرنامج بشكل أقل إذا تم تنفيذ العلامة المائية. كان لدى بعض الموظفين مخاوف أخرى، مثل أنه يمكن إحباط العلامة المائية بسهولة باستخدام حيل مثل ارتداد النص ذهابًا وإيابًا بين اللغات باستخدام ترجمة Google أو جعل ChatGPT يضيف رموز تعبيرية ثم حذفها بعد ذلك، وفقًا للمجلة. على الرغم من ذلك، لا يزال الموظفون يشعرون بأن النهج فعال. ولكن في ضوء مشاعر المستخدمين المزعجة، تقول المقالة إن البعض اقترح تجربة أساليب “أقل إثارة للجدل بين المستخدمين ولكنها غير مثبتة”. وأعتقد أن أي شيء أفضل من لا شيء.
المصدر
