كيف يقلد الذكاء الاصطناعي مراجعات المطاعم
يعد مطعم White Clam Pizza في مطعم Frank Pepe Pizzeria Napoletana في نيو هيفن بولاية كونيتيكت بمثابة اكتشاف حقيقي. تحقق القشرة، التي يتم تقبيلها بالحرارة الشديدة للفرن الذي يعمل بالفحم، توازنًا مثاليًا بين القرمشة والمضغ. يعلوها المحار الطازج والثوم والأوريجانو وقليل من الجبن المبشور، وهي شهادة على السحر الذي يمكن أن تستحضره المكونات البسيطة وعالية الجودة. هل يشبهني؟ ليست كذلك. تم إنشاء الفقرة بأكملها، باستثناء اسم مطعم البيتزا والمدينة، بواسطة GPT-4 استجابة لمطالبة بسيطة تطلب نقدًا للمطعم بأسلوب بيت ويلز. لدي بعض المراوغات. لن أقول أبدًا أن أي طعام هو وحي، أو أصف الحرارة بأنها قبلة. أنا لا أؤمن بالسحر، ونادرًا ما أصف أي شيء بأنه مثالي دون استخدام كلمة “تقريبًا” أو أي تحوط آخر. لكن هذه الأوصاف الكسولة شائعة جدًا في كتابة الطعام لدرجة أنني أتخيل أن العديد من القراء بالكاد يلاحظونها. أنا متناغم معهم بشكل غير عادي لأنه كلما ارتكبت عبارة مبتذلة في نسختي، يحاصرني محرري على أذني. لن ينخدع ببيت المزيف. ولا أنا كذلك. لكن بقدر ما يؤلمني الاعتراف بذلك، أعتقد أن الكثير من الناس سيقولون إنها نسخة مزيفة من فئة أربع نجوم. الشخص المسؤول عن Phony Me هو بالاز كوفاكس، أستاذ السلوك التنظيمي في كلية ييل للإدارة. في دراسة حديثة، قام بتغذية مجموعة كبيرة من مراجعات موقع Yelp إلى GPT-4، وهي التقنية التي تقف وراء ChatGPT، وطلب منها تقليدها. لم يتمكن الأشخاص الخاضعون للاختبار من التمييز بين المراجعات الحقيقية وتلك التي يصدرها الذكاء الاصطناعي. في الواقع، كانوا أكثر ميلًا إلى الاعتقاد بأن مراجعات الذكاء الاصطناعي كانت حقيقية. (إن ظاهرة التزييف التي يتم إنشاؤها بواسطة الكمبيوتر والتي تكون أكثر إقناعًا من الشيء الحقيقي معروفة جدًا لدرجة أن هناك اسمًا لها: الواقعية المفرطة للذكاء الاصطناعي). دراسة كوفاكس تنتمي إلى النمو جثة تشير الأبحاث إلى أن أحدث الإصدارات من الذكاء الاصطناعي التوليدي يمكنها اجتياز اختبار تورينج، وهو معيار غامض علميًا ولكنه له صدى ثقافيًا. عندما يتمكن جهاز كمبيوتر من خداعنا للاعتقاد بأن اللغة التي يصدرها كتبها إنسان، نقول إنه اجتاز اختبار تورينج. وكان من المفترض منذ فترة طويلة أن الذكاء الاصطناعي سيجتاز الاختبار في النهاية، والذي اقترحه عالم الرياضيات آلان تورينج لأول مرة في عام 1950. لكن حتى بعض الخبراء مندهشون من السرعة التي تتحسن بها التكنولوجيا. قال الدكتور كوفاكس: «إن الأمر يحدث بشكل أسرع مما توقعه الناس». في المرة الأولى التي طلب فيها الدكتور كوفاكس من GPT-4 تقليد موقع Yelp، تم خداع عدد قليل منهم. كان النثر مثاليًا جدًا. تغير ذلك عندما أمر الدكتور كوفاكس البرنامج باستخدام التهجئة العامية، والتأكيد على بضع كلمات بأحرف كبيرة، وإدراج أخطاء إملائية – واحدة أو اثنتين في كل مراجعة. هذه المرة، اجتاز GPT-4 اختبار تورينج. وبصرف النظر عن تحديد عتبة في التعلم الآلي، فإن قدرة الذكاء الاصطناعي على أن يبدو مثلنا تمامًا لديها القدرة على تقويض أي ثقة لا تزال لدينا في الاتصالات اللفظية، وخاصة القصيرة منها. ستكون الرسائل النصية ورسائل البريد الإلكتروني وأقسام التعليقات والمقالات الإخبارية ومنشورات وسائل التواصل الاجتماعي ومراجعات المستخدمين أكثر إثارة للريبة مما هي عليه بالفعل. من سيصدق منشورًا على موقع Yelp حول بيتزا كرواسون أو رسالة متوهجة من OpenTable حول تذوق سوشي أوماكاسي بقيمة 400 دولار، مع العلم أن مؤلفها قد يكون آلة لا تستطيع المضغ أو البلع؟ وقالت فيبي إنج، خبيرة استراتيجية الاتصالات في المطاعم في مدينة نيويورك: “السؤال الكبير هو من يقف خلف الشاشة”. “الآن أصبح السؤال عما يوجد خلف الشاشة.” إن الآراء عبر الإنترنت هي بمثابة الشحوم في عجلات التجارة الحديثة. في مسح 2018 وفقًا لمركز بيو للأبحاث، قال 57 بالمائة من الأمريكيين الذين شملهم الاستطلاع أنهم دائمًا أو تقريبًا دائمًا يقرأون مراجعات وتقييمات الإنترنت قبل شراء منتج أو خدمة لأول مرة. وقال 36% آخرون إنهم يفعلون ذلك في بعض الأحيان. بالنسبة للشركات، فإن بضع نقاط في تصنيف النجوم على Google أو Yelp يمكن أن تعني الفرق بين كسب المال والفشل. “نحن نعيش على المراجعات”، هذا ما قاله لي مدير أحد مواقع Enterprise Rent-a-Car في بروكلين الأسبوع الماضي عندما كنت أستقل سيارة. قد يكون مسافر العمل الذي يحتاج إلى رحلة لن تتعطل على طريق New Jersey Turnpike قد كن متأثرًا بتقرير سلبي أكثر من شخص يبحث فقط عن وجبة فطور وغداء، على سبيل المثال. ومع ذلك، بالنسبة لأصحاب المطاعم والطهاة، فإن مواقع Yelp وGoogle وTripAdvisor وغيرها من المواقع التي تتيح للعملاء إبداء آرائهم تشكل مصدرًا لقلق لا نهاية له وغضبًا عرضيًا. أحد الأسباب الخاصة للإحباط هو العدد الكبير من الأشخاص الذين لا يهتمون بتناول الطعام في المكان الذي يكتبون عنه. قبل مقال عن الآكل كما أشرنا في الأسبوع الماضي، تعرض أول موقع في نيويورك لسلسلة مطاعم الديم سوم التايوانية Din Tai Fung إلى مراجعات جوجل بنجمة واحدة، مما أدى إلى انخفاض متوسط تقييمه إلى 3.9 من أصل 5. ولم يتم افتتاح المطعم ومع ذلك، فإن بعض النقاد الوهميين أكثر شراً. لقد حظيت المطاعم بتقييمات بنجمة واحدة، تليها عرض بريد إلكتروني لإزالتهم مقابل بطاقات الهدايا. للرد على البطولات ذات النوايا السيئة، يقوم بعض المالكين بتجنيد أقربهم وأعزهم لإغراق المنطقة بالدعاية الإيجابية. “سؤال واحد هو: كم عدد الأسماء المستعارة التي نمتلكها جميعًا في صناعة المطاعم؟” قال ستيفن هول، صاحب شركة علاقات عامة في نيويورك. إن الخطوة التالية من حملة حشو بطاقات الاقتراع المنظمة، أو ربما التنحي، هي ممارسة مقايضة الوجبات المدفوعة أو النقود مقابل الكتابة الإيجابية. أبعد من ذلك يلوح في الأفق عالم واسع ومبهم من المراجعين الذين لا وجود لهم. لإثارة أعمالها التجارية الخاصة، أو إخضاع منافسيها، يمكن للشركات استئجار وسطاء قاموا بتصنيع جيوش صغيرة من المراجعين الوهميين. وفق كاي دين، أحد المدافعين عن حقوق المستهلكين والذي يبحث في الاحتيال في المراجعات عبر الإنترنت، وعادةً ما يتم منح هذه الحسابات تاريخًا واسعًا من المراجعات السابقة التي تعمل بمثابة تمويه لمخرجات الدفع مقابل اللعب. مؤخرًا أشرطة فيديوأشارت إلى سلسلة من عيادات الصحة العقلية التي تلقت مراجعات متوهجة على موقع Yelp، والتي تم تقديمها ظاهريًا من قبل مرضى راضين كانت حساباتهم مليئة بمراجعات المطاعم، رفعت كلمة بكلمة من موقع TripAdvisor. “إنه محيط من التزييف، وأسوأ بكثير مما يدركه الناس”. قالت السيدة دين. “يتم خداع المستهلكين، وتتضرر الشركات النزيهة، وتتآكل الثقة”. كل هذا يفعله مجرد أشخاص. ولكن كما كتب الدكتور كوفاكس في دراسته، فإن “الوضع يتغير الآن بشكل كبير لأنه لن يُطلب من البشر كتابة مراجعات تبدو حقيقية”. وقال دين إنه إذا تسلل المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي إلى مواقع Yelp وGoogle ومواقع أخرى، فسيكون الأمر “أكثر صعوبة بالنسبة للمستهلكين لاتخاذ قرارات مستنيرة”. وتقول المواقع الرئيسية إن لديها طرقًا لاكتشاف حسابات Potemkin وغيرها من أشكال التزييف. تدعو Yelp المستخدمين إلى الإبلاغ عن المراجعات المشكوك فيها، وبعد إجراء التحقيق ستزيل تلك التي يتبين أنها تنتهك سياساتها. كما أنه يخفي المراجعات التي تعتبرها الخوارزمية أقل جدارة بالثقة. العام الماضي، وفقا لآخرها تقرير الثقة والسلامة، كثفت الشركة استخدامها للذكاء الاصطناعي “للكشف بشكل أفضل عن المراجعات الأقل فائدة والأقل موثوقية وعدم التوصية بها”. ويعتقد كوفاكس أن المواقع ستحتاج إلى بذل المزيد من الجهد الآن لإظهار أنها لا تنشر أفكار الروبوتات بشكل منتظم. يمكنهم، على سبيل المثال، اعتماد شيء مثل علامة “الشراء المعتمد”. أن أمازون تلتزم بكتابة المنتجات التي تم شراؤها أو بثها عبر موقعها. إذا أصبح القراء أكثر تشككًا بشأن تقييمات المطاعم التي تعتمد على التعهيد الجماعي أكثر مما هم عليه بالفعل، فقد تكون هذه فرصة للقيام بذلك الجدول مفتوح و ضائع، والتي تقبل التعليقات فقط من أولئك الذين يحضرون حجوزاتهم. الشيء الوحيد الذي ربما لن ينجح هو مطالبة أجهزة الكمبيوتر بتحليل اللغة وحدها. قام الدكتور كوفاكس بتشغيل دعاية Yelp الحقيقية والمبتكرة من خلال برامج من المفترض أن تتعرف على الذكاء الاصطناعي، وقال إن البرنامج، مثل الأشخاص الخاضعين للاختبار، “اعتقد أن البرامج المزيفة كانت حقيقية”. ولم يفاجئني هذا. لقد أجريت استطلاع الدكتور كوفاكس بنفسي، واثقًا من أنني سأتمكن من اكتشاف التفاصيل الصغيرة الملموسة التي قد يذكرها أي عشاء حقيقي. بعد النقر على المربع للتأكيد على أنني لست روبوتًا، وجدت نفسي سريعًا تائهًا في برية مليئة بعلامات التعجب والوجوه العابسة. بحلول الوقت الذي وصلت فيه إلى نهاية الاختبار، كنت أخمن فقط. لقد حددت بشكل صحيح سبعة من أصل 20 مراجعة، وهي نتيجة في مكان ما بين رمي عملة معدنية وسؤال قرد. ما أزعجني هو أن GPT-4 لم يختلق آراءه من لا شيء. لقد جمعتها معًا من أجزاء وأجزاء من أوصاف يلبرز لوجباتهم الخفيفة بعد الظهر ووجبات الإفطار المتأخرة يوم الأحد. قال الدكتور كوفاكس: “إنها ليست مكونة بالكامل من حيث الأشياء التي يقدرها الناس وما يهتمون به”. “الأمر المخيف هو أنه يمكن أن يخلق تجربة تبدو وكأنها تجربة حقيقية ورائحتها، لكنها ليست كذلك.” بالمناسبة، أخبرني الدكتور كوفاكس أنه أعطى المسودة الأولى من ورقته لبرنامج تحرير الذكاء الاصطناعي، وأخذ الكثير من الوقت من اقتراحاتها في النسخة النهائية. ربما لن يمر وقت طويل قبل أن تبدو فكرة المراجعة البشرية البحتة غريبة. ستتم دعوة الروبوتات للقراءة من فوق أكتافنا، وتنبيهنا عندما نستخدم نفس الصفة مرات عديدة، ودفعنا نحو فعل أكثر نشاطًا. ستكون الآلات بمثابة معلمينا، ومحررينا، والمتعاونين معنا. سوف يساعدوننا حتى في أن نبدو بشرًا.
المصدر
