تسلط تنبيهات الأخبار المزيفة التي تعمل بالذكاء الاصطناعي من Apple الضوء على مشكلة المعلومات الخاطئة التي تواجهها التكنولوجيا
جاب آرينز | نورفوتو | تعمل ميزة الذكاء الاصطناعي في أجهزة iPhone على إصدار تنبيهات بشأن الأخبار المزيفة، مما يثير المخاوف بشأن قدرة التكنولوجيا على نشر معلومات مضللة. قصة المذيع عن الدور نصف النهائي لبطولة PDC العالمية للسهام، والتي تدعي كذبًا أن لاعب السهام البريطاني لوك ليتلر قد فاز بالبطولة. وقع الحادث قبل يوم واحد من الحدث الفعلي نهائي البطولة، والذي فاز به ليتلر. وبعد ساعات فقط من وقوع هذا الحادث، ادعى إخطار منفصل صادر عن شركة Apple Intelligence، نظام الذكاء الاصطناعي التابع لشركة التكنولوجيا العملاقة، كذبًا أن أسطورة التنس رافائيل نادال قد أعلن عن كونه مثليًا. لقد حاولت لمدة شهر تقريبًا إقناع Apple بإصلاح المشكلة. الإذاعة الحكومية البريطانية اشتكى لشركة أبل في ديسمبر بعد أن ولدت ميزة الذكاء الاصطناعي الخاصة بها عنوانًا كاذبًا يشير إلى أن لويجي مانجيوني، ال رجل اعتقل بعد القتل أطلق بريان طومسون، الرئيس التنفيذي لشركة التأمين الصحي UnitedHealthcare في نيويورك، النار على نفسه – وهو ما لم يحدث أبدًا. ولم تكن شركة Apple متاحة على الفور للتعليق عندما اتصلت بها CNBC. وفي يوم الاثنين، قالت شركة أبل لبي بي سي إنها تعمل على تحديث لحل المشكلة عن طريق إضافة توضيح يوضح متى تكون شركة Apple Intelligence مسؤولة عن النص المعروض في الإشعارات. حاليًا، تظهر إشعارات الأخبار التي تم إنشاؤها على أنها تأتي مباشرة من المصدر. وقالت الشركة في بيان تمت مشاركته مع بي بي سي: “إن ميزات Apple Intelligence في مرحلة تجريبية ونحن نعمل باستمرار على إجراء تحسينات بمساعدة تعليقات المستخدمين”. أضافت شركة Apple أنها تشجع المستخدمين على الإبلاغ عن مخاوفهم إذا شاهدوا “ملخصًا للإشعارات غير المتوقعة”. بي بي سي ليست المؤسسة الإخبارية الوحيدة التي تأثرت بتلخيص Apple Intelligence للإشعارات الإخبارية بشكل غير دقيق. وفي نوفمبر، أرسلت الميزة إشعارًا ملخصًا للذكاء الاصطناعي ادعاء خاطئ باعتقال رئيس الوزراء الإسرائيلي بنيامين نتنياهوتم الإبلاغ عن الخطأ على تطبيق الوسائط الاجتماعية Bluesky بواسطة كين شوينكي، أحد كبار المحررين في موقع الصحافة الاستقصائية ProPublica. وقد تواصلت CNBC مع بي بي سي ونيويورك تايمز للتعليق على الحل الذي اقترحته شركة Apple لمشكلة المعلومات المضللة الخاصة بميزة الذكاء الاصطناعي.مشكلة المعلومات الخاطئة التي يواجهها الذكاء الاصطناعي ملخصات الإخطارات التي تم إنشاؤها بواسطة الذكاء الاصطناعي كوسيلة فعالة لتجميع معاينات إشعارات تطبيقات الأخبار وإعادة كتابتها في تنبيه واحد على شاشة قفل المستخدمين. إنها ميزة Apple يقول تم تصميمه لمساعدة المستخدمين على فحص إشعاراتهم بحثًا عن التفاصيل الأساسية وتقليل الكم الهائل من التحديثات التي يعرفها العديد من مستخدمي الهواتف الذكية. ومع ذلك، فقد أدى ذلك إلى ما يشير إليه خبراء الذكاء الاصطناعي بـ “الهلوسة” – وهي استجابات ناتجة عن الذكاء الاصطناعي تحتوي على معلومات كاذبة. أو معلومات مضللة. “أظن أن شركة Apple لن تكون وحدها في مواجهة تحديات المحتوى الناتج عن الذكاء الاصطناعي. لقد رأينا بالفعل العديد من الأمثلة على خدمات الذكاء الاصطناعي التي تحكي بثقة الأكاذيب، ما يسمى بـ “الهلوسة”،” كما قال بن وود، كبير المحللين في شركة Apple. قالت شركة CCS Insights لأبحاث السوق التي تركز على التكنولوجيا، لـ CNBC. في حالة Apple، نظرًا لأن الذكاء الاصطناعي يحاول دمج الإشعارات وتكثيفها لإظهار ملخص أساسي فقط للمعلومات، فقد قام بمزج الكلمات معًا بطريقة غير دقيقة لوصف الأحداث لكن تقديمها بثقة كحقائق. وأضاف وود: “كان لدى شركة أبل تعقيد إضافي يتمثل في محاولة ضغط المحتوى في ملخصات قصيرة للغاية، مما أدى في النهاية إلى تقديم رسائل خاطئة”. “ستسعى شركة Apple بلا شك إلى معالجة هذا الأمر في أقرب وقت ممكن، وأنا متأكد من أن المنافسين سيراقبون عن كثب لمعرفة كيفية استجابتها.” يعمل الذكاء الاصطناعي التوليدي من خلال محاولة اكتشاف أفضل إجابة ممكنة لسؤال أو مطالبة يتم إدراجها بواسطة المستخدم، ويعتمد على كميات هائلة من البيانات التي يتم تدريب نماذج اللغة الكبيرة الأساسية عليها. في بعض الأحيان قد لا يعرف الذكاء الاصطناعي الإجابة. ولكن نظرًا لأنه تمت برمجته لتقديم استجابة دائمًا لمطالبات المستخدم، فقد يؤدي ذلك إلى حالات يكذب فيها الذكاء الاصطناعي بشكل فعال. وليس من الواضح بالضبط متى سيتم إصلاح حل Apple للخطأ في ميزة تلخيص الإشعارات الخاصة بها. وقال صانع iPhone إنه يتوقع وصول واحد في “الأسابيع المقبلة”. (علامات للترجمة) الذكاء الاصطناعي التوليدي (ر) الذكاء الاصطناعي (ر) الإنترنت (ر) التكنولوجيا (ر) الأخبار العاجلة: التكنولوجيا (ر) شركة أبل (ر) أخبار الأعمال
المصدر
