وجدت Roblox و Discord و Openai و Google مجموعة سلامة الطفل الجديدة
شكلت Google و Openai و Roblox و Discord منظمة جديدة غير ربحية للمساعدة في تحسين سلامة الطفل عبر الإنترنت. ال أدوات السلامة القوية المفتوحة عبر الإنترنت (Roost) تهدف المبادرة إلى جعل تقنيات السلامة الأساسية أكثر سهولة للشركات وتوفير أدوات AI مجانية ومفتوحة المصدر لتحديد مواد الاعتداء الجنسي على الأطفال ومراجعتها والإبلاغ عنها. يغير تطورات الذكاء الاصطناعى لقد صنعت للبيئات عبر الإنترنت وتهدف إلى معالجة “الحاجة الماسة لتسريع الابتكار في سلامة الطفل عبر الإنترنت” ، وفقًا لشريك Roust المؤسس والمدير التنفيذي السابق لـ Google Eric Schmidt. تفاصيل حول أدوات الكشف عن CSAM ضئيلة إلى أبعد من ذلك أنها ستستخدم نماذج AI للغة الكبيرة والخيارات الحالية “توحيد” للتعامل مع المحتوى. “بدءًا من منصة تركز على حماية الطفل ، فإن النهج التعاوني المفتوح للمصدر يعزز الابتكار و وقال Schmidt. بعض الأعضاء المؤسسين في Roost Like Discord ، “اجعل البنية التحتية الأساسية أكثر شفافية ، يمكن الوصول إليها ، وشاملة ، بهدف إنشاء الإنترنت أكثر أمانًا للجميع” ، بينما يوفر آخرون أدواتهم أو خبراتهم للمشروع. تقول Roost إنها تتعاون مع مطوري نماذج مؤسسة AI القياديين لبناء “مجتمع من الممارسات” لحضور ضمانات المحتوى ، والتي ستشمل توفير مجموعات بيانات تدريب AI المقيدة وتحديد الفجوات في أمان. تقول المبادرة إنها ستصنع “أدوات موجودة بالفعل” يمكن الوصول إليها ، حيث تجمع بشكل فعال بين مختلف تقنية الكشف والإبلاغ من مؤسساتها الأعضاء إلى حل موحد يسهل على الشركات الأخرى تنفيذها. نارين كونيرو ، نائب رئيس الهندسة والثقة والسلامة ، روبوكس ، أخبرت شركة Fast Company قد يستضيف هذا المجال أنظمة الاعتدال الذكاء الاصطناعي التي يمكن للشركات دمجها من خلال مكالمات API. هناك بعض الغموض حول ما ستشمله أدوات الاعتدال من الذكاء الاصطناعى في Roost ، مع ذلك. مشاركتها في الجوار، أصدر Discord ميزة “تجاهل” جديدة يتيح ذلك للمستخدمين إخفاء الرسائل والإخطارات التي يتلقونها دون إخطار الأشخاص الذين صامتهم. وقال كلينت سميث ، كبير المسؤولين القانونيين في Discord في إعلان ROOST: “في Discord ، نعتقد أن السلامة مصلحة عامة”. “نحن ملتزمون بصنع الإنترنت بأكمله – وليس فقط الخلاف – مكانًا أفضل وأكثر أمانًا ، وخاصة للشباب.” جمعت Roost أكثر من 27 مليون دولار لدعم السنوات الأربع الأولى من عملياتها ، بدعم من المنظمات الخيرية بما في ذلك مؤسسة McGovern ، ومستقبل صندوق الثقة والسلامة على الإنترنت ، ومؤسسة Knight ، و AI Collaborative. كما سيتم دعم منظمة ROOST من قبل خبراء في سلامة الطفل ، والذكاء الاصطناعي ، وتكنولوجيا المصدر المفتوح ، و “مواجهة التطرف العنيف” وفقًا للبيان الصحفي. (tagstotranslate) AI
المصدر
