- يستبدل موقع Roblox فلتر "####" القديم بنظام ذكاء اصطناعي يعيد كتابة الرسائل في الوقت الفعلي مع الحفاظ على المعنى الأصلي.
- تقوم هذه التقنية بتحليل السياق، وتكشف عن لغة الإنترنت المستخدمة في الإنترنت وغيرها من الحيل، مع انخفاض بنسبة 20 ضعفًا في النتائج السلبية الخاطئة عند مراقبة البيانات الشخصية.
- ينطبق التعديل بشكل أساسي على المستخدمين الموثقين والمستخدمين المصنفين حسب العمر، مع ظهور إشعارات مرئية عند تعديل الرسالة.
- يسعى النهج الجديد إلى تقليل الاحتكاك في المحادثات دون تخفيف معايير الأمان، وسط ضغوط تنظيمية متزايدة لحماية القاصرين.
في الأسابيع الماضية ، أجرت منصة روبلوكس تغييراً كبيراً في طريقة إدارتها للمحادثات داخل منصتها.بدأت الطريقة التقليدية المتمثلة في ملء الرسائل بالهاشتاغات عند ظهور كلمة محظورة بالتلاشي، لتفسح المجال لنظام أكثر تطوراً، مدعوماً بـ نماذج الذكاء الاصطناعي.
بدلاً من عرض سطور نصية غير قابلة للقراءة مليئة بـ "####" في كل مرة يتجاوز فيها شخص ما الخطبدأت الشركة في طرح ميزة من إعادة كتابة المحادثات تلقائيًا في الوقت الفعليالهدف واضح: الحفاظ على حرية التعبير عما يريد الناس قوله، ولكن دون السماح بالإهانات أو اللغة السامة أو محاولات مشاركة المعلومات الحساسة، وهو أمر بالغ الأهمية في مجتمع يضم الكثير من القاصرين.
من "####" إلى جمل مفهومة: ما الذي يتغير في دردشة روبلوكس؟
لسنوات، اعتمد النهج الكلاسيكي لإدارة النصوص على قوائم الكلمات المحظورة المخفية برموزإنها فعالة في حظر مصطلحات معينة، ولكن لها تأثير جانبي مزعج إلى حد ما: فهي تحول المحادثة إلى جدار من الأحرف التي لا يفهمها أحد، مما يعطل تمامًا سير اللعبة والدردشة.
قررت روبلوكس أن تخطو خطوة أبعد من ذلك و استبدل هذا الحظر المسطح بنظام يعيد كتابة ما يقالومن الأمثلة التوضيحية التي شاركتها الشركة نفسها: عبارة مثل "أسرعوا!لن تظهر عبارة "أو "أسرع أيها الأحمق" كسلسلة من علامات التصنيف، بل ستظهر ببساطة كـ "عجلوا!"" أو "أسرع". الفكرة هي أن المحتوى المسيء يختفي، لكن الترتيب العام أو النية تبقى.
لتجنب سوء الفهم، في كل مرة يقوم فيها الذكاء الاصطناعي بتعديل رسالة، يشير النظام إلى ذلك في المحادثة نفسها.بمعنى آخر، يلاحظ المشاركون حدوث إعادة صياغة، وبالتالي فإن تدخل الأداة الآلية ليس خفياً. تسعى المنصة بالتالي إلى تحقيق توازن دقيق: التدخل في الحوار دون إعطاء انطباع بأنها تتلاعب سراً بما يقوله الناس.
يتم تطبيق هذه الوظيفة بشكل أساسي على المحادثات بين المستخدمين الذين أكملوا عملية التحقق من العمر ويتم تجميعهم في فئات عمرية متشابهةيؤثر ذلك على الميزات الشائعة داخل Roblox، مثل الدردشة العامة، ودردشة الفريق، والهمسات، وهو مدمج في بنية الأمان الحالية، والتي تشمل كل شيء من المرشحات التقليدية إلى أنظمة الإبلاغ عن سوء السلوك الخطير ومراجعته.
على أي حال، فإن إعادة الصياغة لا تحل محل العقوبات الأشد قسوة: إذا تجاوز السلوك حدودًا معينة، فسيتم تطبيق إجراءات مثل الإغلاق أو الإيقاف أو التصعيد إلى فرق بشرية.يعمل الذكاء الاصطناعي على المستوى الأول، حيث يعمل على تلطيف اللغة وتقليل الاحتكاك، ولكنه ليس المقصود منه أن يكون ذريعة لتخفيف معايير الأمان أو كرد فعل على إساءة استخدام خطيرة.
كيف تعمل تقنيات الذكاء الاصطناعي على إعادة كتابة الرسائل في الوقت الفعلي
يعتمد نظام روبلوكس الجديد على عدة مكونات تتجاوز بكثير مجرد فلتر القائمة السوداء البسيط. يكمن السر في أن يقوم الذكاء الاصطناعي بتحليل السياق الدلالي للرسالة، وليس الكلمات الفردية فقط.وهذا يسمح له بفهم الاختصارات والتعبيرات العامية أو مزيج اللغات التي قد يفوتها المرشح الأساسي أو يحجبها بشكل مفرط.
توضح الشركة أن هذا الطراز قادر على الكشف عن أشكال مختلفة من اللغة المسيئة، بما في ذلك لغة الإنترنت المستخدمة في الإنترنت (Leetspeak) وغيرها من الحيل الشائعة لتجاوز المرشحاتهذا النوع من الكتابة الإبداعية - استبدال الحروف بالأرقام أو الرموز، وإدخال الأخطاء عمداً، وخلط الأحرف الكبيرة والصغيرة - شائع في محادثات ألعاب الفيديو وعادة ما يكون كابوساً لأي نظام إشراف ثابت.
وفقًا للبيانات التي شاركتها شركة روبلوكس، فقد سمحت هذه البنية قلل من النتائج السلبية الخاطئة بمقدار 20 ضعفًا عند التعامل مع الرسائل التي تشارك أو تطلب معلومات شخصيةبمعنى آخر، يكتشف النظام محاولات الكشف عن البيانات الحساسة بشكل متكرر أكثر من ذي قبل، دون أن يفوتها بسبب تغيير بسيط في حرف أو رمز.
قطعة مهمة أخرى هي الحفاظ على النية الأصلية للنصلا يقتصر دور الذكاء الاصطناعي على حذف الكلمات فحسب، بل يُنشئ نسخة بديلة تحافظ، قدر الإمكان، على المعنى الذي قصده المستخدم، ولكن ضمن معايير السلوك المحددة للمنصة. من الناحية التقنية، يُقرّب هذا الأمر من... نماذج اللغة التوليدية بدلاً من استخدام مرشحات الإشراف التقليدية.
كل هذا مُدمج أيضاً مع أدوات تستخدم منصة روبلوكس بالفعل الترجمة الآلية لربط اللاعبين الذين يتحدثون لغات مختلفةوتؤكد الشركة أن التصميم الجديد متاح باللغات التي تدعمها المنصة، مما يسمح لها بتوسيع نطاق نهج الإشراف هذا ليشمل المجتمعات العالمية، بما في ذلك أوروبا وإسبانيا، حيث تتمتع اللعبة بقاعدة مستخدمين كبيرة.
استراتيجية أمنية متعددة الطبقات تحت ضغط تنظيمي مكثف
لم تظهر ميزة إعادة الكتابة الجديدة من العدم، بل هي جزء من... استراتيجية روبلوكس التقدمية لتعزيز الأمن والرقابة الآليةلا سيما بعد الانتقادات والدعاوى القضائية المتعلقة بحماية الطفل. وقد تم تسليط الضوء على المنصة بسبب حالات الاستغلال الجنسي للأطفال، والمحتوى غير اللائق، وعمليات الاحتيال التي تُرتكب داخل بيئة الألعاب نفسها.
في السنوات الأخيرة، أضافت الشركة أجزاءً جديدة: تنبيهات فورية، وفلاتر أكثر دقة، ومؤخراً، التحقق الإلزامي من الوجه للوصول إلى بعض ميزات الدردشةوقد جاءت هذه الإجراءات بالتوازي مع الإجراءات القانونية التي اتخذتها ولايات أمريكية مختلفة، حيث اتهم المدعون العامون الشركة بعدم بذل ما يكفي لمنع المخاطر التي يتعرض لها المستخدمون الأصغر سناً.
في هذا السياق، فإن نشر الذكاء الاصطناعي الذي يعيد صياغة الرسائل بشكل فوري للحفاظ على الحوار ضمن حدود معينة من اللياقة. كما يُفسر ذلك على أنه رسالة إلى الجهات التنظيمية والجمهور: تحاول الشركة أن تُظهر أنها تستثمر في التكنولوجيا للحد من الانتهاكات دون تعطيل البعد الاجتماعي للعبة بشكل كامل.
أكدت شركة روبلوكس أن سلامة الأطفال لا تزال محور التركيز الرئيسي لهذه القرارات. يهدف الجمع بين التحقق من العمر، وتقسيم الفئات العمرية، والرقابة التوليدية إلى تقليل فرص تواصل البالغين بشكل غير لائق مع القاصرين. أو أن البيانات الشخصية يتم مشاركتها بشكل قد يضر بخصوصية اللاعبين.
وقد أشركت الشركة أيضاً موظفيها الخاصين مجلس المراهقينتم تشكيل مجلس مؤلف من مستخدمين مراهقين للمنصة لتعديل سلوك الذكاء الاصطناعي. والهدف هو أن يقوم النظام التعرف على اللغة العامية وطرق الكلام الشائعة بين الشباب دون فرض رقابة عليها بشكل تلقائيهذا أمر أساسي لمنع المحادثة من أن تصبح مصطنعة أو جامدة لدرجة أنها تصبح غير قابلة للاستخدام.
التأثير على تجربة اللاعب والنقاش حول حرية التعبير
يفتح هذا التغيير نقاشًا مثيرًا للاهتمام حول إلى أي مدى ينبغي للمنصة أن تتدخل في طريقة تعبير مستخدميها عن أنفسهم؟من وجهة نظر العديد من الآباء والأوصياء في إسبانيا وبقية أوروبا، يمكن اعتبار هذا الإجراء بمثابة راحة: فقد تم تنظيف غرفة الدردشة من الإهانات والعبارات العدوانية دون منع القاصرين من القدرة على تنسيق الألعاب أو الدردشة مع الأصدقاء.
لكن بالنسبة لبعض أعضاء مجتمع الألعاب، فكرة قيام الذكاء الاصطناعي بإعادة كتابة ما يكتبه المرء في الوقت الفعلي قد يُثير هذا الأمر بعض المخاوف. فرغم أن النظام يحافظ على الهدف العام، إلا أنه يُعدّ تغييراً للرسالة الأصلية. وقد يتعارض هذا التباين مع مفهوم حرية التعبير الذي يربطه العديد من المستخدمين بألعاب الإنترنت، حتى وإن أقرّوا بوجود قواعد سلوك أساسية.
تحاول روبلوكس التخفيف من هذا التصور من خلال قرارين رئيسيين: من ناحية، لإرسال إشعار في المحادثة نفسها عند إعادة صياغة الرسالة.من جهة أخرى، يحتفظ النظام بإطار عقوبات منفصل للحالات الخطيرة التي لا يكفي فيها إعادة الصياغة. والرسالة الضمنية هي أن الذكاء الاصطناعي لا ينوي "فرض أقوال على أحد"، بل استبدال مصطلحات محددة تتعارض مع مدونة السلوك.
يتماشى هذا النهج مع اتجاه أوسع في قطاع التكنولوجيا: الابتعاد عن أنظمة الإشراف التفاعلية البحتة (الحظر أو الحذف) أما البعض الآخر فهو أكثر استباقية وإبداعًا، إذ يسعى لتوجيه التفاعلات بطريقة أقل إزعاجًا. فبدلًا من قطع المحادثة، يُعاد صياغتها. وبدلًا من مواجهة المستخدم برسالة "محظورة"، يُعرض عليه نسخة مقبولة مما أراد قوله.
في الحياة اليومية للاعبين، وخاصة اللاعبين الأصغر سناً، سيترجم هذا إلى محادثات أكثر وضوحاً، مع عدد أقل من المقاطعات وعدد أقل من سلاسل الرموز.لكن ذلك سيتطلب أيضاً التعايش مع نظام يُصحّح أنماط الكلام بشكل واضح. وفي نهاية المطاف، سيُحدد الاستخدام المستمر ما إذا كان المجتمع يعتبره مساعدة معقولة أم تدخلاً مفرطاً.
الآثار المترتبة على المنصات الأخرى وعلى النظام البيئي الأوروبي
على الرغم من أن الحركة نشأت على منصة عالمية مقرها الولايات المتحدة، وتؤثر هذه التداعيات بشكل مباشر على المطورين والشركات في الألعاب والتطبيقات الاجتماعية أوروباتدفع لوائح الاتحاد الأوروبي، وعلى رأسها لائحة الخدمات الرقمية (DSA)، المنصات الكبيرة إلى تعزيز آليات الإشراف الخاصة بها، لا سيما عندما يتعلق الأمر بالقاصرين.
وهكذا يصبح روبلوكس مثال عملي على كيفية استخدام الذكاء الاصطناعي التوليدي لتلبية متطلبات أمنية أعلى دون التضحية بتجربة المستخدم بشكل كامل.بالنسبة للاستوديوهات الأوروبية التي تقوم بتطوير عوالم افتراضية أو تجارب اجتماعية أو ألعاب تتضمن دردشة مدمجة، قد ينتهي هذا النوع من النهج بوضع المعيار: عدد أقل من المرشحات الصارمة وأنظمة أكثر تفهم السياق وتعيد الكتابة على الفور.
كما يُظهر نشر النظام أن لم يعد الإشراف الآلي حكراً على الشركات العملاقة ذات الموارد غير المحدودة.تتيح نماذج اللغة المتاحة عبر واجهات برمجة التطبيقات (APIs) - سواءً من مزودين تجاريين أو مفتوحي المصدر - إمكانية تكرار منطق مماثل دون الحاجة إلى بناء البنية التقنية بأكملها من الصفر. ولا يقتصر التحدي على الجانب التقني فحسب، بل يشمل أيضًا جانبًا تصميميًا: تحديد ما يجب إعادة كتابته، وكيفية إعلام المستخدم، وما يجب تركه للتدخل البشري.
وفي الحالة الأوروبية، هناك عنصر إضافي: الحساسية التنظيمية فيما يتعلق بمعالجة البيانات الشخصية وشفافية الخوارزمياتيجب أن يأخذ أي تطبيق للرقابة القائمة على الذكاء الاصطناعي في الاعتبار التزامات مثل الإبلاغ بوضوح عن وجودها، والسماح بدرجة معينة من اللجوء إلى القضاء ضد القرارات الآلية، وتقليل جمع البيانات غير الضرورية.
من خلال جعل إعادة الصياغة مرئية داخل المحادثة وتأطيرها كأداة للتحضر بدلاً من كونها نظاماً غامضاً للرقابة، إنها ترسل إشارة إلى الوجهة التي قد تتجه إليها الصناعة في السنوات القادمة.لا يزال من غير الواضح ما إذا كانت عناوين الألعاب متعددة اللاعبين الرئيسية الأخرى أو الشبكات الاجتماعية ستتبنى نفس النهج بالضبط، لكن الضغط لدمج الأمن والامتثال التنظيمي وتجربة سلسة يتزايد.
مع كل هذه الحركة، تُظهر المنصة أن لا يمكن استخدام الذكاء الاصطناعي فقط لإنشاء محتوى أو شخصيات داخل الألعاب، ولكن أيضًا لتنظيم وتشكيل التفاعل بين الأشخاص في الوقت الفعلي.لا يخلو الاقتراح من الجدل، ولكنه يوضح بشكل مناسب الوضع الحالي للمجتمعات الرقمية: الحفاظ عليها حية ومتفاعلة، مع رفع المزيد من الحواجز في الوقت نفسه ضد الإساءة والمعلومات المضللة والمخاطر التي يتعرض لها القاصرون.
ما يحدث مع روبلوكس في نهاية المطاف بمثابة مؤشر على تحول أوسع نطاقاً: لم يعد الاعتدال بمثابة كابح مرئي، بل بدأ يعمل في الخفاء، يعيد صياغة اللغة ويصححها ويوجهها. حتى تستمر اللعبة والمحادثة، ولكن ضمن حدود تخضع لمراقبة متزايدة من قبل الجهات التنظيمية والعائلات والمستخدمين.
