أعلنت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن إطلاق أدوات رقابة أبوية جديدة لتطبيق ChatGPT، وذلك في خطوة تُعد جزءًا من جهودها لحماية الأطفال والمراهقين بشكل أفضل من التعرض للمحتويات غير اللائقة.
دوافع تفعيل هذه الخاصية
وكانت الشركة قد كشفت لأول مرة عن نيتها إضافة هذه الضمانات الشهر الماضي، عقب حادثة مأساوية لانتحار مراهق بعد أن وثق في ردود أحد روبوتات الدردشة، وتُعتبر هذه المبادرة استجابة مباشرة لتزايد المطالب بضرورة تعزيز إجراءات الأمان للقُصّر على منصات الذكاء الاصطناعي.
ربط حسابات المراهقين بالآباء
تتيح أدوات الرقابة الأبوية الجديدة للوالدين أو الأوصياء إمكانية ربط حساباتهم بحسابات أبنائهم المراهقين، وتتم العملية عبر إرسال دعوة من أحد الطرفين ليقبلها الآخر، وبمجرد اكتمال الربط تُتاح للأهل لوحة تحكم خاصة لإدارة إعدادات حساب المراهق، وفي حال ألغى القاصر الربط، يتلقى الوالد إشعارًا فوريًا بذلك.
ومن خلال هذه الأدوات، يستطيع الآباء التحكم في طريقة استخدام أبنائهم لـChatGPT، عبر تقييد بعض الخصائص أو تعطيلها بالكامل.
خصائص جديدة للتحكم في الاستخدام
من بين أبرز الميزات التي وفّرتها OpenAI ضمن التحديث الجديد:
1.ميزة ساعات الهدوء:
تحديد أوقات معينة يُمنع خلالها استخدام التطبيق.
2.التحكم في الوضع الصوتي والذاكرة:
تمكين أو تعطيل هذه الخيارات وفقًا لاحتياجات العائلة.
3.إزالة ميزة إنشاء الصور:
لمنع الوصول إلى المحتوى البصري غير المرغوب فيه.
4.إلغاء الاشتراك في تدريب النموذج:
لضمان عدم استخدام محادثات المراهقين في تحسين نماذج الشركة.
حماية افتراضية للقاصرين
جميع حسابات المراهقين المرتبطة ستحصل تلقائيًا على إعدادات أمان مشددة، حيث يتم تقليل ظهور المحتويات ذات الطابع الصريح أو العنيف أو الجنسي، بالإضافة إلى الحد من الألعاب والأدوار الرومانسية أو التحديات الفيروسية الخطيرة، و لايمكن تعديل هذه الإعدادات من قِبل القاصر، بينما يُتاح للوالدين خيار تعطيلها.
نظام تنبيهات لمواجهة الأزمات النفسية
ابتكرت OpenAI كذلك آلية إشعارات جديدة للأهل، تُفعّل عندما يرصد النظام علامات محتملة على مرور المراهق بضيق عاطفي أو التفكير في إيذاء نفسه.
و في هذه الحالات، تُرسل الرسائل إلى فريق من المراجعين البشريين، الذين يتواصلون مع الأهل عبر البريد الإلكتروني، الرسائل النصية، والتنبيهات الفورية على الهواتف، مع ملاحظة أن هذه الميزة يمكن تعطيلها إذا اختار الآباء عدم الاشتراك في النظام.
التوسع التدريجي للميزات
ذكرت OpenAI أن هذه الضوابط الأبوية متاحة حاليًا لمستخدمي ChatGPT عبر الويب في جميع أنحاء العالم، مع خطط لتوسيعها قريبًا لتشمل تطبيقات الهواتف الذكية، بينما لم يتم حتى الآن تحديد موعد توافرها على تطبيقات سطح المكتب.
رؤية مستقبلية للأمان الرقمي
إلى جانب هذه الإجراءات، تعمل OpenAI على تطوير نظام متقدم لتقدير أعمار المستخدمين بالاعتماد على الذكاء الاصطناعي، بحيث يمكن التنبؤ بما إذا كان العمر أقل من 18 عامًا، ومن ثم تطبيق الضوابط والإعدادات المناسبة بشكل تلقائي.
وبهذه الخطوة، تسعى OpenAI إلى ترسيخ مكانتها كشركة مسؤولة لا تكتفي بتطوير أدوات الذكاء الاصطناعي، وإنما تلتزم أيضًا بحماية الفئات الأكثر عرضة للمخاطر الرقمية، وفي مقدمتهم الأطفال والمراهقون.
0 تعليق