أنظمة آلية لتحديد هوية الأطفال المُحتمل الإساءة إليهم في المنزل

أصبح ليس مفاجئًا في عصر القسوة، ووجود مناخ من الخوف من إساءة معاملة الأطفال، أن يتحوّل العاملون في المجال الاجتماعي إلى تكنولوجيا جديدة للمساعدة, فبدأت السلطات البريطانية المحلية التي تواجه الطلب المتصاعد والعجز في التمويل بقيمة 800 مليون جنيه إسترليني , في السؤال عما إذا كانت البيانات الضخمة يمكن أن تساعد في تحديد الأطفال الضعفاء والتعرّف عليهم, هل يمكن لبرنامج حاسوبي الإبلاغ عن مشكلة في العائلة وتحديد هوية الضحية المحتمل؟

 حقيقة علمية 
كانت مثل هذه الأسئلة هي مادة للخيال العلمي قبل سنوات, والآن بات حقيقة علمية, إن مدينة برستُل الإنجليزية هي إحدى الأماكن التي تختبر هذه القدرات الجديدة  وتتصارع مع الأسئلة الأخلاقية والمعنوية التي تنشأ معها, ولكن غاري ديفيز، الذي يشرف على هذا النظام التنبؤي للمجلس، يمكنه رؤية المزايا, ويجادل بأن هذا لا يعني إخراج البشر من عملية صنع القرار؛ بل يعني استخدام البيانات لمنع البشر من ارتكاب الأخطاء.

 الخصائص السلوكية للاستغلال
 يقول ديفيز "لا يعني ذلك أنك ستتعرض إلى الاستغلال الجنسي، وإلا أنك سُتفقد", "هذا النظام يوضح الخصائص السلوكية للاستغلال أو الاختفاء, إنه يرفع مستوى هذا الخطر والضعف", مضيفًا" عملت هذه التقنيات في مناطق أخرى لسنوات, استخدمت أنظمة التعلم الآلي المصممة لتدمير كميات هائلة من البيانات الشخصية منذ فترة طويلة للتنبؤ بسلوك العملاء في القطاع الخاص, حيث تقوم برامج الكمبيوتر بتقييم مدى احتمالية تخلفنا عن سداد القرض، أو مدى المخاطرة التي نواجهها لمقدم التأمين.
ضرورة تحديد "متغير النتيجة"

يجب على مصممي النموذج التنبؤي تحديد "متغير النتيجة" الذي يشير إلى وجود العامل الذي يحاولون التنبؤ به, ولحماية الطفل، قد يتمثل هذا في طفل يدخل نظام الرعاية, ثم يحاولون تحديد الخصائص الشائعة لدى الأطفال الذين يدخلون نظام الرعاية, وبمجرد تحديدها، يمكن تشغيل النموذج ضد مجموعات البيانات الكبيرة للعثور على أفراد آخرين يتشاركون نفس الخصائص.

يشمل تاريخ الإساءة المنزلية
حصلت صحيفة الغارديان على تفاصيل عن جميع المؤشرات التنبؤية التي تم إدراجها في نظام حماية الطفل في مجلس ثوروك, وهي تشمل تاريخ الإساءات المنزلية ومخالفات الشباب والتغيب عن المدرسة, تم النظر في البداية في مؤشرات أكثر إثارة للدهشة مثل متأخرات الإيجار والبيانات الصحية ولكن تم استبعادها من النموذج النهائي, من خلال هذه الخطة، تتلقى المجالس منحًا من الحكومة المركزية لمساعدة الأسر التي تعاني من صعوبات طويلة الأجل مثل البطالة.

 تثير مثل هذه الأنظمة , مخاوف الخصوصية, ويؤكّد واجد شفيق، الرئيس التنفيذي لشركة Xantura، أن هناك توازنًا بين حقوق الخصوصية واستخدام التكنولوجيا لتقديم سلعة عامة, وقال مايكل فيال، الباحث في التعلم الآلي في القطاع العام في جامعة كوليدج لندن "سيقول المجلس إنه قام بمعالجة البيانات الشخصية بهذه الطريقة لأنه لديه التزام قانوني لحماية رفاهية الأطفال, ومع ذلك، فإن هذا لا يمنحهم اختيارًا شاملًا لأحكام حماية البيانات كافة.

 وأضاف "لا توجد رقابة وطنية على أنظمة التحليلات التنبؤية من قبل الحكومة المركزية، مما يؤدي إلى اختلاف كبير في أساليب الشفافية من قبل السلطات المختلفة, نشر مجلس ثوروك تقييمًا لتأثير الخصوصية على موقعه الإلكتروني، على الرغم من أنه ليس من الواضح ما إذا كان هذا قد أثار أي وعي حقيقي بالمخطط بين السكان.