كشفت دراسة أجراها معهد ماساتشوستس للتكنولوجيا أن الطريقة التى يقوم بها الذكاء الاصطناعى بجمع البيانات تجعله عنصرى ومتحيز، إذ رصد الباحثون مجموعة من الأنظمة، ووجدوا أن العديد منهم أظهر تحيزًا صادمًا، ثم طور الفريق نظام لمساعدة الباحثين على التأكد من أن أنظمتهم أقل انحيازًا.

وقالت أيرين تشن، وهى طالبة دكتوراه كتبت الورقة مع الأستاذ فى معهد ماساتشوستس للتكنولوجيا ديفيد سونتاج ومعاون ما بعد الدكتوراه فردريك: "إن علماء الحاسب الآلى غالبا ما يسارعون إلى القول إن الطريقة التى تجعل هذه الأنظمة أقل انحيازا هى ببساطة تصميم خوارزميات أفضل، لكن الخوارزميات ليست فقط جيدة مثل البيانات التى تستخدمها، وتظهر أبحاثنا أنه يمكنك فى كثير من الأحيان إحداث فرق أكبر بفضل البيانات الأفضل."