الذكاء الاصطناعي يعكس الانحيازات البشرية ولا بديل عن تدخل الإنسان: تتمكن الآلات من البحث في البيانات وإيجاد الترابطات بينها، ولكن دون تدخل الإنسان في إطار عملية مراجعة متواصلة فستستمر الآلات في الوقوع بفخ الانحيازات البشرية، وفق ما ذكرته عالمة الأعصاب فيفيان مينج بمقالها في فايننشال تايمز. وتذكر مينج محاولة شركة أمازون خلق نظام إلكتروني لتقييم المتقدمين للعمل بشكل أكثر إنصافا. وقامت الشركة بإلغاء النظام في 2015 بعد اكتشافها أنه تضمن انحيازا ضد النساء في تقييمه للمتقدمين للوظائف التقنية، إذ كانت أغلب طلبات التوظيف التي تعامل معها النظام وقام بتقييمها من الرجال. وعلى الرغم من محاولة الشركة تعديل النظام ليصبح غير منحاز، كان الذكاء الاصطناعي قادرا على إيجاد الفروق في الطلبات المقدمة من الرجال والنساء وقام باستبعادهن.

ولا تكمن المشكلة في الانحيازات بناء على البيانات ولكن في الاعتقاد بأن كثرة البيانات ستنهي وجود الانحيازات: ولا يمكن إحداث تقدم حقيقي من دون القدرة على طرح الأسئلة بشكل صحيح وتطبيق المهارات البشرية مثل الملاحظة والتعلم من الأخطاء لحل مشكلات مثل الانحياز للنوع في التوظيف. والاتجاه السائد في مجال الذكاء الاصطناعي هو تدريب الآلات على التساؤل عن السببية (السؤال بكيف) والتعليم المعزز هو تحرك مهم في هذا الاتجاه. وتقول مينج إن أفضل استخدام لهذه الأنظمة بشكل مفيد هو بمعرفة حدود إمكانياتها وتدريب البشر على طرح الأسئلة الصحيحة في المقام الأول.