تحيز
أدوات الذكاء الاصطناعي للسرطان يمكنها استنتاج الديموغرافيا للمرضى، مما يثير مخاوف بشأن التحيز
من إعداد الذكاء الاصطناعي صورة مولدة بواسطة الذكاء الاصطناعي تم التحقق من الحقائق
أنظمة الذكاء الاصطناعي المصممة لتشخيص السرطان من شرائح الأنسجة تتعلم استنتاج الديموغرافيا للمرضى، مما يؤدي إلى أداء تشخيصي غير متساوٍ عبر المجموعات العرقية والجنسية وعمرية. حدد باحثون في كلية هارفارد الطبية وشركاؤهم المشكلة وطوّروا طريقة تقلل بشكل حاد من هذه الاختلافات، مما يؤكد الحاجة إلى فحوصات روتينية للتحيز في الذكاء الاصطناعي الطبي.
تقرير من مركز بحوث الإعلام حلل التغطية في أربع تطبيقات أخبار كبرى —Apple News وGoogle News وMSN التابع لمايكروسوفت وYahoo News— واكتشف تفضيلاً قوياً للمنافذ اليسارية. الدراسة، التي غطت 106 أيام من الهالوين إلى عيد الحب، أظهرت أن المصادر اليمينية تتلقى رؤية ضئيلة. عرضت المنصات آلاف القصص، مع تفاوتات في تمثيل المنافذ.
من إعداد الذكاء الاصطناعي
تظهر أبحاث جديدة أن الخوارزميات المخصصة على منصات مثل يوتيوب يمكن أن تعيق التعلم من خلال تقييد التعرض للمعلومات، حتى بالنسبة لأولئك الذين ليس لديهم معرفة سابقة. استكشف المشاركون في دراسة مواد أقل، واستنتجوا استنتاجات خاطئة، وشعروا بثقة زائدة في أخطائهم. تبرز النتائج مخاطر فهم متحيز في التفاعلات الرقمية اليومية.