قال رئيس شركة مايكروسوفت، براد سميث، يوم الثلاثاء إن الشركة رفضت حديثًا طلبًا من وكالة إنفاذ القانون في ولاية كاليفورنيا لتثبيت تقنية التعرف على الوجوه في سيارات الضباط والكاميرات التي يعلقونها على ملابسهم بسبب مخاوف من انتهاك حقوق الإنسان.
وخلصت مايكروسوفت إلى أن ذلك سيؤدي إلى احتجاز نساء وأقليات بريئة بشكل غير متناسب للاستجواب؛ لأن الذكاء الاصطناعي قد دُرِّب على صور معظمها لأناس من البيض والذكور. كما أظهرت مشاريع بحثية متعددة أن الذكاء الاصطناعي لا يزال يخطئ في التعرف على هوية النساء والأقليات.
وقال سميث إن الشرطة لن تتردد في سحب أي شخص ثم إجراء مسح للوجه للبحث في قاعدة بيانات للمشتبه بهم. وبعد التفكير في التأثير غير المتكافئ للأمر قررت مايكروسوفت ألا توفر هذه التقنية لجهات إنفاذ القانون.
وخلال حديثه في مؤتمر جامعة ستانفورد بشأن “الذكاء الاصطناعي المتمحور حول الإنسان”، قال سميث إن مايكروسوفت رفضت أيضًا صفقة لتثبيت تقنيات التعرف على الوجوه على الكاميرات التي تغطي عاصمة بلد لم يكشف عن اسمه. وقال سميث إن تلك الدولة كانت ستقمع حرية التجمع هناك.
ومن ناحية أخرى، وافقت مايكروسوفت على توفير التقنية لسجن أمريكي، بعد أن خلصت الشركة إلى أن البيئة ستكون محدودة وأنها ستحسن السلامة داخل المؤسسة غير المسماة.
موضوعات ذات صلة بما تقرأ الآن:
وشرح سميث القرارات كجزء من الالتزام بحقوق الإنسان الذي قال إنه بالغ الأهمية لأن التطورات التقنية السريعة تمكن الحكومات من إجراء مراقبة شاملة ونشر أسلحة ذاتية واتخاذ خطوات أخرى قد يكون من المستحيل إلغاؤها.
وقالت مايكروسوفت في شهر كانون الأول/ ديسمبر إنها ستكون منفتحة بشأن أوجه القصور في تقنية التعرف على الوجوه وطلبت من العملاء أن يكونوا شفافين بشأن الكيفية التي يعتزمون استخدام التقنية فيها، وفي ذات الوقت كانت تستبعد المبيعات للشرطة.
ودعا سميث إلى مزيد من التنظيم لتقنيات التعرف على الوجوه والاستخدامات الأخرى للذكاء الاصطناعي، وحذر يوم الثلاثاء من أنه بدون ذلك، فإن الشركات التي تجمع أكبر قدر من البيانات قد تفوز بالسباق لتطوير أفضل الذكاء الاصطناعي في “السباق نحو القاع” – وهي عبارة اجتماعية-اقتصادية تُستخدم لوصف إلغاء القيود الحكومية على بيئة الأعمال، أو تخفيض معدلات الضرائب، من أجل جذب النشاط الاقتصادي أو الاحتفاظ به في ولاياتها القضائية.
