دويتشه فيله
نموذج قائم على الذكاء الاصطناعي يخترع نازيين ذوي بشرة سمراء... خطأ وقع فيه برنامج "جيميناي" المطوّر من غوغل، وكان ليمرّ مرور الكرام بعد المسارعة إلى تصحيحه، لكنه يسلّط الضوء على النفوذ المفرط الذي تتمتع به حفنة من الشركات على هذه التكنولوجيا الأساسية بشكل متزايد.
مع "جيميناي"، حاول مهندسو غوغل إعادة التوازن للخوارزميات لتقديم نتائج تعكس التنوع البشري بشكل أفضل. لكن جاءت هذه الجهود بنتائج عكسية.
وقد تحدث الرئيس التنفيذي لمجموعة غوغل سوندر بيتشاي الشهر الماضي عن أخطاء "غير مقبولة على الإطلاق" من جانب تطبيق "جيميناي إيه آي" التابع لشركته، بعد أن أجبرته زلات مثل صور لقوات نازية متنوعة عرقياً على منع المستخدمين موقتاً من إنشاء صور لأشخاص.
وسخر مستخدمو وسائل التواصل الاجتماعي من غوغل، وانتقدوها بسبب صور غير دقيقة تاريخياً، مثل تلك التي تظهر امرأة أميركية سوداء تُنتخب عضواً في مجلس الشيوخ في القرن التاسع عشر، فيما لم يحصل ذلك على أرض الواقع قبل العام 1992.
وقال المؤسس المشارك في غوغل سيرغي برين، في "هاكاثون" للذكاء الاصطناعي أقيم أخيراً "لقد حصلت أخطاء بالتأكيد لدينا في عملية توليد الصور"، مضيفاً أنه كان ينبغي على الشركة اختبار برنامج "جيميناي" بشكل أكثر شمولاً.
واعتبر أشخاص جرت مقابلتهم خلال مهرجان "ساوث باي ساوثوست" الشهير للفنون والتكنولوجيا في أوستن، أن تعثّر "جيميناي" يسلط الضوء على القوة المفرطة التي تمتلكها حفنة من الشركات على منصات الذكاء الاصطناعي التي تتجه لتغيير طريقة عيش الناس وعملهم.
ورأى المحامي ورائد الأعمال في مجال التكنولوجيا جوشوا ويفر أن غوغل اعتمدت في برمجيتها هذه في بادئ الأمر مساراً يعتنق بشكل "مفرط" مبادئ حركة الـ"ووك" (المناهضة لكل أشكال التمييز وعدم المساواة)، ما يعني أنها ذهبت بعيداً في جهودها لإبراز الشمول والتنوع.
وقال تشارلي بيرغوين، الرئيس التنفيذي لمختبر فالكيري للعلوم التطبيقية في تكساس، إن غوغل صححت أخطاءها بسرعة، لكنّ المشكلة الأساسية لا تزال قائمة. وشبّه إصلاح غوغل لخطأ "جيميناي" بوضع ضمادة على جرح ناتج عن تلقي رصاصة.
وأشار ويفر إلى أنه في حين كانت غوغل تتمتع برفاهية الحصول على الوقت الكافي لتحسين منتجاتها، فإنها الآن تندفع في سباق الذكاء الاصطناعي مع "مايكروسوفت"، و"أوبن إيه آي"، و"أنثروبيك" وغيرها، مضيفاً "إنهم يتحركون بسرعة تتخطى حدود معارفهم".
كما أن الأخطاء التي ارتُكبت في إطار الجهود الرامية إلى مراعاة الحساسية الثقافية تشكّل نقاطاً متفجرة، خصوصاً في ضوء الانقسامات السياسية المتوترة في الولايات المتحدة، وهو الوضع الذي تفاقم بسبب منصة إكس المملوكة للملياردير إيلون ماسك.
وقال ويفر "لا يتوانى الناس على تويتر ("إكس" حالياً) عن الاحتفال بأي حدث محرج في مجال التكنولوجيا"، مضيفاً أن رد الفعل على الزلة التي حصلت عبر برنامج جيميناي كان "مبالغاً فيه".
ومع ذلك، أكد ويفر أن هذه الحادثة أثارت تساؤلات حول درجة تحكّم أولئك الذين يستخدمون أدوات الذكاء الاصطناعي بالمعلومات.
وأشار إلى أنه في العقد المقبل، يمكن أن تتجاوز كمية المعلومات - الصحيحة منها أو الخاطئة - التي يولّدها الذكاء الاصطناعي تلك التي يولّدها البشر، ما يعني أن أولئك الذين يتحكمون في ضمانات الذكاء الاصطناعي سيكون لهم تأثير كبير على العالم.
ويعتقد خبراء أنه حتى المهندسين ذوي النوايا الحسنة المشاركين في تدريب الذكاء الاصطناعي لا يمكنهم إلا أن يجلبوا خبراتهم الحياتية وتحيزهم اللاواعي إلى العملية.
ويدعو ناشطون إلى مزيد من التنوع في الفرق التي تنشئ الذكاء الاصطناعي والأدوات ذات الصلة، وزيادة الشفافية على صعيد كيفية عملها - خصوصاً عندما تعيد الخوارزميات كتابة طلبات المستخدمين "لتحسين" النتائج.
