ما بعد التفاؤل والخوف
ينقسم الخطاب حول الذكاء الاصطناعي غالباً بين معسكرين غير مرضيين. يعامل أحدهما الذكاء الاصطناعي كخلاص حتمي: محرك عام للإنتاجية والطب والتعليم والإبداع والوفرة. يعامل الآخر الذكاء الاصطناعي ككارثة مقبلة: قوة للبطالة والمراقبة والتلاعب والاعتماد وانهيار المؤسسات.
كلا الإطارين يحتوي شظايا من الحقيقة. ولا أيهما كافٍ للحوكمة. السؤال الحقيقي ليس ما إذا كان الذكاء الاصطناعي جيداً أم سيئاً. السؤال الحقيقي هو تحت أي شروط يحسّن الذكاء الاصطناعي الحياة البشرية، وتحت أي شروط يستخرج قيمة من المجتمع، وما الضمانات المطلوبة قبل أن يصبح النشر لا رجعة فيه.
ينبغي لأي مبادرة جادة حول الذكاء الاصطناعي والمجتمع أن تبدأ بسجل أثر.
ما يقيسه سجل الأثر
سجل أثر الذكاء الاصطناعي سيتتبع أكثر من الأداء التقني. سيسأل ما إذا كان النظام يحسّن المجال الذي يدخله، أم يكتفي بتقليل التكاليف داخل منظمة واحدة بينما يُصدّر الضرر إلى مكان آخر.
في التعليم، هل يحسّن الذكاء الاصطناعي الفهم، أم ينتج اعتماداً طلقاً؟ في الصحافة، هل يوسّع الوصول إلى المعلومات، أم يغمر المجال العام بضوضاء اصطناعية منخفضة التكلفة؟ في الصحة، هل يحسّن التشخيص والرعاية، أم يخلق أنظمة فرز معتمة لا يستطيع المرضى الطعن فيها؟ في العمل، هل يعزّز القدرة البشرية، أم يذيب مسارات المستوى المبتدئ التي تُكوَّن عبرها الخبرة عادة؟
يجب أن يتضمن السجل الفوائد. ويجب أن يتضمن أيضاً الآثار الخارجية: تكاليف الانتباه، واستخدام الطاقة، واستخراج البيانات، وفقدان المهارات، وتضخيم التحيز، وفجوات المساءلة، والاعتماد النفسي، والهشاشة الديمقراطية.
الاستدامة ليست بيئية فقط
يُناقَش الذكاء الاصطناعي المستدام غالباً من حيث الطاقة والرقائق ومراكز البيانات. هذه الأسئلة مهمة. لكن الاستدامة الاجتماعية مهمة أيضاً.
يمكن للمجتمع أن يعتمد أنظمة فعّالة تقنياً لكنها مُتآكلة اجتماعياً. يمكنه تقليل التكلفة الإدارية مع زيادة الوحدة. يمكنه تخصيص التعليم مع إضعاف المعايير المشتركة. يمكنه أتمتة خدمة العملاء مع تطبيع عدم قابلية المؤسسات للوصول. يمكنه توليد محتوى لا نهائي مع تدهور الشروط الثقافية التي تجعل الإبداع ذا معنى.
سؤال الاستدامة أوسع إذن: هل يمكن لهذا النظام أن يتوسع دون إضعاف الأسس الإنسانية والمدنية والثقافية والبيئية التي يعتمد عليها؟
الأخلاق بعد النشر
تعامل كثير من المنظمات أخلاقيات الذكاء الاصطناعي كمتطلب إطلاق: وثيقة سياسة، ومراجعة مخاطر، وقائمة امتثال. لكن أهم الأضرار قد تظهر بعد النشر، عندما يتكيّف المستخدمون، وتتحول الحوافز، وتتراكم الحالات الحدّية، ويصبح النظام بنية تحتية.
يجب أن تكون الأخلاق إذن مستمرة. تتطلب المراقبة، وآليات الاستئناف، والمراجعات المستقلة، والإبلاغ عن الحوادث، والتشاور مع العمال، والشرح العام، والحق في إيقاف أو عكس الأنظمة التي تفشل في الممارسة.
غرض مركز تفكير حول الذكاء الاصطناعي والمجتمع ليس إبطاء الابتكار لذاته. بل جعل الابتكار أكثر دواماً بضمان أن يبقى الإنسان أهم من الأنظمة المبنية لخدمته.