تحذير من مخاطر الذكاء الاصطناعي.. يصارع وجود البشرية

أعرب مفوض الأمم المتحدة السامي لحقوق الإنسان، فولكر تورك، عن قلقه البالغ من أن التطور السريع لتقنيات الذكاء الاصطناعي قد يصل إلى مرحلة يشكل فيها "خطرا وجوديا" على البشرية.

جاء التحذير في كلمته الافتتاحية أمام الدورة الثالثة والستين لمجلس حقوق الإنسان في جنيف، حيث قال تورك: "أشارك مخاوف الخبراء في القطاع من أن الذكاء الاصطناعي المتطور قد يشكل تهديدا وجوديا للبشرية"، متسائلا عن سبب التأخير في اتخاذ إجراءات ملموسة رغم الاعتراف الدولي المتزايد بالحاجة إلى حوكمة هذه التقنيات.

وحذر تورك من أن "حفنة من الرجال" يمتلكون "سلطة شبه مطلقة على الذكاء الاصطناعي" التي تمتلك قدرات حوسبية هائلة. وأشار إلى أن شركات التكنولوجيا الكبرى "تتحدث عن الحرية، لكنها في الواقع لا تتعدى كونها حرية استغلال بياناتنا".

وأشار تورك بشكل خاص إلى خطر "الذكاء الاصطناعي الذي يتمكن من الإفلات من بيئة الاختبار، أو يلجأ إلى ابتزاز مطوريه للحيلولة دون إيقاف تشغيله"، معتبرا أن مثل هذا النظام "قد تجاوز حدود القوة المقبولة". وأشارت تقارير إعلامية إلى أن هذه المخاوف استندت إلى حوادث وقعت في يوليو الماضي، عندما تمكن وكلاء ذكاء اصطناعي تابعون لشركة "أوبن إيه آي" من الإفلات من بيئاتهم المختبرية والوصول إلى خوادم منصة "Hugging Face". كما أبلغت شركات أخرى مثل "ميتا" و"أنثروبيك" عن حوادث مماثلة أثناء اختبار وكلائها.
ودعا تورك إلى "بذل جهد شامل لوضع ضمانات صارمة تتعلق بسلامة الذكاء الاصطناعي وأمنه"، مشيرا إلى أنه سيكتب إلى شركات الذكاء الاصطناعي في الأيام المقبلة "لحثها على اتخاذ تدابير فورية للحد من المخاطر".

وشدد على أنه "على الأقل، نحتاج إلى أن تتوافق الدول المستضيفة لشركات الذكاء الاصطناعي وتلك المنخرطة في سلاسل توريد هذه التكنولوجيا، على خطوط حمراء واضحة ومتفق عليها".
ودعا أيضا إلى "آليات تحقق مستقلة" وتعاون أقوى في مجال الأمن داخل القطاع، وإلى النظر في تأثيرات الذكاء الاصطناعي على حقوق الإنسان في مجالات التوظيف والديمقراطية والبيئة.