وقال كوكسون، الذي عمل خلال السنوات الثلاث الماضية في أبحاث التدريب المسبق لدى الشركتين، إن كلتيهما لا تتصرفان بمسؤولية، وإنهما "تتسابقان مباشرة نحو ذكاء فائق قادر على تحسين نفسه".
وأثارت تصريحاته اهتماما واسعا، خصوصا بعد أن أيدها
إيفان هوبينغر، الباحث في أنثروبيك والمتخصص في مواءمة
الذكاء الاصطناعي مع الأهداف والقيم البشرية.
"لا تستهينوا بقوة هذه التكنولوجيا"
وفي منشور عبر منصة إكس، قال كوكسون إن على الناس عدم الاستهانة بقدرات الذكاء الاصطناعي، محذرا من أن الأنظمة المقبلة قد تتفوق على البشر في مجالات متعددة، وتصبح قادرة على اختراق أنظمة مختلفة، وإحداث تغييرات واسعة في مجالات عدة خلال فترة قصيرة، فضلا عن امتلاك قدرات للوصول إلى موارد وقوة حقيقية.
ويرى الباحث أن التطور في هذه المجالات لا يتباطأ، وأن الأشخاص الذين يبنون أنظمة الذكاء الاصطناعي يدركون في قرارة أنفسهم احتمال وصول التكنولوجيا إلى مستوى بالغ الخطورة خلال هذا العقد، لكن كوكسون لا يرى المشكلة في قدرات الذكاء الاصطناعي وحدها، بل في السباق بين الشركات لتطويرها أولا.
لماذا تواصل الشركات السباق؟
ويتساءل كوكسون قائلا: إذا كان العاملون في هذه الشركات يؤمنون فعلا بالأخطار، فلماذا يستمرون في تطوير التكنولوجيا؟
وبحسب الباحث، فإن كثيرا من العاملين في أوبن إيه آي لم يستوعبوا بعد، على نحو عميق، حجم الأخطار التي قد تمثلها هذه الأنظمة على الحضارة. أما في أنثروبيك، فيقول إن الأخطار مفهومة بدرجة أكبر، لكن الشركة عالقة في سباق للوصول أولا، انطلاقا من اعتقادها أن المنافسين قد لا يتصرفون بالمسؤولية نفسها.
ويحذر كوكسون من أن قبول هذا المنطق والدخول في ما يسميه "نهاية اللعبة" يمثل "مقامرة متغطرسة"، مطالبا بالتفكير في بدائل أكثر أمانا قبل إطلاق أنظمة فائقة الذكاء، كما دعا إلى مزيد من التنسيق بين مختبرات الذكاء الاصطناعي، وإلى اتفاقات تحد من سرعة التطوير، معتبرا أن استمرار السباق العالمي قد يجعل إجراءات أكثر تكلفة، مثل الوقف المؤقت لتحسين قدرات النماذج، أمرا ضروريا.
الخطر قد يتجاوز 10%
وقد اكتسبت تحذيرات كوكسون أهمية أكبر بعد أن أعاد إيفان هوبينغر نشرها، مؤيدا جوهر مخاوفه، وقال هوبينغر إن العاملين في مجال الذكاء الاصطناعي يؤمنون بجدية بإمكان أن تؤدي التكنولوجيا إلى موت جميع البشر، وقدر احتمال وقوع مثل هذا السيناريو بأكثر من 10% خلال العقد المقبل، كما أشار إلى عدم وجود خطة مكتملة حتى الآن لضمان بقاء الذكاء الاصطناعي الفائق متوافقا مع الأهداف والقيم البشرية.
وتحدث هوبينغر أيضا عن قلقه من عمليات "التطوير الذاتي المتكرر" (Recursive Self-Improvement)، التي يمكن أن يصبح فيها النظام قادرا على المساهمة في تحسين قدراته، بما قد يؤدي إلى تسارع التطور بصورة تتجاوز التوقعات.
ولكن نسبة الـ10% التي ذكرها هوبينغر تعتبر تقديرا شخصيا لباحث في مجال السلامة، وليست توقعا علميا متفقا عليه أو تقديرا رسميا لشركة أنثروبيك.
هل يستطيع البشر إبطاء السباق؟
تكشف استقالة كوكسون والتأييد الذي تلقاه من هوبينغر عن
انقسام داخل قطاع الذكاء الاصطناعي نفسه، فالمخاوف لا تأتي فقط من منتقدين خارجيين للتكنولوجيا، بل من باحثين شاركوا في تطوير أنظمتها ويعتقدون أن سرعة التقدم قد تصبح مشكلة في حد ذاتها.
ولا يعني ذلك أن الذكاء الاصطناعي الفائق أصبح واقعا، أو أن انقراض البشرية نتيجة حتمية، كما لا توجد أدلة تثبت أن الأنظمة الحالية قادرة على تنفيذ السيناريوهات القصوى التي يحذر منها هؤلاء الباحثون.
لكن جوهر التحذير يتمثل في شيء آخر، قد تصل قدرات الأنظمة المتقدمة إلى مستويات جديدة قبل أن يمتلك البشر فهما كافيا لكيفية تصرفها، أو أدوات موثوق بها لضمان بقائها تحت السيطرة.
ومن هنا، لا تبدو المعركة المقبلة مرتبطة فقط بمن سيطور أقوى نموذج، بل بمن يستطيع إقناع المنافسين بأن التباطؤ أحيانا قد يكون أكثر أمانا من الفوز بالسباق.