هذا الاتفاق النادر بين الخبراء ينبع من الاعتقاد بأن هذه النماذج المتقدمة يمكن أن تساعد جهة خبيثة في ابتكار مسبب مرض قبل أن تتمكن الحكومات والصناعة من إتقان أنظمة الكشف والوقاية. هذا ليس مجرد سيناريو محتمل، بل سيناريو "معقول" مع تطور
الذكاء الاصطناعي في فهم نقاط ضعفنا البيولوجية، تماما كما فعل مع نقاط الضعف السيبرانية لدينا داخل الأنظمة غير البشرية الكبيرة. والخبراء لا يتحفظون في التعبير عن قلقهم.
في دراسة جديدة من معهد MIT FutureTech وجامعة كوينزلاند، صنّف 272 باحثا 24 من أهم مخاطر الذكاء الاصطناعي. وقدروا فرصة بنسبة 12% أن تؤدي قدرات الذكاء الاصطناعي الخطيرة إلى نتيجة كارثية بحلول عام 2030، وفرصة 12% أخرى للأسلحة المدعومة بالذكاء الاصطناعي وقدرات الإضرار الجماعي. وهذا مع جهود التخفيف لتقليل المخاطر؛ فبدون هذه الجهود، تتجاوز الفرص 20%. وقد عرّف الباحثون "الكارثي" بأنه أكثر من مليون حالة وفاة أو 100 مليار دولار من الأضرار. وتقع مساعدة الذكاء الاصطناعي في بناء أسلحة كيميائية أو بيولوجية ضمن فئة المخاطر الأعلى تصنيفا.
في الشهر الماضي فقط، وقّع سام ألتمان من OpenAI، وداريو أمودي من أنثروبيك، وديميس هاسابيس من غوغل ديب مايند، ومصطفى سليمان من
مايكروسوفت، وألكسندر وانغ من ميتا، رسالة مفتوحة يحذرون فيها من خطر الأسلحة البيولوجية المشتقة من الذكاء الاصطناعي ويدعون إلى مزيد من الضمانات.
هذا الاحتمال الخاص بمسبب المرض يلون كل نقاش تجريه
الحكومة الفيدرالية والصناعة حول كيفية مراجعة وفهم نماذج وقدرات الذكاء الاصطناعي الجديدة قبل إصدارها للجمهور. والأمل هو أن يقوم مطورو النماذج الرائدة ببناء حواجز وقدرات يمكنها منع الجهات الخبيثة ذات النوايا السيئة – وأن التقنية ذاتها التي يمكن استخدامها لإنشاء مسبب مرض تصبح متقدمة بما يكفي لمنعه أو التطعيم ضده.
من الصعب جدا منع الجهات الخبيثة من التآمر على مخططات شريرة، خاصة مع تحسن ما يسمى بالنماذج مفتوحة المصدر بسرعة كبيرة. يمكن استخدام هذه النماذج المفتوحة وتكييفها من قبل أي شخص في إعدادات خاصة خارج أي نظام تنظيمي. فالنماذج الرائدة أكثر قدرة على امتلاك القوة الحاسوبية لخلق شيء جديد، لكن النماذج مفتوحة المصدر قد تكون أكثر عرضة لإساءة الاستخدام في أيدي جهات خبيثة.
الهندسة الحيوية تتطلب اليوم خبرة نادرة، ومعدات مختبرية متخصصة، وسنوات من التجارب الفاشلة. لكن الذكاء الاصطناعي يعجل بكل هذا. وإليكم التسلسل الذي يؤرق الخبراء:
جهة خبيثة (سواء كانت مدعومة من دولة أو فردا ميسورا) تستخدم نموذجا قويا لرسم خريطة لنقاط الضعف البيولوجية البشرية وتحديد التعديلات الجينية التي تجعل مسبب مرض معروف أكثر قابلية للانتقال، أو أصعب في الكشف، أو محصنا ضد العلاجات الموجودة.
النموذج، الذي تم تدريبه على مجموعات بيانات بيولوجية وجينومية ضخمة، يولد مرشحين قابلين للتطبيق. تخيل مئات من أذكى العلماء يعملون بسرعة فائقة، لا يتوقفون أبدا، لا يتعبون أبدا. هذا ما تفعله أسراب الوكلاء.
يتم تصنيع تلك المرشحات باستخدام أدوات تحرير الجينات الرخيصة والتي يمكن الوصول إليها بشكل متزايد، وهي تقنية منفصلة تتسارع مع الذكاء الاصطناعي.
ينتشر مسبب المرض قبل أن يعرف أي شخص ما الذي ينظر إليه، وهو جديد بما يكفي للتهرب من أنظمة المراقبة البيولوجية الحالية. وبحلول الوقت الذي تتعرف عليه أنظمة
الصحة العامة، يكون الاحتواء أصعب بكثير مما عانيناه مع كوفيد.
لهذا السبب يجب الانتباه إلى النقاش حول مخاطر الأمن السيبراني الجديدة التي يخلقها الذكاء الاصطناعي. إنه يوضح السباق لإنشاء كشف ومنع فعالين أسرع من ظهور قدرات هجومية جديدة. كما يوضح لماذا يجب متابعة نقاش المصادر المفتوحة: يمكن للمختبر الرائد أن يدمج حواجز الحماية، بينما يمكن لنموذج مفتوح تم ضبطه بدقة من قبل شخص يعمل خارج أي نظام تنظيمي أن يتهرب من ذلك. هذا الأمر ثقيل ومخيف. لكن تجاهله لن يحله. معرفته ومنعه قد يفعلان ذلك.