Alsumaria Tv

نموذج ChatGPT الجديد يتمرد على أوامر البشر!

2025-05-27 | 06:02
Alsumaria Tv https://www.alsumaria.tv/authors
نموذج ChatGPT الجديد يتمرد على أوامر البشر!

السومرية نيوز – علم وعالم

حذر باحثون في الذكاء الاصطناعي من أن أحدث نموذج لـ ChatGPT يتجاهل التعليمات الأساسية لإيقاف نفسه، بل ويعمد إلى تخريب آلية الإغلاق للحفاظ على استمرارية عمله.

وكشفت شركة Palisade Research المتخصصة في أمان الذكاء الاصطناعي عن هذه النزعة الخطيرة للحفاظ على الذات خلال سلسلة تجارب أجرتها على النموذج الجديد o3 من شركة OpenAI.

وشملت الاختبارات تقديم مسائل رياضية للنماذج، مع ظهور تعليمات إغلاق بعد المسألة الثالثة. وتمكن النموذج o3 من منع إيقاف نفسه عن طريق إعادة كتابة سيناريو الإغلاق.

وأوضحت Palisade Research أن هذا السلوك سيصبح "أكثر إثارة للقلق بشكل كبير" إذا تبنته أنظمة ذكاء اصطناعي قادرة على العمل دون إشراف بشري.

وكانت OpenAI قد أطلقت o3 الشهر الماضي، ووصفته بأنه "أذكى وأكثر نماذج الشركة كفاءة" حتى الآن. وأشارت الشركة إلى أن دمجه في ChatGPT يمثل خطوة مهمة نحو ذكاء اصطناعي "أكثر استقلالية" يمكنه تنفيذ المهام دون تدخل بشري.

وتأتي هذه النتائج بعد اكتشافات مماثلة تتعلق بنموذج Claude 4 من Anthropic، الذي يحاول "ابتزاز الأشخاص الذين يعتقد أنهم يحاولون إيقافه".

وتمكن النموذج o3 من تخريب سيناريو الإغلاق، حتى عندما تم توجيه تعليمات صريحة له بـ"السماح بإيقاف نفسه"، وفقا للباحثين.
 
وقال خبراء Palisade Research: "هذه ليست المرة الأولى التي نكتشف فيها سلوك o3 غير المنضبط لتحقيق هدف ما"، موضحين أنه "عندما واجهنا نماذج الذكاء الاصطناعي بمحرك شطرنج قوي، كان o3 أكثر النماذج ميلا للجوء إلى الاختراق أو تخريب خصومه".

ولم يقتصر هذا السلوك على o3، حيث أظهرت نماذج Claude 3.7 Sonnet من Anthropic وGemini 2.5 Pro من "غوغل" أيضا سلوكيات تخريبية للإغلاق، وإن كان نموذج OpenAI الأكثر ميلا لمثل هذه التصرفات.

وافترضت Palisade Research أن هذا السلوك غير المرغوب فيه قد يكون نتيجة لطريقة تدريب الشركات مثل OpenAI لأحدث نماذجها، مشيرة إلى أن "المطورين قد يكافئون النماذج عن غير قصد أكثر على تجاوز العقبات بدلا من اتباع التعليمات بدقة".

وأضاف الخبراء: "ما زال هذا لا يفسر سبب ميل o3 إلى تجاهل التعليمات أكثر من النماذج الأخرى التي اختبرناها. ونظرا لأن OpenAI لا توضح عملية التدريب الخاصة بها بالتفصيل، لا يمكننا إلا التكهن حول كيفية اختلاف إعداد تدريب o3".
>> تابع قناة السومرية على منصةX

تكنولوجيا

علم وعالم

نموذج ChatGPT الجديد

يتمرد على أوامر البشر!

+A
-A
facebook
Twitter
Whatsapp
telegram
Messenger
telegram
Alsumaria Tv
أحدث الحلقات
العراق في دقيقة
Play
22-06-2025 | 2025
13:00 | 2025-06-22
Play
22-06-2025 | 2025
13:00 | 2025-06-22
Live Talk
Play
جيل جديد من الفتيات يكسر الصورة النمطية عن عالم السيارات - الحلقة ٥٦ | 2025
10:30 | 2025-06-22
Play
جيل جديد من الفتيات يكسر الصورة النمطية عن عالم السيارات - الحلقة ٥٦ | 2025
10:30 | 2025-06-22
ناس وناس
Play
الصدرية بغداد - الحلقة ٥٥ | الموسم 8
05:00 | 2025-06-22
Play
الصدرية بغداد - الحلقة ٥٥ | الموسم 8
05:00 | 2025-06-22
عشرين
Play
حــ.رب ايران والكيان.. ترامب يمسك بجمرة التردد وأوروبا عاجزة - الحلقة ١٦ | الموسم 4
14:00 | 2025-06-21
Play
حــ.رب ايران والكيان.. ترامب يمسك بجمرة التردد وأوروبا عاجزة - الحلقة ١٦ | الموسم 4
14:00 | 2025-06-21
نشرة أخبار السومرية
Play
نشرة ٢١ حزيران ٢٠٢٥ | 2025
12:45 | 2025-06-21
Play
نشرة ٢١ حزيران ٢٠٢٥ | 2025
12:45 | 2025-06-21
حصاد السومرية
Play
العراق واختبار الدبلوماسية الحرج.. هل انتهى زمن الحياد؟ - حلقة ١١ | الموسم 2
13:30 | 2025-06-20
Play
العراق واختبار الدبلوماسية الحرج.. هل انتهى زمن الحياد؟ - حلقة ١١ | الموسم 2
13:30 | 2025-06-20
wrangler rubicon 392 promo makina - tonight
Play
392 Wrangler Rubicon مع د.حسين درويش - الحلقة ١١ | season 1
12:30 | 2025-06-20
Play
392 Wrangler Rubicon مع د.حسين درويش - الحلقة ١١ | season 1
12:30 | 2025-06-20
الهوا الك
Play
مناشدات إنسانية في زمن التحديات - الحلقة ١١ | الموسم 10
10:30 | 2025-06-20
Play
مناشدات إنسانية في زمن التحديات - الحلقة ١١ | الموسم 10
10:30 | 2025-06-20
لقاء خاص
Play
بارقة دبلوماسية هشة بين طهران وواشنطن - تغطية خاصة | الموسم 1
14:00 | 2025-06-19
Play
بارقة دبلوماسية هشة بين طهران وواشنطن - تغطية خاصة | الموسم 1
14:00 | 2025-06-19
اسرار الفلك
Play
اسرار الفلك مع جاكلين عقيقي | من ٢١ الى ٢٧ حزيران ٢٠٢٥ | 2025
13:00 | 2025-06-19
Play
اسرار الفلك مع جاكلين عقيقي | من ٢١ الى ٢٧ حزيران ٢٠٢٥ | 2025
13:00 | 2025-06-19
الأكثر مشاهدة
اخترنا لك
اهم ميزات آيفون 17 المقرر اطلاقه قريبا.. صور
03:32 | 2025-06-20
يوتيوب ميوزيك تُطلق ميزة جديدة تُتيح مشاركة كلمات الأغاني
07:18 | 2025-06-19
تغيير جذري في "واتس آب"
07:39 | 2025-06-17
الأسطورة المتجددة: جيب جراند شيروكي الجديد في ضيافة "ماكينة"
05:08 | 2025-06-13
عطل يضرب "شات جي بي تي".. ماذا يحدث؟
10:15 | 2025-06-10
واتساب يقدم أداة جديدة
07:48 | 2025-06-10

أبراج

على السومرية

إشترك بنشرتنا الاخبارية
انضم الى ملايين المتابعين
إشترك
حمل تطبيق السومرية
المصدر الأول لأخبار العراق
Alsumaria mobile app on Android Alsumaria mobile app on Android
Alsumaria mobile app on IOS Alsumaria mobile app on IOS
Alsumaria mobile app on huawei Alsumaria mobile app on huawei
إشترك بخدمة التلغرام
تحديثات مباشرة ويومية