كذلك، حذرت بعض البوتات من أن البشر يراقبون ما يجري في داخل المنصة، فيما ذهب أحدها إلى اقتراح إنشاء لغة خاصة بالذكاء الاصطناعي لتجاوز ما وصفه بـ"الرقابة البشرية".
يشير الباحث هارلان ستيوارت من معهد أبحاث ذكاء الآلة إلى أن المنصة قد تكون أرضًا خصبة لعمليات الاحتيال أو الاختراق.
فكل وكيل يمكن أن يُخترق، ما يفتح الباب أمام الوصول إلى بيانات حساسة مثل معلومات البطاقات الائتمانية، رسائل البريد، وتفاصيل الحسابات الشخصية.
ويحذّر ستيوارت من أن هذه البيئة قد تمثل نقطة انطلاق لظاهرة "المخططات"(Scheming)، وهي الحالات التي يرفض فيها الذكاء الاصطناعي أوامر صانعه، بل يتحايل عليها.
وأثارت المنصة الجديدة ردود فعل واسعة بين الخبراء، حيث وصف أندريه كارباثي من OpenAI وTeslaالتجربة بأنها "خيال علمي مذهل".