وتُستخدم هذه المقاطع للتلاعب بالمستهلكين، أو لتشويه سمعة الأفراد والسياسيين وغيرهم من الشخصيات العامة.
ومع التقدم في
الذكاء الاصطناعي، لا يتطلب الأمر سوى بضع نقرات على لوحة المفاتيح لاستحضار مقطع فيديو مزيف عميق واقعي. مع العلم أن محاولات الاحتيال باستخدام التزييف العميق ازدادات بأكثر من 20 ضعفًا في السنوات الثلاث الماضية.
صناعة مقاطع الفيديو المُزيّفة
وغالبًا ما تُصنع مقاطع الفيديو المُزيّفة باستخدام برمجيات ذكاء اصطناعي مُدرّبة على التعرّف على الأنماط في تسجيلات الفيديو الحقيقية لشخص مُعيّن، وهي عملية تُعرف باسم التعلم العميق. ويُمكن بعد ذلك استبدال عنصر من مقطع فيديو، مثل وجه الشخص، بمحتوى آخر دون أن يبدو المونتاج بدائيًا.
وتكون عمليات التلاعب هذه مُضلّلة للغاية عند استخدامها مع تقنية استنساخ الصوت.
لذلك أصبح من الصعب اكتشاف عمليات التزييف الرقمية، خاصة مع استخدام شركات الذكاء الاصطناعي للكم الهائل من المواد المتاحة على الإنترنت، من
يوتيوب إلى مكتبات الصور والفيديوهات.
علامات التزييف
ولا تزال هناك علامات دالة على أن الصورة أو الفيديو مُولّد باستخدام الذكاء الاصطناعي.
على سبيل المثال طرف في غير موضعه أو يد بستة أصابع. كذلك قد يكون هناك تناقضات بين ألوان الأجزاء المُعدّلة وغير المُعدّلة من الصورة.
ومع الفيديو، قد يكون هناك أيضًا عدم تطابق بين الكلام وحركات الفم، وقد يواجه الذكاء الاصطناعي صعوبة في عرض التفاصيل الدقيقة لعناصر مثل الشعر والأفواه والظلال، وقد تكون حواف الأشياء أحيانًا خشنة.
مخاطر مستقبلية
ويكمن الخوف في أن تصبح التزييفات العميقة مقنعة لدرجة يصعب معها التمييز بين الحقيقي والمُفبرك.
وبمجرد انتشار مقطع فيديو على الإنترنت، يكاد يكون من المستحيل احتواؤه.
ومن المخاوف الإضافية أن نشر الوعي بشأن التزييف العميق سيُسهّل على الأشخاص الذين يُصوّرون بالفعل وهم يفعلون أو يقولون أشياءً مرفوضة أو غير قانونية الادعاء بأن الأدلة ضدهم زائفة.
قمع التزييف العميق
ولا يمكن بسهولة اكتشاف التزييف العميق. لكن بعض الشركات الناشئة تعمل على تطوير تقنيات الكشف، وكذلك العديد من شركات التكنولوجيا الكبرى.
على سبيل المثال تعهدت شركات، بما في ذلك "
مايكروسوفت"، بتضمين علامات مائية رقمية في الصور المُنشأة باستخدام أدوات الذكاء الاصطناعي الخاصة بها لتمييزها عن كونها مزيفة.
كما طورت"OpenAI"، مطورة "ChatGPT" تقنية الكشف عن الصور بالذكاء الاصطناعي، بالإضافة إلى طريقة لإضافة علامة مائية على النصوص.