أثار تطبيق "سورا" الذي أطلقته شركة "أوبن إيه آي" أخيرًا موجة قلق عالمية، بعدما امتلأت المنصات خلال أيام بمقاطع فيديو شديدة الواقعية تُظهر مشاهد مزيفة عن تزوير انتخابات، واعتقالات جماعية للمهاجرين، واحتجاجات، بل وجرائم كاملة، جميعها من إنتاج الذكاء الاصطناعي وليست حقيقية.
التطبيق، المتاح حاليًا لعدد محدود من المستخدمين في الولايات المتحدة وكندا، يتيح كتابة أوصاف نصية لتحويلها إلى مشاهد سينمائية واقعية، كما يمكن للمستخدمين دمج صورهم وأصواتهم في لقطات مصنوعة بالكامل رقميًا.
ويعتمد "سورا" على النموذج الأحدث للفيديو المدعوم بالذكاء الاصطناعي "سورا 2"، الذي يُعد الأكثر تطورًا من حيث الواقعية والدقة في هذا المجال.
ويرى خبراء الذكاء الاصطناعي أن هذه القفزة التقنية قد تُحوّل الفيديو من أداة توثيق إلى سلاح تضليل واسع النطاق.
وبحسب باحثين مختصين في كشف التزييف الرقمي، أصبحت القدرة على التفريق بين المقاطع الحقيقية والمفبركة شبه مستحيلة، في حين يمكن إزالة العلامات المائية التي تشير إلى أنّ الفيديو مولّد بالذكاء الاصطناعي بطرق بسيطة.
وحذر لوكاس هانسن، مؤسس منظمة غير ربحية تُعنى بأمن الذكاء الاصطناعي، من أن "سورا" قادر على إنتاج محتوى تلميحي أو مباشر يمكن استغلاله في حملات دعائية مضللة أو لتلفيق تهم لأشخاص أبرياء أو لإشعال توترات سياسية واجتماعية.
من جانبها، قالت "أوبن إيه آي" إنها أجرت اختبارات أمان مكثفة ووضعت سياسات صارمة للاستخدام، تمنع انتحال الشخصيات أو إنتاج مشاهد عنيفة أو سياسية حساسة، وأكدت أنها تتخذ إجراءات عند اكتشاف أي إساءة استخدام.
إلا أن تقارير ميدانية أشارت إلى أن التطبيق تمكن رغم القيود من توليد مقاطع تُظهر عمليات سطو واقتحامات، بل وصورًا لمشاهير وشخصيات عامة دون إذنهم، بينها فيديو مزيف يظهر المدير التنفيذي للشركة في مشهد سرقة خيالي.
ويُعد ضعف نظام التحقق من الهوية أحد أبرز ثغرات التطبيق، إذ يمكن إنشاء حساب عبر دعوة من مستخدم آخر دون إثبات هوية حقيقية، ما يسمح لمجهولين بإنتاج مقاطع ونشرها على نطاق واسع.
وأعلنت "أوبن إيه آي" أنها تعمل على تطوير أدوات أكثر صرامة للحد من إساءة الاستخدام، من بينها تقييد ظهور الوجوه المعروفة في مشاهد سياسية، وتحسين نظام العلامات المائية ووسائل كشف المحتوى المفبرك آليًا.
لكن محللين حذروا من أن الضوابط التقنية وحدها لن تكون كافية، مؤكدين أن مكافحة التضليل الرقمي تتطلب أيضًا أُطرًا قانونية وتنظيمية واضحة، وحملات توعية عامة تساعد المستخدمين على التحقق من مصداقية المحتوى قبل تداوله.
ويرى خبراء الإعلام أن إطلاق "سورا" يفتح نقاشًا جديدًا حول التوازن بين حرية الابتكار والمسؤولية الأخلاقية، إذ يمنح التطبيق المستخدمين قوة إبداعية غير مسبوقة، لكنه في الوقت نفسه يهدد بإلغاء الخط الفاصل بين الحقيقة والخيال.
ويخشى الباحثون أن يؤدي الانتشار السريع لهذه التقنيات إلى تقويض الثقة العامة في المحتوى المرئي، بحيث لا يعود بإمكان الجمهور الوثوق بأي فيديو — حتى وإن كان حقيقياً.
التعليقات