سحبت شركة "غوغل" ميزة جديدة من تطبيق "غوغل إيرث" بعد أقل من 24 ساعة على إطلاقها، إثر اكتشاف إمكان استخدامها لتوليد صور شديدة الواقعية لمواقع جغرافية تبدو كأنها ملتقطة بواسطة أقمار صناعية حقيقية.
وبحسب تقارير إعلامية، أتاحت الميزة للمستخدمين إنشاء مشاهد جديدة بالاعتماد على صور "غوغل إيرث" وأوامر نصية، مستندة إلى نموذج توليد الصور "نانو بانانا 2" التابع للشركة.
وبرزت المخاوف بعدما اختبر الصحافي الاستقصائي الهولندي المتخصص في الاستخبارات مفتوحة المصدر، هينك فان إيس، الأداة وتمكن من إنتاج صور مزيفة لمواقع وأحداث تبدو واقعية، قبل أن تتحقق غرف أخبار أخرى من قدراتها.
وحذر فان إيس من أن مثل هذه الأدوات قد تزيد صعوبة عمل الصحافيين ومدققي المعلومات والباحثين، لا سيما عندما تستخدم لإنشاء صور تبدو موثقة جغرافيًا أو مأخوذة من مصادر فضائية موثوق بها.
وأعلنت "غوغل"، عبر منصة "إكس"، إيقاف الميزة مؤقتًا، موضحة أنها قد تعيد طرحها مستقبلًا بعد إضافة ضوابط أقوى تحد من إمكان إساءة استخدامها.
وقالت الشركة إن الأداة استُخدمت أيضًا من متخصصين في المجالات الجغرافية لأغراض علمية ومفيدة، مشيرة إلى أن الصور المولدة بالذكاء الاصطناعي لم تكن تظهر في الواجهة الرئيسية لـ"غوغل إيرث"، وأنها كانت تتضمن علامة مائية خفية تشير إلى أنها منشأة بهذه التقنية.
غير أن الخطر الرئيسي تمثل في قدرة المستخدمين على إنتاج مشاهد فضائية مصطنعة يصعب على غير المتخصصين تمييزها عن الصور الحقيقية، بما قد يؤدي إلى تداول معلومات بصرية غير صحيحة أو اتخاذ قرارات استنادًا إلى معطيات مزيفة.
ونقلت تقارير عن فان إيس أنه استخدم الميزة، قبل إيقافها، لإنشاء صور تظهر لاجئين على الحدود الأميركية المكسيكية، وأخرى تتضمن محطة طاقة نووية غير موجودة داخل إيران.
وأشارت مجلة "فوربس" إلى أن الثقة الواسعة التي تحظى بها صور "غوغل إيرث" قد تجعل إساءة استخدام الأداة أكثر خطورة، إذ يمكن للمحتوى المصطنع أن يستفيد من السمعة التي اكتسبتها المنصة بوصفها مصدرًا للمعلومات الجغرافية المصورة.
كما أثارت الاختبارات تساؤلات بشأن فعالية العلامات المائية الخفية التي تستخدمها "غوغل" لتمييز الصور المولدة بالذكاء الاصطناعي، بعدما فشلت خدمة "هايف إيه آي" المتخصصة في اكتشاف بعض هذه الصور إثر التقاط لقطات شاشة لها.
ولا تعد "غوغل" أول شركة تتراجع عن ميزة لتوليد الصور بعد ظهور مخاوف بشأن إساءة استخدامها. ففي مطلع تموز/يوليو، أوقفت شركة "ميتا" ميزة تعتمد على نموذجها "ميوز"، وكانت تسمح بإنشاء صور استنادًا إلى حسابات عامة وصور منشورة عبر "إنستغرام"، بعد تعرضها لانتقادات واسعة.
وتأتي الخطوة في وقت توسع فيه "غوغل" دمج الذكاء الاصطناعي في مختلف خدماتها، من محرك البحث إلى "غوغل ورك سبيس" و"يوتيوب"، مع اعتماد مؤشرات وعلامات لتمييز بعض المواد التي جرى إنشاؤها أو تعديلها بهذه التقنيات.
