ویژگی جدید و جنجالی گوگل ارث فقط یک روز دوام آورد و تعطیل شد
گوگل قابلیت جدیدی را که روز پنجشنبه در پلتفرم گوگل ارث (Google Earth) راهاندازی شده بود و به کاربران اجازه میداد با استفاده از هوش مصنوعی و دستورهای متنی به ویرایش تصاویر ماهوارهای بپردازند، به حالت تعلیق درآورد. این ابزار عملا امکان ساخت تصاویر جعلی عمیق از دنیای واقعی را فراهم میکرد و با انتقادهای شدیدی روبهرو شد.
برخی پژوهشگران حوزهی دیجیتال توانستند با استفاده از این ابزار، تصاویری ساختگی مانند حضور پناهجویان در نزدیکی مرز مکزیک یا تصاویر جعلی دیگری را خلق کنند. گوگل در پاسخ اولیهی خود گفته بود که تصاویر تولیدشده با هوش مصنوعی نانو بنانا ۲ در گوگل ارث دارای واترمارک دیجیتالی هستند و سیستمهای امنیتی از تولید محتوا دربارهی موضوعات آسیبرسان جلوگیری میکنند.
با این حال، تنها یک روز پس از انتشار، غول جستوجو تصمیم به توقف کامل قابلیت مذکور گرفت. سخنگوی گوگل در بیانیهای رسمی درباره علت این تصمیم گفت:
«ما میدانیم که مردم به شکل ویژهای به گوگل ارث برای تماشای نمایی قابل اعتماد از جهان اعتماد دارند. ما شاهد استفاده متخصصان حوزهی جغرافیا از این قابلیت برای اهداف مفید گوناگونی بودیم، اما در عین حال مشاهده کردیم که برخی افراد تصاویری تولیدشده را به اشتراک میگذارند که قوانین ما را نقض میکند. بنابراین، در حال بازگرداندن این قابلیت در گوگل ارث به حالت قبل هستیم تا روی ایجاد محافظهای قویتر کار کنیم. تصاویر تولیدشده در گوگل ارث برای سایر کاربران نمایش داده نمیشد و دارای واترمارک هوش مصنوعی بود.»
هنک وان اس، پژوهشگر رسانهای، نشان داد که توانسته است با ویدیوهای ساختهشده در گوگل ارث، ابزارهای تشخیص هوش مصنوعی مانند Hive را فریب دهد. این موضوع نشان میدهد که محتوای جعلی تولیدشده میتواند با وجود واترمارکها در فضای مجازی منتشر شود. این پژوهشگر تأکید کرد که در طول آزمایشهای خود، هیچکدام از دستورهای متنی او توسط سیستم فیلتر یا تعدیل نشدند.
