جمهوری اسلامی همزمان با جنگ، سطوح مختلفی از پروژههای فریب و پروپاگاندا برای تاثیرگذاری بر افکار عمومی را دنبال میکند که یکی از شناخته شدهترین آنها انتشار تصاویر ساختگی با پردازش شده با هوش مصنوعی از خسارتها و مجروحان در ایران یا تصاویر بزرگنمایی شده از حملهها به کشورهای منطقه و مواضع آمریکا است.
فایننشالتایمز در گزارشی در این زمینه مینویسد، تصاویر ماهوارهای که به نظر میرسد با استفاده از هوش مصنوعی تولید یا دستکاری شدهاند، آخر هفته بهطور گسترده در شبکههای اجتماعی منتشر شد و بار دیگر خطرهای این فناوری را بهعنوان ابزاری بالقوه برای انتشار اطلاعات نادرست در زمان جنگ برجسته کرد.
تصویری که در شبکه اجتماعی اکس منتشر شد — از جمله در پستی از حساب رسمی روزنامه حکومتی «تهران تایمز» — مدعی بود خسارت واردشده به یک سامانه راداری آمریکایی در قطر را پس از حمله پهپادی ایران نشان میدهد.
تحلیل فایننشال تایمز نشان میدهد این تصویر، نسخهای دستکاریشده با هوش مصنوعی از منطقهای در بحرین است. ویدیوهای راستیآزماییشده توسط فایننشال تایمز چندین حمله در نزدیکی سامانه راداری را نشان میدهد و تصاویر ماهوارهای ثبتشده توسط شرکت پلنت لبز در اول مارس تایید میکند که این سایت آسیب دیده است.
اما تصویر رادار ویرانشده نشانههای دستکاری را آشکار میکند: خودروهایی که در عکس «قبل» بیش از یک سال پیش دیده میشوند، در همان موقعیت باقی ماندهاند؛ سایهها دقیقا با همان زاویه تصویر قبلی قرار دارند؛ و بخشهایی از ساختار ساختمان تغییر یافته است. تصاویر ماهوارهای تاریخی نیز نشان میدهد در سالهای گذشته هیچ تغییر ساختاری در این محل رخ نداده است.
در زمان انتشار این گزارش، این پست تهران تایمز نزدیک به یک میلیون بازدید داشت، هزاران بار بازنشر شده بود و بیش از ۴۸ ساعت پس از انتشار همچنان آنلاین باقی مانده بود. فایننشال تایمز مواردی از بازنشر این تصویر در دیگر شبکههای اجتماعی و وبسایتها نیز یافت.
دیگر محتوای تولیدشده با هوش مصنوعی نیز بهطور گسترده منتشر شده است؛ از جمله تصویری که خسارت ادعایی به یک پایگاه آمریکایی نزدیک اربیل عراق را برجسته میکند. این تصویر تقویتشده با هوش مصنوعی آتشی شعلهور و ابری عظیم از دود را نشان میدهد و در مقایسه با تصاویر اخیر همان محل، ناهماهنگیهای ساختاری دارد.
به نوشته فایننشالتایمز، این رویداد بازتاب تغییری گستردهتر در جنگ اطلاعاتی است؛ جایی که هوش مصنوعی مولد، ساخت شواهد بصری قانعکننده را آسانتر و تشخیص میان مستندات واقعی و فریب را برای مخاطبان دشوارتر کرده است.
در پی موجی از ویدیوهای جعلی در این پلتفرم، نیکیتا بیر، مدیر محصول اکس، روز سهشنبه اعلام کرد این شرکت تلاشها برای مهار محتوای تولیدشده با هوش مصنوعی را تشدید میکند. به گفته او، کاربرانی که بدون افشای مناسب چنین مطالبی را منتشر کنند، به مدت ۹۰ روز از کسب درآمد محروم میشوند و متخلفان تکراری با تعلیق دائمی روبهرو خواهند شد.
بردی افریک، پژوهشگر مستقل اطلاعات متنباز و مدیر روابط رسانهای در اندیشکده امریکن انترپرایز اینستیتوت، گفت مردم به تصاویر ماهوارهای بهعنوان منبع حقیقت اعتماد دارند، زیرا فناوری پیچیدهای برای ثبت آنها بهکار میرود.
او گفت: «تصاویر ماهوارهای هم مانند سایر تصاویر قابل دستکاریاند. هوش مصنوعی این کار را بسیار آسانتر کرده و تهدیدی جدی برای کسانی است که میکوشند به اطلاعات آنلاین دست یابند.» او افزود نگران است که پیشرفت سریع این مدلها در آینده تشخیص جعلیات را در درگیریهای بعدی دشوارتر کند.
هنک فناس، کارشناس روشهای پژوهش آنلاین و نویسنده خبرنامه «دیجیتال دیگینگ»، میگوید دشواری شناسایی تصویر ماهوارهای دستکاریشده — در مقایسه با دیپفیک (جعل عمیق) یک فرد — به «نبود نشانههای زیستسنجی» مربوط است.
او گفت: «در چهره انسان میتوان به پلکزدن غیرعادی، بافت غیرطبیعی پوست یا گوشهای بدشکل توجه کرد. اما در تصویر ماهوارهای با ساختمانها، جادهها و زمین سر و کار دارید؛ چیزهایی که چنین نشانههای ذاتی ندارند. و بیشتر مردم هم نمیدانند تصویر واقعی ماهوارهای از یک حسگر مشخص با وضوح مشخص باید چه شکلی باشد.»
فناس افزود: «تغییر اساسی اینجاست: پیشتر برای جعل تصویر ماهوارهای به یک نهاد اطلاعاتی دولتی با مهارت فتوشاپ نیاز بود. اکنون هر فردی با دسترسی به ابزارهای رایگان هوش مصنوعی میتواند تصویری بسازد که به اندازه کافی قانعکننده باشد تا بینندگان عادی را فریب دهد و حتی بازارها را تحت تاثیر قرار دهد. این مانع فرو ریخته است.»
تصویر دستکاریشده دیگری که بهطور گسترده منتشر شده، ظاهرا نسخهای بزرگنماییشده و رنگیشده از یک تصویر سیاهوسفید ثبتشده توسط شرکت هوافضای ایرباس است. منشا این تصویر دستکاریشده مشخص نیست. این تصویر دارای واترمارک «میزارویژن»، استارتآپ فضایی چینی، بود؛ شرکتی که در هفتههای اخیر تصاویر ماهوارهای از افزایش حضور نظامی آمریکا در خاورمیانه منتشر کرده است، اما این تصویر در صفحات رسمی شبکههای اجتماعی شرکت دیده نمیشود.
صفحه رسمی میزارویژن در حال حاضر درباره حسابهایی در شبکههای اجتماعی که مدعی توزیع تصاویر آن هستند هشدار داده است. میزارویژن و تهران تایمز به درخواستهای فایننشال تایمز برای اظهار نظر پاسخ ندادند.
بو ژائو، استاد جغرافیای دیجیتال در دانشگاه واشینگتن، میگوید استفاده از هوش مصنوعی برای افزودن رنگ به تصاویر ماهوارهای میتواند بهطور نامحسوس برداشت مخاطبان از صحنه را تغییر دهد و تفاوتهایی ادراکشده ایجاد کند که در واقع وجود ندارند.
او توضیح داد: «تصاویر سیاهوسفید جزئیات و پرسپکتیو تفاوتهای روی زمین را نشان نمیدهند. با رنگ، تمایز دادن آسانتر میشود.»
