محبوبه ستارزاده
گروه علم و فناوری

با توسعه ابزارهای هوش مصنوعی، روند انتشار اخبار و تصاویر جعلی و سانسور واقعیت، سرعت گرفته و در میانه تجاوز جنایتکارانه امریکا و اسرائیل به ایران، این موضوع نمود بیشتری یافته است.
شبکه اجتماعی ایکس(توئیتر سابق) که چندی است امکان درآمدزایی برای تولیدکنندگان محتوا بر بستر این پلتفرم را فراهم کرده، با دردسری تازه مواجه شده و گردش تصاویر و ویدئوهای دستکاری شده با هوش مصنوعی مربوط به این بحران، مشکلاتی برای ایلان ماسک، مالک این شبکه اجتماعی ایجاد کرده است. به همین دلیل هم  ایکس، به طور موقت اکانت تولیدکنندگان محتوا که ویدئوهای تولیدشده با هوش مصنوعی مربوط به جنگ آمریکا و اسرائیل علیه ایران را بدون برچسب گذاری منتشر می کنند، معلق کرده است.
جولان کاربران سودجو در پلتفرم ایکس
پلتفرم ایکس که مدتی است برای دارندگان حساب های کاربری پریمیوم، امکان درآمدزایی ازطریق انتشار تصاویر و فیلم های پرطرفدار را فراهم کرده، حالا در بحبوحه تنش های فعلی، عملاً راه جدیدی برای سودجویان گشوده است. درحالی که بسیاری تلاش دارند با فعالیت در شبکه های اجتماعی، آخرین اطلاعات مربوط به تحولات جنگ را به گوش مردم جهان برسانند اما در این میان عده ای هم با انتشار محتوای غلط و گمراه کننده در این پلتفرم، در سودای درآمدزایی هستند. ایکس در قالب این برنامه، به کاربران واجد صلاحیت که پست های آنها موفق به جذب میزان قبال توجهی لایک، کامنت و اشتراک گذاری می شود،هزینه پرداخت می کند. «ماشا علیمردانی» یکی از پژوهشگران موسسه آکسفورد دراین باره می‌گوید: «این یک سیگنال قوی و قابل توجه است که دریابیم یک مشکل بزرگ در انتشار اخبار دقیق و صحیح بر بستر شبکه های اجتماعی وجود دارد. ما از تیک تاک و همچنین متا به عنوان کمپانی مادر فیس بوک درخواست کرده ایم که موارد مشابه را اعلام کنند اما ظاهرا این پلتفرم ها عزمی جدی برای این امر ندارند.»
زنگ خطر هوش مصنوعی
کارشناسان معتقدند موج غیرقابل تصور و بی‌نظیری از آثار تولید شده توسط هوش مصنوعی همچون عکس ها و ویدئوها در میانه جنگ، منجر به انتشار اخبار گمراه کننده و اطلاعات جعلی و غلط درباره این تنش ها شده است؛ آثاری که در هر ثانیه میلیون ها بازدید، لایک و کامنت می گیرند و همین امر، بسیاری از فعالان حوزه فناوری را نگران کرده است.
«تیموتی گراهام» از فعالان حوزه رسانه های دیجیتال دانشگاه تکنولوژی کوئینزلند نیز دراین باره می گوید: «این حجم از داده های غلط و دستکاری شده با هوش مصنوعی، به طور جدی زنگ خطر را به صدا درآورده و عملاً این جنگ باعث شده تا نسبت به انتشار این حجم از اطلاعات جعلی حساس شویم.» او می افزاید: «درحالی که پیش از این تولید یک ویدئوی کوتاه حرفه ای، نیازمند زمانی قابل توجه و به کار گرفتن نیروهای حرفه ای بود، اما حالا در عرض چند ثانیه با کمک ابزارهای مختلف هوش مصنوعی مانند Sora، ابزار هوش مصنوعی گوگل و... می توان یک ویدئوی باکیفیت ساخت که تصنعی بودن آن، به سختی قابل تشخیص است.»
او ادامه می دهد:« به عنوان مثال یک عکس یا ویدئو، شهری را در خاورمیانه نشان می دهد که در میان شعله های عظیم آتش قرار گرفته ولی درواقع این، یک عکس یا ویدئوی دستکاری شده و تبدیل دود جزئی به آتش سوزی گسترده در تصویر است. چنین محتواهایی بارها بارگذاری و صدها هزار کاربر آن را ازطریق پلتفرم ایکس تماشا می کنند.»

شکست «گروک»
در تشخیص اصالت تصاویر
به گفته این کارشناس فناوری، پاسخ گروک به درخواست کاربران ایکس مبنی بر تعیین اصالت چنین عکس ها یا ویدئوهایی هم چندان مناسب نبوده و این هوش مصنوعی، در اقدامی عجیب بر واقعی بودن تصاویر ساخته شده با هوش مصنوعی پافشاری کرده است. این درحالی است که تصویر اصلی به عنوان مثال مربوط به یک سال قبل بوده و خودروهای پارک شده در عکس سال های 2025 و 2026، یکسان بوده است.
کارشناسان معتقدند ویدئوهای جعلی مشابه این مورد، زمینه ساز کاهش اعتماد کاربران به اخبار تأیید شده و واقعی می شود و همین امر، کار را برای مستندسازی شواهد واقعی سخت تر می کند.

تصاویر ماهواره ای جعلی
یکی از مواردی که در این تحقیق مورد توجه قرار گرفته، ظهور تصاویر ماهواره ای جعلی و ساخته شده با هوش مصنوعی و حتی انتشار آنها در مجله هاست که به وایرال شدن و انتشار سریع تر اخبار جعلی دامن می زند. از ابتدای جنگ آمریکا-اسرائیل علیه ایران تاکنون، ابزار شناسایی واترمارک SynthID گوگل برخی از این تصاویر و فیلم های جعلی را تشخیص داده و برچسب‌گذاری کرده تا کاربران دریابند این تصاویر با کمک هوش مصنوعی گوگل ازجمله Veo ادیت شده اند. ابزارهایی که در کنار Sora از کمپانی OpenAI یا مدل های چینی مانند Seedance و گروک از محبوبیت قابل توجهی برخوردارند.
«هنری آدجر» یکی از متخصصان هوش مصنوعی مولد هم دراین باره می گوید:« تعداد ابزارهای مختلف موجود برای تولید تصاویر و ویدئوهای هوش مصنوعی بسیار بالاست. ما هرگز پیش از این به چنین ابزارهای آسان و ارزان دسترسی نداشته ایم که خود منجر به افزایش تولید محتوای آنلاین ساختگی می شود.»

بــــرش

شبکه اجتماعی ایکس هنوز مشخص نکرده که چه تعداد اکانت در ایکس از این طریق درآمدزایی می کنند یا تاکنون چه میزان درآمد نصیب این کاربران شده است. ولی کارشناسان می گویند ایکس به ازای هر تصویر یا ویدئوی پربازدید بین 8تا 12 دلار به کاربران پرداخت می کند و تولیدکنندگان محتوا باید در طول سه ماه تعداد قابل توجهی کاربر را به اکانت خود جذب کنند و البته دارای ایکس پریمیوم باشند. برخی معتقدند محتوای وایرال شده هوش مصنوعی درواقع به یک پرینتر پول برای تولید اخبار جعلی تبدیل شده است.