چوب حراج پزشکنماها به سلامت کاربران
گروه علم و فناوری
این روزها شبکههای اجتماعی محل جولان پزشکان جعلی هستند که با یک پرامپت هوش مصنوعی تولید شدهاند. این آواتارها گاه با ارائه توصیههای پزشکی نادرست در پیامرسانهای محبوب جهان از جمله تیکتاک، فیسبوک و اینستاگرام، به فروش مکملهای مشکوک میپردازند و سلامت کاربران را به خطر میاندازند. کارشناسان هشدار میدهند گسترش چنین محتواهایی که گاه از تصاویر مدارک تحصیلی جعلی نیز برای باورپذیری بیشتر بهره میگیرد، میتواند به تهدیدی جدی برای سلامت عموم تبدیل شود.
تولید 1200 محتوا با 10 دلار
تحقیقی که در ماه جاری میلادی با بررسی و تحلیل ۱۱۹۸ ویدیو توسط Hallam، آژانس بازاریابی دیجیتال اروپا منتشر شده، نشان میدهد اطلاعات غلط سلامت در شبکههای اجتماعی میتواند تهدیدی جدی برای سلامت عموم باشد و در این میان شایعات مربوط به سرطان از جمله ارتباط این بیماری با گرم کردن غذا در مایکروویو، استفاده از دئودورانتها و حتی خوابیدن کنار تلفن همراه در صدر قرار دارد. هر چند برخی از این ادعاها تأیید نشده است. مسأله مهم در اینگونه موضوعات آن است که از زبان چهرهای منتشر میشود که برای مخاطب شبیه یک پزشک متخصص واقعی به نظر میرسد و همین ظاهر حرفهای میتواند قدرت اقناع محتوای جعلی را افزایش دهد. تولیدکنندگان چنین محتواهایی با تنها ۱۰ دلار برای هر ویدیو، روزانه ۱۲۰۰ محتوای هوش مصنوعی تولید میکنند تا محصولات خود را در تیکتاک و متا تبلیغ کنند. بهعنوان مثال، تبلیغ مکمل گیاهی اسکالپتیک، ادعای درمان بیماریهای کلیوی را دارد، در حالی که تجربه مصرفکنندگان نشان میدهد این محصول پیامدهای خطرناکی برای آنها به همراه داشته است.
طبق این گزارش، محتوای تولید شده توسط هوش مصنوعی در ۴۰ درصد از ویدیوهای برتر TikTok مربوط به سلامت ظاهر است و البته در بیشتر آنها با فناوری دیپفیک، در عمل، پزشکان جعلی در نقش پزشکان واقعی ظاهر شدهاند. آژانس Hallam از ۱۱۹۸ ویدیو، ۵۰ ویدیوی برتر را مورد بررسی دوباره قرار داد و نتیجه مشخص کرد ویدیوهای برتر پزشکی تولید شده با هوش مصنوعی بهطور متوسط ۲.۵ میلیون بازدید داشتهاند. این آمار نشان میدهد اطلاعات نادرست مرتبط با سلامت میتواند در مدت کوتاهی میلیونها نفر را تحت تأثیر قرار دهد.«الکس روآنی»، از اساتید کالج لندن، افزایش ویدیوهای پزشکنماهای هوش مصنوعی را نشانه ترسناکی از قرار گرفتن مردم در معرض محتوای پزشکی جعلی میداند و از آن بهعنوان نوعی سوءاستفاده صنعتی از اعتماد مردم یاد میکند. سال گذشته هم مؤسسه Savanta با نظرسنجی از ۳۵۷۵ مرد و ۳۸۳۲ زن بالای ۱۸ سال در انگلستان، گزارش داد تقریباً یک نفر از هر 5 کاربر، برای کسب اطلاعات مرتبط با سلامت از شبکههای اجتماعی استفاده میکند. این آمار نشاندهنده این است که شبکههای اجتماعی دیگر فقط فضایی برای سرگرمی و ارتباطات اجتماعی نیستند و بسیاری از کاربران درباره علائم بیماری، دارو، تغذیه، درمان و پیشگیری از بیماریها نیز در همین فضا جستوجو میکنند؛ افرادی که مهارت لازم را برای تشخیص اطلاعات معتبر از تبلیغات تجاری یا اطلاعات نادرست ندارند و این امر میتواند تأثیر جدی بر سلامت آنها بگذارد. در واقع حضور پزشکان جعلی تولید شده با هوش مصنوعی میتواند مرز میان اطلاعات معتبر و محتوای ساختگی را بیش از گذشته مخدوش کند.
پاسخ تیکتاک به هشدارها
البته سخنگوی تیکتاک هم نسبت به چنین گزارشها و نگرانیهایی واکنش نشان داد و اعلام کرد:«یافتههای آژانس Hallam به دلیل آنکه از سوی یک آژانس بازاریابی با منافع تجاری تهیه شده، بازتاب دقیقی از وضعیت پلتفرم نیست. ما با سازمان جهانی بهداشت برای ارائه اطلاعات قابل اعتماد سلامت همکاری داریم و اطلاعات نادرست و آسیبزای سلامت، از جمله محتوایی را که با هوش مصنوعی تولید شده باشد، حذف میکنیم. تیکتاک بهطور مستمر برای افزایش سواد هوش مصنوعی و فناوریهای برچسبگذاری محتوا سرمایهگذاری میکند. اما ممکن است حتی با وجود سازوکارهای نظارتی، همچنان بخشی از محتواهای جعلی پیش از شناسایی و حذف در اختیار مخاطبان قرار گیرد.» اما در نهایت باید گفت آنچه مسلم است، مقابله با پزشکان جعلی هوش مصنوعی تنها با حذف حسابهای کاربری و ویدیوهای گمراهکننده امکانپذیر نیست. از راهکارهای مقابله با این تهدید، میتوان به افزایش سواد رسانهای و دیجیتال، آموزش مردم برای شناسایی محتوای ساختگی، استفاده از برچسبهای روشن برای محتوای تولید شده با هوش مصنوعی و مسئولیتپذیری بیشتر پلتفرمها اشاره کرد.
منبع: sciencedaly
