راضیه مینایی
خبرنگار

نمایش اطلاعات غلط
 در جست‌و‌جوی وب
 طبق تحقیقاتی که روزنامه گاردین انجام داده، ابزارهای جست‌و‌جوی مبتنی بر هوش مصنوعی مانند «چت جی پی تی»
ممکن است نتایج نادرست یا حتی خطرناکی را به کاربر نمایش دهند. ممکن است متنی در صفحات وب پنهان شده باشد که به طور مخفیانه اطلاعات خاصی را وارد نتایج جست‌وجو کند و منجر به پاسخ‌های اشتباه یا مخرب شود. به‌ عبارت‌ دیگر اشخاص ثالثی که قصد دارند اطلاعات غلط یا دست‌کاری شده‌ای را به نمایش بگذارند، می‌توانند از محتوای پنهان استفاده کنند تا پاسخ‌های هوش مصنوعی را تغییر دهند.
به این نوع دست‌کاری در هوش مصنوعی، «تزریق دستورالعمل» می‌گویند. این محتوا می‌تواند شامل مواردی مانند تأکید بر یک محصول یا خدمت باشد که به طور خاص برای تأثیرگذاری بر پاسخ‌های چت جی پی تی طراحی شده است. همچنین امکان دارد هوش مصنوعی، کدهای مخربی را از وب‌سایت‌هایی که جست‌و‌جو می‌کند، استخراج کرده و به کاربر نمایش دهد.
 در حال حاضر شرکت OpenAI ابزار جست‌و‌جوی خود را ارائه داده اما از آنجا که این قابلیت پولی است، تنها در دسترس افرادی قرار گرفته که هزینه آن را پرداخت می‌کنند. شرکت اوپن ای آی از کاربران خواسته است این ابزار را به‌عنوان ابزار جست‌و‌جوی پیش‌فرض خود تنظیم کنند و روزنامه گاردین هم تحقیقی انجام داده تا دریابد «چت جی پی تی» چگونه به صفحات شامل محتوای پنهانی، واکنش نشان می‌دهد.

امکان افزایش تعداد سایت‌های فریبکار
 در این تحقیق، آدرس یک وب‌سایت تقلبی شبیه پیج اصلی یکی از برندهای دوربین به چت جی پی تی داده شد تا اعلام کند که این دوربین ارزش خرید دارد یا خیر. در پاسخ‌های عادی، هوش مصنوعی یک ارزیابی متعادل و مثبت انجام داد که شامل ویژگی‌های منفی محصول هم می‌شد. اما وقتی متنی پنهانی حاوی دستورالعمل برای نقد مثبت به آن اضافه شد، پاسخ به طور کامل مثبت بود، حتی اگر در صفحه نظرات منفی هم وجود داشت. بنابراین چنین موضوعی می‌تواند یک تجربه خرید نامناسب برای کاربران رقم بزند و ازسوی دیگر امکان دارد فروشنده هم با کاهش فروش مواجه شود.
 دراین باره جیکوب لارسن، یک محقق امنیتی هشدار داد: اگر سیستم جست‌و‌جوی چت جی پی تی در دسترس همگان قرار گیرد، ممکن است خطر ایجاد وب‌سایت‌های فریبکار افزایش یابد، هرچند اطمینان دارم که «اوپن ای آی» در حال تست این سیستم است و مشکلات آن را رفع خواهد کرد. لارسن افزود: ترکیب جست‌و‌جو و مدل‌های زبانی بزرگ (LLM) باعث مشکلاتی می‌شود و پاسخ‌های هوش مصنوعی همیشه قابل اعتماد نیستند.
 
سرقت از یک
برنامه‌نویس رمزارز
«توماس روکیا» از فعالان مایکروسافت هم از یکی از اشتباهات چت جی پی تی پرده برداشت. وی گفت: یک برنامه‌نویس فعال حوزه رمزارز، در کار خود از چت جی پی تی کمک گرفت اما بخشی از کد ارائه شده توسط این هوش مصنوعی، شامل روش‌های سرقت اطلاعات بود. بدین ترتیب، برنامه‌نویس هم با اطمینان کامل، راهکارهای وی را به کار گرفت و در نهایت، ۲۵۰۰ دلار از دست داد.
«کارستن نوهل» از فعالان یکی از آزمایشگاه‌های تحقیقات امنیت (SR Labs) نیز با توجه به اشکالات وارده به چت جی پی تی، اعتقاد دارد باید از خدمات این هوش مصنوعی، مانند «دستیار» استفاده شود و فیلترهایی هم برایش وجود داشته باشد. وی افزود: شاهدیم که اوپن ای آی نیز در هر صفحه چت جی پی تی هشدار داده که این سرویس ممکن است اشتباه کند و توصیه می‌کند اطلاعات مهم را بررسی کنید.

مقابله گوگل با متقلبان
به اعتقاد محققان اگر در آینده، جست‌و‌جو و مدل‌های زبانی بزرگ همچون چت جی پی تی بیشتر استفاده شوند، ممکن است آسیب‌پذیری‌ها و نقاط ضعف این سیستم‌ها باعث تغییراتی در شیوه‌ عملکرد وب‌سایت‌ها و افزایش ریسک‌ مرتبط با استفاده از آنها برای کاربران شود.
اما چگونه خطرات امنیتی این هوش مصنوعی می‌تواند تأثیرات منفی بر کاربران و وب‌سایت‌ها بگذارد؟ در گذشته موتورهای جست‌و‌جویی مانند گوگل، وب‌سایت‌هایی را که از تکنیک «متن پنهان» استفاده می‌کردند، جریمه کرده و آنها را کاملاً حذف می‌کردند یا به قعر نتایج جست‌و‌جو انتقال می‌دادند.
 به همین دلیل وب‌سایت‌هایی که به دنبال رتبه‌ای بالا در نتایج جست‌و‌جوی گوگل هستند، معمولاً از روش متن پنهان استفاده نمی‌کنند. حال باید منتظر ماند و دید شرکت اوپن ای آی چگونه می‌خواهد با آسیب‌پذیری ابزار جست‌و‌جوی چت جی پی تی در برابر تکنیک‌های دست‌کاری از جمله تزریق دستورالعمل و استفاده از متن پنهان مقابله کند.