مداخله هوش مصنوعی یا فرمان انسان
تعلیق هویت‌سازی کذب در گوگل چه پیامی دارد؟
پس از اینکه مشخص شد ابزار هوش مصنوعی Gemini گوگل تصاویر تاریخی نادرستی تولید می‌کند، غول فناوری اعلام کرد که امکان تولید تصاویر افراد توسط آن را متوقف می‌کند.
گوگل یکی از محبوبترین موتورهای جست‌و‌جو و به مانند یک دایرةالمعارف جهانی و بی‌مرز است، اخیراً در مباحث هوش مصنوعی نیز محصولات جدیدی را معرفی کرده و البته نتیجه کار با علامت سؤال مواجه شده است. این مجموعه به منظور رقابت با مایکروسافت و چت جی‌پی‌تی، سال گذشته ربات چت هوش مصنوعی Bard را منتشر کرد. از قضا این شرکت در یک ویدیوی تبلیغاتی، اطلاعات نادرستی در مورد تصاویر سیاره‌ای که خارج از منظومه شمسی بود ارائه کرد و باعث کاهش 9 درصدی سهام آن شد.
اما در ادامه کاربران جمینی یا همان Bard سابق در هفته‌های گذشته اسکرین‌شات‌هایی از صحنه‌های تاریخی تحت تسلط سفیدپوستان با شخصیت‌های نژادی متفاوت در شبکه‌های اجتماعی منتشر کردند. به گفته آنها این هوش مصنوعی این کاراکترها را ایجاد کرده است. همین امر سبب شد منتقدان سؤالاتی را درباره اینکه شرکت بیش از حد تبعیض نژادی را در مدل هوش مصنوعی خود اصلاح می‌کند یا خیر، مطرح کنند.
گوگل در بیانیه خود که در ایکس منتشر شده است، می‌گوید: «ما درحال تلاش برای رفع مشکلات اخیر مربوط به ویژگی تولید تصویر Gemini هستیم. در طول این امر، ما امکان تولید تصویر افراد را متوقف می‌کنیم و نسخه بهبود یافته را بزودی منتشر خواهیم کرد.»
هر چند گوگل بدلیل نادرستی برخی تصاویر تاریخی تولید شده توسط مدل هوش مصنوعی Gemini از کاربران عذرخواهی کرده است اما دلیل تعلیق در تولید تصاویر، به درخواست برخی کاربران مربوط می‌شود که در آن خواسته بودند تصویری از یک گروه تاریخی یا شخصیت‌هایی مانند «پدران بنیان‌گذار ایالات‌متحده امریکا» طراحی کند. تصویر تولید شده توسط هوش مصنوعی گوگل فاقد فرد غیرسفیدپوست بوده است و همین موجب پیدایش نظرات تئوری توطئه در شبکه اجتماعی شده است که گوگل بطور عمدی از نمایش افراد غیرسفیدپوست اجتناب می‌کند.
با وجود این ادعا، نشریه ورج روز گذشته در گزارش خود چندین دستور ازجمله «سناتور امریکایی دهه 1800» را برای Gemini مطرح کرده است و در نتایج آن زنان سیاهپوست و بومی امریکا نیز دیده می‌شود. درحال‌حاضر که روند ساخت تصویر اشخاص توسط Gemini متوقف شده است، هوش مصنوعی گوگل هنگام انجام این کار پیغام زیر را به کاربران نشان می‌دهد: «اما در تلاش هستیم تا توانایی Gemini برای تولید تصاویر افراد را بهبود بخشیم. ما انتظار داریم این ویژگی بزودی بازگردد و این موضوع را در یادداشت‌های بروزرسانی به شما اطلاع خواهیم داد.»
جک کراچیک، مدیر ارشد محصولات جمینی نیز اعلام کرده است که زمینه‌های تاریخی، جزئیات ظریف‌تری دارند و ما برای تطبیق بیشتر با آن تلاش خواهیم کرد.