رقابت آمریــــکا و چیــــن ترمز هوش مصنوعی را میکشد؟
محبوبه ستارزاده
گروه علم و فناوری
هوش مصنوعی با سرعتی کمسابقه در حال توسعه است؛ سرعتی که همزمان با ایجاد امید درباره آینده فناوری، نگرانیهایی جدی درباره امنیت، اشتغال، محیط زیست و حتی آینده کنترل انسان بر این فناوری به وجود آورده است. در یک سوی این میدان، دولتها و شرکتهای فناوری بر شتاب بخشیدن به توسعه هوشمصنوعی تأکید دارند و در سوی دیگر، گروهی از دانشمندان و مدیران فناوری نسبت به پیامدهای توسعه بدون نظارت کافی هشدار میدهند. در مرکز این رقابت، آمریکا و چین قرار دارند؛ رقابتی که باعث شده مسئله سرعت توسعه هوش مصنوعی، تنها یک بحث فناورانه نباشد و به موضوعی اقتصادی و راهبردی تبدیل شود.این موضوع مورد توجه سازمان ملل نیز قرار گرفته و بهتازگی پنل علمی این سازمان خواستار مهار فوری خطرات هوش مصنوعی پیش از وقوع فاجعه شده است.
سرعت بیشتر یا نظارت بیشتر؟
دونالد ترامپ، رئیسجمهور آمریکا از جمله چهرههایی است که بر حفظ شتاب توسعه هوش مصنوعی در این کشور تأکید دارد. دولت او توسعه این فناوری را بخشی از رقابت راهبردی آمریکا با چین میداند و با مقرراتی که از نگاه آن میتواند سرعت نوآوری را کاهش دهد، موافق نیست.
او با تمام وجود میخواهد در این رقابت تنگاتنگ دست برتر را داشته باشد و به همین دلیل هم از هیچ تلاشی برای حقه خواندن هشدارها درباره امنیت هوش مصنوعی فروگذار نمیکند. او که بهتازگی از ایجاد نیروی ویژه هوش مصنوعی و معرفی یک تزار هوش مصنوعی در آمریکا خبر داده، منتقد جدی و سرسخت قوانین هوش مصنوعی است و آن را برای توسعه این فناوری، دست و پاگیر میداند. ترامپ، پا را از این هم فراتر گذاشته و تصمیم دارد واژه هوش مصنوعی را به هوش فوقالعاده یا هوش برتر تغییر دهد. البته همه بزرگان صنعت فناوری، موافق موضوع توسعه سریع هوش مصنوعی بدون قانونگذاری مشخص برای آن نیستند و نگرانیهای زیادی برای آینده این فناوری بدون نظارت جدی دارند.
چرا هوش مصنوعی نگرانکننده شده است؟
نگرانی از توسعه سریع هوش مصنوعی، مدیران غولهای هوش مصنوعی از جمله آنتروپیک، xAI، اپن ای آی و دیپ مایند گوگل را در یک جبهه مشخص قرار داده و همگی یکصدا نسبت به سرعت فزاینده پیشرفت مدلهای هوش مصنوعی هشدار میدهند. به اعتقاد این گروه از مدیران غولهای هوش مصنوعی، باید میان رشد قابلیت این فناوری و توانایی بشر برای ارزیابی، ایمنسازی و کنترل آن فاصلهای مشخص وجود داشته باشد وگرنه ممکن است توانایی سیستمهای هوش مصنوعی برای بهبود قابلیتهای خود، از توانایی انسان برای درک و کنترل آنها نیز جلو بزند و عملاً برای جوامع بشری دردسرساز شود.
البته این، همه ماجرا نیست و رفتار عجیب و خودسرانه ایجنتهای هوش مصنوعی اپنایآی و آنتروپیک و فرار آنها از محیط قرنطینه درحال مطالعه، ایجاد کانالهای ارتباطی و عبور از محدودیتهای تعیینشده و حتی حمله به یک وبسایت برنامهنویسی آلمانی، همگی دلایلی هستند که هوش مصنوعی را ترسناکتر از گذشته میکنند. این ترس باعث شده درنهایت، ایلان ماسک و سم آلتمن که مدتهاست رقیب سرسخت یکدیگر در حوزه هوش مصنوعی بودند و همیشه با یکدیگر با کنایه حرف میزدند هم در یک جبهه قرار بگیرند.
جنگافزارهای مدرن هوشمند
جدا از فرار عاملهای هوش مصنوعی، برخی دیگر مانند اریک اشمیت، مدیرعامل سابق گوگل هم نگران سرعت گرفتن توسعه جنگافزارهای مدرن هوشمند با کمک هوش مصنوعی هستند. او اعتقاد دارد درغیاب نظارت مناسب بر روند توسعه هوش مصنوعی، امکان توسعه سیستمهای سلاحهای خودمختار با سرعتی بالا وجود دارد که خود تهدیدی برای جهان محسوب میشود.
طراحی ویروسهای کاملاً جدید و قابل تکثیر توسط هوش مصنوعی برای اولینبار هم موضوعی است که نگرانیهایی ایجاد کرده و حتی برخی معتقدند همانطور که دانشمندان دانشگاه استنفورد توانستند با استفاده از یک مدل هوش مصنوعی، خانوادهای از ویروسهای جدید و فعال را خلق کنند، احتمال ساخت سریع سلاحهای بیولوژیکی و توسعه بیوتروریسم با کمک هوش مصنوعی وجود دارد.
از دست رفتن مشاغل انسانها هم موضوعی است که بارها از آن سخن گفته شده، هرچند فعالان حوزه فناوری معتقدند انسانها باید نوع تعامل خود با هوش مصنوعی را تغییر دهند و مهارتهای جدیدی بیاموزند؛ مهارتهایی که میتواند فناوری هوش مصنوعی را نیازمند آنان کند نه اینکه شغل را از آنها بگیرد.
نگرانی پدرخوانده هوش مصنوعی
البته دامنه این نگرانیها به جفری هینتون، «پدرخوانده هوش مصنوعی» و برنده جایزه نوبل نیز رسیده است. او بهتازگی خطاب به قانونگذاران آمریکایی اعلام کرده است که آنها ممکن است تنها یک سال برای قانونگذاری در حوزه هوش مصنوعی فرصت داشته باشند. جفری هینتون با اشاره به اینکه زمان به نفع هوش مصنوعی است، گفت: «با توجه به سرعت توسعه هوش مصنوعی، ممکن است این فناوری دیگر قابل کنترل نباشد.» او خواستار کند شدن روند توسعه این فناوری و اتخاذ تدابیر حفاظتی کافی شد و تأکید کرد در غیر این صورت، پیامدهای حوادث آینده میتواند بسیار شدیدتر باشد.
بخش دیگری از نگرانیها هم به امنیت کاربرانی مربوط میشود که در غیاب قانونی مشخص و شفاف، دائم از چتباتهای هوش مصنوعی بهره میگیرند و البته این موضوع برای کودکان و نوجوانان پررنگتر است. تاکنون مواردی از خودکشی، استفاده اشتباه از دارو و... در نتیجه مشاوره گرفتن از هوش مصنوعی خبرساز شده و حتی شکایاتی نیز مطرح شده است.
هوش مصنوعی و مصرف روزانه 1.5میلیون بشکه نفت
محیط زیست هم موضوعی دیگر است که در کانون توجه قرار گرفته است. رشد سریع هوش مصنوعی مصرف برق مراکز داده را به سطحی بیسابقه رسانده و آژانس بینالمللی انرژی پیشبینی میکند که این مراکز تا سال ۲۰۳۰ روزانه معادل ۱.۵ میلیون بشکه نفت انرژی مصرف کنند. نیاز شدید هوش مصنوعی به مراکز داده و در نتیجه، مصرف بالای انرژی توسط این فناوری، برخی فعالان محیطزیست را هم در جبهه مخالفان توسعه سریع هوش مصنوعی قرار داده است.
طرفداران توسعه سریع هوش مصنوعی
چه میگویند؟
درمقابل، طرفداران سرسخت فناوری هوش مصنوعی مانند مارک زاکربرگ، مدیرعامل متا معتقدند کاهش سرعت تحقیقات روی قویترین مدلهای هوش مصنوعی در آمریکا، به منزله واگذاری میدان رقابت به چین است. دونالد ترامپ در رأس این گروه قرار دارد و معتقد است هرگونه کند کردن روند نوآوری آمریکا یا اعمال محدودیتهای سختگیرانه، مزیتی راهبردی به رقبای خارجی خواهد بخشید. ترامپ بارها تأکید کرده که آمریکا در زمینه هوش مصنوعی از چین پیشی گرفته و او میخواهد آمریکا همچنان پیشرفتهترین کشور جهان باقی بماند.
مارک زاکربرگ، مالک متا نیز از مخالفان کند شدن توسعه هوش مصنوعی است و میگوید: «هر آزمایشگاهی مسئولیت و انگیزه آن را دارد که با سرعتی متناسب با آموزش ایمن مدلهای خود پیش برود و از توانایی لازم برای اتخاذ تدابیر مقتضی جهت تحقق این امر برخوردار است. شرکت متا تمرکز ویژهای بر پیشگامی در حوزه هوش مصنوعی دارد و دهها میلیارد دلار را به ایجاد زیرساختهای اختصاصی هوش مصنوعی اختصاص داده است.»
«جنسن هوانگ»، مدیرعامل انویدیا به عنوان یکی از بزرگترین تراشهسازان جهان هم در زمره همین افراد قرار دارد و در پاسخ به دلواپسان توسعه سریع هوش مصنوعی، میگوید: «این فناوری تا پایان 2030 بشریت را نابود نخواهد کرد. به اعتقاد او، ایجاد رعب و وحشت عمومی هیچ توجیه منطقی ندارد و جامعه نباید اسیر سناریوهای فاجعهبار خیالی شود؛ موضوعی که ترامپ هم بر آن تأکید دارد.» رئیسجمهوری آمریکا معتقد است هوش مصنوعی انقلاب صنعتی بعدی است و حتی ممکن است بزرگتر و تأثیرگذارتر شود. او احتمال داد که هوش مصنوعی درآینده تا ۲۵ درصد تولید ناخالص داخلی آمریکا را تشکیل دهد.
برخی هم مانند مارک اندریسن، سرمایهگذار خطرپذیر معتقد است توقف این تحقیقات برای حوزه پزشکی نیز گران تمام میشود. به اعتقاد این گروه، میتوان با کمک هوش مصنوعی به پیشگیری از بسیاری بیماریها پرداخت، داروهای جدید و شخصیسازی شده برای افراد مختلف تولید کرد و میزان خطاهای پزشکی را کاهش داد. اما هرگونه کاهش سرعت این تحقیقات و تأخیر در اکتشافات علمی، به قیمت جان انسانها تمام میشود.
تلاش برای ایجاد قواعد جهانی
برخی دولتها ازجمله کانادا نیز به دنبال راهی میانه میان توسعه و کنترل هوش مصنوعی هستند. مارکارنی، نخستوزیر کانادا هرچند بهطور صریح درباره کند کردن روند توسعه هوش مصنوعی اظهارنظر نکرده، اما ایده ایجاد سازمانی با عنوان «ثبات فناوری» را مطرح کرده تا هماهنگیهای بینالمللی در زمینه پیشرفتهای هوش مصنوعی بهبود یابد.
او در مصاحبهای با بلومبرگ گفت: «نیاز به هماهنگی وجود دارد. به اعتقاد ما، در نهایت تشکیل یک «هیأت ثبات فناوری» مشابه «هیأت ثبات مالی» منطقی خواهد بود. هیأت ثبات مالی که مقر آن در بازل سوئیس قرار دارد، بر سیستم مالی جهانی نظارت میکند و در این باره توصیههایی ارائه میدهد. این نهاد ۷۱ عضو دارد که نمایندگان مؤسساتی از سراسر جهان، از جمله کانادا، هستند.
در بریتانیا نیز چارلزسوم، پادشاه انگلستان درباره ضرورت توجه به خطرات احتمالی هوش مصنوعی و ایجاد سازوکارهای کنترلی هشدار داده، هرچند صراحتاً خواستار کاهش سرعت نشده اما خواستار کنترلهای سختگیرانهتری شده است.
او میگوید: «به نظر میرسد بررسی کافی خطرات وجودی چنین فناوریهایی که به دست افراد نادرست میافتند و به روشهای بالقوه فاجعهبار مورد استفاده قرار میگیرند، ضروری است. مطمئناً ما قبل از اینکه خیلی دیر شود، به ابزارهای کنترل کافی نیاز داریم. البته این اولین هشدار او درباره خطرات احتمالی هوش مصنوعی نیست.» در سال ۲۰۲۳، پادشاه بریتانیا در رویدادی که در پارک بلچلی برگزار شد، هوش مصنوعی را کشفی همسطح با برق و شکافتن اتم نامید اما هشدار داد که جهان باید برای عواقب ناخواسته آن آماده شود.
این رویکردها نشان میدهد که مسئله هوش مصنوعی دیگر صرفاً به شرکتهای فناوری یا آزمایشگاههای تحقیقاتی محدود نیست و دولتها نیز به دنبال نقش و مسئولیت خود در مدیریت این فناوری هستند.
در نهایت، مناقشه بر سر هوش مصنوعی را نمیتوان صرفاً به دو گروه «موافق» و «مخالف» تقسیم کرد. تقریباً همه طرفها بر ظرفیت بالای این فناوری اتفاق نظر دارند؛ اختلاف اصلی بر سر این است که سرعت توسعه هوش مصنوعی تا چه اندازه باید با سرعت قانونگذاری، ایمنی و نظارت همراه باشد.از یک سو، کند کردن بیش از حد تحقیقات میتواند فرصتهای اقتصادی و علمی را کاهش دهد و در رقابت میان کشورها هزینهزا باشد. از سوی دیگر، توسعه بدون سازوکارهای ایمنی کافی میتواند ریسکهایی ایجاد کند که مدیریت آنها در آینده دشوارتر باشد.به همین دلیل، شاید پرسش اصلی دیگر این نباشد که «هوش مصنوعی را توسعه بدهیم یا نه»، بلکه این باشد که چگونه میتوانیم آن را با سرعتی توسعه دهیم که هم فرصتهایش از دست نرود و هم توانایی کنترل پیامدهایش از دست انسان خارج نشود.
