یادداشت بهزاد احمدی عضوهیأت علمی دانشگاه تهران
هوش مصنوعی در چه بنگاه‌هایی توسعه می‌یابد؟
بهزاد احمدی
عضوهیأت علمی دانشگاه تهران
دونالد ترامپ در ۲۹ سپتامبر ۲۰۲۶ توافقی با مدیران شش شرکت بزرگ فناوری آمریکا شامل گوگل، متا، اوپن‌ای‌آی، آنتروپیک، انویدیا و ایکس‌ای‌آی امضا کرد. این سند باعنوان «توافق کاخ سفید درباره ابرهوش»، مسئولیت اصلی نظارت بر ایمنی مدل‌های پیشرفته هوش مصنوعی را برعهده شرکت‌ها قرار می‌دهد. براساس آن، شرکت‌ها متعهد شده‌اند خطرات احتمالی مدل‌های خود را شناسایی کنند، سازوکارهای نظارت داخلی داشته باشند، از ارزیابان مستقل بیرونی کمک بگیرند و نتایج ارزیابی‌ها را در سطح هیأت‌مدیره بررسی کنند. با این حال، این تعهدات ضمانت اجرای قانونی مشخصی ندارند و بر مسئولیت‌پذیری داوطلبانه شرکت‌ها استوارند.
از تعهد داوطلبانه تا نظارت حقوقی؛ پیشنهاد آنتروپیک چیست؟
کمتر از سه هفته بعد، در ۱۶ اکتبر، جزئیات پیش نویس پیشنهادی آنتروپیک، سازنده مدل هوش مصنوعی کلود منتشر شد. این شرکت پیشنهاد کرده است که توسعه‌دهندگان پیشرفته‌ترین مدل‌های هوش مصنوعی، ملزم به ارزیابی دوره‌ای و مستقل خطرات شوند.همچنین ارزیابان باید نزد وزارت بازرگانی آمریکا ثبت شوند و خطرات فوری و مشخص را حداکثر ظرف ۷۲ ساعت پس از تکمیل ارزیابی، گزارش دهند. هزینه ارزیابی را شرکت‌ها می‌پردازند، اما پرداخت نباید به نتیجه آن وابسته باشد.
بخش مهم‌تر پیشنهاد آنتروپیک، به حدود اختیار دولت مربوط می‌شود. تأکید این شرکت بر محدودکردن اختیار دولت نیز بی‌سابقه نیست و به مناقشه اخیرش بر سر حدود استفاده دولتی و نظامی از مدل‌هایش با دولت آمریکا و پنتاگون بازمی‌گردد. براساس پیشنهاد آنتروپیک، دولت تنها در شرایطی می‌تواند خواستار توقف انتشار یا استفاده از یک مدل شود که خطر فوری و قابل پیش‌بینی آن، احتمال خسارت بیش از یک میلیارد دلار یا مرگ و آسیب شدید به بیش از پنجاه نفر باشد. البته حتی در چنین شرایطی نیز وزارت بازرگانی باید از دادگاه فدرال، درخواست صدور حکم کند.
با این حال، پیشنهاد آنتروپیک را باید در امتداد توافق کاخ سفید دانست. توافق ترامپ بر مسئولیت‌پذیری داوطلبانه شرکت‌ها تکیه دارد، اما برای اجرای تعهدات و حدود مداخله دولت، چارچوب حقوقی مشخصی تعیین نمی‌کند. آنتروپیک با حفظ اصل خودتنظیمی، می‌کوشد این خلأ را برطرف کند. همچنین تعهدات ایمنی شرکت‌ها را از سطح مسئولیت اخلاقی به مسئولیت حقوقی قابل پیگیری ارتقا دهد و درمقابل، اختیار دولت برای متوقف‌کردن فعالیت آنها را به شرایط معین و نظارت قضایی محدود کند. این دو تحول را می‌توان نشانه‌هایی از شکل‌گیری رویکردی در حکمرانی هوش مصنوعی آمریکا دانست که بر خودتنظیمی شرکت‌ها و هدایت راهبردی دولت استوار است.
مزایای تقسیم کار میان دولت و شرکت‌ها
اما آیا چنین الگویی می‌تواند هم‌زمان به توسعه سریع هوش مصنوعی و حفاظت از منافع عمومی کمک کند؟ پاسخ به این سؤال، نیازمند شناخت دقیق مزایا و معایب آن است. اولین مزیت این الگو، بهره‌گیری از ظرفیت تخصصی شرکت‌هاست. پیشرفته‌ترین مدل‌های هوش مصنوعی در بنگاه‌هایی توسعه می‌یابند که بخش بزرگی از دانش فنی، سرمایه، نیروی انسانی و زیرساخت‌های پردازشی را در اختیار دارند. این شرکت‌ها به سازوکارهای درونی مدل‌ها و خطرات احتمالی آنها دسترسی مستقیم دارند و می‌توانند استانداردهای ایمنی را هم‌زمان با تغییر فناوری اصلاح کنند.
دولت به‌تنهایی چنین ظرفیتی ندارد و مقررات‌گذاری صرفاً دولتی، ممکن است از تحولات فنی عقب بماند. لذا مشارکت شرکت‌ها در تنظیم قواعد، فاصله میان توسعه فناوری و نظارت بر آن را کاهش می‌دهد.
مزیت دوم، انعطاف‌پذیری و کاهش هزینه‌های مقررات‌گذاری است. هوش مصنوعی حوزه‌ای یکدست نیست و قواعد مناسب برای پیشرفته‌ترین مدل‌ها، لزوماً برای همه کاربردهای محدودتر مناسب نخواهد بود. مقررات گسترده و یکسان مانند قانون هوش‌مصنوعی اتحادیه اروپا، می‌تواند هزینه انطباق را افزایش دهد، ساختار حقوقی و اداری گسترده‌تر ایجاد کند و ورود شرکت‌های کوچک‌تر را نیز دشوار سازد.
سومین مزیت، فراهم‌کردن امکان تمرکز دولت بر هدایت راهبردی صنعت به جای مدیریت مستقیم فعالیت شرکت‌هاست. در این الگو، دولت می‌تواند منابع و اختیارات خود را بر توسعه زیرساخت‌های پردازشی، حمایت از پژوهش‌های بنیادی، تربیت نیروی انسانی و امنیت زنجیره تأمین متمرکز کند، در حالی که تصمیمات فنی و تجاری، عمدتاً بر عهده بنگاه‌ها باقی می‌ماند.
خودتنظیمی در خدمت رقابت ژئوفناوری
این تقسیم کار در آمریکا با رقابت ژئوفناوری با چین پیوند خورده است. برنامه اقدام هوش مصنوعی دولت ترامپ در ژوئیه ۲۰۲۵ نیز کاهش موانع توسعه، گسترش زیرساخت‌ها و حفظ برتری جهانی آمریکا را در اولویت قرار داده بود. دولت در داخل به تقویت ظرفیت نوآوری شرکت‌ها کمک می‌کند و در عرصه بین‌المللی هم از ابزارهایی مانند کنترل صادرات تراشه‌های پیشرفته و حمایت از گسترش فناوری آمریکایی بهره می‌گیرد. بدین ترتیب خودتنظیمی، بخشی از تقسیم کاری است که می‌تواند توان صنعت و ظرفیت راهبردی دولت را در خدمت هدف مشترک توسعه و برتری فناوری قرار دهد.
محدودیت‌های خودتنظیمی؛ از تعارض منافع تا ضعف نظارت
درکنار مزیت‌های فوق، محدودیت‌های این الگو نیز کم نیست. اولین محدودیت آن، مسأله تعارض منافع است. شرکت‌هایی که مسئول ارزیابی ایمنی محصولات خود هستند، هم‌زمان از عرضه سریع‌تر و فروش بیشتر آنها سود می‌برند. این وضعیت ممکن است بر کیفیت ارزیابی‌ها و میزان شفافیت تأثیر بگذارد. افزون براین، شرکت‌های بزرگ به دلیل برخورداری از منابع مالی و فنی گسترده، می‌توانند بر تدوین استانداردهای صنعت، نفوذ بیشتری داشته باشند و قواعدی را شکل دهند که رعایت آنها برای رقبای کوچک‌تر دشوار باشد. در نتیجه، خودتنظیمی ممکن است برخلاف هدف اولیه، به تمرکز بیشتر قدرت اقتصادی و فناورانه بینجامد.
محدودیت دوم به دامنه نظارت مربوط می‌شود. بسیاری از پیامدهای هوش مصنوعی مانند نقض حریم خصوصی، تبعیض الگوریتمی و تأثیر بر حقوق کاربران، لزوماً در قالب خطرات فوری و فاجعه‌بار ظاهر نمی‌شوند. آستانه‌های بالای پیش‌بینی‌شده در پیشنهاد آنتروپیک برای صدور حکم توقف یک مدل، ممکن است امکان استفاده از این ابزار خاص را در مواجهه با دیگر خطرات جدی محدود کند. هرچند این موضوع به معنای فقدان سایر اختیارات قانونی دولت برای رسیدگی به سایر آسیب‌های هوش مصنوعی نیست.
سومین محدودیت هم دشواری تعیین حدود اختیار دولت است. مقیدکردن مداخله به قواعد مشخص و نظارت قضایی، می‌تواند از تصمیمات خودسرانه جلوگیری کند، اما سخت‌گیری بیش از اندازه در شرایط استفاده از اختیارات قانونی نیز ممکن است توان پیشگیری از خطرات جدی را کاهش دهد. از این‌رو، مسأله اصلی در مدل مذکور، ایجاد توازن میان استقلال صنعت و برخورداری دولت از ابزارهای مؤثر و متناسب برای حفاظت از منافع عمومی است.
در ارزیابی نهایی، مزیت مدل «خودتنظیمی شرکت‌ها و هدایت راهبردی دولت»، در آن است که تنظیم‌گری را از نقطه عزیمت توسعه فناوری آغاز می‌کند، نه از مهار آن. اما این امتیاز تنها زمانی پایدار می‌ماند که فاصله میان خودتنظیمی و خودمصون‌سازی شرکت‌ها حفظ شود. به بیان دیگر مسأله اصلی در این رویکرد، کم یا زیاد بودن نقش دولت نیست. پرسش این است که چگونه می‌توان دولت را آن‌قدر قدرتمند نگه داشت که از منافع عمومی، امنیت و حقوق شهروندان حفاظت کند، اما نه آن‌قدر مداخله‌گر که خود به مانعی برای توسعه فناوری تبدیل شود؟ چگونه می‌توان از ظرفیت تخصصی شرکت‌ها استفاده کرد، بی‌آنکه آنها داور نهایی رفتار خود باشند؟
توافق کاخ سفید و پیشنهاد آنتروپیک دو تلاش اولیه برای پاسخ به همین مسأله‌اند. ارزش این تجربه نیز نه در آن است که پاسخ نهایی را یافته باشد، بلکه در نوع پرسشی است که پیش روی حکمرانی هوش مصنوعی می‌گذارد: چگونه می‌توان توسعه، نظارت و پاسخ‌گویی را به جای قرار دادن در برابر یکدیگر، در یک تقسیم کار نهادی قابل دوام، کنار هم قرار داد؟
