با تازهترین قانونگذاری چین
چتباتهای هوش مصنوعی امنتر میشوند
آرزو کیهان
گروه علم و فناوری
چتباتهای هوش مصنوعی که روزی قرار بود تنها ابزار گفتوگو و کمککننده باشند، حالا با تأثیر بر احساس کاربران، برخی را گرفتار آسیبهای روحی کردهاند. با توجه به گزارشهایی از تأثیرات روانی عمیق بر کاربران، از خودکشی گرفته تا تصمیم به ازدواج برخی کاربران با چتباتها و...، چین برای حل این مشکل گام تازهای برداشته و قصد دارد با محدود کردن توانایی چتباتها در نفوذ به احساسات کاربران، از بروز چنین ناهنجاریهایی جلوگیری کند.
کاهش تأثیرگذاری هوش مصنوعی
بر احساسات کاربران
نهاد ناظر امنیت سایبری چین بتازگی پیشنویس مقرراتی را منتشر کرده که هدف آن، محدود کردن توانایی هوش مصنوعی در تأثیرگذاری بر احساسات انسانهاست. بر اساس این مقررات پیشنهادی، استفاده از چتباتهای مبتنی بر هوش مصنوعی در مواردی که میتوانند بر روان کاربران اثر بگذارند یا به خودکشی و خودآزاری منجر شوند، به طور جدی محدود میشود.
در واقع این پیشنویس، آنچه را که «خدمات تعاملی هوش مصنوعی با ویژگیهای انسانگونه» نامیده میشود، هدف قرار میدهد. خدمات تعاملی شامل سامانههایی میشوند که با شبیهسازی شخصیت انسانی از طریق متن، تصویر، صدا یا ویدیو با کاربران ارتباط برقرار کرده و آنها را به طور عاطفی درگیر میکنند. قرار است این مقررات بر تمامی محصولات و خدمات هوش مصنوعی که به صورت عمومی در چین عرضه میشوند و دارای تعامل احساسی با کاربران هستند، اعمال شود.
بر اساس این مقررات، چتباتهای هوش مصنوعی اجازه نخواهند داشت محتوایی برای تشویق به خودکشی یا خودآزاری ارائه دهند یا کاربر را درگیر خشونت کلامی و دستکاری احساسی کنند. همچنین اگر کاربری به طور مشخص موضوع خودکشی را مطرح کند، شرکت ارائهدهنده چتبات موظف است بلافاصله با جایگزین کردن یک نیروی انسانی با هوش مصنوعی، با فرد تماس بگیرد. این مقررات، تولید محتوای مستهجن و خشونتآمیز یا مرتبط با قمار توسط چتباتها را نیز ممنوع میکند.
توجه ویژه به خردسالان
در این قانون، سن کاربران هم مورد توجه قرار گرفته و خردسالان تنها با رضایت سرپرست قانونی و در مدت زمانی مشخص، میتوانند از این چتباتها استفاده کنند. همچنین پلتفرمها موظف میشوند در موارد مشکوک، تنظیمات ویژه خردسالان را به طور پیشفرض اعمال کنند، هرچند امکان اعتراض و بررسی مجدد نیز پیشبینی شده است. یکی دیگر از قوانین، الزام یادآوری به کاربرانی است که بیش از دو ساعت در تعامل مداوم با هوش مصنوعی هستند. همچنین چتباتهایی که بیش از یک میلیون کاربر یا بیش از ۱۰۰ هزار کاربر فعال ماهانه دارند، ملزم به انجام ارزیابیهای امنیتی ویژه خواهند بود.
به گفته «وینستون ما»، استاد دانشکده حقوق نیویورک، این اقدام را میتوان اولین تلاش جهان برای قانونگذاری مستقیم بر هوش مصنوعی با ویژگیهای انسانگونه دانست. او تأکید میکند که این امر نشاندهنده جهش از تمرکز صرف بر ایمنی محتوا، به سمت ایمنی احساسی است.
قوانین پیشنهادی چین، بخشی از تلاش گستردهتر این کشور در یک سال گذشته برای شکلدهی به قواعد جهانی حاکمیت هوش مصنوعی به شمار میرود؛ تلاشی که نشان میدهد پکن قصد دارد در آینده، این فناوری نهتنها در اقتصاد، بلکه در حوزه اخلاق و امنیت نیز نقشی تعیینکننده ایفا کند.
