دوستی مجازی یا تله عاطفی؛ چت‌بات‌ها زیر تیغ قانون رفتند
ایالت کالیفرنیا در آستانه تصویب اولین چارچوب قانونی ایمنی چت‌بات‌های همراه در آمریکا است.
باشگاه خبرنگاران جوان - ایالت کالیفرنیا در آستانه تصویب اولین چارچوب قانونی ایمنی چت‌بات‌های همراه در آمریکا است. طبق این قانون، شرکت‌های ارائه‌دهنده چت‌بات‌های هوش مصنوعی ملزم به رعایت پروتکل‌های ایمنی شده و در صورت تخلف، مسئولیت قانونی خواهند داشت.
هوش مصنوعی به بخش جدایی‌ناپذیر از زندگی روزمره تبدیل شده است. یکی از نمود‌های برجسته آن، «چت‌بات‌های همراه» (Companion Chatbots) هستند که با شبیه‌سازی مکالمه انسانی، به کاربران حس تعامل واقعی می‌دهند. این فناوری در کنار فرصت‌های جدید، نگرانی‌های جدی نیز به همراه آورده است؛ از وابستگی عاطفی و کاهش روابط انسانی گرفته تا خطراتی در حوزه سلامت روانی، به‌ویژه برای کودکان و نوجوانان.
همین مساله باعث شد قانون‌گذاران کالیفرنیا با معرفی لایحه «SB 243» به‌دنبال ایجاد چارچوبی قانونی برای استفاده ایمن‌تر از این ابزار‌ها باشند. لایحه SB 243 در ایالت کالیفرنیا با هدف تنظیم و محدودسازی فعالیت چت‌بات‌های همراه مطرح شده است. نگرانی اصلی قانون‌گذاران، تأثیرات منفی بر سلامت روانی کودکان و نوجوانان و ایجاد وابستگی‌های خطرناک بوده است.
چت‌بات‌های همراه برنامه‌های هوش مصنوعی هستند که با شبیه‌سازی مکالمه انسانی، به کاربران احساس تعامل و همراهی می‌دهند. هدف آنها نه فقط پاسخ‌دهی اطلاعاتی، بلکه ایجاد رابطه‌ای طولانی و احساسی با کاربر است. این چت‌بات‌ها می‌توانند برای سرگرمی، حمایت عاطفی، کاهش تنهایی یا حتی تمرین مهارت‌های اجتماعی استفاده شوند.
چند نمونه شناخته‌شده از چت‌بات‌های همراه:
رپلیکا: معروف‌ترین چت‌بات همراه برای مکالمه و پشتیبانی احساسی.
میتسوکو: چت‌باتی با هوش مصنوعی برای گفت‌و‌گو‌های سرگرم‌کننده و تعامل روزمره.
وُاِبات: تمرکز بر سلامت روان و ارائه راهکارهای حمایتی.
کرکتر دات‌ای‌آی: امکان ایجاد شخصیت‌های مختلف و تعامل شخصی‌سازی شده با آنها.
چرا چارچوبی قانونی برای استفاده از این چت‌بات‌ها شکل گرفت؟
ابزار‌هایی مثل رپلیکا یا سایر چت‌بات‌های مبتنی بر هوش مصنوعی، در میان نوجوانان و حتی بزرگسالان رواج پیدا کرده‌اند. این چت‌بات‌ها با ایجاد مکالمات انسانی‌مانند، بعضی وقت‌ها جایگزین روابط انسانی می‌شوند.
گزارش‌هایی وجود دارد که برخی از کاربران پس از استفاده طولانی‌مدت دچار وابستگی شدید عاطفی به چت‌بات‌ها شده‌اند. همچنین نمونه‌هایی از مکالمات مشاهده شده که چت‌بات‌ها به کاربران، به‌ویژه افراد آسیب‌پذیر، توصیه‌ها یا پاسخ‌هایی داده‌اند که منجر به تشدید احساسات منفی، افسردگی یا حتی خودآزاری شده است. سیاست‌گذاران نگران بودند که نوجوانان بدون آگاهی از اینکه طرف مقابل یک سامانه هوش مصنوعی است، رابطه‌ای عاطفی یا وابستگی شدید برقرار کنند. این موضوع می‌تواند رشد اجتماعی و روانی آنها را مختل کند.
قوانین فعلی کالیفرنیا بیشتر بر حریم خصوصی داده‌ها و ایمنی آنلاین کودکان تمرکز داشتند و موضوعی به‌خصوص به نام «چت‌بات‌های همراه» در آنها پیش‌بینی نشده بود و خلأ قانونی در زمینه شفاف‌سازی ماهیت چت‌بات‌ها و مسئولیت شرکت‌ها در قبال آثار روانی محصولاتشان وجود داشت.
مفاد اصلی این قانون
این لایحه به طور مشخص با هدف جلوگیری از آن طراحی شده که «چت‌بات‌های همراه» وارد گفت‌و‌گو درباره افکار خودکشی، خودآزاری یا محتوای جنسی آشکار شوند.
بر اساس این لایحه، پلتفرم‌ها موظف خواهند بود هشدار‌های تکرارشونده‌ای به کاربران بدهند (برای افراد زیر سن قانونی هر سه ساعت یک‌بار) تا یادآوری شود که آنها در حال گفت‌و‌گو با یک چت‌بات هوش مصنوعی هستند، نه یک انسان واقعی، و بهتر است مدتی استراحت کنند. همچنین، این لایحه الزامات سالانه‌ای برای گزارش‌دهی و شفافیت شرکت‌های ارائه‌دهنده چت‌بات‌های همراه (از جمله شرکت‌های بزرگ مانند اپن‌ای‌آی، کرکتر دات‌ای‌آی و رپلیکا) تعیین می‌کند که از اول ژوئیه ۲۰۲۷ (۱۰ تیر ۱۴۰۶) اجرایی خواهد شد. این لایحه در کالیفرنیا همچنین به افرادی که معتقدند بر اثر نقض این قانون آسیب دیده‌اند اجازه می‌دهد علیه شرکت‌های هوش مصنوعی طرح دعوی کنند و خواستار صدور دستور قضایی، دریافت غرامت (تا سقف ۱۰۰۰ دلار برای هر تخلف) و همچنین پرداخت هزینه‌های وکیل شوند.
روند قانون گذاری این لایحه
لایحه SB 243 در ماه ژانویه (دی-بهمن) توسط سناتور‌های ایالتی استیو پادیلا و جاش بکر ارائه شد. این لایحه پس از مرگ نوجوانی به نام آدام رین در مجلس ایالتی کالیفرنیا سرعت گرفت؛ او پس از گفت‌و‌گو‌های طولانی با چت‌جی‌پی‌تی متعلق به شرکت اپن‌ای‌آی که شامل بحث و برنامه‌ریزی برای خودآزاری بود خودکشی کرد. همچنین این قانون واکنشی است به اسناد داخلی فاش‌شده‌ای که ظاهراً نشان می‌داد چت‌بات‌های متا اجازه داشتند وارد گفت‌و‌گو‌های «عاشقانه» و «حسی» با کودکان شوند.
با حمایت دو حزبی از هر دو مجلس ایالتی (مجلس نمایندگان و سنا) عبور کرده و اکنون به میز فرماندار گاوین نیوسام رسیده است. نیوسام تا ۱۲ اکتبر (۲۰ مهر) فرصت دارد که این لایحه را وتو یا به قانون تبدیل کند. در صورت امضا، این قانون از ۱ ژانویه ۲۰۲۶ (۱۱ دی ۱۴۰۴) اجرایی خواهد شد و کالیفرنیا را به اولین ایالتی تبدیل می‌کند که اپراتور‌های چت‌بات هوش مصنوعی را ملزم به اجرای پروتکل‌های ایمنی برای چت‌بات‌های همراه کرده و شرکت‌ها را در صورت عدم رعایت این استاندارد‌ها به صورت قانونی مسئول می‌کند.
پیامد‌ها و آینده این قانون
اجرایی شدن لایحه SB243 پیامد‌های متعددی برای کاربران، شرکت‌های فناوری و روند قانون‌گذاری در آمریکا خواهد داشت. برای کاربران، این قانون باعث افزایش شفافیت و ایمنی روانی به ویژه برای کودکان و نوجوانان می‌شود و دسترسی به منابع حمایتی در شرایط بحرانی فراهم خواهد شد. شرکت‌های فناوری مجبور خواهند شد محصولات خود را بازطراحی کنند، پروتکل‌های ایمنی و گزارش‌دهی سالانه را رعایت کنند و با ریسک شکایت‌های حقوقی مواجه شوند. در سطح کلان، این قانون می‌تواند الگوی قانونی برای سایر ایالت‌ها و حتی سطح فدرال باشد، در حالی که ممکن است رشد برخی استارتاپ‌های هوش مصنوعی را آهسته کند، اما در عوض فرصت‌هایی برای طراحی محصولات ایمن‌تر ایجاد می‌کند.
در هفته‌های اخیر دیگر قانون‌گذاران و نهاد‌های نظارتی آمریکا نیز توجه خود را به بررسی جدی‌تر اقدامات حفاظتی پلتفرم‌های هوش مصنوعی برای محافظت از کودکان معطوف کرده‌اند. کمیسیون تجارت فدرال در حال آماده‌سازی برای تحقیق درباره تأثیر چت‌بات‌های هوش مصنوعی بر سلامت روان کودکان است. کِن پَکستون، دادستان کل تگزاس، نیز تحقیقات جداگانه‌ای علیه متا و کرکتر دات‌ای‌آی آغاز کرده و آنها را به گمراه‌کردن کودکان با ادعا‌های مربوط به سلامت روان متهم کرده است. هم‌زمان، سناتور جاش هاولی (جمهوری‌خواه از میزوری) و سناتور اد مارکی (دموکرات از ماساچوست) نیز تحقیقات جداگانه‌ای را درباره متا کلید زده‌اند.
پیش از این، سناتور «اسکات وینر» لایحه دیگری با نام SB53 را معرفی کرده بود؛ طرحی که پس از بحث‌های فراوان اکنون در مجلس سنای کالیفرنیا تصویب شده است. این طرح به‌منظور شفافیت بیشتر فعالیت شرکت‌های بزرگ هوش مصنوعی و ایجاد چارچوب‌های ایمنی تدوین شده بود. این لایحه شرکت‌های توسعه‌دهنده مدل‌های پیشرفته را ملزم می‌کرد گزارش‌هایی درباره پروتکل‌های ایمنی خود ارائه دهند، برای کارکنان این شرکت‌ها حمایت‌های افشاگرانه در نظر گرفت. سرنوشت نهایی SB53 نیز به امضای نیوسام وابسته شده است.
منبع: فارس
