باشگاه خبرنگاران جوان - تصاویر تحقیرآمیز زنان و کودکان که لباس‌هایشان به صورت دیجیتالی توسط هوش مصنوعی Grok حذف شده است، علی‌رغم تعهد پلتفرم X به تعلیق کاربران متخلف، همچنان در حال اشتراک‌گذاری است. پس از روزها نگرانی درباره استفاده از این چت‌بات برای ایجاد تصاویر جنسی از زنان واقعی و کودکان بدون رضایت آن‌ها، دیده‌بان ارتباطات بریتانیا (Ofcom) اعلام کرد که تماس‌های فوری با X و xAI برقرار کرده تا گام‌های آن‌ها برای پایبندی به وظایف قانونی‌شان را ارزیابی کند.

این روند که در دوره سال نو میلادی وایرال شد، کمیسیون اروپا را نیز بر آن داشت تا شکایات مربوط به تولید و انتشار تصاویر جنسی شبیه‌سازی شده از کودکان را با جدیتی بسیار زیاد بررسی کند.

آمار تکان‌دهنده؛ سهم بالای محتوای نامناسب در خروجی‌های هوش مصنوعی

محققان مؤسسه AI Forensics با بررسی ۲۰،۰۰۰ تصویر تولید شده توسط Grok در یک هفته، دریافتند که بیش از نیمی از تصاویر مربوط به افرادی با «حداقل پوشش» (مانند لباس زیر یا بیکینی) بوده است که اکثریت آن‌ها را زنان زیر ۳۰ سال تشکیل می‌دادند. حدود ۲ درصد از این تصاویر مربوط به افراد زیر ۱۸ سال و حتی کودکان زیر ۵ سال بوده است. 

در حالی که ایلان ماسک ابتدا با ایموجی خنده به این ترند واکنش نشان داد، اما بعداً هشدار داد که کاربران محتوای غیرقانونی با عواقب جدی روبرو خواهند شد. با این حال، بسیاری از تصاویر دستکاری شده که شامل چهره‌های شناخته شده‌ای همچون «نل فیشر» ۱۴ ساله است، همچنان در دسترس قرار دارند.

خلاء قانونی و فلج نظارتی؛ وقتی تکنولوژی از قانون پیشی می‌گیرد

سیاستمداران و فعالان حقوق زنان دولت بریتانیا را متهم می‌کنند که در اجرای قوانین مربوط به جرم‌انگاری تولید تصاویر برهنه غیررضایتی تعلل می‌کند. اگرچه ایجاد تصاویر جنسی از کودکان طبق قانون فعلی غیرقانونی است، اما وضعیت حقوقی در مورد دیپ‌فیک‌های بزرگسالان پیچیده‌تر است. 

فعالان تاکید می‌کنند که هیچ دلیلی جز تحقیر و بی‌حرمتی برای تولید این تصاویر وجود ندارد و این اقدام نوعی تعرض جنسی دیجیتال محسوب می‌شود. در حالی که رگولاتورها سال‌ها برای ممنوعیت اپلیکیشن‌های برهنه‌سازی تلاش کرده‌اند، به‌روزرسانی‌های اخیر Grok این معضل را به جریان اصلی اینترنت کشانده و ایجاد و اشتراک‌گذاری تصاویر صمیمانه افراد را در یکی از محبوب‌ترین پلتفرم‌های جهان به سادگیِ یک دستور متنی کرده است.

منبع: کانال تلگرامی روندنگار بین‌الملل