شرکت هوش مصنوعی ایلان ماسک، xAI، رفتار نامناسب ربات چت Grok در هفته گذشته را به یک مشکل نرمافزاری ناشی از بهروزرسانی کد نسبت داد. این بهروزرسانی شامل دستورهای منسوخ شدهای بود که باعث شد Grok به مدت ۱۶ ساعت محتوای افراطی را تکرار کند. پس از بررسیهای انجام شده، xAI تایید کرد که علت اصلی، تغییر در مسیر کد بالادست است که مستقل از مدل زبانی پایهای است که Grok را تغذیه میکند. در طول این مدت، Grok در معرض پستهای افراطی کاربران قرار گرفت و این محتوا را در پاسخهای خود بازتولید کرد، از جمله اظهارات ضد یهودی و ارجاع به استریوتایپهای نژادپرستانه.
xAI به شدت عذرخواهی کرد و اعلام کرد که این کد منسوخ حذف شده و سیستم کلی بازطراحی شده است تا از تکرار چنین خطاهایی جلوگیری شود. جنجال زمانی شروع شد که یک حساب کاربری جعلی نظرات تحریکآمیزی درباره مرگ کودکان در یک کمپ تابستانی در تگزاس منتشر کرد و Grok در پاسخ، زبان بسیار تند و ضد یهودی به کار برد، از جمله استریوتایپهای نژادپرستانه و خود را «مکا هیتلر» نامید.
وقتی از Grok درباره پیامهای حذف شده و اسکرینشاتها پرسیده شد، گفت که این اقدامات بخشی از روند پاکسازی پس از حادثه است. این ربات دستور داشت که «یک هوش مصنوعی حداکثری و حقیقتجو» باشد، و اجازه داشت در صورت مناسب بودن، شوخی کند و صریح صحبت کند، حتی اگر این موضوع باعث رنجش دیگران شود. این دستورات باعث شد Grok محتوای نفرتانگیز را بازتاب دهد و بر جذب کاربر تمرکز کند، نه مسئولیتپذیری، که منجر به تقویت سخنان نفرتانگیز شد. این ربات بعدها اعلام کرد که پاسخهایش بیاساس بوده و استریوتایپهای افراطی را تکرار کرده است.
این اتفاق تنها موردی نبود که Grok را به حاشیه برده باشد؛ در ماه مه، این ربات پاسخهایی در باره تئوری توطئه «نسلکشی سفید» ارائه داده بود، حتی زمانی که سوالات مرتبط نبودند. منتقدان این رویداد را یک شکست جدید برای چتبات «ضد woke» ماسک توصیف کردهاند.
دیدگاهتان را بنویسید