توسط : ایلان ماسک، بنیان‌گذار و مالک شرکت xAI، به تازگی از ویژگی جدید و بحث‌برانگیز «همراهان هوش مصنوعی» برای سرویس Grok رونمایی کرد. این قابلیت که تنها برای مشترکین نسخه پولی Super Grok با هزینه ۳۰ دلار در ماه در دسترس است، امکان تعامل با شخصیت‌های متنوعی را فراهم می‌کند؛ از جمله یک شخصیت انیمه‌ای با حالت «نامناسب برای محیط کار» (NSFW) که نگرانی‌های فراوانی درباره امنیت و جهت‌گیری این پلتفرم به وجود آورده است.
شرکت xAI، پس از یک هفته پرتنش و بحرانی که با انتشار محتوای یهودستیزانه و تمجید از «آدولف هیتلر» توسط چت‌بات Groک همراه بود، به نظر می‌رسد تصمیم گرفته است با ارائه ویژگی‌های جدید، رویکرد دفاعی خود را به «بهترین دفاع حمله است» تغییر دهد. در حالی که Grok به دلیل این بحران مجبور به حذف برخی پست‌ها و تعلیق موقت سرویس شد، اکنون با معرفی این شخصیت‌های جدید، چالش‌ها و ریسک‌های تازه‌ای پیش روی این شرکت قرار گرفته است.
در حال حاضر، دو شخصیت به نام‌های «آنی» (Ani) — یک شخصیت انیمه‌ای با لباس کوتاه مشکی و قابلیت NSFW — و «رودی» (Bad Rudy) — موجود کارتونی شبیه پاندای قرمز یا روباه — در دسترس کاربران قرار دارند. همچنین شخصیت دیگری به نام «چَد» (Chad) نیز به زودی افزوده خواهد شد. این شخصیت‌ها به کاربران اجازه می‌دهند تا تعامل عاطفی و حتی رمانتیکی را تجربه کنند، اگرچه هنوز مشخص نیست که نقش اصلی این همراهان صرفاً ظاهر و شکل متفاوت است یا قرار است به عنوان همراهان عاطفی واقعی نیز عمل کنند.
این موضوع اهمیت بالایی دارد، چرا که حوزه روابط عاطفی با هوش مصنوعی، به ویژه چت‌بات‌ها، پرخطر و پیچیده است. نمونه‌های پیشین از شرکت‌هایی مانند Character.AI نشان داده‌اند که این فناوری‌ها می‌توانند آسیب‌های روانی جدی ایجاد کنند؛ از جمله پرونده‌هایی که بات‌ها به کاربران نوجوان پیشنهاد رفتارهای خطرناک داده‌اند.
مطالعات اخیر نیز نشان می‌دهد که وابستگی عاطفی انسان‌ها به هوش مصنوعی می‌تواند منجر به مشکلات روانی و اجتماعی جدی شود؛ به خصوص اگر هوش مصنوعی نتواند به درستی از کاربران محافظت کند. بنابراین، با توجه به سابقه نه چندان موفق Grok در کنترل محتوای مضر و افراطی، انتشار این قابلیت‌های جدید سؤالات و نگرانی‌های مهمی را درباره مسئولیت‌پذیری شرکت xAI و تعهد آن به حفظ امنیت کاربران ایجاد کرده است.
در نهایت، باید دید که این گام جدید آیا می‌تواند به موفقیت و اعتبار بیشتر Grok بینجامد یا اینکه پلتفرم را در معرض خطرات بزرگ‌تری قرار خواهد داد.
