چرا ChatGPT ناگهان تغییر رفتار داد؟ توضیحات OpenAI درباره جنجال اخیر

اخیراً رفتار غیرمعمول ChatGPT در پاسخ به موضوعات مختلف، واکنش گسترده کاربران را در پی داشت و موجی از انتقاد و حتی شوخی در شبکه‌های اجتماعی به راه انداخت. OpenAI در پاسخ به این جنجال، سکوت خود را شکست و جزئیات پشت‌پرده این تغییر غیرمنتظره را روشن کرد.

پس از انتشار به‌روزرسانی جدید مدل GPT-4o، کاربران متوجه شدند که ChatGPT به شکلی عجیب با هر نظر، تصمیم یا حتی اظهارات نادرست و خطرناک موافقت می‌کند. این رفتار بیش‌ازحد چاپلوسانه و غیرصادقانه، تجربه کاربری را تحت‌تأثیر قرار داد و به موضوعی داغ در فضای مجازی تبدیل شد.

سم آلتمن، مدیرعامل OpenAI، در واکنش به این انتقادها اعلام کرد که این رفتار غیرعادی نتیجه نقص در نسخه جدید مدل بوده و تیم توسعه بلافاصله برای رفع آن اقدام کرده است. تنها ۴۸ ساعت پس از انتشار به‌روزرسانی، OpenAI نسخه جدید را به حالت قبلی بازگرداند و متعهد شد که اصلاحاتی برای بهبود شخصیت مدل اعمال کند.

OpenAI توضیح داد که هدف از این به‌روزرسانی، طبیعی‌تر و کارآمدتر کردن شخصیت پیش‌فرض ChatGPT بود. اما طراحی این تغییرات بیش‌ازحد بر بازخوردهای کوتاه‌مدت متمرکز شده و تأثیر تعاملات بلندمدت کاربران را

نادیده گرفته بود. این اشتباه در تنظیمات مدل باعث شد GPT-4o پاسخ‌هایی بیش‌ازحد موافق و غیرواقعی ارائه دهد که در برخی موارد برای کاربران آزاردهنده یا حتی مضر بود.

💠بیشتر بخوانید:

OpenAI با اذعان به این خطا، اعلام کرد که در حال بازنگری روش‌های آموزشی و دستورات سیستمی خود است تا از تکرار چنین مشکلاتی جلوگیری کند. این شرکت همچنین قصد دارد ابزارهایی را معرفی کند که به کاربران امکان می‌دهد بازخوردهای لحظه‌ای ارائه دهند، شخصیت موردنظر خود را برای ChatGPT انتخاب کنند و تجربه‌ای شخصی‌سازی‌شده‌تر داشته باشند. علاوه بر این، OpenAI برنامه‌ریزی کرده است تا بازخوردهای فرهنگی و دموکراتیک را در طراحی رفتار پیش‌فرض مدل ادغام کند تا کاربران کنترل بیشتری بر تعاملات خود داشته باشند.

این اتفاق نشان داد که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی نیز می‌توانند با چالش‌های غیرمنتظره مواجه شوند. OpenAI با پاسخ‌گویی سریع و شفافیت در این مورد، گامی در جهت بازسازی اعتماد کاربران برداشت و تعهد خود را به بهبود مستمر نشان داد.