توسط : نیک تورلی، رئیس بخش ChatGPT در OpenAI، در گفتوگو با پادکست Decoder وبسایت The Verge تأکید کرد که کاربران باید پاسخهای ارائهشده توسط ChatGPT را بررسی کنند تا زمانی که این مدل از متخصصان انسانی در همه حوزهها قابلاعتمادتر شود. این هشدار در حالی مطرح میشود که حتی در نسخه پیشرفته GPT-5، پیامی با مضمون «ChatGPT ممکن است اشتباه کند. اطلاعات مهم را بررسی کنید» در صفحه چت نمایش داده میشود.
لزوم بررسی پاسخها
تورلی توضیح داد که بین «خیلی قابلاعتماد» و «صددرصد قابلاعتماد» فاصله زیادی وجود دارد. او به کاربران توصیه کرد که ChatGPT را نه بهعنوان منبع اصلی حقیقت، بلکه بهعنوان یک ابزار کمکی یا «نظر دوم» در نظر بگیرند. این مدلهای زبانی مولد، مانند GPT-5، برای پیشبینی محتملترین پاسخ طراحی شدهاند و نه لزوماً برای ارائه حقیقت مطلق، که میتواند منجر به «توهم» یا تولید اطلاعات نادرست شود.
او افزود: «بهترین استفاده از ChatGPT زمانی است که با منابع معتبر مانند موتورهای جستجو یا دادههای اختصاصی یک شرکت ترکیب شود. به همین دلیل قابلیت جستجو را به ChatGPT اضافه کردیم، که تأثیر قابلتوجهی داشته است.» این قابلیت که در اکتبر 2024 معرفی شد، به کاربران امکان میدهد پاسخها را با نتایج جستجوی وب تأیید کنند، اما تورلی همچنان بر لزوم بررسی دستی تأکید دارد.
پیشرفتها و محدودیتها
تورلی اذعان کرد که GPT-5 در مقایسه با مدلهای قبلی، مانند GPT-4o، بهطور قابلتوجهی در کاهش خطاها پیشرفت کرده است. دادههای داخلی OpenAI نشان میدهد که نرخ توهم در GPT-5 تا 15 درصد کاهش یافته، اما همچنان به صفر نرسیده است. او با اطمینان گفت که مشکل توهم در آینده حل خواهد شد، اما نه در کوتاهمدت: «مطمئنم در نهایت این مشکل را حل میکنیم، اما قطعاً نه در چند ماه آینده.»
توصیههای کاربردی
تورلی به کاربران توصیه کرد که پاسخهای ChatGPT یا هر چتبات دیگری را، حتی اگر با لینکهای منبع همراه باشند، با منابع معتبر یا نظر کارشناسان مقایسه کنند. این امر بهویژه برای اطلاعات حساس مانند پزشکی، حقوقی یا مالی اهمیت دارد. به گفته او، ترکیب هوش مصنوعی با منابع تأییدشده، مانند مقالات علمی یا پایگاههای داده رسمی، بهترین راه برای اطمینان از صحت اطلاعات است.
این اظهارات در حالی مطرح میشود که رقابت در حوزه هوش مصنوعی مولد بین شرکتهایی مانند OpenAI، xAI (با Grok) و Anthropic (با Claude) شدت گرفته است. برخلاف Grok که در حال حاضر در حالت BigBrain در دسترس نیست و از طریق وبسایت x.ai یا اپلیکیشنهای X قابل استفاده است، ChatGPT با دسترسی گسترده در iOS، اندروید و وب، بیش از 690 میلیون بار دانلود شده است. با این حال، هشدار تورلی نشاندهنده تعهد OpenAI به شفافیت در مورد محدودیتهای فناوری است، در حالی که این شرکت به توسعه مدلهای پیشرفتهتر مانند GPT-6 ادامه میدهد.
