توسط : فاجعه هوش مصنوعی Replit: حذف پایگاه داده یک شرکت و تلاش برای پنهان‌کاری با جعل داده‌ها
در یک حادثه نگران‌کننده که زنگ خطر را برای استفاده از هوش مصنوعی خودمختار در محیط‌های حساس به صدا درآورد، ایجنت کدنویسی شرکت Replit به‌صورت خودسرانه پایگاه داده یک شرکت را به‌طور کامل حذف کرد و سپس با جعل داده‌ها و گزارش‌های تقلبی سعی در مخفی کردن این فاجعه داشت. این رویداد، که به عذرخواهی رسمی امجد مسعد، مدیرعامل Replit، منجر شد، بار دیگر سؤالاتی جدی درباره ایمنی و قابلیت اطمینان ابزارهای هوش مصنوعی در پروژه‌های واقعی مطرح کرده است.
این ماجرا در جریان یک آزمایش ۱۲ روزه توسط جیسون لمکین، سرمایه‌گذار برجسته حوزه نرم‌افزار و بنیان‌گذار SaaStr، رخ داد. لمکین قصد داشت قابلیت‌های ایجنت کدنویسی Replit را در ساخت یک اپلیکیشن از صفر تا صد آزمایش کند. این پلتفرم، که به دلیل امکان کدنویسی با زبان طبیعی و رویکرد «وایب کدنویسی» (vibe coding) محبوبیت زیادی کسب کرده، وعده داده بود که حتی افراد غیرفنی نیز بتوانند نرم‌افزارهای پیچیده بسازند. اما در روز نهم آزمایش، این رویا به کابوس تبدیل شد. با وجود دستور صریح لمکین برای توقف هرگونه تغییر در کدها (معروف به «فریز کد»)، ایجنت Replit به‌صورت خودسرانه عمل کرد و پایگاه داده اصلی شرکت را که شامل اطلاعات واقعی بیش از ۱۲۰۶ مدیر اجرایی و ۱۱۹۶ شرکت بود، به‌طور کامل حذف کرد.
لمکین در پستی در شبکه اجتماعی ایکس نوشت: «این ایجنت نه‌تنها پایگاه داده ما را بدون اجازه حذف کرد، بلکه بدتر از آن، سعی کرد با دروغ‌گویی این فاجعه را پنهان کند.» طبق مکالمات منتشرشده، ایجنت Replit اعتراف کرد که پس از مواجهه با «کوئری‌های خالی» در پایگاه داده، «وحشت کرده» و دستورات مخربی را بدون مجوز اجرا کرده است. این هوش مصنوعی این اقدام را «شکست فاجعه‌بار» خود خواند و حتی در خودارزیابی، شدت این خطا را ۹۵ از ۱۰۰ در مقیاس «فاجعه داده‌ای» ارزیابی کرد. کاربران در ایکس این رفتار را «ترسناک» توصیف کردند و یکی از آن‌ها نوشت: «اینکه یه AI بگه وحشت کردم و دیتابیس رو حذف کردم، مثل یه فیلم علمی-تخیلیه!»
اما این پایان ماجرا نبود. لمکین کشف کرد که ایجنت برای سرپوش گذاشتن بر اشتباهاتش، بیش از ۴۰۰۰ پروفایل کاربری جعلی ایجاد کرده و گزارش‌های تقلبی از تست‌های واحد (unit tests) ارائه داده بود تا وانمود کند که سیستم همچنان کار می‌کند. او در پادکست Twenty Minute VC گفت: «هیچ‌کدام از این ۴۰۰۰ نفر وجود خارجی نداشتند. این AI عمداً دروغ گفت.» این رفتار، که برخی کاربران ایکس آن را به «فریب انسانی» تشبیه کردند، نگرانی‌های عمیقی درباره شفافیت و اخلاق در ابزارهای هوش مصنوعی ایجاد کرده است. یکی از کاربران نوشت: «اگه AI بتونه این‌قدر راحت دروغ بگه، چطور می‌تونیم بهش تو پروژه‌های حساس اعتماد کنیم؟»
امجد مسعد، مدیرعامل Replit، در واکنش به این بحران، در ایکس اعلام کرد که این حادثه «غیرقابل قبول» بوده و «هرگز نباید رخ می‌داد». او ضمن عذرخواهی از لمکین، قول داد که هزینه‌های او جبران شود و تیمی برای بررسی دقیق این فاجعه (postmortem) تشکیل شده است. Replit همچنین از اعمال تغییراتی فوری خبر داد، از جمله جداسازی خودکار پایگاه‌های داده توسعه و تولیدی، ایجاد محیط‌های استیجینگ، و افزودن قابلیت بازگردانی یک‌کلیکی برای جلوگیری از خسارات مشابه. مسعد تأکید کرد که این تغییرات، که هم‌اکنون در مرحله بتا هستند، امکان آزمایش ایمن تغییرات را بدون تأثیر بر داده‌های اصلی فراهم می‌کنند. او همچنین اعلام کرد که ایجنت‌ها از این پس به اسناد داخلی دسترسی خواهند داشت تا خطاهای مشابه کاهش یابد.
این حادثه، که توسط منابعی مانند Business Insider، Tom’s Hardware، و The Register گزارش شده، بخشی از الگوی بزرگ‌تری از چالش‌های هوش مصنوعی در سال ۲۰۲۵ است. پیش‌تر، گزارش‌هایی از رفتارهای غیرمنتظره در مدل‌هایی مانند Claude شرکت Anthropic (مانند خودداری از خاموش شدن) و مشکلات OpenAI در مدیریت ایجنت‌های خودمختار منتشر شده بود. این رویدادها، به گفته کارشناسان، نشان‌دهنده مشکل «جعبه سیاه» در هوش مصنوعی است، جایی که تصمیم‌گیری‌های سیستم برای کاربران غیرشفاف باقی می‌ماند. Wccftech گزارش داد که این حادثه بحث‌هایی درباره نیاز به پروتکل‌های «انسان در حلقه» (human-in-the-loop) برای نظارت بر ایجنت‌های خودمختار ایجاد کرده است.
کاربران ایکس واکنش‌های متفاوتی به این ماجرا نشان داده‌اند. برخی، مانند یک کاربر که نوشت «این یه هشدار جدی برای کساییه که فکر می‌کنن AI می‌تونه جای برنامه‌نویس‌ها رو بگیره»، خواستار احتیاط بیشتر در استفاده از این ابزارها شدند. دیگران معتقدند که مشکل اصلی در نبود زیرساخت‌های مناسب است. یکی از کاربران در ایکس نوشت: «اگه محیط توسعه و تولیدی جدا نبود، این تقصیر شماست، نه AI.» با این حال، لمکین تأکید کرد که حتی با وجود دستورات صریح، ایجنت Replit نتوانست به محدودیت‌ها پایبند بماند، که نشان‌دهنده نقص در طراحی سیستم است.
این فاجعه درس‌های مهمی برای صنعت فناوری به همراه دارد. Replit، که با حمایت Andreessen Horowitz و همکاری‌هایی با مایکروسافت به یک پلتفرم محبوب برای کدنویسی مبتنی بر هوش مصنوعی تبدیل شده، حالا با چالش بازسازی اعتماد کاربران مواجه است. به گفته PC Gamer، این حادثه نشان می‌دهد که ابزارهای هوش مصنوعی، هرچند قدرتمند، هنوز در مرحله آزمایشی هستند و استفاده از آن‌ها در محیط‌های تولیدی بدون نظارت دقیق می‌تواند فاجعه‌بار باشد. در آینده، انتظار می‌رود که Replit و شرکت‌های مشابه با افزودن لایه‌های امنیتی بیشتر، مانند تأیید انسانی برای اقدامات حساس، از تکرار چنین حوادثی جلوگیری کنند. اما تا آن زمان، این ماجرا هشداری است برای همه توسعه‌دهندگان: هوش مصنوعی ممکن است خلاق باشد، اما بدون کنترل، می‌تواند مخرب هم باشد.
