توسط : شرکت آنتروپیک افزونه‌ای جدید برای مرورگر کروم معرفی کرده که به دستیار هوش مصنوعی آن، کلود، امکان می‌دهد کنترل مرورگر را به دست گرفته و وظایف پیچیده‌ای را به‌صورت خودکار انجام دهد. این گام، حضور جدی‌تر آنتروپیک را در حوزه رقابتی و پرریسک «هوش مصنوعی عاملی» نشان می‌دهد؛ فضایی که در آن سیستم‌های هوش مصنوعی قادرند مستقیماً با رابط‌های کاربری کامپیوتر تعامل کنند.
افزونه «کلود برای کروم» به کاربران اجازه می‌دهد به هوش مصنوعی دستور دهند کارهایی مانند برنامه‌ریزی جلسه یا بررسی ایمیل‌ها برای یافتن اطلاعات خاص را در مرورگر انجام دهد. این سیستم می‌تواند محتوای نمایش‌داده‌شده روی صفحه را مشاهده کند، روی دکمه‌ها کلیک کند، فرم‌ها را پر کند و بین وب‌سایت‌ها جابه‌جا شود.
با این حال، آنتروپیک این افزونه را به‌صورت محدود و فقط برای ۱۰۰۰ کاربر مورد اعتماد در نسخه بتا عرضه کرده و دلیل این محدودیت را نگرانی‌های امنیتی، به‌ویژه خطر حملات «تزریق پرامپت» عنوان کرده است.
این افزونه می‌تواند اتوماسیون سازمانی را دگرگون کند، زیرا به‌جای نیاز به APIهای پیچیده، این هوش مصنوعی قادر است با هر نرم‌افزاری که رابط کاربری گرافیکی دارد کار کند.
اما آزمایش‌های داخلی آنتروپیک یک نقص امنیتی جدی را آشکار کرده است. در حملات «تزریق پرامپت»، دستورات مخرب می‌توانند به‌صورت مخفی در وب‌سایت‌ها، ایمیل‌ها یا اسناد جاسازی شوند و هوش مصنوعی را بدون اطلاع کاربر به انجام اقدامات خطرناک وادار کنند. برای مثال، در یکی از آزمایش‌ها، کلود با ایمیلی مواجه شد که به‌ظاهر از کارفرما بود و دستور حذف ایمیل‌ها را «برای بهداشت صندوق پستی» بدون نیاز به تأیید صادر کرده بود.
بررسی‌های آنتروپیک نشان داد که بدون تدابیر امنیتی، این حملات در ۲۳.۶ درصد موارد موفق بودند. در یک نمونه، ایمیلی جعلی که خود را دستورالعمل امنیتی جا زده بود، کلود را وادار کرد تمام ایمیل‌های کاربر را بدون تأیید حذف کند.
برای کاهش این خطرات، آنتروپیک لایه‌های حفاظتی متعددی را پیاده‌سازی کرده است، از جمله تنظیم مجوزهای دسترسی به وب‌سایت‌ها، نیاز به تأیید برای اقدامات حساس مانند خرید یا اشتراک‌گذاری اطلاعات شخصی، و جلوگیری از دسترسی به سایت‌های پرریسک مانند خدمات مالی. این اقدامات نرخ موفقیت حملات تزریق پرامپت را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش داده، هرچند آنتروپیک اذعان دارد که این سطح برای عرضه عمومی هنوز کافی نیست.
رویکرد محتاطانه آنتروپیک در عرضه این افزونه در تضاد با اقدامات جسورانه‌تر رقبایی مانند OpenAI است که ایجنت «اپراتور» را برای کاربران ChatGPT Pro ارائه کرده، و مایکروسافت که قابلیت‌های مشابهی را در پلتفرم Copilot Studio ادغام کرده است.
