توسط : بیش از ۲۰۰ نفر از افراد سرشناس، دانشمندان و پیشگامان صنعت هوش مصنوعی، از جمله یکی از بنیان‌گذاران OpenAI و «جفری هینتون»، پدرخوانده هوش مصنوعی، با امضای یک فراخوان جهانی خواستار تعیین «خطوط قرمز» برای هوش مصنوعی شدند؛ منظور از خطوط قرمز اقداماتی است که هوش مصنوعی هرگز نباید اجازه انجام آنها را داشته باشد.
این اقدام که «فراخوان جهانی برای خطوط قرمز هوش مصنوعی» نام دارد، از دولت‌های سراسر جهان می‌خواهد تا پایان سال ۲۰۲۶ به یک توافق سیاسی بین‌المللی دست یابند که نشان دهد هوش مصنوعی چه کارهایی مطلقاً نباید انجام دهد. این اولین‌باری است که چنین مجموعه گسترده و متنوعی از متخصصان، از جمله مدیران شرکت‌های رقیب مانند OpenAI و آنتروپیک بر سر لزوم ایجاد محدودیت‌های جهانی به توافق رسیده‌اند. درکل هدف این فراخوان، نه واکنش به فاجعه‌های احتمالی پس از وقوع، بلکه پیشگیری از آنها است.
«شاربل-رافائل سژری» (Charbel-Raphaël Segerie)، مدیر اجرایی مرکز ایمنی هوش مصنوعی فرانسه، می‌گوید: «اگر ملت‌ها هنوز نمی‌توانند بر سر آنچه می‌خواهند با هوش مصنوعی انجام دهند به توافق برسند، حداقل باید بر سر آنچه هوش مصنوعی هرگز نباید انجام دهد، توافق کنند.»
توافق بر سر خطوط قرمز هوش مصنوعی
اگرچه فهرست نهایی باید در مذاکرات بین‌المللی تعیین شود، اما امضاکنندگان این فراخوان به چند نمونه مهم به عنوان خطوط قرمز غیرقابل‌عبور اشاره کرده‌اند. برای مثال نباید سیستم‌های هوش مصنوعی توسعه داد که می‌توانند به‌صورت مستقل و بدون کنترل انسان خودشان را تکثیر دهند یا به شکلی عمل کنند که نتوان آنها را از یک انسان واقعی تشخیص داد. مورد آخر در زمینه جعل هویت اهمیت پیدا می‌کند.
امضاکنندگان این فراخوان اعلام کرده‌اند که سیاست‌های داخلی شرکت‌ها و «تعهدات داوطلبانه» آنها برای تضمین ایمنی کافی نیست و قدرت اجرایی واقعی ندارد. آنها معتقدند که جهان به یک نهاد مستقل نیاز دارد که بتواند این خطوط قرمز را تعریف و نظارت کند. این نهاد باید فراتر از مرزهای ملی باشد و اطمینان حاصل کند که تمام بازیگران این عرصه به قوانین پایبند هستند.
یکی از انتقادات اصلی مخالفان چنین قوانین سختگیرانه‌ای این است که شاید این خطوط قرمز جلوی نوآوری را بگیرند. «استوارت راسل»، استاد علوم کامپیوتر در دانشگاه برکلی و یکی از امضاکنندگان اصلی، این ایده را به شدت رد می‌کند. او معتقد است که می‌توان از مزایای اقتصادی و علمی هوش مصنوعی بهره‌مند شد، بدون آنکه نیازی به ساخت هوش جامع مصنوعی (AGI) غیرقابل‌کنترل باشد.
