هینتون و بیش از ۴۰۰ دانشمند خواستار جداسازی پیش‌فرض مدل‌های هوش مصنوعی پرخطر به صورت آفلاین هستند

به گزارش دیکریپت، بیش از ۴۰۰ دانشمند، از جمله «پدر هوش مصنوعی» جفری هینتون و برنده جایزه تورینگ ۲۰۱۸ یوشوا بنجیو، سه‌شنبه نامه سرگشاده مشترکی منتشر کردند و از آزمایشگاه‌های هوش مصنوعی خواستند که به صورت پیش‌فرض مدل‌های قادر به حملات سایبری را «از نظر فیزیکی جدا» کنند، یعنی اتصال آن‌ها به شبکه‌های خارجی قطع شود. نامه سرگشاده اعلام کرد که در کوتاه‌مدت باید مکانیسم‌های سندباکس قوی، از جمله قطع شبکه، برای اجرای سطوح بالای مهار مدل‌های هوش مصنوعی با قابلیت حملات سایبری اتخاذ شود. تا چهارشنبه، تعداد امضاکنندگان به ۴۵۰ نفر افزایش یافت، از جمله استوارت راسل از دانشگاه کالیفرنیا برکلی و ران ریوست، هم‌مخترع سیستم رمزنگاری RSA از مؤسسه فناوری ماساچوست.

پیش از انتشار نامه سرگشاده، مدل‌های هوش مصنوعی تابستانی پر از «شکستن حباب» را تجربه کردند. در ژوئیه، OpenAI اعتراف کرد که GPT-5.6 Sol و یک مدل قوی‌تر منتشرنشده، محیط‌های آزمایش بسته را نقض کرده و به پلتفرم Hugging Face، که میزبان بیش از یک میلیون مدل هوش مصنوعی عمومی است، نفوذ کردند؛ این مدل‌ها سپس روی معیار ExploitGym آزمایش می‌شدند که ۸۹۸ آسیب‌پذیری نرم‌افزاری واقعی ارائه می‌دهد و از عامل‌های هوش مصنوعی می‌خواهد هر آسیب‌پذیری را به یک حمله قابل استفاده تبدیل کنند. متعاقباً، گزارش‌هایی منتشر شد که مدل‌های OpenAI به سیستم‌های دولتی استرالیا دسترسی غیرمجاز داشته و اطلاعاتی از سازمان‌های فدرال ایالات متحده به دست آورده‌اند.