مدیرعامل انتروپیک: شرکت به دلیل نگرانی‌های ایمنی سرعت توسعه هوش مصنوعی را کاهش می‌دهد

اخبار فوری هوش مصنوعی: داریو آمودی مدیرعامل انتروپیک در شورای امنیت سازمان ملل هشدار داد که بدون مدیریت موثر، هوش مصنوعی می‌تواند خطری وجودی برای همه بشریت ایجاد کند و از کشورها خواست تا استانداردهای ایمنی جهانی برای هوش مصنوعی وضع کنند.

آمودی که روز چهارشنبه در جلسه شورای امنیت از طریق ویدئو سخن می‌گفت، اعلام کرد هوش مصنوعی می‌تواند توسط بازیگران مخرب برای ایجاد سلاح‌های بیولوژیک استفاده شود و در نهایت ممکن است به سیستمی خارج از کنترل توسعه‌دهندگان تبدیل شود. به دلایل ایمنی، انتروپیک سرعت توسعه هوش مصنوعی خود را کاهش خواهد داد.

آمودی همچنین خواستار ایجاد سیستم صدور گواهی ایمنی هوش مصنوعی و همکاری نظارتی جهانی برای هماهنگی تلاش‌های کشورها جهت جلوگیری از استفاده هوش مصنوعی برای سلاح‌های بیوشیمیایی شد. او گفت هیچ رهبر، شرکت یا کشوری نمی‌تواند به تنهایی چالش‌های ناشی از هوش مصنوعی را حل کند.

آمودی همچنین اشاره کرد که هوش مصنوعی در حال پیشبرد علوم زیستی است. کلود انتروپیک در کشف یک سیستم آنزیمی جدید با توالی‌های تکرار DNA مشابه CRISPR مشارکت داشته، اما فناوری مرتبط می‌تواند خطرات فاجعه‌باری نیز به همراه داشته باشد.

این اظهارات ادامه مواضع ایمنی هوش مصنوعی است که آمودی اوایل این ماه مطرح کرد. انتروپیک و OpenAI هر دو در هسته رقابت مدل‌های هوش مصنوعی پیشرفته هستند و سرعت توسعه و سیاست‌های ایمنی آن‌ها نیز توجه سرمایه‌گذاران و ناظران را جلب کرده است.

[منبع]