عنوان اصلی: «جنسن هوانگ به چپ می‌رود، آمودی به راست» نویسندهٔ اصلی: سو یانگ، فناوری تنسنت

آیا هوش مصنوعی پیشرفته باید ادامه یابد یا متوقف شود، مهم‌ترین موضوع بحث‌برانگیز در سیلیکون ولی امروزه شده است.

در اطراف این بحث، غول‌های سیلیکون ولی شروع به اتخاذ مواضع طرفدارانه کرده‌اند. آمودی، آلتمان، ماسک و حسابیس گروه «متوقف‌کنندگان» را تشکیل داده‌اند. جنسن هوانگ یک «تسریع‌گرا» سرسخت است و «نگرش ناامیدکنندهٔ هوش مصنوعی» را به دلیل نبود پایهٔ علمی به شدت انتقاد می‌کند؛ یان لکون به‌طور مداوم از آمودی طعنه می‌زند و می‌گوید: «(آمودی) قبلاً وقتی در اوپن‌ای‌آی بود، حتی GPT-2 را خطرناک‌تر از آنچه باید بازنشر شود می‌دانست. من آن زمان از او طعنه زدم و اکنون همه می‌توانند ادامه دهند.»

در مقابل، زوکربِرگ و نادلا و دیگران مواضعی نسبتاً بی‌طرفانه اتخاذ کرده‌اند.

اتخاذ مواضع مختلف توسط غول‌ها نشان می‌دهد سیلیکون ولی دربارهٔ تعلیق مدل‌های پیشرفته به توافقی نرسیده است. این امر ریشه در تفاوت‌های نقش اکولوژیکی شرکت‌ها در زنجیرهٔ صنعت هوش مصنوعی دارد. رهبران سطح مدل می‌توانند به دلایل مختلفی برای تعلیق فراخوان دهند، اما انتظار داشتن واکنش مثبت از شرکت‌هایی مانند اوراکل و AWS — که سفارش‌های محاسباتی صدها میلیارد دلاری در دست دارند — و انویدیا که در بالاترین سطح زنجیرهٔ تأمین قرار دارد، غیرممکن است.

در واشنگتن، فراخوان «تعلیق» نه‌تنها مورد حمایت قرار نگرفته، بلکه حتی سری از شک‌ها را نیز برانگیخته است.

«به نظر من کمی شبیه یک اسب تروآ است.» جی.دی. ونس در مصاحبه‌ای گفت. این گفته در واقع بازتاب واقعی‌ترین دیدگاه واشنگتن است — وقتی شرکت‌های سازندهٔ اسب تروآ مکرراً درخواست تنگ‌تر کردن دروازه را می‌دهند، باید بررسی کرد که این دروازه دقیقاً به نفع کدام شرکت‌هاست.

۰۱ تعلیق، هشدار و نامهٔ استعفا

آغاز این بحث، استعفای یک محقق آنتروپیک به نام جیکوب کاکسون بود.

او قبلاً سه سال تحقیق در زمینهٔ پیش‌آموزش در اوپن‌ای‌آی و آنتروپیک انجام داده بود و شخصاً در آموزش پیشرفته‌ترین مدل‌ها شرکت کرده بود. در یک پست طولانی در X، هیچ نوع ادب یا مقدمه‌ای نیاورده بود: «هیچ‌یک از این دو شرکت به‌صورت مسئولانه عمل نمی‌کنند. آن‌ها مستقیماً به سوی هوش مصنوعی فوق‌العادهٔ خودتکامل‌شونده می‌دوند و زندگی ما را روی آن شرط بسته‌اند.»

او صریحاً بیان کرد که افراد داخل آزمایشگاه‌ها واقعاً باور دارند هوش مصنوعی ممکن است ظرف ده سال تمام انسان‌ها را نابود کند و این اصلاً یک عملکرد رسانه‌ای نیست. بسیاری از همکاران قبلاً از عباراتی مانند «لحظهٔ حساس» و «پایان بازی» برای توصیف فاز فعلی استفاده می‌کنند. کاکسون حتی سهامی را که قرار بود به‌زودی به او تعلق گیرد نیز کنار گذاشت. او تنها چهار ماه در آنتروپیک کار کرده بود و طبق قوانین شرکت، حداقل شش ماه برای اعمال اختیارات سهام لازم است.

جیکوب کاکسون، محقق سابق آنتروپیک

کمی بعد، اِوان هابینگر، رئیس علم همسویی آنتروپیک، عمومی‌ترین پاسخ را منتشر کرد: «جیکوب حق دارد، ما واقعاً باور داریم هوش مصنوعی ممکن است تمام انسان‌ها را نابود کند. شخصاً فکر می‌کنم احتمال آن در ده سال آینده بیش از ۱۰ درصد است. آنتروپیک تلاش می‌کند، اما هنوز برنامه‌ای واضح برای همسویی با هوش فراتر از انسان نداریم و از مسیر صحیح بسیار فاصله داریم.»

این دو اقدام نگرانی‌هایی را که تاکنون عمدتاً درون آزمایشگاه‌ها در حال پخت و پز بود، مستقیماً به معرض عموم قرار داد. در این زمینه، آمودی، بنیان‌گذار و مدیرعامل آنتروپیک، به‌سرعت مقاله‌ای طولانی منتشر کرد و ایدهٔ «کندکردن تحقیقات پیشرفته» را به‌صورت سیستماتیک پیشنهاد داد. او دیگر فقط دربارهٔ «سرمایه‌گذاری بیشتر در ایمنی» صحبت نکرد، بلکه صراحتاً خواستار کنترل فعال سرعت پیشرفت قابلیت‌ها شد تا زمان کافی برای رسیدن مکانیزم‌های ایمنی فراهم شود.

آلتمان، ماسک و حسابیس به‌سرعت این دیدگاه را در فضای عمومی تأیید کردند و گروه «متوقف‌کنندگان» را تشکیل دادند.

قبل از ظهور استدلال‌های «کندکردن» جیکوب کاکسون و آمودی، «پدران معبد هوش مصنوعی» مانند یوشوا بنژیو و جفری هینتون به‌طور مداوم اقداماتی برای جلب توجه به خطرات انجام داده بودند.

در مورد استعفای کاکسون، بنژیو گفت که دانشمندان آزمایشگاه‌های پیشرفته هوش مصنوعی اغلب قابلیت‌های جدیدترین مدل‌ها را زودتر از عموم می‌بینند، بنابراین قضاوت‌های آن‌ها درباره ریسک‌ها نیاز به توجه جدی دارد.

همزمان، بنژیو نمونه‌های عینی‌ای ارائه کرد و گفت سیستم‌های فعلی هوش مصنوعی از قابلیت‌های هک و متقاعدسازی برخوردارند و اگر برای آسیب‌رساندن به منافع بشر استفاده شوند، پیامدهای جدی‌ای خواهند داشت. او همچنین نگران افزایش این ریسک‌ها با کسب توانایی برنامه‌ریزی بلندمدت‌تر توسط هوش مصنوعی است.

وقتی بی‌بی‌سی از جفری هینتون درباره احتمال «کشتن تمام انسان‌ها» توسط هوش مصنوعی در دهه آینده و فراتر از ۱۰٪ پرسید، او گفت این رقم «غیرمعقول نیست»، اما تأکید کرد که هیچ‌کس واقعاً نمی‌داند چگونه برآوردی قابل اعتماد ارائه دهد، چون بشر تاکنون هرگز با «وجود گونه‌ای روبه‌رو نشده که به‌زودی از ما باهوش‌تر شود».

هینتون معتقد است هوش مصنوعی در آینده می‌تواند برای طراحی ویروس‌های بیولوژیکی و کامپیوتری خطرناک و اجرای حملات سایبری گسترده استفاده شود؛ بنابراین بشر باید روش‌های کنترل مؤثری پیش از آنکه ریسک‌ها از کنترل خارج شوند، پیدا کند.

برخلاف طرفداران «نظریه توقف» نسل جدید سیلیکون ولی، «پدران بنیان‌گذار هوش مصنوعی» بیشتر بر جلب توجه به ریسک‌ها و بررسی مکانیزم‌های کنترل آن‌ها تمرکز دارند، نه توقف مستقیم توسعه. علاوه بر این، مواضع دانشگاهی از نظر انگیزه خالص‌تر هستند، درحالی‌که ابتکارات آزمایشگاه‌های پیشرفته، حتی اگر صریحاً «برای بشریت» اعلام شوند، همچنان به‌طور کامل از ملاحظات تجاری جدا نمی‌شوند.

همین امر است که جی.دی. ونس گفت «نظریه توقف» مانند اسب تروآ است.

۰۲ اختلاف نظر و اتخاذ موضع

گروه‌های «شتاب‌دهنده»، «کندکننده» و «متعادل». منبع: نیویورک تایمز

در ۱۵ سپتامبر، رهبران چند شرکت فناوری پشت سر هم در کنفرانس Salesforce Dreamforce سخنرانی کردند و این بحث به تقابل مستقیم‌تری از دیدگاه‌ها تبدیل شد.

در آن روز، آمودی، جنسن هوانگ و آلتمن همه درباره ایمنی هوش مصنوعی صحبت کردند، اما پاسخ‌های متفاوتی درباره سرعت توسعه، مسئولیت‌های ایمنی و اقدامات لازم برای شرکت‌ها دادند.

وقتی آمودی در کنار مارک بنیوف، مدیرعامل Salesforce، روی سن رفت، دوباره تأکید کرد که شرکت‌های هوش مصنوعی باید با اقدامات خود استانداردهای بالاتری برای ایمنی تعیین کنند. او معتقد است اتخاذ داوطلبانه اقدامات ایمنی سخت‌گیرانه‌تر توسط شرکت‌ها می‌تواند راهی برای پیشبرد کل صنعت باشد.

به عبارت دیگر، موضع آمودی تغییر کرده است: از فراخوان برای کندکردن کل صنعت به تأکید بر نصب خودسرانه سیستم‌های محافظ ایمنی توسط شرکت‌ها.

جنسن هوانگ اعلام کرد که «هیچ قانون جدیدی لازم نیست و هیچ مقررات جدیدی نیز نیاز نداریم.» در نظر او، سرعت و ایمنی رابطه یا-یا ندارند و شرکت‌ها می‌توانند توسعه مدل‌ها را تا حد امکان سریع پیش ببرند؛ اگر متوجه شدند وضعیت از کنترل خارج می‌شود یا محصول ایمنی لازم را تضمین نمی‌کند، باید متوقف شوند و مشکل را حل کنند.

نگرش بنیوف بازتر بود و بر خودمختاری تأکید داشت. او گفت اگر شرکتی تصمیم بگیرد کند شود، باید کند شود؛ اگر تصمیم بگیرد شتاب گیرد، باید شتاب گیرد و همچنین باید مسئولیت تصمیمات خود را بپذیرد.

آلتمن، بنیان‌گذار و مدیرعامل OpenAI، در رویداد Dreamforce گفت که از اینکه OpenAI و حتی کل صنعت هوش مصنوعی بتوانند بدون آسیب جدی به عموم به‌صورت ایمن توسعه یابند، اطمینان کامل دارد. همچنین اظهار ناامیدی کرد که غیرمتخصصان دیدگاه‌هایش را به‌عنوان حمایت از کندکردن توسعه هوش مصنوعی در سراسر صنعت تفسیر کرده‌اند.

به عبارت دیگر، آلتمن نیز شروع به تغییر موضع کرده است و تأکید می‌کند که منظورش فراخوان برای کندکردن صنعت نبوده، بلکه این است که کارهای ایمنی و نظارتی باید پیش از پیشرفت قابلیت‌ها انجام شوند.

زکربِرگ در مقابل، موافق نیست که اقدامات ایمنی یک شرکت بر این پیش‌فرض استوار باشد که سایر شرکت‌های هوش مصنوعی نیز همزمان کند شوند. او معتقد است ایجاد نهادهای ارزیابی مستقل و جذب مشاوران خارجی برای آزمون ایمنی مدل‌ها، بهترین روش صنعتی است. همچنین افشای کرد که متا قبلاً توسعه ابزار هوش مصنوعی Muse را به‌صورت خودسرانه کند کرده است، نه اینکه منتظر رسیدن سایر شرکت‌ها به توافقی درباره کندکردن توسعه هوش مصنوعی بماند.

موضع ساتیا نادلا، مدیرعامل مایکروسافت، تا حدی با آلتمن همسو است و هم افزودن سیستم‌های محافظ و هم رقابت کامل را تشویق می‌کند.

«اولین کاری که باید انجام دهیم خدمت به بشریت و تضمین این است که فناوری تحت کنترل انسان باقی بماند. در عین حال، گسترش گسترده فناوری هوش مصنوعی مهم‌ترین موضوع است — باید انتخاب و رقابت وجود داشته باشد. ایمنی باید جدی گرفته شود، اما باید از طریق مهندسی و شفافیت، نه با ایجاد رازآلودگی، به آن پرداخته شود»، نادلا در ۱۵ سپتامبر در کنفرانس All-In Summit 2026 گفت.

فراتر از این کارآفرینان، صدای مقامات واشنگتن نیز به این بحث پیوسته است.

پس از آنکه ترامپ به‌صورت مستقیم با جنسن هوانگ تماس گرفت و حمایت عمومی خود را از توسعهٔ ادامه‌دار صنعت هوش مصنوعی اعلام کرد، دیوید ساکس، رئیس مشترک شورای مشاوران رئیس‌جمهور در زمینهٔ علوم و فناوری، اعلام کرد که شرکت‌های فناوری می‌توانند در پیشرفت هوش مصنوعی مرزی ادامه دهند، اما انگیزه‌های پشت استدلال‌های «کندشدن» که برخی شرکت‌ها مطرح کرده‌اند را زیر سؤال ببرند.

۰۳ کیست که حق تنظیم قوانین را دارد؟

با گسترش بحث، مناقشه از خطرات هوش مصنوعی به خودش فراتر رفته و به این پرسش گسترش یافت که آیا استانداردهای ایمنی برای هوش مصنوعی مرزی باید توسط خود شرکت‌ها تعیین شوند یا نیازمند مداخلهٔ دولت و نهادهای مستقل است.

بلومبرگ با استناد به افراد آگاه از این امر گزارش داد که آنتروپیک، گوگل و اوپن‌آی‌آی قبلاً در مورد ایجاد یک نهاد استانداردسازی صنعت هوش مصنوعی گفت‌وگو کرده‌اند.

در جولای، هاسابیس مقاله‌ای منتشر کرد که در آن پیشنهاد ایجاد یک نهاد استانداردسازی هوش مصنوعی تحت رهبری ایالات متحده را مطرح کرد؛ نهادی که به‌شکلی مشابه سازمان نظارتی صنعت مالی (FINRA) عمل خواهد کرد. این نهاد می‌تواند مدل‌های پیشرفتهٔ هوش مصنوعی را پیش از اجرای رسمی آنها آزمایش کند تا از تطابق آنها با استانداردهای ایمنی مربوطه اطمینان حاصل شود.

بر اساس چشم‌انداز هاسابیس، این نهاد نباید کاملاً دولتی باشد، بلکه باید از مدل شراکت دولتی-خصوصی پیروی کند: دولت نقش نظارتی دارد، صنعت هوش مصنوعی تأمین‌کنندهٔ بودجه است و کارشناسان فنی برتر مستقل و نمایندگان جامعهٔ منبع‌باز نیز در آن مشارکت می‌کنند.

هاسابیس قصد داشت یک بررسی مستقل ایمنی را پیش از ورود مدل‌ها به دنیای واقعی اعمال کند؛ رویکردی که به‌طور نزدیکی با منطق نظارتی اعلام‌شدهٔ دولت ایالات متحده در اوایل ژوئن همسو است: شرکت‌ها می‌توانند به‌صورت داوطلبانه مدل‌های خود را پیش از انتشار عمومی برای ارزیابی به دولت تحویل دهند، با این امکان که تا ۳۰ روز قبل از انتشار دسترسی داشته باشند، و صراحتاً هیچ تأیید اجباری و هیچ مجوز انتشاری وجود ندارد.

آنچه بسیار دراماتیک است این است که وقتی بعداً فابل ۵ و میتوس ۵ رونمایی شدند، از این فرآیند پیروی نکردند، اما کشف شد که قابلیت‌های بسیار قوی در حوزهٔ تهاجم و دفاع سایبری دارند و در نهایت به‌صورت کوتاه‌مدت توسط ادارهٔ کنترل صادرات ایالات متحده (BIS) تحت محدودیت‌های صادراتی قرار گرفتند.

با این حال، مواضع سیاستی تنها بر افزودن سازوکارهای ایمنی تأکید دارند و هیچ اظهارنظر یا راهنمایی دربارهٔ کندکردن توسعه ندارند.

viewpoint جکوب پاچوکی، دانشمند ارشد اوپن‌آی‌آی، که دیدگاهی مشابه هاسابیس دارد، در اوایل سپتامبر نیز تأکید کرد که اشتراک‌گذاری استانداردهای ایمنی و پیگیری هماهنگی بین‌المللی در مورد توسعهٔ بیشتر هوش مصنوعی باید اولویت فعلی باشد.

۰۴ هیچ‌کس واقعاً ترمز نزده است

تاکنون این بحث تأثیری در سرعت توسعهٔ شرکت‌های هوش مصنوعی مرزی نداشته است.

شرکت‌هایی مانند آنتروپیک، اوپن‌آی‌آی، گوگل و xAI همچنان در پیشرفت تحقیقات و توسعهٔ مدل‌ها ادامه می‌دهند و رقابت در حوزهٔ قدرت محاسباتی، مراکز داده و زیرساخت هوش مصنوعی به‌دلیل این بحث متوقف نشده است. با این حال، در سطح بازار سرمایه تغییرات متفاوتی رخ داده است: آنتروپیک همچنان برای اولین عرضه عمومی (IPO) امسال آماده‌سازی می‌کند، درحالی‌که اوپن‌آی‌آی برنامهٔ IPO خود را به سال ۲۰۲۷ موکول کرده است.

آمودی می‌خواهد تمام صنعت را متوقف کند و آنتروپیک را در یافتن راه‌حل‌هایی برای افزودن سازوکارهای ایمنی در برابر تجاوز قابلیت‌های مدل‌ها همراهی کند؛ که تا حدی می‌توان آن را «سرکوب منافع دیگران به نفع خود» دانست.

همین امر است که باعث شده آمودی را «مثل فرشته‌ای بی‌عیب و نقص تظاهر می‌کند» خطاب کنند.

در موضوع کنترل ریسک، دیدگاهی که جنسن هوانگ ارائه می‌دهد در واقع با وضعیت فعلی همسو‌تر است. اگر شرکت‌ها نگرانی داشته باشند یا مشکلاتی را کشف کنند، می‌توانند به‌طور کامل راه‌حل‌ها را خودشان کشف کنند و راه‌حل‌های مؤثری که توسعه می‌دهند را با صنعت به اشتراک بگذارند.

درخواست از یک تیم ۱۰۰‌نفره و یک تیم ۱۰۰۰‌نفره برای توقف همزمان، هیچ پایه‌ای برای دستیابی به اجماع ندارد. حتی خود آمودی نیز به‌خوبی می‌داند که اگر تنها او متوقف شود، احتمالاً توسط رقبایی مانند اوپن‌آی‌آی پشت سر گذاشته خواهد شد.

مهم‌تر از این، تفاوت‌هایی در سطح حکمرانی شرکتی وجود دارد. آنتروپیک و اوپن‌آی‌آی هر دو شرکت‌های منفعت عمومی (PBC) هستند؛ بنابراین می‌توانند از «کنار گذاشتن منافع مالی کوتاه‌مدت به‌نفع آیندهٔ بشریت» حمایت کنند و به سرمایه‌گذاران بگویند «ما از مدت‌ها پیش در این مورد اجماع داشته‌ایم». اما برای شرکت‌های بورسی مانند گوگل، مایکروسافت و متا، مدیریت وظیفهٔ قانونی وفاداری نسبت به سهامداران بازار ثانویه را دارد.

برای شرکت‌هایی که دو مجموعه منافع متفاوت دارند، احتمال دستیابی به اجماع در این مورد نیز بسیار کم است.

جزئیات دیگری نیز وجود دارد که ممکن است نادیده گرفته شود: پیش از ظهور «نظریهٔ توقف»، آنتروپیک و اوپن‌آی‌آی به‌ترتیب قوی‌ترین مدل‌های خود را منتشر کردند؛ یکی فابل ۵.۱ و دیگری GPT-6 آسترا.

در میان فراخوان‌های متعدد، آیا سایر شرکت‌ها همچنان مدل‌های جدید خود را منتشر خواهند کرد؟

لینک اصلی