داستان درونی جدایی دو غول هوش مصنوعی، هیجان‌انگیزتر از توطئه‌ای در دربار
Tapbit Wire
نویسنده: بیت‌پوش
جزئیات گران‌ترین «جدایی» سیلیکون ولی بالاخره آشکار شده است.
اخیراً مجله اتلانتیک اولین قسمتی از کتاب جدید کِوین روس، «کرونیکل‌های هوش عمومی مصنوعی»، نوشتهٔ نویسندهٔ پرفروش و مجری مشهور پادکست آمریکایی، را منتشر کرد. برای این کتاب، روس با بیش از ۱۵۰ تن از افراد داخلی اوپن‌آی‌آی، انترُپیک و گوگل دیپ‌مایند مصاحبه کرد و از حجم زیادی از اسناد شرکتی و یادداشت‌های داخلی غیرمنتشرشده برای بازسازی این حساس‌ترین جدایی تاریخ سیلیکون ولی استفاده نمود.
اگر تنها می‌دانید که داریو آモデی در پایان ۲۰۲۰ با گروهی از افراد از اوپن‌آی‌آی جدا شد و انترُپیک را تأسیس کرد، این تنها نوک یخ است. آنچه واقعاً شگفت‌انگیز است، «توطئهٔ درباری» است که پیش از جدایی‌اش رخ داد.
طرح «کشورها»: پیشنهادی جنون‌آمیز برای حراج هوش عمومی مصنوعی
آmodeloی زمانی امیدهای بلندی به اوپن‌آی‌آی داشت. در ۲۰۱۶ از گوگل خارج شد تا به این مؤسسهٔ تحقیقاتی غیرانتفاعی جوان بپیوندد. طبق روایت روس، او نقش کلیدی در هدایت اوپن‌آی‌آی به سمت مدل‌های زبانی بزرگ داشت و تیمی که رهبری می‌کرد در توسعهٔ GPT-2 و GPT-3 مشارکت داشت.
با پیشرفت تحقیقات، آmodeloی فزاینده‌تر متقاعد شد که مدل‌های مقیاس‌بزرگ‌تر می‌توانند منجر به هوش عمومی مصنوعی (AGI) شوند؛ اما در عین حال اعتمادش به رهبری شرکت به‌تدریج کاهش یافت.
اولین موضوعی که از سال ۲۰۱۷ در ذهنش ماندگار شد.
در آن زمان حمایت مالی ماسک از اوپن‌آی‌آی در حال ضعیف‌شدن بود و آزمایشگاه به‌شدت نیازمند راهکار جدیدی بود. گرگ براکمن، بنیان‌گذار همراه، و ایلیا سوتْسکِور، دانشمند ارشد، طرحی داخلی ارائه دادند که بعدها «طرح کشورها» نام گرفت.
این طرح در ابتدا قابل‌قبول بود و تصور می‌کرد که اتحادیه‌ای بین‌المللی تشکیل شود که در آن همه کشورها به‌طور مشترک ریسک‌های هوش عمومی مصنوعی را مدیریت و سودهای آن را تقسیم کنند.
اما تا زمانی که براکمن و سوتْسکِور آن را به‌صورت رسمی در جلسه‌ای داخلی به کارکنان ارائه دادند، کاملاً از مسیر خارج شده بود: تبدیل به یک کمپین جذب سرمایه برای «حراج» حقوق آیندهٔ استفاده از فناوری هوش عمومی مصنوعی به دولت‌های مختلف شده بود، که کشورهایی مانند ایالات متحده، چین و روسیه در آن ذکر شده بودند.
منطق این دو نفر این بود که هوش عمومی مصنوعی مربوط به امنیت ملی است، پس دولت‌ها به‌زودی آن را از هر شرکتی که آن را ساخته، تصاحب خواهند کرد. از آنجا که در هر صورت باید تحویل داده شود، بهتر است در زمانی که شرکت از نظر مالی در وضعیت نامطلوبی است، قیمت خوبی برای آن دریافت شود.
فردی آشنا با این ارائه گفت: «مثل این بود که گروهی از متخصصان فناوری در حال ارائهٔ یک استارت‌آپ دیوانه‌وار بودند و در پایان گفتند: بگذارید دولت هزینه را بپردازد.»
داریو آmodeloی در آن زمان معاون تحقیقات اوپن‌آی‌آی بود. پس از شنیدن این طرح، ایمیلی به براکمن، سوتْسکِور و سایر مدیران فرستاد که در آن به‌صورت صریح نوشت این طرح «رقابت تسلیحاتی را تشدید می‌کند نه کاهش می‌دهد»، می‌تواند «منجر به جنایات علیه حقوق بشر شود» و به دولت‌ها اجازه می‌دهد «کارهای نامشروعی» علیه مردم خود انجام دهند و «اعتبار اخلاقی اوپن‌آی‌آی را زیر سؤال می‌برد.»
به زبان ساده: می‌خواهید قدرتمندترین فناوری بشری را به آن‌ها بفروشید؟ آیا عقلتان را از دست داده‌اید؟
خوشبختانه سرمایه‌گذاری گستردهٔ بعدی مایکروسافت این بحران را حل کرد و طرح هرگز اجرا نشد. پاسخ اوپن‌آی‌آی این بود که شرکت «برای مدت کوتاهی در نظر گرفت که اوپن‌آی‌آی را به یک تلاش همکاری بین‌المللی تبدیل کند» اما «هرگز فروش هوش عمومی مصنوعی به چین یا روسیه را در نظر نگرفت.»
این طرح در نهایت هرگز اجرا نشد، اما آمودیی فراموش نکرد که مدیریت به‌طور جدی ایده‌ای را بررسی کرده بود که او آن را بسیار نفرت‌انگیز می‌دانست.
از مایکروسافت تا کانیه، شکاف‌های اعتماد عمیق‌تر می‌شوند
پس از آن، سلسله‌ای از مسائل ظاهراً جزئی‌تر، بی‌اعتمادی او را همواره افزایش داد.
در دوره بتا خصوصی GPT-3، آمودیی از آلتمان فهرست مشتریان مجاز برای استفاده از مدل را خواست. آلتمان یک فهرست به او داد، اما آمودیی ادعا کرد که بعداً فهرست دیگری، طولانی‌تر، کشف کرده است. او شروع به شک کردن در این کرد که اطلاعاتی که به او نشان داده شده، پالایش شده است.
و اختلاف نظر درباره سرمایه‌گذاری مایکروسافت، تردیدهای او را تشدید کرد.
منشور عمومی اوپن‌آی حاوی بندی بسیار غیرمعمول است: اگر پروژه‌ای با ارزش‌های همسو و آگاه از ایمنی، به دستیابی به هوش مصنوعی عمومی (AGI) نزدیک شود، اوپن‌آی رقابت با آن را متوقف کرده و به جای آن از آن حمایت می‌کند. این بدین معناست که در شرایط خاصی، ماموریت شرکت باید از برنده‌شدن در این رقابت اولویت داشته باشد.
بر اساس کتاب جدید روس، در مذاکرات سرمایه‌گذاری ۱ میلیارد دلاری با مایکروسافت، آمودیی می‌خواست مطمئن شود که مایکروسافت قبول می‌کند قرارداد خرید اوپن‌آی — که ممکن است برای اجرای این تعهد استفاده شود — را بپذیرد. آلتمان به او گفت مایکروسافت شرایط مربوطه را نمی‌پذیرد.
آمودیی باور نداشت این موضوع آن‌قدر ساده است. او شک داشت که آلتمان که تمایل داشت سریعاً این معامله را به انجام برساند، ممکن است از پیگیری این شرط صرف‌نظر کرده یا حتی هرگز آن را مطرح نکرده باشد و سپس مقصریت را به مایکروسافت منتقل کرده است.
از دیدگاه آمودیی، این مشکل روزبه‌روز حل‌شدنی‌تر نمی‌شد؛ او شروع کرده بود به تردید در اینکه آیا آلتمانی که روبه‌رویش نشسته، حاضل است درباره مذاکرات، روشن‌گویی کاملی ارائه دهد یا خیر.
تا سال ۲۰۲۰، کانیه وست — رپری که بعداً به‌طور علنی از هیتلر تمجید کرد — ناگهان در این فهرست رو به رشد شکایات ظاهر شد.
روس با استناد به دو نفر آشنا با این موضوع گزارش می‌دهد که پس از دیدار با کانیه، آلتمان پیشنهاد داد که به او اجازه ورود به دوره بتا خصوصی GPT-3 داده شود.
در آن زمان، GPT-3 هنوز به‌صورت عمومی منتشر نشده بود و گنجینه اصلی و ارزشمند اوپن‌آی محسوب می‌شد. جک کلارک، در آن زمان مدیر سیاست اوپن‌آی، وارد عمل شد و این پیشنهاد را رد کرد و توضیح داد که کانیه اخیراً ویدیویی را منتشر کرده که ظاهراً در آن روی جایزه گرمی ادرار می‌کند و رفتار عمومی او نگران‌کننده است. سپس، نه چندان پس از آن، کانیه شروع به تمجید علنی از هیتلر کرد.
دعوت نهایتاً انجام نشد، اما این امر نارضایتی آمودیی از قضاوت آلتمان را بیشتر کرد. روس می‌نویسد که اگر این حوادث را جداگانه در نظر بگیریم، هیچ‌کدام به‌تنهایی کافی نبود تا او را به استعفا وادارد، اما در مجموع، باور او را به اینکه آلتمان شایسته استفاده از فناوری‌ای چنان قدرتمند مانند AGI است، به‌شدت تضعیف کرد.
روس در کتاب خود فاش می‌کند که تا سال ۲۰۲۰، آمودیی کاملاً از رهبری اوپن‌آی ناامید شده بود. او آلتمان را «دروغگوی دوچهره» توصیف کرد و بروکمن را «طلبکار قدرت و بی‌احتیاط» خواند.
در واقع، منشأ تعارض اصلی میان آن‌ها در دو واژه خلاصه می‌شود: اعتماد.
گزارش شده است که آمودیی در طول دوران حضورش در اوپن‌آی دفترچه‌ای شخصی داشت و لحظاتی را که احساس می‌کرد آلتمان او را گمراه کرده است، در آن یادداشت می‌کرد.
در یکی از آن یادداشت‌ها نوشته بود: «مشکل اوپن‌آی خود سام است.»
تشکیل فرقه‌ها و گروه‌های انحصاری؟
از سوی دیگر، کارکنان داخلی اوپن‌آی نیز روزبه‌روز از آمودیی بیشتر خسته می‌شدند.
بر اساس گزارش روس، آمودیی و خواهرش دانیلا به‌تدریج گروهی از هم‌فکران را جذب کردند. آن‌ها کانال‌های چت خصوصی ایجاد کردند، جلسات جداگانه برگزار کردند و اغلب درباره مسائل ایمنی بحث می‌کردند. برای برخی کارمندان خارج از این حلقه، این گروه روزبه‌روز همکاری با آن‌ها را سخت‌تر کرده بود.
یکی از همکاران سابق به روس شکایت کرد که عمودی اغلب گزینه‌ای خاص را «از نظر اخلاقی درست» اعلام می‌کرد، گویی صرفاً اشاره به ایمنی بحث را پایان می‌داد. این موضوع تیم‌های دیگر را عصبانی می‌کرد.
عمودی باور داشت که اهداف تجاری همیشه تعهدات ایمنی را دور خواهند زد؛ برخی همکاران احساس می‌کردند او ایمنی را به بهانه‌ای غیرقابل‌پاسخ تبدیل کرده است. نارضایتی متقابل آن‌ها بنابراین از تصمیمات خاصی فراتر رفته و به سبک‌های کاری و قضاوت‌های شخصیتی نیز گسترش یافت.
در نهایت، این اختلاف درباره یک قدرت ملموس متمرکز شد: آیا تیم ایمنی حق وتو بر رونمایی محصولات جدید را دارد؟
بر اساس گزارش روس، قبل از ترک شرکت، عمودی شرایطی برای ماندن خود در برابر آلتمان ارائه داد که شامل اعطای حق وتو به تیم ایمنی بود. او امیدوار بود فشار ناشی از احتمال ترک انبوه پژوهشگران اصلی، آلتمان را به پذیرش تغییرات وادارد.
در یک گروه چت محرمانه، شمارش معکوس تا «جداشدن» آغاز می‌شود
در همین حال، حتی در حین انجام مذاکرات، راهی برای خروج از پیش آماده می‌شد.
عمودی و شش همکارش کانالی خصوصی در اسلک با نام «باتنا» (بهترین جایگزین توافق مذاکره‌ای) ایجاد کردند. اعضای این گروه شامل خواهرش دانیلا، جک کلارک، سام مک‌کندلیش، تام براون، کریس اُله و جِرِد کپلن بودند.
خود نام این گروه تمام وضعیت‌شان را نشان می‌داد: هنوز در حال مذاکره بودند، اما از پیش آماده ترک شرکت بودند.
وقتی شرایط ماندن توافق‌نشده باقی ماند، هر دو طرف وکلا را جلب کردند و مذاکراتی را تحت عنوان «طلاق داخلی» آغاز کردند.
بر اساس گزارش روس، آلتمان موافقت کرد که این گروه مهلت چند هفته‌ای برای استخدام کارمندان اوپن‌ای‌آی داشته باشد، در ازای تعهدی مبنی بر عدم جذب کارمندان در یک سال آینده؛ همچنین دو طرف توافق کردند که در فضای عمومی یکدیگر را تحقیر نکنند.
در دسامبر ۲۰۲۰، اوپن‌ای‌آی جلسه‌ای مجازی برای تمام کارمندان برگزار کرد.
در ابتدا، این جلسه تفاوتی با جلسات معمول نداشت. آلتمان پیشرفت‌های تحقیقاتی را گزارش داد، کارمندان جدید را معرفی کرد و سپس صحبت را به عمودی سپرد.
سپس عمودی اعلام کرد که او و شش رهبر دیگر برای تأسیس سازمانی جدید متمرکز بر ایمنی هوش مصنوعی از شرکت جدا می‌شوند.
بر اساس توصیف روس، پنجره چت به سرعت پر از پیام‌ها و ایموجی‌های شگفت‌زده شد. وقتی جلسه به پایان نزدیک شد، جک کلارک در چت خطی تایپ کرد: «من از همه‌تان دوست دارم» و سپس صفحه ناگهان سیاه شد.
هفت عضو اصلی اوپن‌ای‌آی، از جمله داریو عمودی و خواهرش دانیلا عمودی، همزمان از جلسه اخراج شدند و دسترسی ایمیل و اسلک آن‌ها بلافاصله لغو گردید.
سپس در اوایل ۲۰۲۱، شرکت آنتروپیک تأسیس شد.
تعصب‌ها چه زمانی پایان می‌یابند؟
با این حال، شروع دوباره، عمودی را از مشکلاتی که پیش‌تر او را آزار می‌دادند رها نکرد.
آنتروپیک نیز مانند اوپن‌ای‌آی نیازمند جذب سرمایه، گسترش قدرت محاسباتی و توسعه مدل‌های قدرتمندتر بود. تنها با تسلط بر فناوری پیشرفته می‌توانست خطرات پیشرفته‌تر را بررسی کند؛ اما برای حفظ جایگاه در مرز فناوری، باید سرمایه‌گذاری را ادامه دهد و با رقابت‌کنندگانی که به سرعت نزدیک می‌شوند روبه‌رو شود. با رشد شرکت، عمودی مجبور شد به این سؤال آشنا پاسخ دهد: وقتی ایمنی، کسب‌وکار و رقابت با هم برخورد می‌کنند، کدام یک اولویت بالاتری دارد؟
تنفر متقابل بین دو طرف کمی کمتر نشده است.
افراد آگاه از این موضوع می‌گویند آمودی یک‌بار از واژهٔ «شریر» برای توصیف آلتمان و اوپن‌آی‌آی استفاده کرده است؛ در همین حال، برخی از افراد داخلی اوپن‌آی‌آی احساس می‌کردند خواهر و برادر آمودی خود را به‌عنوان الگوهای اخلاقی ارائه می‌دهند، درحالی‌که خود نیز به‌همان اندازه برای قدرت طمع‌ور هستند. آن‌ها به‌ویژه از این موضوع ناراحت بودند که آنتروپیک عموماً دربارهٔ ریسک‌های هوش مصنوعی هشدار داده، اما همزمان مشارکت خود را در این رقابت شتاب بخشیده است.
در این کتاب، روز توصیف می‌کند که این رهبران هوش مصنوعی «شبکه‌ای از عنکبوتی هستند که با دشمنی‌ها درهم‌تنیده شده‌اند»: هاسابیس به آلتمان نگاه تحقیرآمیز دارد، آمودی نیز به آلتمان نگاه تحقیرآمیز دارد، آلتمان به آمودی نگاه تحقیرآمیز دارد و آلتمان همچنین به ماسک نگاه تحقیرآمیز دارد.
چند سال گذشته، این شبکه باز نشده است؛ بلکه هر یک از این افراد مشکلات جدیدی پیدا کرده‌اند. بلومبرگ گزارش داده است که آنتروپیک قصد دارد حداکثر تا اواسط نوامبر به‌صورت عمومی فهرست شود و ارزش‌گذاری هدفش تا ۲ تریلیون دلار است؛ با این حال، بیانیهٔ پیش‌نویس آن نیز سوی دیگر را نشان می‌دهد: درآمد حدود ۴٫۶ میلیارد دلاری در سال ۲۰۲۵، اما زیان عملیاتی بیش از ۸ میلیارد دلاری، علاوه بر تعهد آینده به سرمایه‌گذاری بیش از ۵۰۰ میلیارد دلاری در قدرت پردازشی.
آن‌زمان آمودی به‌دلیل عدم اعتماد به آلتمان ترک کرد و خواست شرکتی بسازد که تعهدات امنیتی در آن واقعاً اهمیت داشته باشد. امروز نیز شرکت خودش با همین معضل روبه‌روست: پایداری رشد و نگرانی‌های امنیتی — هیچ‌یک را نمی‌توان کمرنگ کرد. در این پرسش، هیچ‌یک از آن‌ها هنوز پاسخی ارائه نکرده‌اند.
