두 AI 거장 간의 결별 내막: 궁정 음모보다 더 극적임

작가: 비트푸시

실리콘밸리 최고가 ‘이별’ 사건의 전말이 드디어 공개됐다.

최근 〈대서양〉지가 미국 베스트셀러 작가이자 팟캐스트 진행자인 케빈 로오스의 신간 《AGI 연대기》 첫 발췌문을 게재했다. 이 책 집필을 위해 로오스는 오픈AI, 앤트로픽, 구글 딥마인드 관계자 150여 명을 인터뷰했으며, 공개되지 않은 회사 문서와 내부 메모를 대량 분석해 실리콘밸리 역사상 가장 파격적인 결별 사건을 재구성했다.

다리오 아모데이가 2020년 말 오픈AI를 떠나 앤트로픽을 공동 창립했다는 사실만 알면, 그저 빙산의 일각일 뿐이다. 진짜 충격은 그의 퇴사 직전 펼쳐진 ‘궁정 음모’다.

‘국가 계획’: AGI 기술 경매라는 파격 제안

아모데이는 2016년 구글을 떠나 젊은 비영리 연구기관인 오픈AI에 합류하며 큰 기대를 걸었다. 로오스의 설명에 따르면, 그는 오픈AI를 대규모 언어모델(LM) 개발 방향으로 이끈 핵심 인물이며, 이끄는 팀이 GPT-2 및 GPT-3 개발에 참여했다.

연구가 진전되면서 아모데이는 대규모 모델이 AGI(인공 일반 지능)로 이어질 것이라고 점점 더 확신하게 되었지만, 동시에 회사 리더십에 대한 신뢰는 점차 무너졌다.

그가 처음 불편함을 느낀 건 2017년이었다.

당시 머스크의 오픈AI 자금 지원이 줄어들기 시작했고, 연구소는 긴급히 새로운 생존 전략을 모색해야 했다. 공동창립자 그렉 브록맨과 수석 과학자 일야 수츠케버는 이후 ‘국가 계획’이라 불리게 된 내부 아이디어를 제안했다.

초기 계획은 국제 협력체 구성을 상정하며, AGI 위험 관리와 이익 공유를 공동으로 담당하려는 양호한 취지였다.

하지만 브록맨과 수츠케버가 사내 미팅에서 정식으로 제시할 때쯤엔 완전히 탈선했다. 미국·중국·러시아 등 각국 정부에 AGI 기술 미래 사용권을 ‘경매’하겠다는 자금 조달 전략으로 변질된 것이다.

두 사람의 논리는 다음과 같았다. AGI는 국가 안보 문제이므로, 어느 기업이 개발하든 결국 정부가 강제 수용할 것이며, 어차피 넘겨줘야 한다면 자금난에 처한 지금 좋은 가격에 팔아야 한다는 것이다.

발표 내용을 접한 한 관계자는 “기술자들이 괴상한 스타트업을 홍보하는 듯했고, 맨 마지막에 ‘정부가 비용을 부담하라’고 했다”고 불만을 토로했다.

당시 아모데이는 오픈AI 연구 부사장이었다. 발표 후 그는 브록맨과 수츠케버, 기타 임원들에게 직설적인 이메일을 보냈다. 이메일에서 그는 이 계획이 “군비 경쟁을 심화시키고”, “인권 침해를 초래할 수 있으며”, “자국민에게 참담한 일을 저지를 수 있다”고 지적하며, “오픈AI의 도덕적 정당성을 훼손한다”고 비판했다.

요약하자면: “인류 최강 기술을 정부에 팔겠다고? 정신 차리세요?”

다행히 마이크로소프트의 후속 대규모 투자가 이를 막았고, 계획은 실행되지 않았다. 오픈AI는 “국제 협동체로 전환하는 것을 잠시 고려했으나, 중국이나 러시아에 AGI를 판매하는 것은 고려하지 않았다”고 해명했다.

그 계획은 결국 실행되지 않았지만, 아마데이는 경영진이 자신이 매우 불쾌하게 여긴 아이디어를 진지하게 논의했다는 사실을 잊지 않았다.

마이크로소프트에서 카니까지, 신뢰의 균열이 심화되고 있다

그 후, 일련의 비교적 사소해 보이는 사건들이 그의 불신을 점차 키워갔다.

GPT-3 비공개 베타 기간 중 아마데이는 앨트먼에게 모델 사용 승인 고객 목록을 요청했다. 앨트먼은 한 목록을 제공했으나, 아마데이는 나중에 더 긴 다른 목록을 발견했다고 주장했다. 그는 자신이 접한 정보가 선별되었을 가능성을 의심하기 시작했다.

또한 마이크로소프트 투자 관련 분쟁이 그의 의구심을 더욱 키웠다.

OpenAI의 공식 헌장에는 다소 이례적인 조항이 포함되어 있다: 가치에 부합하고 안전을 중시하는 프로젝트가 AGI 달성에 가장 근접할 경우, OpenAI는 경쟁을 중단하고 오히려 이를 지원한다. 이는 특정 상황에서 회사의 사명이 경쟁 우위 확보보다 우선해야 함을 의미한다.

루스의 신간에 따르면, 마이크로소프트와 10억 달러 규모 투자 협상을 진행할 때 아마데이는 이 약속 이행을 위한 OpenAI 인수 조항을 마이크로소프트가 수용하도록 보장하려 했다. 앨트먼은 마이크로소프트가 관련 조건을 받아들이지 않을 것이라고 답했다.

아마데이는 그게 그렇게 단순하지 않다고 믿었다. 그는 앨트먼이 거래를 빠르게 마무리하려는 욕구로 인해 해당 조건을 강력히 요구하지 않았거나 아예 제기조차 하지 않은 뒤, 책임을 마이크로소프트에 전가했을 가능성을 의심했다.

아마데이 입장에서는 비즈니스 논의만으로는 문제가 점점 더 해결하기 어려워지고 있었다: 그는 대면하고 있는 앨트먼이 협상 내용을 전부 솔직히 알려줄 의향이 있는지조차 의심하기 시작했다.

2020년, 히틀러를 공개적으로 찬양한 래퍼 카니 웨스트가 이 점점 커지는 불만 목록에 예기치 않게 등장했다.

관련 사안에 정통한 두 사람을 인용해 루스는 카니와의 면담 후 앨트먼이 그를 GPT-3 비공개 베타에 참여시키는 방안을 제안했다고 보도했다.

당시 GPT-3는 아직 공개되지 않았으며 OpenAI의 핵심 자산이었다. 당시 OpenAI 정책 담당자였던 잭 클라크가 이 제안을 막았는데, 카니가 최근 그래미 상을 오줌으로 더럽히는 영상을 게시했고 공개 행동이 우려스러웠다는 이유에서였다. 이후 곧 카니는 히틀러를 공개적으로 찬양하기 시작했다.

초대는 결국 이루어지지 않았지만, 이는 아마데이의 앨트먼 판단력에 대한 불만을 더욱 키웠다. 루스는 개별 사건 하나하나는 사임을 결심하기에 충분치 않았으나, 누적된 사건들이 앨트먼이 AGI처럼 강력한 기술을 다루기에 적합하다고 믿기 어렵게 만들었다고 썼다.

루스는 책에서 2020년경 아마데이가 OpenAI 리더십에 대해 완전히 실망했다고 밝혔다. 그는 앨트먼을 ‘두 얼굴의 조작자’라고 묘사했으며, 브록맨을 ‘권력욕이 강하고 무모한 인물’이라고 평가했다.

사실 그들 사이의 핵심 갈등은 단 두 단어, 즉 ‘신뢰’에 집약된다.

아마데이는 OpenAI 재직 기간 동안 개인 노트북을 비밀리에 유지하며 앨트먼이 자신을 오도했다고 느낀 순간들을 기록했다고 전해진다.

그 노트 중 하나에는 ‘OpenAI의 문제는 샘 본인이다’라고 적혀 있었다.

파벌과 소규모 집단 형성인가?

반대로, OpenAI 내부 직원들도 아마데이에 대한 불만이 점차 커지고 있었다.

루스의 보도에 따르면, 아마데이와 그의 누나 다니엘라는 점차 유사한 생각을 가진 동료들을 끌어모았다. 이들은 비공개 채팅 채널을 개설하고 별도 회의를 열며 안전 문제를 자주 논의했다. 일부 외부 구성원에게는 이 집단과의 협업이 점점 더 어려워졌다.

한 전직 동료는 루스에게 아모데이가 종종 특정 선택을 ‘도덕적으로 옳은 것’이라 선언하며, 단순히 안전을 언급하는 것만으로 논의를 끝내려 한다고 불평했다. 이에 다른 팀들은 격분했다.

아모데이는 상업적 목표가 언제나 안전 약속을 압도할 것이라고 느꼈고, 일부 동료는 그가 안전을 반박 불가능한 정당화 근거로 전환시켰다고 생각했다. 이로 인해 양측의 불만은 구체적인 결정에서부터 업무 스타일과 인격 평가까지 확산되었다.

결국 갈등은 하나의 구체적인 권한—안전팀이 신제품 출시를 거부할 수 있는가—으로 집중되었다.

루스에 따르면, 떠나기 전 아모데이는 알트먼에게 잔류 조건으로 안전팀에 그러한 거부권을 부여할 것을 제시했다. 그는 핵심 연구자들이 대규모로 이탈하려는 압력이 알트먼을 개혁 수용으로 이끌기를 기대했다.

비밀 그룹 채팅에서 ‘분열’ 카운트다운 시작

한편, 협상이 진행되는 동시에 이미 탈출 경로가 마련되고 있었다.

아모데이와 6명의 동료는 ‘BATNA’(협상 합의 외 최선의 대안)라는 이름의 비공개 슬랙 채널을 개설했다. 구성원에는 그의 누나 다니엘라, 잭 클라크, 샘 맥캔들리시, 톰 브라운, 크리스 올라, 제러드 카플란이 포함됐다.

그룹 이름 자체가 상황을 여실히 보여준다: 여전히 협상 중이지만, 이미 떠날 준비를 마친 상태였다.

잔류 조건에 합의하지 못하자 양측은 변호사를 투입해 내부적으로 ‘이혼’이라 부르는 협상을 시작했다.

루스의 보도에 따르면, 알트먼은 이 그룹에 여러 주간의 채용 창구를 열어주는 대신, 이후 1년간 오픈AI 직원을 영입하지 않겠다는 약속을 받았고, 양측은 공개적으로 서로를 비방하지 않기로 합의했다.

2020년 12월, 오픈AI는 전체 직원 참석 온라인 미팅을 개최했다.

처음엔 평소와 다를 바 없어 보였다. 알트먼이 연구 진전 상황을 보고하고 신입 사원을 소개한 후, 발언권을 아모데이에게 넘겼다.

이어 아모데이는 자신을 포함한 6명의 리더가 AI 안전에 초점을 맞춘 신설 조직 설립을 위해 회사를 떠난다고 발표했다.

루스의 묘사에 따르면, 채팅 창은 금세 놀라움을 표현하는 메시지와 이모티콘으로 가득 찼다. 미팅 종료 직전 잭 클라크가 채팅창에 ‘너희 모두를 사랑해’라고 입력한 직후 화면이 갑작스럽게 검게 변했다.

다리오 아모데이와 누나 다니엘라 아모데이를 포함한 오픈AI 핵심 멤버 7명이 같은 순간 미팅에서 강제 퇴장당했으며, 이메일 및 슬랙 접근 권한도 즉시 해제됐다.

그리고 2021년 초, 앤트로픽이 설립됐다.

서운함은 언제쯤 끝날까?

다시 시작한다고 해서 아모데이가 예전에 괴롭혔던 문제들에서 자유로워진 것은 아니었다.

앤트로픽 역시 자금 조달, 컴퓨팅 파워 확장, 더 강력한 모델 개발이 필요했다. 최첨단 기술을 장악해야만 가장 앞선 위험을 연구할 수 있었지만, 이를 유지하려면 계속 투자해야 했고, 추격하는 경쟁자들에도 대응해야 했다. 회사가 성장함에 따라 아모데이는 익숙한 질문에 다시 답해야 했다: 안전·사업·경쟁이 충돌할 때, 어느 쪽이 먼저 양보해야 하는가?

양측 간 상호 적대감은 조금도 사그라들지 않았다.

사정에 정통한 인사들에 따르면, 아마데이는 한때 앨트먼과 오픈AI를 묘사하며 '악'이라는 단어를 사용했으며, 반면 오픈AI 내부 일부 인사들은 아마데이 남매가 도덕적 이상형을 자처하면서도 실은 권력욕이 똑같이 강하다고 느꼈다. 특히 안트로픽이 AI 위험을 공개적으로 경고하는 동시에 경쟁에 더 빠르게 참여하려 한다는 점에 큰 불만을 품었다.

이 책에서 루스는 이 AI 리더들을 '적대감으로 얽힌 거미줄'이라 묘사한다: 하사비스는 앨트먼을 무시하고, 아마데이는 앨트먼을 무시하며, 앨트먼은 아마데이와 머스크 모두를 무시한다.

몇 년이 지나도 이 관계망은 풀리지 않았고, 오히려 각자 새 어려움을 맞고 있다. 블룸버그 보도에 따르면 안트로픽은 11월 중순께 상장을 추진 중이며 목표 기업 가치는 최대 2조 달러다. 그러나 청약서에는 다른 측면도 드러난다: 2025년 매출 약 46억 달러 대비 영업손실 80억 달러 초과, 그리고 향후 컴퓨팅 파워에 5000억 달러 이상 추가 투자 약속이다. 앨트먼은 안전성 및 정렬 문제 해결 전까지 상장에 급할 게 없다며 신중한 태도를 유지하지만, 오픈AI 역시 최근 AI 안전 사고로 곤란을 겪고 있다.

당시 아마데이는 앨트먼을 믿지 못해 떠났고, 안전 약속이 진정으로 중시되는 기업을 세우고 싶었다. 이제 그의 회사 역시 같은 딜레마에 직면했다: 성장 지속 가능성과 안전 우려—둘 다 완화할 수 없다. 이 질문에 대해 둘 중 누구도 아직 해답을 제시하지 못했다.