10年間にわたる個人的な確執は、OpenAIの「偽善」がなければ、世界最強のAI企業Anthropicにはならなかっただろう

オリジナルタイトル: 《AIの未来を形作る10年間にわたる確執》

オリジナル著者:キーチ・ヘイジー

ウォール・ストリート・ジャーナルのキーチ・ヘイジー記者は、アンソロピックとOpenAIの創業者間の10年にわたる個人的な確執を初めて明らかにする長大な調査報道を発表した。これは、両社の現従業員や元従業員、幹部への広範な取材に基づいている。グローバルなAIの景観を形作るものは、単なる技術的な競争だけでなく、癒えない個人的なトラウマでもある。

ここ数ヶ月、ダリオ・アmodeiの内部での言辞は、公の場でのそれよりもはるかに激しいものだった。彼は、サム・アルトマンとイーロン・マスクの法的紛争を「ヒトラーとスターリンの闘争」に例え、OpenAIのグレッグ・ブロックマン社長がトランプ支持のスーパーPACに2500万ドルを寄付したことを「悪」と呼び、OpenAIや他の競合他社を「有害な製品を故意に販売するタバコ会社」に例えた。

ペンタゴンとの紛争がエスカレートした後、彼はSlackでOpenAIを「偽善的」と呼び、「これらの事実は、私がサム・アルトマンによく観察する行動パターンを示している」と書いた。

アンソロピック社は、このブランディング戦略を競合他社に対する「健全な代替手段」の創出と呼んでいる。今年のスーパーボウルでは、チャットボットに広告を埋め込むOpenAIを風刺する匿名の広告がこの戦略の成果として公開された。

物語は2016年、サンフランシスコのデラノ通りにあるシェアハウスのリビングルームから始まる。ダリオと妹のダニエラ・アモデイがそこに住んでおり、OpenAIの共同創業者であるブロックマンは、ダニエラと親しい関係であったため、頻繁に訪れていた。ある日、ブロックマン、ダリオ、そしてダニエラの婚約者で、実利主義的慈善家のホルデン・カルノフスキーが一緒に座って、AIの正しい開発の道を議論した。ブロックマンは、すべてのアメリカ人がAIの最前線で何が起こっているかを知っているべきだと信じていたが、ダリオとカルノフスキーは、機密情報はまず政府に報告されるべきであり、一般に放送されるべきではないと主張した。この意見の相違は、後に両社の哲学的方向性の分岐点となった。

オープンAIの才能ある人材に感動したダリオは、2016年半ばに同社に加わり、ブロックマンと遅くまで起きてAIエージェントのビデオゲームのトレーニングに励んだ。しかし、4年間の共同作業の後、権力と所属感に関する緊張関係が深まった。2017年、主要なオープンAI投資家のマスクが、解雇のために各従業員の貢献度リストを要求したとき、60人のチームの約10〜20％が次々と解雇され、ダリオはそれを残酷だと感じた。解雇されたうちの1人は後にアントロピックの共同創業者となった。

同年、ダリオが雇った倫理アドバイザーは、OpenAIがAI企業と政府の調整役を果たすことを提案し、ブロックマンはそこから「国連安全保障理事会の核保有国にAGIを売却する」というアイデアを思いついた。ダリオはこれをほぼ反逆罪とみなし、辞任を検討した。

2018年にマスクが辞任した後、アルトマンがリーダーシップを引き継いだ。彼とダリオは、従業員がブロックマンと主任科学者のイリヤ・スツケバーのリーダーシップに自信を持っていなかったという共通認識に至った。ダリオは、2人がもはや責任を負わないという条件で残ることに同意したが、すぐにアルトマンが後者2人に彼を解雇する権利があると同時に約束していたことを発見し、2つの約束の間で矛盾が生じた。

GPTシリーズの開発が始まった後、言語モデルプロジェクトへの参加資格をめぐり、経営陣は最も激しい対立に発展した。当時リサーチディレクタだったダリオは、ブロックマンが介入することを許さなかったが、アレック・ラドフォードとプロジェクトを共同主導していたダニエラは、自分の立場を辞任すると脅した。ラドフォードの個人的な希望が経営陣の代理戦争に絡み合った。

ダリオの資格はGPT-2とGPT-3の成功によって高まったが、彼はアルトマンが自分の貢献を軽視していると感じるようになった。ブロックマンがポッドキャストでOpenAIの憲章について議論したとき、ダリオは憲章に貢献したにもかかわらず招待されなかったことに腹を立て、ブロックマンとアルトマンが自分を排除してオバマ前大統領と会談していたことを知って不満を感じた。

会議室での対立で紛争は劇的にエスカレートした。AltmanはAmodei兄弟を呼び出し、同僚たちに彼についての否定的なフィードバックを理事会に提出するよう扇動したと非難した。2人はそれを否定した。Altmanは情報が別の幹部から来たと主張し、Danielaはその幹部をすぐに取り調べのために呼び出し、彼はまったく知らなかったと言った。

Altmanはその後、そう言ったことを否定し、激しい議論が起きた。2020年初頭、Altmanは幹部たちに互いの評価書を作成するように依頼し、BrockmanはDanielaが権力を乱用し、反対派を排除するために官僚的手続きを利用していると非難する厳しい内容のフィードバックを書きました。Altmanは事前にそれを見直し、「厳しいが公平だ」と述べました。Danielaは各ポイントを反論し、議論はBrockmanがコメントを撤回することを提案するまでエスカレートしました。

2020年末までに、Darioを中心とするチームが去ることを決め、Danielaが弁護士との交渉を主導しました。Altmanは個人的にDarioの家を訪れ、彼に留まるよう説得しましたが、Darioは取締役会に直接報告することしか受け入れず、Brockmanとは協力できないと明確に述べました。去る前に、彼はAI企業を「市場志向」と「公益志向」に分類し、理想的な比率は公益が75%、市場が25%であると主張する長いメモを書きました。数週間後、ダリオ、ダニエラ、そして十数人の従業員がOpenAIを去り、Anthropicを設立した。

5年後、両社とも評価額が3000億ドルを超え、上場を目指して競い合っている。今年2月にニューデリーで開催されたAIサミットの終了時、インドのモディ首相と出席したテクノロジーリーダーたちは手を挙げたが、アモデイとアルトマンは参加せず、肘を不自然にぶつけただけだった。