OpenAIの「偽善」がなければ、世界をリードするAI企業Anthropicは誕生しない、10年にわたる個人的な確執

オリジナル記事のタイトル:「AIの未来を形作る10年の確執」

元記事著者:キーチ・ヘイジー

The Wall Street JournalのKeach Hagey記者は長文の調査報告書を発表し、AnthropicとOpenAIの創設者間の10年にわたる個人的な確執を、現役および元従業員、役員、関係者への広範なインタビューを通じて初めて明らかにした。グローバルなAIランドスケープを形成することは、単なる技術的なアプローチの戦いではなく、癒えぬ個人的な傷でもあります。

ここ数ヶ月、ダリオ・アモデイの内部言語は、彼の公的な発言よりもはるかに強烈だった。彼はサム・アルトマンとイーロン・マスクの法的論争を「ヒトラーvs.Stalin」の紛争で、OpenAIのグレッグ・ブロックマン社長が親トランプ派のスーパーPACに2500万ドルを寄付したことを「邪悪」と評し、OpenAIや他の競合企業を「有害と分かっている製品を販売しているタバコ会社」と比較した。

ペンタゴンの論争がエスカレートした後、彼は再びOpenAIをSlack上で「荒唐無稽」と言及し 、 「 これらの事実は、私がサム・アルトマンで頻繁に目にしてきた行動パターンを示唆している」と書いた。

Anthropicの内部では、このブランド戦略を競合他社に対する「健全な代替案」の作成と呼んでおり、今年のスーパーボウル期間中に流された、OpenAIがチャットボットに広告を含めることをターゲットとした微妙に嘲笑する広告は、この戦略を公に示している。

物語は2016年、サンフランシスコのデラノ通りにあるシェアハウスのリビングから始まる。ダリオと姉のダニエラ・アモデイが住んでおり、ダニエラとの親交からOpenAIの共同創設者ブロックマンも度々訪れていた。ある日、ブロックマン、ダリオ、ダニエラの当時の婚約者で効果的な利他主義の慈善家ホールデン・カーノフスキーが同席し、AI開発のための正しい道について議論した。ブロックマンは、AIの最前線で起きていることをすべてのアメリカ人に伝えるべきだと考え、ダリオとカーノフスキーは、機密情報は国民に放送する前に政府に報告すべきだと考えていた。この意見の相違は、後に両社の思想的道筋の分水嶺となった。

OpenAIのチームに感銘を受けたDarioは、2016年半ばに入社し、ビデオゲームをプレイするAIエージェントを訓練するためにブロックマンと夜更かしした。しかし、4年間にわたる共同作業の中で、権力と帰属をめぐる対立は深まっていった。2017年、OpenAIの主要出資者（当時）であるMuskは、従業員1人1人の貢献のリストを要求し、それをレイオフの基準として、60人のチームの10%から20%が1人ずつレイオフされた。ダリオはこれを残酷なものと捉え、レイオフされたうちの1人が後にアントロピックの共同創設者となった。

同じ年、ダリオが採用した倫理アドバイザーは、OpenAIがAI企業と政府の調整機関として機能することを提案した。その後ブロックマンは、ダリオが反逆罪に近いと考えていた「AGIを国連安全保障理事会に売る」というアイデアを外挿し、辞任を短期間考えるに至った。

マスク氏が去った後の2018年、アルトマン氏がリーダーシップを引き継いだ。彼とダリオは、従業員がブロックマンと主任科学者イリヤ・サツケバーの指導力に信頼を欠いているという合意に達した。ダリオは2人がもう監督しないことを条件に残留に同意したが、アルトマンが後者2人に解雇権を同時に約束したことはすぐにわかり、相反する約束が生まれた。

GPTシリーズの開発が開始された後、言語モデルプロジェクトに誰が参加できるかをめぐって、エグゼクティブチーム内で最も激しい対立が勃発した。当時の研究責任者ダリオはブロックマンの介入を許さなかった。プロジェクトをアレック・ラドフォードと共同主導したダニエラは、ラドフォードの個人的な好みを役員代理戦争に引きずり込んで、指導的地位を辞任すると脅した。

GPT-2とGPT-3の成功でダリオの資格は急上昇したが、アルトマンは彼の貢献を軽視していると感じた。ブロックマンがOpenAIの憲章を議論するポッドキャストに出演したとき、ダリオは憲章への貢献度が増しているにもかかわらず招待されなかったことに怒った。同様に、ブロックマンとアルトマンがオバマ前大統領と会うつもりだったのに、彼を排除したことを知り、彼は不快に思った。

対立は会議室での対決会議中に劇的に拡大した。アルトマンはアモデイ兄弟を会議室に呼び出し、自分に関する否定的なフィードバックを取締役会に提出するよう同僚を扇動していると非難した。兄弟は否定した。アルトマンは、その情報は別の幹部から来ていると述べ、ダニエラは、その幹部を尋問のためにすぐに連れて来たが、その幹部は、その情報について全く知らないと主張した。

アルトマンはそのような発言をしたことは直ちに否定し、激しい議論を引き起こした。2020年初頭、Altmanは幹部にピアレビューを行うよう要請した。ブロックマンは、ダニエラが権力を乱用し、官僚的なプロセスを使って反対意見を排除していると非難する強い言葉のフィードバックを書き、アルトマンは「厳しいが公正」と事前に承認した。ダニエラは各点に反論し、議論はブロックマンがコメントの撤回を簡潔に提案するほどにエスカレートした。

2020年末までにダリオを中心としたチームは去ることを決め、ダニエラが中心となり弁護士と出国交渉を行った。アルトマンは自らダリオの自宅に赴き、留まるよう説得したが、ダリオは取締役会への直接報告のみを主張し、ブロックマンとは協力できないことを明らかにした。出発前に、AI企業を「市場主導型」と「公益型」に分ける長い覚書を書き、理想的な比率は公益型が75％で市場型が25％だと考えた。数週間後、Dario、Daniela、そして十数人近くの従業員がOpenAIを離れ、Anthropicを設立した。

5年後、両社の評価額は3000億ドルを超え、株式公開を急いでいる。ニューデリーで開催された2月のAIサミットでの集合写真では、インドのモディ首相がテックリーダーたちを前に両手を高く上げ、一方のアモデイ氏とアルトマン氏は不参加を選択し、ぎこちなく肘打ちを選んだ。

元記事リンク