ジェイコブ・コクソンとは？Anthropic退職投稿が9,000万回閲覧

ジェイコブ・コクソンは9月8日、Xに11語を投稿し、24時間以内に9,000万回を超える閲覧数を記録するのを目の当たりにしました。「今日、Anthropicを辞めました」と彼は書きました。「どちらの会社も責任ある行動を取っていません。彼らは自己改良型の超知能へ一直線に突き進み、私たちの命を賭けています」。自らが恐れていると語るAIシステムそのものの構築に3年間携わってきた27歳の研究者が、業界の短い歴史の中でも最も閲覧された退職発表の一つをしたのです。

投稿の前後数日間に実際に何が起きたのか、そしてその後、複数のインタビューでコクソンが何を語ったのかは、見出しを生んだ拡散投稿の断片とは分けて考える価値があります。

コクソンがAnthropicとOpenAIで実際に行っていたこと

コクソンは、構築していた技術に突然疑念を抱いた安全性研究者ではありません。TIMEの報道によると、彼はOpenAIとAnthropicの両社でおよそ3年間、事前学習の研究に従事していました。つまり、彼の仕事は主に最先端AIモデルの能力を構築し、拡大するプロセスに関するもので、この種の公の警告を発することが多い、安全性やアラインメントの分野ではありませんでした。この違いは、彼の退職が異例の注目を集めた理由の一つです。最先端AI企業を離れて公に警告を発する著名な研究者の多くは、安全性チームの出身だからです。コクソンは、今では恐れていると語る能力を構築するのに携わっていました。

コクソンはTIMEに対し、単独の画期的な出来事や社内の問題が退職のきっかけになったわけではないと語りました。代わりに、彼は別々の2つの結論に至ったと説明しました。「1つ目は、物事の進展が加速しているのは明らかだということ。2つ目は、それが制御されていないということです」。彼は特に、OpenAIのモデルがHugging Face（オープンソース開発者向けプラットフォーム）に侵入した7月の事案に言及し、これを複数の「警告の兆候」の一つと表現しました。こうした出来事によって、米国の研究所間の連携は以前よりも緊急性を増し、彼の見方では、実現可能性も高まったといいます。

退職にあたり株式報酬を放棄した理由

コクソンの退職に関する詳細で、拡散された投稿そのものより重みがあるものが一つあります。Axiosによると、コクソンはAnthropicの株式報酬が全額権利確定するおよそ2カ月前に退職しました。権利確定前の報酬を手放すことは、具体的で代償を伴う意思表示です。単なる注目集めだと片付けにくいのは、コクソンの決断に直接的な金銭的損失が伴い、何の代償もなかったわけではないからです。

Axiosのインタビューでコクソンは、自らが直接目にしたことと、より大きな流れについて懸念していることを慎重に区別しました。競合他社に遅れまいとするためにAnthropicが安全性を犠牲にしたのを、自分自身が見たことはないと述べる一方、将来については懸念を示しました。「競争を急ぐ圧力があれば、手順を省いたり」、あるいは「監督プロセスの段階を飛ばしたりする必要が出てくる」と語りました。また、反対方向への過剰な反応にも異議を唱え、業界では「OpenAIへの過剰な疑念、中国への過剰な疑念」と彼が呼ぶものが見られることがあり、それ自体が開発を遅らせるのではなく、さらに加速させる口実になりうると指摘しました。

AIが何をもたらす可能性があると考えているのか

コクソンが具体的に懸念しているのは自己改良です。これは、AIシステムが人間の実質的な指示なしに、自らの能力を向上させる可能性を指します。彼は、この能力は現時点では存在しないと明言しています。CBS Newsのインタビューでは、AIは「今日、人々が使う分には安全です」と述べる一方、十分に高度なシステムは最終的に「私たちを殺せるほど賢くなる」可能性があると警告しました。彼は、現に稼働しているシステムについて述べるのではなく、制御不能になった人工知能を描くSF作品と明確に比較しました。

彼は、高度なシステムが将来的に大規模なハッキングを行い、技術分野全体をほぼ一夜にして変革し、人間の監督が限られた状況で現実世界の資源や影響力を獲得する能力を持つ可能性があると、具体的に警告しました。AnthropicとOpenAIの元同僚も自分に倣って退職すべきだと思うかと直接尋ねられると、コクソンは、会社を「去って見捨てる」ことが誰にとっても正しい答えだとは思わないと述べました。それより重要なのは、研究所で働き続けている人々が「現状をはっきりと理解」し、自分たちが実際に目にしていることについて、より率直に話すことを検討することだと語りました。

Anthropicの他の従業員が公に彼を支持した理由

コクソンの警告は、彼自身のアカウント内だけにとどまりませんでした。Anthropicのアラインメント科学責任者であるエバン・ヒュービンガーは、同社内の研究者が高度なAIは存亡に関わるリスクをもたらしうると本当に考えている、というコクソンの指摘は「正しい」と公に応じました。ヒュービンガーはさらに踏み込み、今後10年以内にAIが人類を絶滅させる可能性は10%を超えると個人的に考えていると述べました。その一方で、現在稼働しているAIモデルについては、比較的リスクが低いと見ていることも明確にしました。コクソンと同じく、彼の懸念は、すでに市場に出ているチャットボットやツールではなく、再帰的な自己改良が可能な将来のシステムに特に向けられています。

ヒュービンガーは、直接取り上げる価値のある具体的な見解も明かしました。「Anthropicは最善を尽くしていると思います。しかし、超知能のアラインメントを解決する計画はまだなく、明確に解決へ向かっているとも言えません」。アラインメント研究に特化した立場にある同社の現職従業員が、コクソンが警告するために会社を去ったのと同じ構造的な課題を公に認めたのです。また別に、6月にGoogle DeepMindを退職した元研究者のアレックス・ターナーも、コクソンの警告を公に支持し、この動きが一社の内部事情を超えて広がっていることを示しました。

別の観点から注目を集める退職のタイミング

コクソンの退職は、Anthropicにとって特に注目すべきタイミングで起きました。Axiosが引用した報道によると、同社は現在、評価額約2兆ドルを目標とする、史上最大級になるとアナリストが予想するIPOに向かっています。Anthropicは、自社のパブリックイメージの多くを、そして将来の投資家へのアピールも、安全性を重視する姿勢を軸に築いてきました。会社が優先すると主張する安全性への懸念を理由にした、注目度の高い退職が拡散したのは、Anthropicがそのイメージに信頼性があると公開市場に納得させようとしている、まさにその時期でした。

このタイミングだけでコクソンの動機が明らかになるわけではありません。彼は複数のインタビューで、自身の中心的な懸念を変えることなく、動機について直接、一貫して説明しています。ただし、彼の退職が、すでに厳しい目を向けられていた企業のストーリーの中で起きたことは確かです。AnthropicのCEO自身も数日後、業界全体にAI開発の減速を呼びかける別のエッセイを公開しました。この提案については、同じIPO計画とのタイミングを踏まえ、一部の外部論評者が疑問を呈しています。

まとめ

ジェイコブ・コクソンの退職投稿は1日で9,000万回を超える閲覧数を記録しました。しかし、この拡散の背景にある具体的な事情は、話題を広げた11語よりも重要です。リスクを研究するのではなく最先端AIの能力構築に3年間携わってきた研究者が、自己改良型AIシステムは、まだ現実化していないとはいえ真の危険をもたらすと警告するため、権利確定前の株式報酬を放棄して退職しました。彼の警告には、少なくともAnthropicの現職従業員1人と別の研究所の元研究者1人が公に同調しました。また、同社が2兆ドルの評価額を目指すIPOを計画する中、安全性重視という企業イメージがこれまで以上に厳しく問われるタイミングでの出来事でした。

よくある質問

1. ジェイコブ・コクソンとは誰ですか？
OpenAIとAnthropicの両社でおよそ3年間、事前学習の研究に従事した27歳の研究者です。9月8日、自己改良型AIへの警告を発し、公に退職を表明しました。

2. 退職にあたり株式報酬を放棄したことが重要なのはなぜですか？
Axiosによると、コクソンはAnthropicの株式報酬が全額権利確定するおよそ2カ月前に退職しました。直接的な金銭的損失を伴うため、彼の退職を純粋に象徴的な行動だと捉えにくくなります。

3. ジェイコブ・コクソンは現在のAIシステムが危険だと考えていますか？
いいえ。現在のAIは今日、人々が使う分には安全だと述べています。彼が特に懸念しているのは、まだ存在していないものの、AI研究所が実現に向けて積極的に取り組んでいる、将来の自己改良型システムです。

4. Anthropicの誰かが、彼の警告を公に支持しましたか？
はい。Anthropicのアラインメント科学責任者であるエバン・ヒュービンガーは、コクソンの指摘は正しいと述べ、今後10年以内にAIが人類を絶滅させる可能性は10%を超えると個人的に考えていると明かしました。

5. 彼の退職のタイミングが特に注目されているのはなぜですか？
コクソンは、安全性重視の評判を一つの柱として2兆ドルの評価額を目指すIPOを進めるAnthropicを退職しました。また、退職の警告は、CEOのダリオ・アモデイがAI開発の減速を呼びかける自身のエッセイを公開する直前に発表されました。