Частная вражда, длившаяся 10 лет, если бы не «лицемерная» позиция OpenAI, не привела бы к созданию сильнейшей в мире компании в области ИИ, Anthropic

Оригинальный заголовок: 《The Decadelong Feud Shaping the Future of AI》

Оригинальный автор: Кич Хейдж

Репортер Wall Street Journal Кич Хейги опубликовал подробный исследовательский отчет, в котором впервые раскрыл десятилетнюю личную вражду между основателями Anthropic и OpenAI, проведя обширные интервью с нынешними и бывшими сотрудниками и руководителями обеих компаний. То, что формирует глобальный ландшафт ИИ, - это не только технологическое соперничество, но и неисцеленная личная травма.

В последние месяцы внутренняя риторика Дарио Амодеи была гораздо более интенсивной, чем в публичной. Он сравнил судебный спор между Сэмом Олтменом и Илоном Маском с "борьбой между Гитлером и Сталиным", назвал пожертвование президента OpenAI Грега Броkmана в размере 25 миллионов долларов супер-ПАКу в поддержку Трампа "злым" и сравнил OpenAI и других конкурентов с "табачными компаниями, которые сознательно продают вредную продукцию".

После того, как спор с Пентагоном обострился, он назвал OpenAI "лицемерной" в Slack, написав: "Эти факты указывают на модель поведения, которую я часто наблюдаю у Сэма Олтмена".

Внутри Anthropic называют эту стратегию брендинга созданием "здоровой альтернативы" конкурентам. Во время Суперкубка в этом году анонимная реклама, высмеивающая OpenAI за встраивание рекламы в чат-ботов, стала публичным продуктом этой стратегии.

История начинается в гостиной общего дома на Делано-стрит в Сан-Франциско в 2016 году. Дарио и его сестра Даниэла Амодей жили там, и сооснователь OpenAI Брокман часто навещал их из-за его близких отношений с Даниэлой. Однажды Брокман, Дарио и тогдашний жених Даниэлы, эффективный альтруистический филантроп Холден Карнофски, сидели вместе и спорили о правильном пути развития ИИ: Брокман считал, что все американцы должны быть проинформированы о том, что происходит на передовой ИИ, в то время как Дарио и Карнофски утверждали, что чувствительная информация должна быть сначала сообщена правительству, а не транслироваться общественности. Это разногласие позже стало переломным моментом в философском направлении двух компаний.

Дэрио, впечатленный кадровым потенциалом OpenAI, присоединился к компании в середине 2016 года и допоздна работал с Брокманом, обучая ИИ играть в видеоигры. Однако после четырех лет совместной работы обострились разногласия по поводу власти и чувства принадлежности. В 2017 году, когда крупный инвестор OpenAI Маск потребовал список вкладов каждого сотрудника для увольнения, около 10-20% из 60 человек были уволены по одному, что Дэрио сочло жестоким; один из уволенных позже стал соучредителем Anthropic.

В том же году советник по этике, нанятый Дэрио, предложил OpenAI выступать в качестве координационного органа между компаниями ИИ и правительством, из чего Брокман сделал вывод об идее «продажи AGI ядерным державам Совета Безопасности ООН». Дэрио считал это почти изменой и подумывал о том, чтобы уйти.

После того как Маск ушел в отставку в 2018 году, Альтман принял на себя руководство. Он и Дарио пришли к общему мнению: сотрудники не доверяли руководству Брокмана и главному научному сотруднику Илье Суцкeverу. Дарио согласился остаться при условии, что двое больше не будут отвечать за проект, но вскоре обнаружил, что Альтман одновременно обещал двум последним, что они имеют право уволить его, создав противоречие между двумя обязательствами.

После того как было начато разработку серии GPT, исполнительная команда вступила в самый интенсивный конфликт из-за того, кто может участвовать в проекте языковой модели. Дарио, тогда директор по исследованиям, не позволил Брокману вмешиваться, в то время как Даниэла, которая совместно руководила проектом с Алеком Радфором, пригрозила уйти с должности. Личные пожелания Радфорда оказались втянуты в войну за доверенность исполнительного директора.

Достижения Дарио росли с успехом GPT-2 и GPT-3, но он чувствовал, что Олтман принижал его вклад. Когда Брокман обсуждал устав OpenAI в подкасте, Дарио был зол за то, что его не пригласили, несмотря на то, что он внес больший вклад в устав; он также был недоволен, узнав, что Брокман и Олтман встречались с бывшим президентом Обамой, исключив его.

Конфликт резко обострился во время столкновения в комнате для переговоров. Олтман вызвал братьев Амодей и обвинил их в том, что они подстрекали коллег подавать негативные отзывы о нем в совет директоров. Оба отрицали это. Олтман утверждал, что информация поступила от другого руководителя, и Даниэла немедленно вызвала этого руководителя на допрос, который сказал, что он совершенно не в курсе.

Олтман затем отрицал, что говорил это, что привело к горячему спору. В начале 2020 года Олтман попросил руководителей написать отзывы о своих коллегах, и Брокман написал резкий отзыв, обвиняя Даниэлу в злоупотреблении властью и использовании бюрократических процессов для исключения инакомыслящих, который Олтман предварительно рассмотрел и охарактеризовал как «жесткий, но справедливый». Даниэла опровергла каждый пункт, что привело к эскалации спора до такой степени, что Брокман предложил отозвать свои комментарии.

К концу 2020 года команда, возглавляемая Дарио, решила уйти, и Даниэла вела переговоры с адвокатами об их уходе. Олтман лично посетил дом Дарио, чтобы убедить его остаться, но Дарио настаивал на том, что он согласится только на подчинение непосредственно совету директоров, и четко заявил, что не может работать с Брокманом. Перед уходом он написал длинное письмо, в котором классифицировал компании в области ИИ на "ориентированные на рынок" и "ориентированные на общественный интерес", утверждая, что идеальная пропорция - 75% общественный интерес и 25% рынок. Несколько недель спустя Дарио, Даниэла и почти дюжина сотрудников покинули OpenAI, чтобы основать Anthropic.

Пять лет спустя обе компании оцениваются более чем в 300 миллиардов долларов и конкурируют за выход на публичный рынок. В заключение саммита по ИИ в Нью-Дели в феврале этого года премьер-министр Индии Моди и присутствовавшие на мероприятии руководители технологических компаний подняли руки вместе, в то время как Амодей и Альтман предпочли не участвовать, просто неловко ударившись локтями.