Десятирічна особиста ворожнеча, якби не "лицемірство" OpenAI, не було б провідної у світі компанії зі штучного інтелекту Anthropic

Заголовок оригінальної статті: "Десятирічна ворожнеча, що формує майбутнє штучного інтелекту"

Автор оригінальної статті: Кіч Хейджі

Репортер Кіч Хейджі з The Wall Street Journal опублікував великий розслідувальний репортаж, у якому вперше розкрив десятирічну особисту ворожнечу між засновниками Anthropic і OpenAI шляхом численних інтерв'ю з нинішніми та колишніми співробітниками, керівниками та партнерами. Формування глобального ландшафту штучного інтелекту - це не лише битва технічних підходів, але й незагоєна особиста рана.

В останні місяці внутрішня мова Даріо Амодея була набагато інтенсивнішою, ніж його публічні висловлювання. Він порівняв юридичну суперечку Сема Альтмана та Ілона Маска з "Гітлером проти. Конфлікт Сталіна", президент OpenAI Грег Броком назвав пожертву в 25 мільйонів доларів на підтримку суперкомітету на підтримку Трампа "злою", а OpenAI та інших конкурентів порівняв з "тютюновими компаніями, які продають продукцію, яку вони знають шкідливою".

Після того, як суперечка в Пентагоні загострилася, він знову назвав OpenAI «брехливою» у Slack, написавши: «Ці факти свідчать про модель поведінки, яку я бачив занадто часто у Сема Альтмана».

Внутрішньо Anthropic називає цю стратегію бренду створенням «здорової альтернативи» конкурентам, а реклама з тонким сарказмом, що вийшла під час Суперкубка цього року, націлена на включення реклами в чат-ботів OpenAI, є публічним проявом цієї стратегії.

Історія починається в 2016 році у вітальні загального будинку на Делано-стріт у Сан-Франциско. Там жили Даріо та його сестра Даніела Амодей, а співзасновник OpenAI Брокман часто навідувався через свою дружбу з Даніелою. Одного разу Брокман, Даріо та тодішній наречений Даніели та філантроп ефективного альтруїзму Холден Карнофскі сиділи разом і обговорювали правильний шлях розвитку AI: Брокман вважав, що всім американцям слід розповідати про те, що відбувається на передньому краї AI, тоді як Даріо та Карнофскі вважали, що про конфіденційну інформацію слід повідомляти уряду, перш ніж транслювати її громадськості. Ця незгода згодом стала роздільником філософських шляхів двох компаній.

Вражений командою OpenAI, Даріо приєднався до неї в середині 2016 року, засиджуючись допізна з Брокманом, щоб навчати агенти штучного інтелекту грати у відеоігри. Однак протягом чотирьох років спільної роботи конфлікти через владу та приналежність поглибилися. У 2017 році головний фінансист OpenAI на той час, Маск, зажадав список внесків кожного працівника і використав його як основу для звільнень, причому від 10% до 20% команди з 60 осіб були звільнені по одному. Даріо вважав це жорстоким, і один із звільнених пізніше став співзасновником Anthropic.

Того ж року радник з етики, найнятий Даріо, запропонував OpenAI виступити в ролі координаційного органу між компаніями зі штучним інтелектом і урядами. Брокман тоді висунув ідею «продажу AGI Раді Безпеки ООН», яку Даріо вважав майже зрадою, що змусило його на короткий час подумати про відставку.

У 2018 році, після відходу Маска, Альтман очолив компанію. Він і Даріо дійшли згоди, що працівники не довіряють керівництву Брокмана та головного науковця Іллі Суцкевера. Даріо погодився залишитися за умови, що двоє більше не контролюватимуть його, але незабаром він виявив, що Альтман одночасно пообіцяв останнім право звільнити його, створивши конфлікт інтересів.

Після запуску розробки серії GPT у виконавчій команді спалахнув найгостріший конфлікт через те, хто може брати участь у проекті моделі мови. Даріо, тодішній науковий керівник, не дозволив Брокману втручатися. Даніела, яка спільно з Алеком Радфордом очолювала проект, пригрозила піти з посади керівника, втягуючи особисті уподобання Радфорда у війну за представництво виконавчої влади.

Позиції Даріо зросли завдяки успіху GPT-2 і GPT-3, але він відчував, що його внесок недооцінює Олтман. Коли Брокман з'явився в подкасті, обговорюючи статут OpenAI, Даріо розлютився через те, що його не запросили, незважаючи на його більший внесок у статут. Аналогічно, він був незадоволений, дізнавшись, що Брокман і Альтман збиралися зустрітися з колишнім президентом Обамою, але не запросили його.

Конфлікт різко загострився під час конфронтаційної зустрічі в конференц-залі. Альтман викликав братів Амодей на зустріч, звинувативши їх у підбурюванні колег подавати негативні відгуки про нього до правління. Брати це заперечували. Альтман сказав, що інформація надійшла від іншого керівника, і Данела негайно викликала цього керівника на допит, який стверджував, що не має жодних відомостей про це.

Олтман негайно заперечив, що коли-небудь робив таку заяву, що призвело до запеклого суперечки. На початку 2020 року Олтман попросив керівників провести взаємну оцінку. Брокман написав різку відгук, звинувачуючи Даніелу в зловживанні владою та використанні бюрократичних процесів для виключення інакомислення, що Олтман попередньо схвалив як "жорстко, але справедливо". Даніела заперечувала кожен пункт, загострюючи суперечку до того моменту, коли Брокман ненадовго запропонував відкликати коментарі.

До кінця 2020 року команда, очолювана Даріо, вирішила піти, і Даніела взяла на себе провідну роль у веденні переговорів з адвокатами щодо умов від'їзду. Олтмен особисто відвідав будинок Даріо, щоб умовити його залишитися, але Даріо наполягав на тому, що буде звітувати лише перед радою директорів, і ясно дав зрозуміти, що не може працювати з Брокомманом. Перед тим, як піти, він написав докладний меморандум, у якому розділив компанію зі штучним інтелектом на категорії "орієнтовані на ринок" і "орієнтовані на суспільну користь", вважаючи, що ідеальна пропорція становить 75% суспільної користі та 25% ринку. Через кілька тижнів Даріо, Даніела та майже десяток працівників покинули OpenAI, щоб заснувати Anthropic.

Через п'ять років обидві компанії оцінюються більш ніж у 300 мільярдів доларів і поспішають вийти на публічний ринок. Під час групового фото на саміті зі штучного інтелекту в Нью-Делі в лютому прем'єр-міністр Індії Моді підняв руки вгору в присутності лідерів технологічного сектору, тоді як Амодей і Олтмен вирішили не брати участі, незграбно обійшовшись ліктями.

Посилання на оригінальну статтю