У 70-сторінковому конфіденційному листі вперше висунуто звинувачення у «брехні», а Альтман заявив раді директорів: «Я не можу змінити свою особистість»

За даними моніторингу 1M AI News, лауреат Пулітцерівської премії Ронан Фарроу та журналіст журналу «The New Yorker» Ендрю Маранц опублікували розлоге розслідувальне розслідування, засноване на інтерв’ю з понад 100 інсайдерами, у якому вперше оприлюднено два ключові документи: приблизно 70-сторінкову конфіденційну записку, складену восени 2023 року колишнім головним науковцем OpenAI Іллею Суцкевером, та понад 200 сторінок внутрішніх нотаток, зібраних генеральним директором Anthropic Даріо Амодеї під час його роботи в OpenAI. Обидва документи раніше ніколи не оприлюднювалися.

У меморандумі Суцкевера містяться повідомлення зі Slack, документи відділу кадрів та знімки екрана, зроблені за допомогою мобільного телефону (імовірно, щоб уникнути моніторингу корпоративних пристроїв); він починається зі списку, який звучить так: «У Сема спостерігається стійка тенденція...», а першим пунктом у ньому є «Обман». У записці Альтмана звинувачують у тому, що він спотворював факти перед керівництвом та радою директорів і вводив колег в оману щодо процедур безпеки. Як повідомлялося, Суцкевер тоді сказав іншому директору: «Я не думаю, що саме Сем повинен тримати кнопку».

У записці Амодея під назвою «Мій досвід роботи в OpenAI» (з підзаголовком «Приватне, не поширювати»), яка циркулювала серед колег із Кремнієвої долини, але ніколи не оприлюднювалася, стверджується, що «проблема OpenAI — це сам Сем». У ній стверджується, що Альтман особисто заперечував умови контракту під час особистої зустрічі з представниками Microsoft, на якій мав бути підписаний інвестиційний договір на суму 1 мільярд доларів, навіть після того, як Амодей зачитав ці умови дослівно.

У звіті також було оприлюднено кілька раніше невідомих фактів:

1. Обіцяне незалежне розслідування, яке мало бути проведено після повернення Альтмана, не завершилося складанням письмового звіту. Юридична фірма WilmerHale (відома тим, що очолювала розслідування щодо компаній Enron і Tyco), яка відповідала за розслідування, лише усно проінформувала двох нових директорів, а рішення не готувати письмового звіту було частково прийнято на підставі рекомендацій приватних юристів цих двох директорів. Інсайдери охарактеризували розслідування як таке, що, судячи з усього, «має на меті обмежити прозорість», причому деякі нинішні члени ради директорів розглядають можливість його «перегляду».

2. Фактична обчислювальна потужність, виділена команді Alignment, становила приблизно 1–2 % від обіцяних публічно 20 %, причому більша її частина була виділена «найстарішому кластеру з найгіршими процесорами». Коли журналісти звернулися з проханням про інтерв’ю до дослідника, який займається питаннями екзистенційної безпеки, представник OpenAI відповів: «Що ви маєте на увазі під «екзистенційною безпекою»? «Такого не буває».

3. Приблизно у 2018 році керівництво компанії серйозно обговорювало внутрішню ініціативу під назвою «Національний план», яка передбачала проведення тендеру серед провідних країн (зокрема Китаю та Росії) на поставку технологій штучного інтелекту. Потім керівник відділу політики Джек Кларк описав мету цієї ініціативи як «створення ситуації типу «дилема в’язня», в якій усі країни будуть змушені надавати нам фінансування». Цей план було відкладено через те, що багато співробітників погрожували звільнитися.

4. Кілька керівників компанії Microsoft висловили глибоке незадоволення діями Альтмана. Один із керівників заявив: «Він перекручує, викривляє, переглядає та порушує домовленості», вважаючи, що «існує невелика, але реальна ймовірність того, що його зрештою запам’ятають так само, як організатора піраміди Берні Медоффа чи засновника FTX Сема Бенкмана-Фріда».

Після звільнення під час телефонної розмови з правлінням Альтмана попросили визнати, що він систематично вдавався до обману. Він кілька разів повторив: «Це абсурд», а потім додав: «Я не можу змінити свою природу». Один із присутніх директорів розтлумачив це так: «Ця заява означає: “Я маю звичку брехати людям і не збираюся з цим припиняти”». Аарон Свартц, учасник першого випуску Y Combinator та програміст, який помер у 2013 році, перед смертю попередив свого друга: «Ви повинні зрозуміти, що Сему ніколи не можна довіряти. «Він має антисоціальну особистість і здатний на все». У звіті зазначалося, що під час інтерв’ю кілька осіб активно вживали термін «антисоціальна особистість».

У ході більш ніж десятка розмов із журналістами Альтман заперечував навмисне введення в оману, називаючи зміну своїх зобов’язань «адаптацією з благими намірами» до умов, що стрімко змінюються, та пояснюючи ранню критику своєю схильністю «занадто уникати конфліктів». На запитання, чи вимагає керівництво компанією, що займається штучним інтелектом, вищого рівня доброчесності, він додав: «Так, це дійсно вимагає вищого рівня доброчесності, і я щодня відчуваю всю вагу цієї відповідальності».