В 70-страничном конфиденциальном письме выдвигается первое обвинение в «лжи», Альтман говорит совету: «Я не могу изменить свою личность»

Согласно 1M AI Новости мониторинг, лауреат Пулитцеровской премии Ронан Фэрроу и Нью-Йоркер журналист Эндрю Марантц опубликовал подробный аналитический отчет, основанный на интервью с более чем 100 инсайдерами, в котором впервые были раскрыты два ключевых документа: конфиденциальная записка объемом около 70 страниц, составленная осенью 2023 года бывшим главным научным сотрудником OpenAI Ильей Суцкевером, и более 200 страниц внутренних записок, накопленных генеральным директором Anthropic Дарио Амодеи во время его работы в OpenAI. Оба документа никогда ранее не разглашались.

Записка Суцкевера включает сообщения в Slack, документы отдела кадров и скриншоты, сделанные с помощью телефона (предположительно, чтобы избежать мониторинга устройств компании), начиная с списка, в котором говорится: "Сэм демонстрирует устойчивую модель поведения...", первый пункт которого - "Обман". В записке утверждается, что Олтман исказил факты для руководителей и совета директоров и обманул коллег в вопросах безопасности. Суцкевер тогда сказал другому директору: «Я не думаю, что Сэм — тот, кто должен нажимать на кнопку».

В записках Амодея под названием «Мой опыт в OpenAI» (с подзаголовком «Частно, не распространять») говорится, что «проблема в OpenAI — это сам Сэм», и утверждается, что Олтман лично отказался от условий контракта, когда лично встречался с Microsoft, чтобы подписать инвестиционную сделку на 1 миллиард долларов, даже после того, как Амодей дословно зачитал условия.

В отчете также были раскрыты несколько ранее неизвестных фактов:

1. Обещанное независимое расследование по возвращении Олтмана не привело к составлению письменного отчета. Адвокатская фирма WilmerHale (известная своими ведущими расследованиями в отношении компаний Enron и Tyco), ответственная за расследование, лишь устно проинформировала двух новых директоров, причем решение не составлять письменный отчет было частично основано на консультациях с частными адвокатами этих двух директоров. Инсайдеры описали расследование как такое, что, по-видимому, "направлено на ограничение прозрачности", причем некоторые из нынешних директоров рассматривают потенциальную необходимость в "пересмотре".

2. Фактическая вычислительная мощность, выделенная команде Alignment, составляла около 1%-2% от публично обещанных 20%, большая часть которого отнесена к "старейшему, наиболее поврежденному кластеру". Когда журналисты попросили предоставить интервью исследователю, работающему над вопросами экзистенциальной безопасности, представитель OpenAI ответил: "Что вы имеете в виду под 'экзистенциальной безопасностью'? Это нечто?"

3. Примерно в 2018 году исполнительная команда серьезно обсуждала внутреннюю инициативу под названием «Национальный план»: чтобы крупные страны (включая Китай и Россию) предлагали технологии ИИ. Тогда руководитель отдела политики Джек Кларк описал ее цель как «создание дилеммы заключенного, когда все страны будут вынуждены финансировать нас». План был отложен из-за того, что несколько сотрудников пригрозили уволиться.

4. Несколько руководителей Microsoft выражают сильное недовольство Альтманом. Один из руководителей заявил: «Он искажает, перекручивает, пересматривает и нарушает соглашения», считая, что «существует небольшая, но реальная вероятность того, что в конечном итоге его будут помнить как организатора схемы Понзи Берни Мэдоффа или основателя FTX Сэма Бэнкмана-Фрид».

После увольнения, во время звонка с советом директоров, Олтмана попросили признаться в своей обманной практике. Он неоднократно говорил: «Это абсурдно», а затем сказал: «Я не могу изменить свою природу». Один присутствовавший директор истолковал это как: «Смысл этого заявления в том, что "у меня есть склонность врать людям, и я не собираюсь с этим прекращать"». Первый участник кураторской программы Y Combinator и программист Аарон Шварц, скончавшийся в 2013 году, перед смертью предупредил одного из друзей: "Вы должны понимать, что доверять Сэму нельзя никогда. Он антисоциальная личность и может сделать все что угодно." В отчете упоминалось, что более одного человека активно использовал термин "антисоциальная личность" в интервью.

В более чем дюжине разговоров с репортерами Олтман отрицал преднамеренное обман, квалифицируя изменяющиеся обязательства как "добросовестную адаптацию" к быстро меняющейся среде, и объясняя раннюю критику своей склонностью "слишком избегать конфликтов". Когда его спросили, требует ли управление компанией ИИ более высокого уровня честности, он добавил: "Да, это действительно требует более высокого уровня честности, и я каждый день ощущаю тяжесть этой ответственности."