В The New Yorker вышла статья-расследование о Сэме Альтмане и управлении OpenAI
Американский журнал The New Yorker выпустил большое расследование о главе OpenAI Сэме Альтмане, построенное более чем на ста интервью, внутренних документах, записках бывшего главного научного сотрудника Ильи Суцкевера и многолетних заметках сооснователя Anthropic Дарио Амодея. В статье собрана информация начиная от ранних стартапов Альтмана и его работы в Y Combinator до кризиса в OpenAI осенью 2023 года. По версии The New Yorker, в разных компаниях и в разные годы вокруг Альтмана возникали одни и те же претензии — к его честности, стилю управления и тому, как он представляет ситуацию коллегам и советам директоров.
Материал в The New Yorker написали Ронан Фэрроу и Эндрю Маранц. Фэрроу — один из самых известных американских авторов расследований: среди его работ упоминаются материалы о коммерческом шпионском софте Pegasus, судебной опеке над Бритни Спирс и влиянии Илона Маска на государственные структуры. За свои публикации для журнала он получил Пулитцеровскую премию, а также премии National Magazine Award и George Polk Award.
Самая важная часть расследования касается OpenAI. По данным The New Yorker, перед увольнением Альтмана в ноябре 2023 года Суцкевер и его союзники подготовили для совета пакет материалов на основе примерно 70 страниц Slack-переписки и HR-документов. В этих записках утверждалось, что Альтман искажал информацию для руководства и вводил совет в заблуждение по вопросам внутренних протоколов безопасности. Один из документов, как пишет журнал, прямо описывал повторяющийся паттерн лжи. Именно этот внутренний массив стал одной из основ решения совета временно отстранить Альтмана от управления компанией.
The New Yorker пишет, что к похожим выводам независимо пришел и Дарио Амодей, который еще до ухода из OpenAI вел частные записи о работе руководства компании. В них он, по данным журнала, постепенно пришел к жесткому выводу, что главная проблема OpenAI связана не только со структурой компании или вопросами безопасности, а с самим Альтманом. Для расследования это один из ключевых аргументов: недоверие к Альтману, как следует из текста, возникло не у одного лагеря внутри OpenAI и не только в момент открытого кризиса 2023 года.
Отдельное место в статье занимает тема безопасности. В статье сопоставляются публичные обещания OpenAI и внутренние жалобы сотрудников на то, что эти обещания не выполнялись в полном объеме. Один из главных примеров — команда Superalignment, которой в июле 2023 года OpenAI публично пообещала 20% доступных вычислительных мощностей для работы над безопасностью сверхразумных систем. По словам собеседников журнала, на практике команда получала лишь малую часть обещанных ресурсов, а затем была распущена. Уже после ухода из OpenAI бывший со-руководитель Superalignment Ян Лейке публично заявил, что культура и процессы безопасности в компании отошли на второй план на фоне гонки за продуктами.
Расследование уводит эту историю и дальше в прошлое. Авторы пишут о конфликтах вокруг Альтмана в его стартапе Loopt и в Y Combinator, где, по версии собеседников журнала, у коллег тоже возникали претензии к его манере руководства и достоверности его слов. Люди, работавшие с Альтманом в разные периоды, снова и снова приходили к похожим сомнениям относительно того, можно ли ему полностью доверять.
При этом авторы не утверждают, что нашли окончательное доказательство мошенничества или одну деталь, которая объясняет все происходящее в OpenAI. Сила статьи в другом: она собирает большой массив свидетельств, из которого складывается образ руководителя, чья способность привлекать людей и двигать индустрию вперед сочетается с неоднократными обвинениями в манипуляциях и лжи со стороны части коллег, партнеров и бывших соратников. Именно поэтому итоговый вывод текста звучит как неприятный для OpenAI вопрос: стоит ли доверять этому человеку, учитывая, что он фактически руководит одной из самых влиятельных компаний в сфере искусственного интеллекта.