Сооснователь Anthropic считает вероятным, что до конца 2028 года ИИ начнет участвовать в создании собственных следующих версий

Сооснователь Anthropic Джек Кларк считает вероятным, что до конца 2028 года появятся ИИ-системы, способные участвовать в создании собственных следующих поколений. В новом выпуске своего бюллетеня Import AI он оценил вероятность такого сценария выше 60% и написал, что пришел к этому выводу «неохотно», потому что последствия полной автоматизации ИИ-разработки трудно оценить заранее.

Сооснователь Anthropic считает вероятным, что до конца 2028 года ИИ начнет участвовать в создании собственных следующих версий

Кларк уточняет, что не ждет такого скачка уже в 2026 году. По его оценке, в ближайшие год-два может появиться первый пример системы, которая самостоятельно обучит своего преемника хотя бы на уровне не самых передовых моделей. Для передовых моделей задача сложнее: их обучение остается дорогим процессом, в котором участвуют большие команды инженеров и исследователей. Но, по мнению Кларка, публичные данные уже показывают, что многие технические части ИИ-разработки быстро переходят в зону автоматизации.

Основной аргумент Кларка связан с тем, что современные ИИ-системы резко продвинулись в программировании. Разработка моделей состоит из множества инженерных задач: написания кода, проверки гипотез, запуска экспериментов, работы с данными, тестирования и исправления ошибок. Если модели начинают надежно выполнять такие задачи без постоянного контроля человека, они могут ускорять не только обычную разработку программ, но и саму разработку ИИ.

В качестве одного из примеров Кларк приводит SWE-bench — тест, где модели решают реальные задачи из GitHub. По его словам, в конце 2023 года Claude 2 справлялась примерно с 2% задач, а модель Claude Mythos Preview уже достигла 93,9%. Для Кларка это показатель того, как быстро ИИ перешел от слабого помощника в коде к системе, которая может закрывать значительную часть реальных инженерных задач.

Другой важный источник его прогноза — данные METR о том, как долго ИИ-системы могут самостоятельно работать над задачей. В 2022 году, по этим оценкам, модели надежно выполняли задания, которые у человека заняли бы около 30 секунд. В 2023 году этот горизонт вырос примерно до 4 минут, в 2024-м — до 40 минут, в 2025-м — до 6 часов, а в 2026 году уже достиг примерно 12 часов для Opus 4.6. Кларк также ссылается на прогноз исследовательницы Аджейи Котры, которая считает возможным рост до задач примерно на 100 часов к концу 2026 года.

Для автоматизации ИИ-исследований это важно не само по себе, а из-за характера работы в лабораториях. Многие задачи исследователей и инженеров не выглядят как один большой творческий прорыв. Это цепочки действий на несколько часов: подготовить данные, прочитать результаты, запустить эксперимент, переписать код, сравнить метрики, проверить ошибку. Если агент может выполнять такие цепочки достаточно надежно, его уже можно использовать как часть исследовательского процесса.

Отдельно Кларк пишет о целях самих ИИ-компаний. По его словам, OpenAI уже ставит задачу создать к сентябрю 2026 года автоматизированного «исследовательского стажера», а стартапы вроде Recursive Superintelligence открыто говорят о похожей цели — системах, которые смогут ускорять или частично автоматизировать дальнейшую разработку моделей. В этой логике речь идет не о фантастическом сценарии, где ИИ мгновенно становится независимым ученым, а о постепенной передаче ему все большего числа исследовательских и инженерных операций.

Кларк называет такой сценарий первым шагом к рекурсивному самосовершенствованию. Под этим он понимает ситуацию, в которой ИИ-система становится достаточно сильной, чтобы участвовать в создании следующей, более мощной системы. Если это произойдет, темпы развития моделей могут перестать зависеть только от скорости работы человеческих команд. Каждое новое поколение ИИ будет не только результатом инженерной работы, но и инструментом для ускорения следующего цикла.

При этом сам Кларк подчеркивает неопределенность своего прогноза. Его оценка в 60% — личный вывод из публичных исследований, бенчмарков и наблюдений за тем, как быстро ИИ-системы осваивают задачи разработки. Он пишет, что последствия автоматизированной ИИ-разработки трудно представить, потому что такой переход может сделать дальнейшее развитие отрасли почти непредсказуемым.

2
2 комментария