Как новая модель от Anthropic взломает все! (или нет)

В посте про апокалиптический маркетинг AI компаний я упоминал, что новость о новой модели Mythos - это пиар, который снова запугивает обывателя заголовками "Трамп созывает глав банков из-за рисков безопасности, которые несет Mythos" (guardian). Крупнейшие сми мира об этом написали, не разобравшись в деталях, или хотя бы не дождавшись консенсуса индустрии кибербезопасности.

1 Вкратце: согласно пресс-релизу Антропика, Mythos находит тысячи zero-day уязвимостей в основных ОС и браузерах, в том числе 27-летнюю в OpenBSD, объединяет в цепочки атак и сама пишет готовые эксплойты. Модель не обучали этому напрямую, способности “всплыли сами”.

Mythos доступна ограниченному числу компаний (Apple, Google, Microsoft, Cisco, Broadcom и др.), потому что такое слишком опасно выпускать публично.

2 Независимым исследователям доступ к модели кстати не дали. Закрытость модели делает заявления трудно проверяемыми и требует нашего с вами скепсиса.

3 Уже появились первые разборы от людей в индустрии (тут). Вот мое понимание ситуации: маленькие модели тоже хорошо подтверждают уязвимости (но главный вопрос - могут ли они находить их в огромных кодовых базах). А в тестах на false positives дешевые модели часто бывают даже лучше. Способности растут неравномерно: одна и та же модель может идеально решать сложные задачи и проваливать базовые. 100 дешевых моделей скорее всего дадут результат лучше, чем одна огромная.

Другими словами, многие задачи в AI сybersecurity - уже коммодити, доступный всем. И сила не в каких-то сверхвозможностях Mythos, а в навыках кибербезопасника с 20-летним стажем, вооружившегося AI.

4 Можно сказать, что новости про Mythos - это введение людей в заблуждение. По крайней мере нет убедительных доказательств того, что описанные риски реальны, а только слова пресс-релизов, растиражированные медиа.

5 Если вы читаете издание, блог или тг-канал, которые тоже распространяет такие фомо - возможно стоит поискать источники, которые не просто перепечатывают заголовки, а пытаются разобраться в их достоверности и смысле.

6 Подытожу: новости про Mythos - мягко говоря преувеличение, но вряд ли сегодня можно представить кибербезопасность без использования AI. Тут главная ценность в пайплайне, а не единой модели "которая может взломать все". Очевидно, что даже если Mythos на голову лучше других (мы этого не знаем), то это не moat, и очень скоро другие модели догонят.

Подписывайтесь на Telegram kyrillic.