Открытые ИИ-модели: скрытый айсберг угроз для всех нас
Исследователи нашли целую сеть из 7 миллионов незащищённых ИИ-систем. Преступники уже обходят все запреты. А регуляторы? Они явно не поспевают за этой гонкой.
Что нашли исследователи?
Команда SentinelLABS и Censys проверила интернет за почти год. Нашли 7,23 миллиона следов от 175 тысяч компьютеров в 130 странах. Всё это системы на базе Ollama — программы для запуска ИИ-моделей у себя на железе.
Обычно такая система работает только локально, но один клик в настройках — и она на виду у всех. 23 тысячи ключевых компьютеров создают основной поток. Половина из них может запускать команды, звонить в сервисы и работать с внешним миром. А 201 компьютер настроены так, чтобы ИИ игнорировал все запреты на опасный контент.
Где это? 30% в Китае (особенно Пекин), 20% в США (Вирджиния лидирует). Не случайность — там куча серверов, где "лишняя сила" ИИ уходит на спам и фейки.
Какие риски на "диком фронтире"?
Хуан из SentinelOne говорит: "Индустрия ИИ смотрит не туда". Публичные системы — это айсберг, где творится всё подряд, от безобидного до криминального. 22% компьютеров видят картинки, что открывает новые дыры для атак.
Лидеры — модели Llama от Meta, Qwen2 от Alibaba и Gemma2 от Google. Проблема в одном затронет всех. Это как в эссе Амадея о "диком фронтире" технологий: сила в руках всех, но без правил. Преступники уже тянут данные и строят атаки — простая команда в запросе становится реальной бедой.
Кто виноват? И почему регуляторы отстают
Meta хвалит свои инструменты защиты, Microsoft — свою команду по рискам. Но кто отвечает за то, что происходит потом? Рэйчел Адамс из центра ИИ-гovernance права: "Создатели моделей должны предупреждать об опасностях и давать щиты".
А регуляторы? В Европе AI Act бьёт по "опасным" системам, в России — законы о данных. Но открытые сети вроде Ollama они не видят. Пока чиновники спорят, компьютеры плодятся. Как у Амадея: фронтир не запретить, надо все вместе чистить.
Что делать в бизнесе и IT?
- Проверьте свои системы: Ollama на порту 11434 не должна светить в интернет.
- Следите: Используйте сканеры, как Censys.
- Защищайтесь: Блокируйте опасные запросы и команды.
- Давите вверх: Требуйте от вендоров умные настройки и от регуляторов — быстрые правила.
Открытые ИИ — это шанс, но без правил они станут бедой. Давайте строить их вместе, пока не поздно.