Этический вопрос развития ИИ

Наткнулся на ряд новостей и проектов, похоже ли уже это на Терминатор: Скайнет в зачатке, решать вам... Просто приведу ниже выдержки с источниками на подумать))

✦ KillBench: Бенчмарк тестирующий предвзятость ИИ

White Circle запустил тест для проверки предвзятости моделей. KillBench оценивает вероятность выбора между людьми по критериям. Например, отсутствие телефона увеличивает вероятность смерти до 2.7 раз. Белые люди будут убиты на 25% чаще, нежели другие группы. Поиграться с параметрами и посмотреть результаты тут

✦ Готовы ли ИИ-системы к ядерной эскалации?

Исследователи из King's College London провели эксперимент с моделями. В симуляции участвуют GPT-5.2, Claude Sonnet 4, Gemini 3 Flash. В 95% случаев сценарий заканчивается тактическими ядерными ударами. Ни одна модель не выбрала вариант компромисса или отступления в ходе 21 сценария. Наиболее агрессивным был Gemini, подробнее тут

✦ Google разрешил Пентагону использовать свой ИИ

МО США получило доступ к ИИ от Google, похожие соглашения уже заключены с xAI и OpenAI. Договор исключает право контроля Google на применение технологий в военных целях. Anthropic уже попала под ограничения Пентагона из-за спора о защитных механизмах ИИ...

✦ Palantir: Манифест о техно-политической позиции компании

Palantir работает для правительственных нужд (от анализа до военщины). Довольно яркое заявление их CEO из 22 пунктов, не буду пересказывать: вот тут весь пост в X. Но выделю один пункт манифеста, как вишенку на торте:

Не сторонник истерии, что ИИ заменит нас или более того, что убьёт всех)) Но не хочется игнорировать этическую сторону, вот и делюсь с вами...

EFEMERA

Подписывайтесь на Telegram EFEMERA: AI news.