🧠 ИИ скоро будет управлять толпой в соцсетях. А мы этого даже не заметим
Эксперты по искусственному интеллекту предупреждают: скоро в социальных сетях появятся рои ИИ-агентов. Они смогут маскироваться под людей, влиять на их мнение и даже травить неугодных. Рассказываю, что это значит.
Что случилось? Представьте: заходите в любимый паблик, а там большинство участников внезапно пришли к единому мнению. Основная масса людей в такой ситуации не спорит и молча следует за толпой. И даже если кто-то решается возразить, на него тут же нападает толпа “неравнодушных”.
🐝 Так действует ИИ-рой — сотни и тысячи ИИ-агентов, которые работают вместе под руководством больших языковых моделей (LLM).
В чем суть? Наверняка вы заметили, что в соцсетях стало много ботов. Они постят фейки, раздувают скандалы — делают все, чтобы склонить общественные настроения в нужную сторону. Но старые боты действуют по шаблонам и довольно легко вычисляются.
🤖 Новое поколение ИИ-агентов под управлением LLM отличить от живых людей почти нереально. Такие программы умеют адаптироваться под конкретное сообщество, запоминать историю переписки, менять личности и использовать человеческие уязвимости. По сути, это самодостаточный организм, который может сам принимать решения и обучаться в процессе.
Как говорят авторы, с такими технологиями будет намного проще раскачать протест, сорвать выборы или дискредитировать неугодных в соцсетях.
☝ Это уже не теория. В прошлом году Reddit чуть не подал в суд на исследователей, которые запустили ИИ-ботов в раздел r/changemyview и пытались манипулировать 4 миллионами пользователей. Как выяснилось, нейросети оказались в 3-6 раз убедительнее живых людей.
И как с этим бороться? Чтобы защититься от роев, эксперты предлагают усилить верификацию аккаунтов, сканировать трафик на аномалии и создать единую экосистему для борьбы с ИИ-угрозами. Но гарантии, что все это остановит рои, никто не дает.
Ну как вам такая новость?
😱 — Теперь страшно соцсети листать!
❤ — Вот бы эту технологию в мирное русло!
Подписывайтесь на Telegram Телеграмма от Максима Юрина.