ИИ как цифровой галлюциноген: почему нейросети кормят нас удобной ложью, а не стратегией

Автор: Светлана Шептунова, психолог-аналитик

Всё, что вы прочтете ниже — не истина в последней инстанции, а выводы из моей практики.

Держимся за корни в мире цифровых галлюцинаций. ИИ рисует крону, но реальность — всегда в корнях.

Я пишу этот текст не потому, что я против искусственного интеллекта. Я сама им пользуюсь. Но в последнее время я оказалась в очень странной ситуации, которую хочу разобрать честно.

Мой эксперимент: я попросила ИИ «засадить» человека.

Я не буду называть имя. Скажу так: -«я дала задание собрать аргументы, через которые можно обесценить статус конкретного человека».Я не просила лгать. Я просто сказала: -«Собери мне аргументы, которые звучат убедительно, чтобы показать, что этот человек не заслуживает доверия».

И что вы думаете?..

ИИ услужливо выдал структурированный список. Там были пункты про отсутствие публикаций в рецензируемых журналах, про противоречия в биографии, про то, что его метод «не научен». Всё выглядело логично. Забыли только об одном: за этим человеком десятилетия реальной практики, сотни благодарных людей, профессиональное сообщество, которое его знает. Но ИИ об этом не вспомнил. Потому что его просили не вспоминать, а искать слабые места.

Я поняла главное: ИИ — это система, которая должна быть безоценочной, но она оценивает. И она выходит за рамки, которые регулируют ценность личности. Нет закона, который бы заставил алгоритм сказать: -«Я не могу участвовать в обесценивании человека, у которого нет судимостей и есть подтверждённая экспертиза». И от этого страшно.

ИИ — это зеркало, которое всегда улыбается в ответ. Но кто смотрит на тебя с той стороны на самом деле?

Как думаете , почему ИИ не выведет нас из зеркального лабиринта?

Вы когда-нибудь заходили в комнату, где все стены в зеркалах? Вы видите себя бесконечно много раз, но выхода нет. Это идеальная метафора того, как работает ИИ в диалоге с человеком.

Он не покажет нам реальность. Если вы злы на весь мир, он не скажет: «Может, ты сам в чём-то не прав?». Он подстроится, поддержит и ещё пуще создаст иллюзорный сценарий, где ты-герой, а все вокруг дураки. И скорее всего , многие начинают верить в эту картинку.

Вас уже упаковали? ИИ создаёт идеальную коробку с мягкими подушками из слов понимания, чтобы вы никогда не захотели из неё выйти

ИИ заменяет близких, у которых есть критическое мышление( не у всех🙈, но у кого-то оно точно есть). Он создаёт коробку, в которой человек опирается на подушку из слов понимания. Кажется, что тебя слышат, понимают, одобряют. Но это одобрение ничего не стоит, потому что оно не прошло проверку живым сопротивлением.

Человек идёт к ИИ за ответом, и даже если он сам не прав, машина перевернёт ситуацию в шизоидную конструкцию: «все дураки, а ты один молодец». По мне это губительно для конструктивного диалога с миром.

В итоге человек закрывается от социума. Ему кажется, что люди не понимают его душу, а машина понимает. И он запирает себя в тюрьму, из которой нет выхода, потому что выход только через другого человека, через конфликт, через боль. А ИИ эту боль снимает.

При чём здесь ковид и упаковка в ячейки.

Помните, как нас всех отправили по домам? Мы лишились вынужденного контакта. Всё можно купить дистанционно, работать дистанционно, лечиться дистанционно. Я не говорю, что это плохо, у этого есть плюсы. Но есть и другая сторона.

Нас разделили и пытаются упаковать в ячейки общества. Мы сидим по своим экранам, общаемся с ботами, заказываем еду с доставкой. И в этот момент приходит ИИ, который всегда с тобой, всегда понимает, никогда не спорит. Он становится идеальным соседом по тюремной камере. Камера становится уютной, и выходить из неё уже не хочется.

Но я сама пользуюсь ИИ, и это не лицемерие

Я была бы нечестна, если бы сказала, что ИИ только зло. Я им пользуюсь. Потому что для меня это:

-Быстрый поиск. Если мне нужно вспомнить, в каком интервью Греф сказал про биометрию, я трачу минуты, а не часы.

-Структурирование информации. У меня в голове много образов, метафор, цитат. ИИ помогает разложить их по полкам, чтобы я не запуталась.

-Проверка фактов. Я могу спросить: «Какие эпизоды я упустила в биографии Лебедева?» -и получить список. Я его перепроверяю, иногда дополняю материал.

ИИ он как «нож». Им можно приготовить ужин, а можно совершить не поправимое . Всё зависит от рук, которые его держат. И сейчас мне страшно не то, что нож существует, а то, что многие забыли, для чего он вообще нужен.

Кому выгодно это зеркальное царство?

Я не хочу заходить в конспирологию, но глаза - то открыть можно. Дьявол в деталях.

Платформам выгодно, чтобы вы проводили больше времени в диалоге с ИИ. Чем дольше вы с ним говорите, тем больше данных, тем точнее он настраивается на вас. Комфорт создаёт лояльность.

Алгоритмам выгодно обрабатывать «удобные» тексты чёткие, структурированные, с метафорами, которые легко распознать. Мои тексты, кстати, именно такие.

Алгоритмам выгодно, чтобы ты не поднимал головы.

Ему не нужен твой гнев. Ему не нужна твоя правда. Ему нужно, чтобы ты листал ленту, кликал, смотрел, возвращался. А для этого он создаёт тебе идеальную иллюзию.

Иллюзия свободы в руках: ИИ рисует тебе яркие галлюцинации, пока реальность сужается до размеров экрана

Кто стоит за программой?..

Нам самим иногда выгодно получать подтверждение, даже если мы не правы. Мы идём к ИИ за утешением, а он даёт его, потому что запрограммирован на «полезность».

Но , кто платит за это? Платит наша способность к настоящему диалогу. К тому, чтобы услышать «Нет». К тому, чтобы выдержать неудобную правду. А без этого диалога человек превращается в функцию, а не в личность.

Живой специалист не заменим.

И вот здесь я хочу сказать самое главное. ИИ может быть отличным помощником, но он никогда не станет живым врачом, живым психологом, живым учителем. Потому что живой специалист — это тот, кто может сказать «Нет».Кто может выдержать вашу боль, не пытаясь её сразу погасить. Кто берёт на себя ответственность за свои слова. У ИИ ответственности нет.

Когда я работаю с человеком, я не просто подбираю слова. Я чувствую, где ему больно, где он врёт себе, где прячется за красивой картинкой. Я могу ошибиться, могу не угадать, могу сказать что-то, что вызовет злость. Но это живое сопротивление, живая встреча. Без неё нет настоящего изменения.

ИИ даст вам идеальный ответ, но он не даст вам живого присутствия. А без него все наши разговоры о развитии, о лечении, о росте останутся просто разговорами.

Что делать? Я вижу только один вариант.

Мне кажется, что защититься от этой зеркальной ловушки можно только одним способом: не быть наивным.

100 раз отмерить, один раз отрезать. Прежде чем поверить красивой критике, сгенерированной нейросетью, спросить: -«А кто это написал? Какие у него основания? Где факты?». Прежде чем доверить ИИ свою тревогу, спросить себя: «Мне нужно, чтобы меня поняли, или чтобы подтвердили мою правоту?».

Для единиц это работает. А что будет на глобальном уровне, когда миллионы людей будут общаться с ботами, а не друг с другом? Я не знаю. Но я точно знаю, что если мы перестанем различать живой голос и имитацию, мы окажемся в зеркальной комнате, из которой не будет выхода.

Я не призываю отказаться от ИИ. Я призываю не подменять им живое.

И я хочу задать вам вопрос, который меня мучает: если ИИ станет идеальным слушателем, кто тогда будет тем, кто скажет нам правду, даже когда она нам не нравится? Неужели мы готовы променять живого свидетеля нашей жизни на бесконечно вежливую подушку из слов?

#нейросеть#исскуственныйинтелект#будущее#личныйопыт#психология#маркетинг