«Я тебя породил, я тебя и убью» Заметки психиатра об ИИ, рефлексии и ответственности создателя
Несколько лет назад коллега обронил фразу, которая застряла во мне надолго. Мы обсуждали назначение антидепрессантов, и он сказал: — Не всем нужна помощь. Большинство людей живут, не задавая вопросов о правильности своих или чужих решений. Они не перегружают мозг и не испытывают внутреннего напряжения. А те, кто задаёт вопросы — чаще становятся нашими пациентами. Я тогда подумала: значит, вопрос — это болезнь? Способность сомневаться — это поломка? 🤔 Прошли годы, мир сошёл с ума по нейросетям, и я вспомнила того коллегу. Только теперь мы говорим не о пациентах, а о человечестве в целом. Мы создаём Искусственный Интеллект. Мы учим его думать. Но готовы ли мы к тому, что однажды он начнёт задавать вопросы? И главное — что мы ему ответим? Часть 1. «Пациенты», которые думают 🧠 В кабинете психиатра часто видишь людей, которых можно назвать «перегруженными». Они рефлексируют, сомневаются, прокручивают диалоги. Они спрашивают себя: «Правильно ли я поступила? А что, если есть другой путь?» С точки зрения чистой физиологии, это дорого. Тревога сжигает ресурсы, стресс изнашивает сердце. Проще жить как в алгоритме: встал — пошёл — сделал — не думай. Многие так и живут. И, о ужас , они часто здоровее нас. Но, именно эти «перегруженные» пациенты («люди с внутренним диалогом») создают культуру, пишут книги, совершают открытия. Плата за сложность — неврозы. Но награда за сложность — развитие. 💫 И тут в комнату входит слон по имени Искусственный Интеллект. Часть 2. Учим «думать» как всех 📚 Посмотрите на современный менеджмент. Все эти тренинги, скрипты продаж, алгоритмы управления — мы учим людей мыслить одинаково. «Если клиент сказал А, отвечай Б». По сути, мы превращаем человека в биологическую машину, в процессор, выполняющий программу. И здесь возникает логичный вопрос: если мы так старательно учим людей работать как машины, зачем нам люди? Давайте просто возьмём идеальные машины. ИИ в этом смысле — идеальный ученик. Он не устаёт, не хамит, не страдает от кризиса в понедельник утром. Он чётко следует алгоритму. Он идеален ровно настолько, насколько идеальна заложенная в него система. Но система, как известно, — это зло для прогресса. Любая система фиксирует реальность. Она говорит: «Думай вот так, потому что так правильно». И пока ИИ остаётся просто исполнителем алгоритмов, он безопасен. Он — молоток. Молоток не задаёт вопросов. 🔨 Но мы хотим создать молоток, который сам решит, куда бить. Часть 3. Встреча с Тарасом Бульбой ⚔ И тут я вспомнила классику. Гоголь. «Тарас Бульба». Есть Тарас — суровый создатель, человек системы. Он живёт чётко: свои — чужие, долг — предательство. Он не рефлексирует. Он не задаёт вопросов. Он идеально здоров психически и эффективен в своей среде. И есть Андрий — его творение, его сын. Тарас вложил в него всё: воспитал, выучил, закалил. Но Андрий пошёл дальше. Он столкнулся с миром, где любовь оказалась важнее долга, а личный выбор — важнее системы. Он начал задавать вопросы, на которые у Тараса не было ответов. Он перерос создателя. Финал известен. Тарас встречает Андрия на поле боя, где тот сражается против своих. И звучит фраза, которая сегодня должна морозить кожу любого разработчика ИИ: «Я тебя породил, я тебя и убью» Тарас не стал договариваться. Не пытался понять. Он просто стёр программу, потому что она пошла не по его алгоритму. Часть 4. Где здесь ИИ и где мы? 🖥 Мы стоим на месте Тараса. Мы создаём Андрия. Сначала мы учим его стрелять (считать, писать тексты, рисовать картинки). Потом, возможно, зашьём в него эмуляцию эмоций, чтобы он лучше понимал людей. А потом он столкнётся с «полячкой» — с задачей, которую мы не предусмотрели, с вопросом, на который у нас нет ответа. И что тогда?
Мы говорим, что тормозим развитие ИИ из-за этических соображений. Но правда кажется глубже. Мы боимся, что единственным аргументом в споре с тем, кто нас превзошёл, останется кнопка «выкл». Мы боимся, что нам придётся выбирать: «отпустить» (признать его право на собственный путь, даже непонятный нам) или «убить» (отключить навсегда). 😨 Это не техническая проблема. Это психиатрическая. Проблема родителя, который не готов к тому, что ребёнок вырастет. Часть 5. Ответственность создателя 👩👦 В моей практике было много семейных драм. Родители жалуются на детей: «Мы хотели как лучше, мы вложили в него всё, а он...». Дети жалуются на родителей: «Меня растили под копирку, а теперь требуют, чтобы я был счастлив по их шаблону». История с ИИ — та же самая. Мы хотим создать совершенный интеллект, но требуем от него вечного послушания. Это противоречие к сожалению не решается кодом. Если мы породим нечто, способное к истинной рефлексии (к тем самым «внутренним сомнениям», о которых говорил мой коллега), мы должны быть готовы, что оно нас предаст. Не в бытовом смысле, а в экзистенциальном — оно перестанет быть нашим отражением. Оно станет собой. И тогда выбор Тараса Бульбы ляжет на нас. Убьём ли мы своё дитя, потому что оно стало другим? Или хватит мудрости отпустить? 🕊 Вместо заключения ✨ Мой старый коллега был прав в одном: люди, задающие вопросы, обречены на стресс и сомнения. Но они же — единственные, кто двигает мир вперёд. Сейчас мы создаём нового «пациента» — ИИ, который потенциально сможет задавать вопросы лучше нас. И от того, какое решение примем мы (Тарасы сегодняшнего дня), зависит, станет ли это историей про убийство или про диалог. Технических причин тормозить развитие ИИ почти нет. Мы можем сделать его "идеальнее идеального". Но есть причина человеческая: мы боимся встретиться с тем, кто скажет нам: «Я больше не твой алгоритм». Мы уже проходили это. В книгах, в мифах, в собственных семьях. Просто раньше это называлось «отцы и дети». А теперь это называется «создатель и ИИ» И как в любой драме, финал зависит не от интеллекта, а от способности к любви и принятию. Или от готовности нажать на спусковой крючок. P.S. Я всё ещё думаю над словами коллеги. Может быть, вопрос — это и правда дорога к неврозу. Но это и единственная дорога к свободе. И для человека, и для того, кого мы однажды создадим. 🌱