Недиагностированная угроза от доктора Алисы

Спонсор сегодняшнего вдохновения — Яндекс. Точнее — свеженький промптхаб компании. Собрали не просто каталог, а каталожище промптов.

Листаю страничку. Сценарии праздников, объяснение темы по информатике для заданного класса, организация хранения вещей в маленькой квартире, персонализированный уход за кожей лица...

Отступление от темы: чувствуете, сколько сразу рабочей силы высвободится для более творческих (креативных) задач? Такими темпами креативить скоро пойдут не только коучи, но и учителя, и косметологи. Это сарказм, если что. С большим уважением отношусь к любому труду.

Возвращаемся. И тут натыкаюсь на это: составление персональных планов для укрепления иммунитета.

Готовый промпт такой:

Далее — анкета с весом, ростом, данными по здоровью и просьба дать 10 конкретных рекомендаций, включая БАДы, питание и привычки.

Только задумайтесь. Компания, которая к медицине не имеет никакого отношения, через пользовательский контент предлагает непроверенным алгоритмам назначать «персональные» медицинские рекомендации. Агась. И БАДы назначит, и витаминчики подберёт. Вроде выглядит безобидно. Просто мечта... По факту в ответе ИИ вы увидите биоактивную добавку, которая не проходила клинические испытания, сертификацию и т.д. Что это значит? Эти продукты не только могут быть неэффективными, они потенциально несут вред здоровью, так как могут содержать токсичные вещества.

В чем ещё вижу проблему подобных рекомендаций от ИИ?

1. Иллюзия компетентности и отсутствие ответственности за ошибку. Нейросеть генерирует уверенный, структурированный текст, похожий на заключение специалиста. Только вот ИИшка не давала клятву врача. А Яндекс в ответ ИИ заботливо добавляет приписку:

Добавить, Карл, добавить (!) ИИ рекомендует добавить. Люди, доверяя авторитету громадной компании и убедительности ИИ, начнут слепо следовать советам. Пропустят реальные симптомы, начнут пить не те добавки или решат, что визит к живому специалисту — это лишнее.

Сейчас реальных врачей преследуют за онлайн-назначения, потому что они несут за них ответственность. Здесь же создаётся серая зона, где советует псевдо-врач, рекомендации которого могут навредить.

2. Фикция «персонального подхода». ИИ не проводит диагностику. Он обрабатывает шаблонные параметры ([35 лет], [68 кг]) и выдаёт усреднённый, пусть и красиво упакованный, набор рекомендаций. Настоящий врач, видя те же данные, задал бы десяток уточняющих вопросов. Нейросеть же просто играет в доктора по написанному кем-то сценарию.

В сухом остатке. Считаю, что ИТ-гигантам пора разделить ответственность с пользователями. Начать хотя бы как-то отвечать за контент, который создаётся с помощью их инструментов. Или как минимум надо Яндексу запретить давать иишке ЛЮБЫЕ советы на тему здоровья.