Google убрала ИИ-обзоры медицинских анализов из результатов поиска

#google #ИИ #ихнравы

Google «почистила» результаты поиска с ответами ИИ по медицинским анализам

Компания Google удалила некоторые ИИ-обзоры AI Overviews, которые выдавались пользователям при поиске информации о результатах медицинских анализов, пишет Guardian. По данным издания, в обобщенном ответе на поисковые запросы AI Overviews искусственный интеллект (ИИ) выдавал такие толкования показателей из анализов, которые могли привести к ошибочным выводам и причинить вред здоровью.

Внимание журналистов привлек ответ нейросети на запрос о результатах анализов, направленных на выявление патологий печени. Они попросили экспертов прокомментировать обзор от ИИ, и те пришли к выводу, что в нем содержится ложная информация, способная дезориентировать людей с серьезными нарушениями работы печени и понапрасну их успокоить.

Несмотря на первоначальные возражения, Google удалила обзоры по поисковым запросам «нормальный диапазон анализов крови на функцию печени» и «нормальный диапазон анализов функции печени». «В случаях, когда обзоры ИИ не учитывают контекст, мы работаем над общими улучшениями, а также принимаем соответствующие меры в соответствии с нашей политикой», — прокомментировал изменения представитель компании.

Эксперты Guardian также подчеркивают факт субъективной оценки результатов поиска. В случае здоровья и медицинских вопросов рекомендации ИИ могут быть истолкованы неверно. И это один из самых главных минусов подобной информации.

Подписывайтесь на Telegram Medical Ксю.