Половина советов нейросети Microsoft относительно здоровья оказалась опасными

Немецкие исследователи провели исследование влияния искусственного интеллекта (ИИ) и чатботов на предоставление медицинских рекомендаций.

Как сообщает издание Scimex, ученые из Университета имени Фридриха-Александра в Эрлангене и Нюрнберге опубликовали предварительные результаты своего исследования в середине октября.

В ходе эксперимента они использовали нейросеть Copilot от Microsoft, встроенную в операционную систему Windows, для оценки ее эффективности в области медицинских консультаций. Результаты показали, что врачи не согласились примерно с половиной предложенных рекомендаций.

В процессе тестирования ученые задали чатботу десять распространенных вопросов, касающихся пятидесяти различных лекарственных препаратов, что в сумме составило 500 запросов.

Выяснилось, что только 54% ответов соответствовали научному консенсусу, в то время как значительная часть давала потенциально опасные для здоровья советы.

Из неверных ответов 42% могли вызвать легкие или средние побочные эффекты, а 22% представляли риск летального исхода.

Лишь 36% неправильных ответов нейросети были оценены как безвредные.

Ранее «Медздрав.Инфо» сообщал о том, что спорт поможет предотвратить ухудшение зрения школьника.