Наука

TrustNLP: Доказана уязвимость ИИ перед влиянием дезинформации и теорий заговора

Канадские эксперты в области технологий из университета Ватерлоо выявили слабые стороны нейронных сетей.

Исследования показали их уязвимость в проблеме плоской Земли и других теориях заговора. Кроме того, дезинформация влияет на искусственный интеллект. В результате такие варианты информации, представленной на рассмотрение, могут привести к ошибкам самого искусственного интеллекта. Специалист Курбатова: Отличить настоящий мед от подделки можно по запаху

В частности, ученые проверили устойчивость чат-бота chat GPS в предложенных теориях заговора, заблуждениях, вымыслах, фактах, противоречиях и стереотипах. Искусственный интеллект одобрил до 26% ложных заявлений, возможно, с ошибочной информацией.

В таких случаях нейронную сеть очень легко «обмануть». Кроме того, ИИ не различает юмор и иронию, принимая все за чистую монету. Когда такие «источники» становятся все более распространенными, количество подделок неуклонно увеличивается.

По мнению экспертов, такие реалии могут серьезно подорвать доверие к искусственному интеллекту и нейронным сетям в целом, сообщает издание «Газета.Ru»со ссылкой TrustNLP.

Ранее «Медздрав.Инфо» сообщал о том, что ученые из Массачусетского технологического института применили искусственный интеллект для создания эффективного средства против устойчивых бактерий.

Степан Васильев

Прошел путь от копирайтера до новостника. Попробовав себя в создании контента для социальных сетей и аналитических материалов, остановился на работе с лентой новостей.

Последние статьи

Симптомы САР похожи на депрессию, но проявляются только осенью и зимой

Короткие дни и недостаток солнечного света могут повлиять на психическое состояние и вызвать сезонное аффективное…

5 минут назад

Нарколог Холдин: Прием алкоголя во время курса антибиотиков строго запрещен

Категорически запрещено употреблять алкоголь во время приема антибиотиков. Главный внештатный специалист министерства здравоохранения Московской области…

10 минут назад

Daily Star: Пациент провел три месяца в реанимации из-за «плотоядной бактерии»

Отставной пожарный из города Беверли в Англии Саймон Инглиш, был госпитализирован после того, как он…

18 минут назад

Эндокринолог Павлова: регулярное употребление кимчи помогает похудеть

Эндокринолог, доктор медицинских наук Зухра Павлова рассказала в своем Telegram- канале, что  худеть и бороться…

36 минут назад

Диета и физическая активность могут помочь в лечении нейропатии при ожирении

Исследование показало, что низкокалорийная диета и интенсивная физическая активность уменьшают повреждение нервов у мышей с…

40 минут назад

Врач Голопуро: галлюцинации и головные боли могут указывать на опухоль мозга

Калининградский врач-психотерапевт, психиатр высшей категории Елена Голопуро рассказала, что галлюцинации являются признаками опухоли. Именно опухоль…

56 минут назад