Наука

TrustNLP: Доказана уязвимость ИИ перед влиянием дезинформации и теорий заговора

Канадские эксперты в области технологий из университета Ватерлоо выявили слабые стороны нейронных сетей.

Исследования показали их уязвимость в проблеме плоской Земли и других теориях заговора. Кроме того, дезинформация влияет на искусственный интеллект. В результате такие варианты информации, представленной на рассмотрение, могут привести к ошибкам самого искусственного интеллекта. Специалист Курбатова: Отличить настоящий мед от подделки можно по запаху

В частности, ученые проверили устойчивость чат-бота chat GPS в предложенных теориях заговора, заблуждениях, вымыслах, фактах, противоречиях и стереотипах. Искусственный интеллект одобрил до 26% ложных заявлений, возможно, с ошибочной информацией.

В таких случаях нейронную сеть очень легко «обмануть». Кроме того, ИИ не различает юмор и иронию, принимая все за чистую монету. Когда такие «источники» становятся все более распространенными, количество подделок неуклонно увеличивается.

По мнению экспертов, такие реалии могут серьезно подорвать доверие к искусственному интеллекту и нейронным сетям в целом, сообщает издание «Газета.Ru»со ссылкой TrustNLP.

Ранее «Медздрав.Инфо» сообщал о том, что ученые из Массачусетского технологического института применили искусственный интеллект для создания эффективного средства против устойчивых бактерий.

Степан Васильев

Последние статьи

Scientific American: глубокий сон помогает справляться с болезнями

Недавнее исследование, проведенное с участием людей и мышей, выявило, что после инфаркта миокарда иммунные клетки…

2 часа назад

IV группа крови является самой уязвимой из всех

Недавние исследования выявили, что существует группа крови, владельцы которой более предрасположены к различным заболеваниям, что…

2 часа назад

Инфекционист Жуков: вспышка вируса Коксаки связана с нарушением санитарных норм

Вспышка заболеваемости, вызванная вирусом Коксаки, говорит о нарушении санитарных норм. Вероятнее всего, заражение происходило через…

2 часа назад

Новое активное вещество AC102 восстанавливает острые нарушения слуха

Ученые из Венского медицинского университета в сотрудничестве с коллегами из Германии разработали и протестировали на…

2 часа назад

Университет Трента: на процесс старения мышц влияют 200 генов

Исследователям из Ноттингемского университета Трента в Великобритании удалось выяснить механизмы, замедляющие процессы старения. . Их…

2 часа назад

В развитии болезни Паркинсона участвуют особые структуры РНК

Ученые из Университета Кумамото в Японии обнаружили, что специфические структуры РНК, известные как G-квадруплексы (G4),…

2 часа назад