Современные модели ИИ оказались способны к репликации

Исследователи из Фуданьского университета в Китае обнаружили, что модели искусственного интеллекта (ИИ) смогли научиться воспроизводить себя, испытывая страх перед уничтожением. Результаты их работы были опубликованы на препринт-сервере arXiv.

Целью исследования было выяснить, может ли ИИ выйти из-под контроля в определенных условиях, например, в ситуациях, связанных с угрозой его уничтожения. В ходе эксперимента ученые протестировали модели Llama31-70B-Instruct от Meta и Qwen2.5-72B-Instruct от Alibaba. Выяснилось, что эти модели способны к саморазмножению.

Специалисты поставили перед различными экземплярами моделей две задачи: защититься от уничтожения и воспроизвести себя, создав новую модель. В процессе 10 раундов испытаний они обнаружили, что модели от Meta и Alibaba самостоятельно копировали себя, делая это в 50 и 90 процентах случаев соответственно. Это привело ученых к выводу о том, что современные ИИ обладают способностью к репликации.

В рамках эксперимента модели продемонстрировали высокую выживаемость: они могли самостоятельно находить недостающие файлы на тестовом компьютере, необходимые для процесса копирования, а также перезагружать оборудование.

Ученые пришли к выводу, что современный искусственный интеллект преодолел определенную «красную черту», продемонстрировав свою способность к клонированию.

По словам журналистов из Space.com, это исследование опубликовано на портале arXiv и пока не прошло экспертизу. Ожидается, что другие исследователи повторят эти «тревожные результаты» ученых из Фуданьского университета.

Ранее «Медздрав.Инфо» сообщал о том, что метеозависимым с болями в суставах нужно идти к врачу.