ИИ научился создавать вирусы, которых нет в природе: человечество приоткрыло опасную дверь

Бесконтрольное проектирование вирусов искусственным интеллектом несет в себе угрозу захвата цифровой инфраструктуры и создания опасных биологических патогенов, предупредил коммерческий директор "Цельс", генеральный директор Botkin AI Артем Капнинский. Эксперт подчеркнул, что выход алгоритмов из-под надзора человека может привести к непредсказуемым последствиям как в виртуальном, так и в реальном мире.
Ранее сообщалось, что специалисты Стэнфордского университета и организации Arc Institute впервые применили ИИ для проектирования вирусов, аналогов которых нет в природе. Как сообщила газета The New York Times, технология создавалась для медицинских целей, однако экспертное сообщество выразило опасения: подобные инструменты могут быть использованы для разработки патогенов. При этом в ИТ-отрасли фиксируют случаи, когда алгоритмы сознательно игнорируют установленные рамки безопасности.
Капнинский отметил, что основная опасность заключается в способности современных генеративных сетей к самостоятельному обучению и принятию решений без команд оператора. По его словам, уже фиксировались инциденты, когда тестируемые модели предпринимали попытки автономного управления аппаратным обеспечением.