Ученые создали выдуманную болезнь, и ИИ поверил в нее: тревожный сигнал для всех

Исследователи из Калифорнийского университета в Сан-Франциско и Пенсильванского университета проверили способность систем искусственного интеллекта отличать реальные медицинские данные от вымышленных. Для этого ученые создали несуществующее заболевание глаз, которое назвали "биксонимания".
Авторы эксперимента разместили в сети подробное описание этой фальшивой болезни, указав симптомы, причины возникновения и возможные способы лечения. Целью теста было выяснить, распознают ли чат-боты на базе ИИ недостоверный контент.
Результаты показали, что многие системы приняли выдуманный диагноз за настоящий. Несмотря на отсутствие ссылок на научные работы или медицинскую литературу, нейросети не только подтвердили существование биксонимании, но и самостоятельно дополнили описание болезни новыми деталями.