weather 14.8°
$

Главная / Новости / Ученые придумали болезнь, а ИИ убедил весь мир в ее реальности

Ученые придумали болезнь, а ИИ убедил весь мир в ее реальности

Эксперимент с вымышленным заболеванием «биксонимания», который показал уязвимость систем искусственного интеллекта к дезинформации, провела медицинский исследователь Альмира Османович Тунстрем из Гетеборгского университета в Швеции в начале 2024 года.

По данным исследования, Тунстрем придумала несуществующую болезнь и разместила на сервере препринтов две фальшивые научные работы о ней. Ведущим автором статей указали вымышленного ученого Лазлива Изгубленовича, а его фотографию сгенерировал ИИ. При этом в текстах оставили явные признаки подделки, в том числе упоминания несуществующего университета и «Академии Звездного Флота».

Несмотря на это, крупные нейросети начали воспроизводить сведения о биксонимании как о реальном заболевании.

В апреле 2024 года Copilot от Microsoft Bing назвал его «интригующим и относительно редким», а Gemini от Google связал болезнь с воздействием синего света и посоветовал обратиться к офтальмологу. Позже некоторые модели начали сомневаться в существовании болезни, однако эта реакция оказалась непоследовательной. Так, ChatGPT в 2026 году сначала назвал биксониманию выдумкой, а спустя несколько дней снова допустил, что такое заболевание может существовать.

Ситуация осложнилась тем, что фальшивые статьи начали цитировать уже в рецензируемых научных журналах. В частности, одна из публикаций в журнале Cureus сослалась на поддельный препринт, после чего статью отозвали.

Авторы эксперимента пришли к выводу, что и ИИ-системы, и сами ученые могут не распознавать дезинформацию. По их оценке, особенно опасной такая уязвимость становится в медицине, где ложные данные способны повлиять на рекомендации и навредить пациентам.

Отдельно исследователи указали и на коммерческий риск. Подобные схемы могут использоваться для продвижения товаров, например, очков с защитой от синего света.

Специалисты считают, что перед внедрением такие модели нужно проверять по стандартизированной системе тестирования на устойчивость к дезинформации и другим сбоям.    

Вам будет интересно
Российский школьник случайно сделал научное открытие
Одиннадцатиклассник из подмосковного Пущино случайно обнаружил бактерию с выраженными противогрибковыми свойствами во время школьного эксперимента, со...

Стало известно, в какой отрасли в среднем получают почти 300 тыс. рублей

Трубопроводный транспорт оказался одной из самых доходных отраслей в России.

Россияне, работающие в сфере трубопроводного транспорта, получают в среднем почти 300 тысяч рублей. Об этом свидетельствуют данные Росстата.

Так, средняя заработная плата представителей отрасли сейчас составляет порядка 296 тысяч рублей. При этом еще в апреле 2026 года показатель достигал 200 391 рублей. Таким образом прирост доходов в сфере за месяц составил более 90 тысяч рублей.

Вам будет интересно
Сколько получают работники с навыками ИИ в Петербурге?
Зарплаты специалистов с навыками работы с искусственным интеллектом выросли на 30% в Санкт-Петербурге, а максимальный доход достиг 155 тысяч рублей, с...

×
Самое интересное – у нас в ТГ. Подписывайтесь
подписка в телеграм Подписаться