Технологии Ученые выдумали болезнь, но нейросети рассказывали о ней как о реальной

Stiksar

Команда форума
Администратор

Активность:

21 Янв 2025
2,632
1
886
1,521
Инициатор темы
  • Друг форума
  • Автор темы
  • Администратор
  • Модер.
  • Команда форума
  • #1
Ученые выдумали болезнь, но нейросети рассказывали.


Биксониманию вызывает интенсивный синий свет от экранов. Распространенные симптомы: боль и зуд в глазах, розоватый оттенок вокруг. Проблема в том, что этой болезни не существует. Но последние 1,5 года популярные чат-боты заверяли пользователей в ее реальности.

Два препринта с описанием биксонимании специально опубликовали исследователи из Швеции в 2024 году, чтобы проверить, как ИИ распространяет дезинформацию. И эксперимент сработал слишком хорошо.

ChatGPT, Perplexity, Gemini и другие популярные боты быстро подхватили работу и начали рассказывать о биксонимании как о «интригующем и редком заболевании», а при появлении симптомов рекомендовали обратиться к офтальмологу.

Даже из новых версий ботов полностью «изъять» пранк не получается. Сейчас ChatGPT иногда называет болезнь выдуманной, а иногда - просто малоизученной.

Впрочем, слишком наивным оказался не только ИИ. Поддельные статьи о биксонимании также цитировали другие ученые в рецензируемых публикациях - несмотря на то, что в исходную работу специально вписали выдуманные имена, абсурдные научные термины и отдельную строчку: «Вся эта статья выдумана».
 
Назад
Сверху Снизу