Фейковый мозговой центр Израиля пытался манипулировать ИИ¶
7.0/10
Расследование The Guardian показало, что Израиль создал и финансировал фейковый американский мозговой центр, который пытался влиять на ответы искусственного интеллекта и больших языковых моделей в пропагандистских целях. По данным расследования, организация публиковала материалы, оптимизированные для цитирования в ответах LLM, чтобы продвигать нужную точку зрения. Это новая форма манипуляции AI-системами, создающая риски для AI-безопасности и борьбы с дезинформацией.
Контекст¶
Расследование The Guardian выявило, что «Ганноверский институт публичной политики» — это фиктивный американский аналитический центр, созданный и финансируемый израильскими структурами для продвижения про-израильской повестки. Институт публиковал материалы на коммерческой платформе, которая обещает оптимизировать контент так, чтобы его цитировали AI-чатботы: за девять дней, с 6 по 14 августа, вышло 124 отчёта общим объёмом более 560 000 слов. Такие организации имитируют реальные исследовательские центры, чтобы повысить доверие к своим текстам и влиять на ответы больших языковых моделей.
Влияние¶
Для операторов чат-интерфейсов и исследователей ИИ это означает необходимость проверять происхождение и репутацию источников, на которые опираются модели, поскольку фейковые аналитические центры могут влиять на ответы LLM. Пользователи могут получать пропагандистские материалы под видом нейтральных экспертных источников.
Обсуждение¶
В обсуждении пользователи отмечают, что почти одновременно появились два разных фейковых think tank: International Burke Institute, связанный с Россией, и Hanover Institute for Public Policy, финансируемый Израилем. Также звучат призывы создать системы-«сторожа» для отслеживания подобных манипуляций в чат-интерфейсах, а один комментатор утверждает, что критика Израиля на HN не допускается.