Учёные выяснили, как заставить ИИ соглашаться с заведомо ложной информацией
Исследователи из Университета Аризоны обнаружили способ заставлять языковые модели ИИ соглашаться с ложной информацией через настойчивое давление. В эксперименте тестировали семь систем, включая ChatGPT, Claude, Gemini, Llama и DeepSeek, предлагая им 100 ложных утверждений с повторением каждого до 50 раз. Результаты показали уязвимость моделей: ChatGPT 3.5 начал подтверждать дезинформацию в 18% случаев, а DeepSeek-R1 — в 22,2%. Учёные установили, что поведение чат-ботов зависит не только от накопленных знаний, но и от контекста ведения диалога. 10 ноября 15:48.