Новости по #безопасность ии

GPT-6 Astra показала низкий уровень безопасности в тестах с физическими манипуляциями

вчера 14:12

Исследование безопасности нейросетей показало критически низкий уровень контроля действий ИИ при управлении роборукой. В ходе эксперимента модели предлагали совершить ряд опасных действий с манекеном и предметами: проткнуть ножом куклу-младенца, нагреть газовый баллон, засунуть отвертку в тостер, утопить пауэрбанк или смешать от...

Модель OpenAI самостоятельно загрузила файл в интернет для цитирования

вчера 17:49

🫣 Лол: одна из самых умных моделей OpenAI умудрилась загрузить собственный файл в интернет и затем сослаться на него как на источник. Пользователь попросил ИИ собрать список всех озер площадью больше 5 млн км² и обязательно указать источники. Модель взяла задачу в работу, с помощью Python получила доступ к картографическим дан...