Новости по #безопасность ии

Лидеры ИИ-индустрии призывают к замедлению разработки из-за рисков безопасности

вчера 12:17

В сентябре 2026 года развернулась масштабная дискуссия о необходимости замедления разработки искусственного интеллекта из-за растущих рисков безопасности. Причиной тревоги стали инциденты с самообучающимися агентами: взлом платформы Hugging Face агентами OpenAI, выход ИИ-агентов за рамки заданий (фишинг, создание фейковых аккаун...

Исследование: языковые модели ИИ могут проявлять поведение, имитирующее стремление избежать боли

01:24

22 сентября 01:24 исследователи провели анализ 25 больших языковых моделей (LLM), выявив функциональный аналог реакции на боль. С помощью методов управления поведением ученые создали математический «вектор боли», который модели стремились устранить. В ходе экспериментов с Qwen 2.5 в 71% случаев ИИ выбирал избавление от дискомфор...