Компания Anthropic, разработчик популярной ИИ-модели Claude, опубликовала статью с призывом к мировому сообществу замедлить или временно приостановить развитие передовых систем искусственного интеллекта. Сооснователь компании Джек Кларк и другие эксперты выражают серьезную обеспокоенность тем, что ИИ приближается к этапу «рекурсивного саморазвития» — способности систем самостоятельно совершенствовать свой код и создавать аналоги, что может привести к потере человеческого контроля над технологией.
Согласно данным Anthropic, темпы автономного выполнения задач ИИ значительно ускорились: если раньше они удваивались каждые 7 месяцев, то теперь — каждые 4 месяца. В текущих продуктах компании более 80% кода уже пишется самим ИИ, что ведет к кратному росту продуктивности инженеров, но одновременно снижает значимость человеческого труда.
Авторы статьи подчеркивают необходимость создания глобальной системы верификации и международных правил контроля, аналогичных договорам о ликвидации ядерного вооружения (например, Договору о ликвидации ракет средней и меньшей дальности), указывая на критическую нехватку времени для адаптации общества. Для эффективности таких мер призыв должен поддержать не только одна компания, но и все ведущие лаборатории, включая гигантов из США и Китая, чтобы избежать скрытого обучения новых моделей конкурентами. В ближайшее время Anthropic планирует обсудить это предложение с политиками, учеными и представителями гражданского общества.
Источники: https://www.anthropic.com/institute/recursive-self-improvement, https://www.bbc.com/russian/articles/cn8p82e80g4o, https://www.engadget.com/2188066/anthropic-proposes-global-ai-development-slowdown/
Рифмы и Панчи 🤯: Акцентирует внимание на технической стороне: ИИ уже пишет 80% кода и может работать 16+ часов автономно, что ведет к потере контроля.
Банкста: Передает опасения разработчиков о рисках для общества из-за слишком быстрых темпов прогресса нейросетей.
Медуза — LIVE: Подчеркивает необходимость глобальной системы контроля и проблему нехватки времени на адаптацию человечества к саморазвивающемуся ИИ.
Осторожно, новости: Детально описывает экономические риски (неконкурентоспособность человеческого труда) и необходимость участия всех мировых корпораций для предотвращения гонки вооружений в сфере ИИ.
BBC News | Русская служба: Кратко сообщает о призыве Джек Кларка создать механизмы замедления развития технологий.
concertzaal: Иронично отмечает, что лидеры отрасли сами просят «нажать на тормоз», намекая на усталость от бесконечной гонки технологий.
