Исследовательница OpenAI поделилась глубоким техническим разбором устройства LLM
Большие языковые модели разобрали ПО ВИНТИКАМ — исследовательница OpenAI Алиса Лю выложила бесплатный конспект об устройстве LLM, который помог ей залететь на работу в корпу 😮
Внутри — от отдельных нейронов и основ обучения до устройства трансформеров, ускорения генерации и работы на нескольких видеокартах. Разобраны KV-кэш, Fl...
Текст новости загружается...