Ученые Сбера выяснили, что большие языковые модели можно оптимизировать до 15% без потери качества

"Змея, которая не может сменить кожу, гибнет. То же и с умами, которым мешают менять мнения: они перестают быть умами." Фридрих Ницше

"Пришел я к горестному мнению от наблюдений долгих лет: вся сволочь склонна к единению, а все порядочные — нет. Игорь Губерман"


Ученые Сбера, лаборатории Fusion Brain Института AIRI и Сколтеха обнаружили принципиально новое свойство больших языковых моделей и научились контролировать его. Это позволит оптимизировать модели-трансформеры на 10–15% без потери в качестве, экономя вычислительные мощности.

Модели с



"На лишние деньги можно купить только лишнее. А из того, что необходимо душе, ничто за деньги не покупается.   Генри Торо"

Related posts