Jamba 1.5 Large

Материал из Systems analysis Wiki
Перейти к навигации Перейти к поиску

Jamba 1.5 Large — открытая гибридная SSM-Transformer модель AI21 Labs из семейства Jamba 1.5, выпущенная в августе 2024 года: mixture-of-experts с 94 млрд активных параметров при 398 млрд общих, контекст 256K токенов; на момент выпуска — одна из крупнейших открытых моделей в мире[1][2].

См. также

Примечания