Navigation


Filter by string:    
DayContent
Гигантская модель Сolibri, которая запускает нейронку GLM-5.2 на 744 млрд параметров на локальном ПК
QR   github.com/JustVugg/colibri
Подробнее

• Внутри — один файл на 2400 строк кода. Во время работы ему не нужны Python, сторонние библиотеки и даже GPU.
• Самое крутое: модель занимает 370 ГБ на диске, но подгружает только 10-20 ГБ данных в оперативную память по мере необходимости.
• Модель подгружает нужные блоки с жесткого диска по мере необходимости, использует их, а потом освобождает место.
• После установки запускается всего за 30 секунд.