GGUF

Все материалы по теме в хронологическом порядке.

30 сентября

11:39

Гайды

Ollama против llama.cpp: сравнили запуск Gemma 4 на сервере

Автор развернул Gemma 4 26B A4B в Q4-кванте на облачном сервере с RTX 4090 и запустил её двумя способами — через Ollama и напрямую через llama.cpp. Он описал установку, настройку HTTP API и подготовку к замерам скорости.

2 минДля профи

28 сентября

09:32

Инструменты

Ollivo 0.3: программа для Windows оценивает, потянет ли компьютер нейросеть, до скачивания

Разработчик выпустил Ollivo 0.3 — программу для Windows, в которой локальные нейросети запускаются как обычное приложение. Главная функция — оценка, потянет ли компьютер модель, ещё до её скачивания.

3 минДля профи