AI Toolkit

MCP серверы, LSP, скиллы, плагины, AI-модели и другие инструменты

1 инструментов Сбросить

llamafile

v0.10.3
Framework Dev Tools Open Source

by Mozilla

✔ Windows, macOS, Linux, FreeBSD

Формат дистрибуции LLM от Mozilla: один исполняемый файл содержит и модель, и веб-сервер, и CLI. Работает на любой платформе без установки зависимостей — просто скачать …

# Скачать готовый llamafile (пример: Mistral 7B) curl -LO https://huggingface.co/Mozilla/Mistral-7B-Instruct-v0.2-llamafile/resolve/main/mistral-7b-instruct-v0.2.Q4_0.llamafile chmod +x mistral-7b-instruct-v0.2.Q4_0.llamafile ./mistral-7b-instruct-v0.2.Q4_0.llamafile # Откроет браузер с чатом на localhost:8080 # Также доступен OpenAI-совместимый API