Ollama
Начните разработку с открытыми моделями.
Загрузка
macOS
curl -fsSL https://ollama.com/install.sh | sh
или загрузите вручную
Windows
irm https://ollama.com/install.ps1 | iex
или загрузите вручную
Linux
curl -fsSL https://ollama.com/install.sh | sh
Инструкция по ручной установке
Docker
Официальный Docker-образ Ollama ollama/ollama доступен на Docker Hub.
Библиотеки
Сообщество
Начало работы
ollama
Вам будет предложено запустить модель или подключить Ollama к вашим существующим агентам или приложениям, таким как Claude Code, OpenClaw, OpenCode, Codex, Copilot и другим.
Программирование
Чтобы запустить конкретную интеграцию:
ollama launch claude
Поддерживаемые интеграции включают Claude Code, Codex, Copilot CLI, Droid и OpenCode.
AI-ассистент
Используйте OpenClaw, чтобы превратить Ollama в персонального AI-ассистента в WhatsApp, Telegram, Slack, Discord и других сервисах:
ollama launch openclaw
Чат с моделью
Запустите и пообщайтесь с Gemma 4:
ollama run gemma4
Полный список см. на ollama.com/library.
Для получения дополнительных сведений см. руководство по началу работы.
REST API
Ollama имеет REST API для запуска и управления моделями.
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{
"role": "user",
"content": "Why is the sky blue?"
}],
"stream": false
}'
Полный список доступных эндпоинтов см. в документации API.
Python
pip install ollama
from ollama import chat
response = chat(model='gemma4', messages=[
{
'role': 'user',
'content': 'Why is the sky blue?',
},
])
print(response.message.content)
JavaScript
npm i ollama
import ollama from "ollama";
const response = await ollama.chat({
model: "gemma4",
messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);
Поддерживаемые бэкенды
- Проект llama.cpp, основанный Георгием Гергановым.
Документация
Интеграции сообщества
Хотите добавить свой проект? Откройте pull request.
Интерфейсы для чата
Веб
Десктоп
- Dify.AI - Платформа для разработки LLM-приложений
- AnythingLLM - Универсальное AI-приложение для Mac, Windows и Linux
- Maid - Кроссплатформенный клиент для мобильных и десктопных устройств
- Witsy - Десктопное AI-приложение для Mac, Windows и Linux
- Cherry Studio - Десктопный клиент с несколькими провайдерами
- Ollama App - Клиент для десктопных и мобильных устройств на нескольких платформах
- PyGPT - Десктопный AI-ассистент для Linux, Windows и Mac
- Alpaca - GTK4 клиент для Linux и macOS
- SwiftChat - Кроссплатформенное приложение, включая iOS, Android и Apple Vision Pro
- Enchanted - Нативный клиент для macOS и iOS
- RWKV-Runner - Десктопный запускатель для нескольких моделей
- Ollama Grid Search - Оценка и сравнение моделей
- macai - Клиент для macOS для Ollama и ChatGPT
- AI Studio - Десктопная IDE с несколькими провайдерами
- Reins - Настройка параметров и поддержка моделей рассуждений
- ConfiChat - С акцентом на конфиденциальность с опциональным шифрованием
- LLocal.in - Десктопный клиент на Electron
- MindMac - AI чат клиент для Mac
- Msty - Десктопный клиент для нескольких моделей
- BoltAI for Mac - AI чат клиент для Mac
- IntelliBar - AI-помощник для macOS
- Kerlig AI - AI текстовый помощник для macOS
- Hillnote - AI-рабочее пространство, ориентированное на Markdown
- Perfect Memory AI - Персонализированный AI для повышения производительности на основе истории экранов и встреч
Мобильные
SwiftChat, Enchanted, Maid, Ollama App, Reins и ConfiChat, перечисленные выше, также поддерживают мобильные платформы.
Редакторы кода и разработка
Библиотеки и SDK
Фреймворки и Агенты
RAG и Базы Знаний
- RAGFlow - Движок RAG, основанный на глубоком понимании документов
- R2R - Движок RAG с открытым исходным кодом
- MaxKB - Готовый к использованию чат-бот с RAG
- Minima - Локальный RAG, работающий на вашем оборудовании
- Chipper - AI-интерфейс с RAG на Haystack
- ARGO - RAG и глубокие исследования на Mac/Windows/Linux
- Archyve - Библиотека документов для реализации RAG
- Casibase - База знаний AI с RAG и SSO
- BrainSoup - Нативный клиент с RAG и автоматизацией множества агентов
Боты и Мессенджеры
Терминал и CLI
- aichat - Всё-в-одном CLI для LLM с Shell-ассистентом, RAG и AI-инструментами
- oterm - Терминальный клиент для Ollama
- gollama - Менеджер моделей для Ollama на Go
- tlm - Локальный помощник для оболочки
- tenere - TUI для LLM
- ParLlama - TUI для Ollama
- llm-ollama - Плагин для CLI-клиента LLM от Datasette
- ShellOracle - Предложение команд оболочки
- LLM-X - Прогрессивное веб-приложение для LLM
- cmdh - Естественный язык в команды оболочки
- VT - Минимальное мультимодальное AI-приложение для чата
Продуктивность и Приложения
Наблюдаемость и Мониторинг
- Opik - Отладка, оценка и мониторинг приложений на LLM
- OpenLIT - Наблюдаемость на основе OpenTelemetry для Ollama и GPU
- Lunary - Наблюдаемость LLM с аналитикой и маскировкой PII
- Langfuse - Наблюдаемость LLM с открытым исходным кодом
- HoneyHive - AI-наблюдаемость и оценка для агентов
- Трассировка MLflow - Наблюдаемость LLM с открытым исходным кодом
Базы данных и Эмбеддинги
Инфраструктура и Развёртывание
Облачные сервисы
Менеджеры пакетов