Ollama

by Ollama · Llama, DeepSeek, Qwen, Gemma и др. открытые модели

Framework Dev Tools Open Source v0.32.4 · 25.07.2026 активный

Запускает большие языковые модели локально одной командой — без ручной настройки окружения, драйверов и весов. Скачивает, квантует и обслуживает модели через простой CLI и OpenAI-совместимый API. Стал стандартом де-факто для локального запуска LLM благодаря невероятной простоте использования.

GitHub
llm go local-llm dev-tools inference
Версии
v0.32.4
25.07.2026 current
Dev Tools
Похожие инструменты
llama.cpp
Dev Tools

Инференс LLM на чистом C/C++ без тяжёлых зависимостей — работает буквально везде: от смартфона и Raspberry …
vLLM
Dev Tools

Инференс-движок для больших языковых моделей с экстремальной пропускной способностью: ключевая технология — PagedAttention, управляющая памятью GPU …
llamafile
Dev Tools

Формат дистрибуции LLM от Mozilla: один исполняемый файл содержит и модель, и веб-сервер, и CLI. Работает …
Dify
Dev Tools

Открытая платформа для визуальной разработки agentic-приложений на LLM: конструктор workflow, RAG-пайплайны, управление промптами и моделями — …
Установка 
curl -fsSL https://ollama.com/install.sh | sh

ollama run llama3.2
ollama pull deepseek-r1
# OpenAI-совместимый API на localhost:11434
показать оригинал переведено ИИ

ollama

Ollama

Начните разработку с открытыми моделями.

Загрузка

macOS

curl -fsSL https://ollama.com/install.sh | sh

или загрузите вручную

Windows

irm https://ollama.com/install.ps1 | iex

или загрузите вручную

Linux

curl -fsSL https://ollama.com/install.sh | sh

Инструкция по ручной установке

Docker

Официальный Docker-образ Ollama ollama/ollama доступен на Docker Hub.

Библиотеки

Сообщество

Начало работы

ollama

Вам будет предложено запустить модель или подключить Ollama к вашим существующим агентам или приложениям, таким как Claude Code, OpenClaw, OpenCode, Codex, Copilot и другим.

Программирование

Чтобы запустить конкретную интеграцию:

ollama launch claude

Поддерживаемые интеграции включают Claude Code, Codex, Copilot CLI, Droid и OpenCode.

AI-ассистент

Используйте OpenClaw, чтобы превратить Ollama в персонального AI-ассистента в WhatsApp, Telegram, Slack, Discord и других сервисах:

ollama launch openclaw

Чат с моделью

Запустите и пообщайтесь с Gemma 4:

ollama run gemma4

Полный список см. на ollama.com/library.

Для получения дополнительных сведений см. руководство по началу работы.

REST API

Ollama имеет REST API для запуска и управления моделями.

curl http://localhost:11434/api/chat -d '{
  "model": "gemma4",
  "messages": [{
    "role": "user",
    "content": "Why is the sky blue?"
  }],
  "stream": false
}'

Полный список доступных эндпоинтов см. в документации API.

Python

pip install ollama

from ollama import chat

response = chat(model='gemma4', messages=[
  {
    'role': 'user',
    'content': 'Why is the sky blue?',
  },
])
print(response.message.content)

JavaScript

npm i ollama

import ollama from "ollama";

const response = await ollama.chat({
  model: "gemma4",
  messages: [{ role: "user", content: "Why is the sky blue?" }],
});
console.log(response.message.content);

Поддерживаемые бэкенды

  • Проект llama.cpp, основанный Георгием Гергановым.

Документация

Интеграции сообщества

Хотите добавить свой проект? Откройте pull request.

Интерфейсы для чата

Веб

  • Open WebUI - Расширяемый, самохостируемый интерфейс AI
  • Onyx - Связанный рабочий пространство AI
  • LibreChat - Улучшенный клон ChatGPT с поддержкой нескольких провайдеров
  • Lobe Chat - Современный фреймворк для чата с экосистемой плагинов (документация)
  • NextChat - Кроссплатформенный интерфейс ChatGPT (документация)
  • Perplexica - AI-поисковая система, open-source альтернатива Perplexity
  • big-AGI - Набор AI инструментов для профессионалов
  • Lollms WebUI - Веб-интерфейс для нескольких моделей
  • ChatOllama - Чат-бот с базами знаний
  • Bionic GPT - Локальная AI платформа
  • Chatbot UI - Веб-интерфейс в стиле ChatGPT
  • Hollama - Минималистичный веб-интерфейс
  • Chatbox - Десктопный и веб клиент AI
  • chat - Веб-приложение для чата для команд
  • Ollama RAG Chatbot - Чат с несколькими PDF с использованием RAG
  • Клиент на Tkinter - Десктопный клиент на Python

Десктоп

  • Dify.AI - Платформа для разработки LLM-приложений
  • AnythingLLM - Универсальное AI-приложение для Mac, Windows и Linux
  • Maid - Кроссплатформенный клиент для мобильных и десктопных устройств
  • Witsy - Десктопное AI-приложение для Mac, Windows и Linux
  • Cherry Studio - Десктопный клиент с несколькими провайдерами
  • Ollama App - Клиент для десктопных и мобильных устройств на нескольких платформах
  • PyGPT - Десктопный AI-ассистент для Linux, Windows и Mac
  • Alpaca - GTK4 клиент для Linux и macOS
  • SwiftChat - Кроссплатформенное приложение, включая iOS, Android и Apple Vision Pro
  • Enchanted - Нативный клиент для macOS и iOS
  • RWKV-Runner - Десктопный запускатель для нескольких моделей
  • Ollama Grid Search - Оценка и сравнение моделей
  • macai - Клиент для macOS для Ollama и ChatGPT
  • AI Studio - Десктопная IDE с несколькими провайдерами
  • Reins - Настройка параметров и поддержка моделей рассуждений
  • ConfiChat - С акцентом на конфиденциальность с опциональным шифрованием
  • LLocal.in - Десктопный клиент на Electron
  • MindMac - AI чат клиент для Mac
  • Msty - Десктопный клиент для нескольких моделей
  • BoltAI for Mac - AI чат клиент для Mac
  • IntelliBar - AI-помощник для macOS
  • Kerlig AI - AI текстовый помощник для macOS
  • Hillnote - AI-рабочее пространство, ориентированное на Markdown
  • Perfect Memory AI - Персонализированный AI для повышения производительности на основе истории экранов и встреч

Мобильные

SwiftChat, Enchanted, Maid, Ollama App, Reins и ConfiChat, перечисленные выше, также поддерживают мобильные платформы.

Редакторы кода и разработка

  • Cline - Расширение для VS Code для кодирования в нескольких файлах/во всем репозитории
  • Continue - Open-source AI-ассистент для кода для любой IDE
  • Void - Open source AI-редактор кода, альтернатива Cursor
  • Copilot for Obsidian - AI-ассистент для Obsidian
  • twinny - Альтернатива Copilot и Copilot chat
  • gptel Emacs клиент - LLM клиент для Emacs
  • Ollama Copilot - Используйте Ollama как GitHub Copilot
  • Obsidian Local GPT - Локальный AI для Obsidian
  • Ellama Emacs клиент - LLM инструмент для Emacs
  • orbiton - Текстовый редактор без конфигурации с автодополнением Ollama
  • AI ST Completion - AI-ассистент для Sublime Text 4
  • VT Code - Терминальный агент для кодирования на Rust с Tree-sitter
  • QodeAssist - AI-ассистент для Qt Creator
  • AI Toolkit for VS Code - Официальное расширение Microsoft для VS Code
  • Open Interpreter - Интерфейс на естественном языке для компьютеров

Библиотеки и SDK

Фреймворки и Агенты

  • AutoGPT - Платформа автономных AI-агентов
  • crewAI - Фреймворк оркестрации множества агентов
  • Strands Agents - Создание управляемых моделями агентов от AWS
  • Cheshire Cat - Фреймворк AI-ассистента
  • any-agent - Единый интерфейс фреймворка агентов от Mozilla
  • Stakpak - Агент DevOps с открытым исходным кодом
  • Hexabot - Конструктор диалогового AI
  • Neuro SAN - Оркестрация множества агентов (документация)

RAG и Базы Знаний

  • RAGFlow - Движок RAG, основанный на глубоком понимании документов
  • R2R - Движок RAG с открытым исходным кодом
  • MaxKB - Готовый к использованию чат-бот с RAG
  • Minima - Локальный RAG, работающий на вашем оборудовании
  • Chipper - AI-интерфейс с RAG на Haystack
  • ARGO - RAG и глубокие исследования на Mac/Windows/Linux
  • Archyve - Библиотека документов для реализации RAG
  • Casibase - База знаний AI с RAG и SSO
  • BrainSoup - Нативный клиент с RAG и автоматизацией множества агентов

Боты и Мессенджеры

Терминал и CLI

  • aichat - Всё-в-одном CLI для LLM с Shell-ассистентом, RAG и AI-инструментами
  • oterm - Терминальный клиент для Ollama
  • gollama - Менеджер моделей для Ollama на Go
  • tlm - Локальный помощник для оболочки
  • tenere - TUI для LLM
  • ParLlama - TUI для Ollama
  • llm-ollama - Плагин для CLI-клиента LLM от Datasette
  • ShellOracle - Предложение команд оболочки
  • LLM-X - Прогрессивное веб-приложение для LLM
  • cmdh - Естественный язык в команды оболочки
  • VT - Минимальное мультимодальное AI-приложение для чата

Продуктивность и Приложения

  • AppFlowy - AI-совместимое рабочее пространство, самохостируемая альтернатива Notion
  • Screenpipe - Запись экрана и микрофона 24/7 с поиском на базе AI
  • Vibe - Транскрипция и анализ совещаний
  • Page Assist - Расширение Chrome для AI-помощи при просмотре
  • NativeMind - Приватный AI-ассистент для браузера, работающий на устройстве
  • Ollama Fortress - Прокси безопасности для Ollama
  • 1Panel - Веб-управление Linux-сервером
  • Writeopia - Текстовый редактор с интеграцией Ollama
  • QA-Pilot - Понимание репозиториев кода на GitHub
  • Расширение для Raycast - Ollama в Raycast
  • Painting Droid - Приложение для рисования с интеграциями AI
  • Serene Pub - Приложение для AI-ролевых игр
  • Mayan EDMS - Управление документами с рабочими процессами Ollama
  • TagSpaces - Управление файлами с AI-тегированием

Наблюдаемость и Мониторинг

  • Opik - Отладка, оценка и мониторинг приложений на LLM
  • OpenLIT - Наблюдаемость на основе OpenTelemetry для Ollama и GPU
  • Lunary - Наблюдаемость LLM с аналитикой и маскировкой PII
  • Langfuse - Наблюдаемость LLM с открытым исходным кодом
  • HoneyHive - AI-наблюдаемость и оценка для агентов
  • Трассировка MLflow - Наблюдаемость LLM с открытым исходным кодом

Базы данных и Эмбеддинги

  • pgai - PostgreSQL как векторная база данных (руководство)
  • MindsDB - Соединение Ollama с 200+ платформами данных
  • chromem-go - Встраиваемая векторная база данных для Go (пример)
  • Kangaroo - AI-клиент для SQL

Инфраструктура и Развёртывание

Облачные сервисы

  • Google Cloud
  • Fly.io
  • Koyeb
  • Harbor - Инструментарий для контейнеризированных LLM с Ollama в качестве бэкенда по умолчанию

Менеджеры пакетов

Комментарии
Войдите, чтобы оставить комментарий