by sigoden (community) · Windows, macOS, Linux — любой терминал

переведено ИИ

AIChat: Универсальный CLI-инструмент для работы с LLM

AIChat — это универсальный CLI-инструмент для работы с LLM, включающий ИИ-ассистента для оболочки, режимы CMD и REPL, RAG, ИИ-инструменты и агенты, а также многое другое.

Установка

Менеджеры пакетов

Разработчики на Rust: cargo install aichat
Пользователи Homebrew/Linuxbrew: brew install aichat
Пользователи Pacman: pacman -S aichat
Пользователи Windows Scoop: scoop install aichat
Пользователи Android Termux: pkg install aichat

Готовые бинарные файлы

Скачайте готовые бинарные файлы для macOS, Linux и Windows на странице GitHub Releases, распакуйте их и добавьте бинарный файл aichat в ваш $PATH.

Возможности

Множество провайдеров

Бесшовная интеграция с более чем 20 ведущими провайдерами LLM через единый интерфейс. Поддерживаемые провайдеры включают OpenAI, Claude, Gemini (Google AI Studio), Ollama, Groq, Azure-OpenAI, VertexAI, Bedrock, Github Models, Mistral, Deepseek, AI21, XAI Grok, Cohere, Perplexity, Cloudflare, OpenRouter, Ernie, Qianwen, Moonshot, ZhipuAI, MiniMax, Deepinfra, VoyageAI, а также любой провайдер с API, совместимым с OpenAI.

Режим CMD

Исследуйте мощные командные функции с режимом CMD в AIChat.

aichat-cmd

Режим REPL

Интерактивный чат-REPL с такими функциями, как автодополнение по Tab, поддержка многострочного ввода, поиск по истории, настраиваемые привязки клавиш и пользовательские приглашения REPL.

aichat-repl

ИИ-ассистент для оболочки

Повышайте эффективность работы в командной строке. Опишите задачу естественным языком, и AIChat превратит её в точные команды оболочки. AIChat интеллектуально адаптируется к вашей ОС и среде оболочки.

aichat-execute

Множественные формы ввода

Поддержка различных форм ввода, таких как stdin, локальные файлы и директории, а также удалённые URL-адреса, обеспечивая гибкость в работе с данными.

Ввод	CMD	REPL
CMD	`aichat hello`
STDIN	`cat data.txt \\| aichat`
Последний ответ		`.file %%`
Локальные файлы	`aichat -f image.png -f data.txt`	`.file image.png data.txt`
Локальные директории	`aichat -f dir/`	`.file dir/`
Удалённые URL-адреса	`aichat -f https://example.com`	`.file https://example.com`
Внешние команды	aichat -f '`git diff`'	.file `git diff`
Комбинирование ввода	`aichat -f dir/ -f data.txt explain`	`.file dir/ data.txt -- explain`

Роль

Настраивайте роли для управления поведением LLM, повышая эффективность взаимодействия и продуктивность.

aichat-role

Роль состоит из промпта и конфигурации модели.

Сессия

Поддерживайте разговоры с учётом контекста с помощью сессий, обеспечивая непрерывность взаимодействия.

aichat-session

Слева используется сессия, справа — без сессии.

Макрос

Упрощайте повторяющиеся задачи, объединяя серию команд REPL в пользовательский макрос.

aichat-macro

RAG

Интегрируйте внешние документы в ваши разговоры с LLM для получения более точных и релевантных ответов.

aichat-rag

Вызов функций

Вызов функций расширяет возможности LLM, подключая их к внешним инструментам и источникам данных. Это открывает мир возможностей, позволяя LLM выходить за рамки своих базовых функций и решать более широкий спектр задач.

Мы создали новый репозиторий https://github.com/sigoden/llm-functions, чтобы помочь вам максимально эффективно использовать эту функцию.

ИИ-инструменты и MCP

Интегрируйте внешние инструменты для автоматизации задач, получения информации и выполнения действий непосредственно в вашем рабочем процессе.

aichat-tool

ИИ-агенты (CLI-версия OpenAI GPTs)

ИИ-агент = Инструкции (промпт) + Инструменты (вызовы функций) + Документы (RAG).

aichat-agent

Возможности локального сервера

AIChat включает встроенный легковесный HTTP-сервер для простого развёртывания.

$ aichat --serve
Chat Completions API: http://127.0.0.1:8000/v1/chat/completions
Embeddings API:       http://127.0.0.1:8000/v1/embeddings
Rerank API:           http://127.0.0.1:8000/v1/rerank
LLM Playground:       http://127.0.0.1:8000/playground
LLM Arena:            http://127.0.0.1:8000/arena?num=2

Проксирование LLM API

LLM Arena — это веб-платформа, на которой вы можете сравнить различные LLM бок о бок.

Тестирование с помощью curl:

curl -X POST -H "Content-Type: application/json" -d '{
  "model":"claude:claude-3-5-sonnet-20240620",
  "messages":[{"role":"user","content":"hello"}], 
  "stream":true
}' http://127.0.0.1:8000/v1/chat/completions

LLM Playground

Веб-приложение для взаимодействия с поддерживаемыми LLM непосредственно из вашего браузера.

aichat-llm-playground

LLM Arena

Веб-платформа для сравнения различных LLM бок о бок.

aichat-llm-arena

Пользовательские темы

AIChat поддерживает пользовательские тёмные и светлые темы, которые выделяют текст ответов и блоки кода.

aichat-themes

Документация

Лицензия

AIChat доступен на условиях лицензии MIT или лицензии Apache 2.0, по вашему выбору.

Подробности лицензии смотрите в файлах LICENSE-APACHE и LICENSE-MIT.

aichat