AI Toolkit

MCP серверы, LSP, скиллы, плагины, AI-модели и другие инструменты

2 инструментов Сбросить

ChatGPT DAN

v1.0.0
Skill AI Assistants Open Source

by 0xk1h0 (community)

✔ ChatGPT, Claude, Gemini, любые LLM

Архив джейлбрейк-промптов и техник обхода ограничений LLM для исследований в области AI security и red teaming. Документирует DAN (Do Anything Now) и другие техники. Содержит: …

# Клонировать: git clone https://github.com/0xk1h0/ChatGPT_DAN # Просмотр: cat ChatGPT_DAN/README.md # Использование для red team: # Тестировать промпты на целевой системе # Анализировать паттерны для улучшения защиты

promptfoo

v0.121.17
Framework Dev Tools Open Source

by promptfoo (open source)

✔ Node.js, Python, любые LLM через API

Инструмент для тестирования, оценки и red-teaming LLM-приложений. Позволяет сравнивать провайдеров, тестировать промпты на наборе тест-кейсов и автоматически находить уязвимости (джейлбрейки, prompt injection). Возможности: - Eval: …

# npm: npm install -g promptfoo # Инициализация проекта: promptfoo init # Запуск оценки: promptfoo eval # Просмотр результатов в браузере: promptfoo view # Red team тест: promptfoo redteam run