Тег: llm-security | Каталог инструментов

Сбросить

Тег: llm-security ×

Exploitation

Фреймворк для автоматизированного тестирования безопасности AI и LLM эндпоинтов, выполняющий задачи от разведки до эксплуатации, включая prompt injection и jailbreak-тестирование.

GitHub Forgejo Mirror

pip install aix-framework pip install aix-framework[ml]

admin ★ 48

Garak

Exploitation

Сканер уязвимостей LLM, проверяющий большие языковые модели на слабые места безопасности, галлюцинации и проблемы prompt injection.

GitHub Forgejo Mirror

python -m pip install -U garak

admin ★ 9.1k

MetaLLM

Exploitation

Фреймворк в стиле Metasploit для тестирования безопасности AI и ML с более чем 40 эксплойт-модулями, нацеленными на уязвимости из OWASP LLM Top 10.

GitHub Forgejo Mirror

git clone https://github.com/scthornton/MetaLLM.git cd MetaLLM python -m venv venv source venv/bin/activate pip install -r requirements.txt

admin ★ 7

Wallbreaker

Exploitation

Терминальный харнесс с открытым исходным кодом для авторизованного red-team тестирования систем на базе языковых моделей с несколькими научно обоснованными сценариями оценки.

GitHub Forgejo Mirror

git clone https://github.com/JailbrokenAI/wallbreaker.git cd wallbreaker python -m venv .venv . .venv/bin/activate python -m pip install -e ".[dev,dashboard]" cp config.example.toml config.toml

admin ★ 1.3k

Каталог инструментов

Категории

Сортировка