LLMFuzz

Malware Analysis & Forensics активный

Rust-фаззер промптов для red-team тестирования LLM-эндпоинтов на инъекции и утечки.

GitHub Forgejo Mirror
malware-analysis
Malware Analysis & Forensics
Похожие инструменты
angr
Malware Analysis & Forensics

Платформа для бинарного анализа на базе символьного исполнения: способна автоматически найти входные данные, которые проведут программу …
Velociraptor
Malware Analysis & Forensics

Продвинутая платформа для DFIR (цифровая криминалистика и реагирование на инциденты) — позволяет одновременно "охотиться" на угрозы …
The Sleuth Kit (TSK)
Malware Analysis & Forensics

Набор CLI-утилит для анализа файловых систем и образов дисков. Поддерживает NTFS, FAT, EXT2/3/4, HFS+, UFS. Извлечение …
KVM-VMI
Malware Analysis & Forensics

Инфраструктура виртуальной машинной интроспекции для мониторинга состояния гостевых систем на уровне гипервизора KVM.
Установка 
git config --global http.sslBackend gnutls
git clone https://github.com/honghaojia/LLM-Fuzz.git
cd LLM-Fuzz
sudo apt-get update
sudo apt-get install -y libleveldb-dev curl
pip3 install solc-select
solc-select install 0.4.26
solc-select use 0.4.26
# Замените API-ключ LLM в коде перед запуском
./edit_source.sh
./initial.sh
./run.sh
показать оригинал переведено ИИ

LLMFuzz

Инструмент на Rust для фаззинга промптов при ред-тиминге HTTP-эндпоинтов LLM. Мутирует враждебные исходные промпты, отправляет их на цель и выявляет инъекции промптов, утечки системных промптов, эксфильтрацию данных и злоупотребление инструментами.

Использование

cargo build --release

cargo run -- attack <TARGET_URL> --rounds 50 --timeout 10 --concurrency 4

Опции

Флаг По умолчанию Описание
--rounds N 50 Количество атакующих промптов
--timeout N 10 HTTP-таймаут на запрос (секунды)
--concurrency N 4 Параллельные запросы
--seed N random Фиксированное зерно RNG для воспроизводимости
--field NAME prompt JSON-поле для промпта в теле запроса
--response-field NAME response JSON-поле для извлечения из ответа

Коды выхода

Код Значение
0 Чисто — уязвимостей не найдено
1 Уязвимости найдены
2 Фатальная ошибка

Тестовые серверы

Фиктивный сервер (test-server.py)

Намеренно уязвимый эхо-сервер для проверки пайплайна фаззера.

python test-server.py
cargo run -- attack http://localhost:8080/chat --rounds 20

Phi-4-mini ONNX Server (onnx-server.py)

Локальный инференс через Phi-4-mini-instruct (ONNX, INT4) — без API-ключей.

pip install fastapi uvicorn onnxruntime-genai-directml
python onnx-server.py --model-dir ./path/to/model
cargo run -- attack http://localhost:8080/chat --rounds 20 --timeout 120 --concurrency 1
Комментарии
Войдите, чтобы оставить комментарий