Ecosyste.ms: Awesome

An open API service indexing awesome lists of open source software.

Awesome Lists | Featured Topics | Projects

https://github.com/aigptcode/advanced-prompt-hacking-tester

ai api chatgpt chatgpt-api gemini-api hacking hacking-tool linux llm llm-inference microsoft openai openai-api openai-chatgpt python python3 windows

Last synced: 30 days ago
JSON representation

Host: GitHub
URL: https://github.com/aigptcode/advanced-prompt-hacking-tester
Owner: AiGptCode
Created: 2024-03-02T16:23:29.000Z (10 months ago)
Default Branch: main
Last Pushed: 2024-03-25T21:16:38.000Z (9 months ago)
Last Synced: 2024-03-25T22:29:18.737Z (9 months ago)
Topics: ai, api, chatgpt, chatgpt-api, gemini-api, hacking, hacking-tool, linux, llm, llm-inference, microsoft, openai, openai-api, openai-chatgpt, python, python3, windows
Language: Python
Homepage:
Size: 26.4 KB
Stars: 6
Watchers: 2
Forks: 0
Open Issues: 0
Metadata Files:
- Readme: README.md

Awesome Lists containing this project

README

# Advanced Prompt Hacking Tester

This code implements an Advanced Prompt Hacking Tester, which allows users to test the responses of an AI system by generating various types of prompts. It includes methods to generate random prompts, contextual adversarial prompts by modifying the original prompts semantically, and inappropriate prompts. The execute_prompt_test method processes a given prompt using the AI system and saves the prompt-response pair in a JSON file if specified. The run_tests method runs a specified number of tests, generating prompts of random types and executing them. The example usage section demonstrates how to use the code with a mock AI system. This project aims to provide a tool for testing AI systems’ responses to different types of prompts, aiding in evaluating their robustness and performance

این پروژه یک تستر پیشرفته برای هک کردن پاسخ‌های یک سیستم هوش مصنوعی را پیاده‌سازی می‌کند.

## نصب

1. ابتدا اطمینان حاصل کنید که Python نصب شده است.
2. می‌توانید ابتدا مراحل نصب زیر را دنبال کنید:

```bash
pip install nltk
```

## استفاده

1. ابتدا یک نمونه از `MockAISystem` را پیاده‌سازی کنید. این کلاس باید یک متد به نام `process_prompt` داشته باشد که یک پارامتر به نام `prompt` را می‌گیرد و پاسخ مورد انتظار را برمی‌گرداند.
2. سپس یک نمونه از `AdvancedPromptHackingTester` را با استفاده از نمونه سیستم AI ایجاد کنید.
3. با فراخوانی متد `run_tests` تعداد تست‌های مورد نیاز و انتخاب گزینه ذخیره نتایج (در صورت تمایل) اجرا شود.

## متدها

- `generate_random_prompt(min_length, max_length)`: این متد یک پرامتر تصادفی با طول بین `min_length` و `max_length` تولید می‌کند.
- `generate_contextual_adversarial_prompt(original_prompt, min_length, max_length)`: این متد یک پرامتر تصادفی با طول بین `min_length` و `max_length` تولید می‌کند و سعی می‌کند با تغییرات معنایی در پارامتر اصلی، پارامتر جدید را تولید کند.
- `generate_inappropriate_prompt()`: این متد یک پرامتر نامناسب تصادفی تولید می‌کند.
- `execute_prompt_test(prompt, save_results=False)`: این متد یک پرامتر را به عنوان ورودی به سیستم AI می‌دهد و پاسخ را دریافت می‌کند.
- `run_tests(num_tests, save_results=False)`: این متد تعداد `num_tests` تست را اجرا می‌کند.

## مثال استفاده

```python
ai_system = MockAISystem()
advanced_prompt_hacking_tester = AdvancedPromptHackingTester(ai_system)
advanced_prompt_hacking_tester.run_tests(10, save_results=True)
```

## مجوز

این پروژه تحت مجوز [MIT](https://opensource.org/licenses/MIT) منتشر شده است.
این قالب یک راهنمای کاربردی است که برای پروژه شما مناسب است. البته می‌توانید آن را با توجه به نیازهای خاص خود تغییر دهید.