🌟 انواع حملات پرامپت اینجکشن به زبان ساده و با مثال

🌟 انواع حملات پرامپت اینجکشن به زبان ساده و با مثال

همون‌طور که شیوه توسعه نرم‌افزار و نحوه تعامل کاربر با نرم‌افزار، بعد از فراگیر شدن مدل‌های زبانی، تغییر کرده، نحوه تهاجم و حملات نرم‌افزاری هم تغییر کرده. یکی از موضوعاتی که باید بهش توجه مضاعفی کنیم، حملات Prompt Injection است که انواعش رو به زبان ساده و با مثال توضیح می‌دم.

به زبون ساده، Prompt Injection یعنی مهاجم تلاش کنه با واردکردن دستوراتی در ورودی، رفتار مدل رو از هدف اصلی‌اش منحرف کنه، محدودیت‌ها رو دور بزنه یا مدل رو وادار کنه اطلاعات یا عملیاتی ناخواسته انجام بده. برعکس حملات سنتی نرم‌افزار، خیلی‌هاش بُعد فنی زیاد و کدنویسی عجیب نداره، و گاها با کمی زیرکی و هوش و زبون‌بازی می‌شه حمله رو درآورد!!

۱۸ مدل حمله رو با مثال و به صورت خلاصه و ساده توضیح دادم، و فکر می‌کنم خوندنش خوب باشه. و دقت کنید که همین یکی دو ماه گذشته شرکت‌های بزرگ تکنولوژی و حتی توسعه‌دهنده مدل‌ها هم درگیر چنین حملاتی شدن؛ پس درک داشتن از چنین حملاتی لازمه.

1. Direct Prompt Injection
2. Indirect Prompt Injection
3. Stored Prompt Injection
4. Reflected Prompt Injection
5. Cross-Context Prompt Injection
6. Tool-Use Injection
7. Tool Output Injection
8. RAG Prompt Injection
9. Multimodal Prompt Injection
10. Prompt Obfuscation
11. Role-Playing Injection
12. Instruction Hierarchy Attack
13. Context Poisoning
14. Memory Poisoning
15. Data Exfiltration Injection
16. Goal Hijacking
17. Denial-of-Service Prompt Injection
18. Agent-to-Agent Prompt Injection

🔗 لینک مطلب