Biztonságos és Felelős LLM Alkalmazások Fejlesztése Képzés

Az LLM Architektúra és Támadási Felület Áttekintése

• Hogyan épülnek, települnek és érhetők el az LLM-ek API-kon keresztül
• Az LLM alkalmazások kulcsfontosságú komponensei (pl. promptok, ügynökök, memória, API-k)
• Hol és hogyan keletkeznek a biztonsági problémák a valós használat során

Prompt Injekció és Jailbreak Támadások

• Mi a prompt injekció és miért veszélyes
• Közvetlen és közvetett prompt injekció forgatókönyvek
• Jailbreak technikák a biztonsági szűrők megkerülésére
• Észlelési és enyhítési stratégiák

Adatszivárgás és Adatvédelmi Kockázatok

• Véletlen adatkihatások a válaszokon keresztül
• Személyes adatok szivárgása és a modell memóriájának helytelen használata
• Adatvédelmi szempontból tudatos promptok és lekérdezés-alapú generálás (RAG) tervezése

LLM Kimenet Szűrése és Védelme

• A Guardrails AI használata tartalomszűréshez és ellenőrzéshez
• Kimeneti sémák és korlátozások meghatározása
• Nem biztonságos kimenetek monitorozása és naplózása

Emberi Felügyelet és Munkafolyamat Megközelítések

• Hol és mikor vezessünk be emberi felügyeletet
• Jóváhagyási sorok, pontozási küszöbértékek, tartalék kezelés
• Bizalom kalibrálása és az érthetőség szerepe

Biztonságos LLM Alkalmazás Tervezési Minták

• Legkevesebb jogosultság és sandboxolás API hívások és ügynökök esetén
• Sebességkorlátozás, szabályozás és visszaélés észlelése
• Robusztus láncolás a LangChain és a prompt izoláció használatával

Megfelelőség, Naplózás és Irányítás

• Az LLM kimenetek naplózhatóságának biztosítása
• Nyomkövethetőség és prompt/verziókövetés fenntartása
• Belső biztonsági irányelvek és szabályozási igényekkel való összehangolás

Összefoglalás és Következő Lépések