Lépjen kapcsolatba velünk

Kurzusleírás

Az LLM Architektúra és Támadási Felület Áttekintése

  • Hogyan épülnek, települnek és érhetők el az LLM-ek API-kon keresztül
  • Az LLM alkalmazások kulcsfontosságú komponensei (pl. promptok, ügynökök, memória, API-k)
  • Hol és hogyan keletkeznek a biztonsági problémák a valós használat során

Prompt Injekció és Jailbreak Támadások

  • Mi a prompt injekció és miért veszélyes
  • Közvetlen és közvetett prompt injekció forgatókönyvek
  • Jailbreak technikák a biztonsági szűrők megkerülésére
  • Észlelési és enyhítési stratégiák

Adatszivárgás és Adatvédelmi Kockázatok

  • Véletlen adatkihatások a válaszokon keresztül
  • Személyes adatok szivárgása és a modell memóriájának helytelen használata
  • Adatvédelmi szempontból tudatos promptok és lekérdezés-alapú generálás (RAG) tervezése

LLM Kimenet Szűrése és Védelme

  • A Guardrails AI használata tartalomszűréshez és ellenőrzéshez
  • Kimeneti sémák és korlátozások meghatározása
  • Nem biztonságos kimenetek monitorozása és naplózása

Emberi Felügyelet és Munkafolyamat Megközelítések

  • Hol és mikor vezessünk be emberi felügyeletet
  • Jóváhagyási sorok, pontozási küszöbértékek, tartalék kezelés
  • Bizalom kalibrálása és az érthetőség szerepe

Biztonságos LLM Alkalmazás Tervezési Minták

  • Legkevesebb jogosultság és sandboxolás API hívások és ügynökök esetén
  • Sebességkorlátozás, szabályozás és visszaélés észlelése
  • Robusztus láncolás a LangChain és a prompt izoláció használatával

Megfelelőség, Naplózás és Irányítás

  • Az LLM kimenetek naplózhatóságának biztosítása
  • Nyomkövethetőség és prompt/verziókövetés fenntartása
  • Belső biztonsági irányelvek és szabályozási igényekkel való összehangolás

Összefoglalás és Következő Lépések

Követelmények

  • A nagy nyelvi modellek és a prompt-alapú felületek ismerete
  • Tapasztalat LLM alkalmazások fejlesztésében Python használatával
  • Ismeret az API integrációkban és felhőalapú telepítésekben

Célközönség

  • AI fejlesztők
  • Alkalmazás- és megoldásarchitektusok
  • Műszaki termékmenedzserek, akik LLM eszközökkel dolgoznak
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák