Kurzusleírás

A nagy nyelvmodellek (LLM) architektúrájának és támadási felületének áttekintése

  • Hogyan építkeznek és telepítik az LLM-eket, és hogyan érhetők el API-kon keresztül
  • Az LLM alkalmazásveremek kulcsfontosságú elemei (pl. prompt-ok, ügynökök, memória, API-k)
  • Hogyan és hol merülnek fel biztonsági problémák a valós világban

Prompt-befecskendezés és Jailbreak támadások

  • Mi az a prompt-befecskendezés és miért veszélyes
  • Közvetlen és közvetett prompt-befecskendezési helyzetek
  • Jailbreak technikák biztonsági szűrők elkerülésére
  • Érzékelési és csökkentési stratégiák

Adatkiárulás és adatvédelmi kockázatok

  • Adatok véletlen kitelepítése válaszok révén
  • PII kiárulás és modell memóriájának rossz használata
  • Adatvédelmi prompt-ok és Retrieval-Augmented Generation (RAG) tervezése

LLM-kimeneti szűrés és védelme

  • Guardrails AI használata tartalomszűrésre és validálásra
  • Kimeneti sémák és korlátozások meghatározása
  • Biztonságtalan kimenetek figyelése és naplózása

Emberben a folyamatban és munkafolyamatos eljárások

  • Hol és mikor kell emberi felügyeletet bevezetni
  • Jóváhagyási sorok, értékelési küszöbök, visszaesési kezelés
  • Bizalom kalibrálása és magyarázhatóság szerepe

Biztonságos LLM App Design Patterns

  • Legkevesebb jog és szandóckozás API-hívásokra és ügynökökre
  • Szegrészhatárok, lelassítás és visszaélés-érzékelés
  • Rugalmas láncolás LangChain-vel és prompt-izoláció

Eltörési, naplózási és Go kormányzás

  • LLM-kimenetek nyomkövethetőségének biztosítása
  • Hűségesítési és prompt/verziós irányítás fenntartása
  • Belső biztonsági irányelvek és szabályozási igényekhez való igazítás

Összegzés és következő lépések

Követelmények

  • Nagy nyelvi modell és parancsalapú interfészek megértése
  • Python segítségével készített LLM alkalmazások építése tapasztalata
  • API integrációk és felhőalapú telepítések ismerete

Célközönség

  • AI fejlesztők
  • Alkalmazás- és megoldás-architektusok
  • LLM eszközökkel dolgozó technikai termékmenedzserek
 14 Órák

Résztvevők száma


Ár résztvevőnként

Közelgő kurzusok

Rokon kategóriák