Kurzusleírás

Az LLM architektúra és támadási felület áttekintése

  • Hogyan épülnek, üzemelnek és érik el az LLM-ek API-kon keresztül
  • Kulcsfontosságú komponensek az LLM alkalmazás veremében (pl. promptok, ügynökök, memória, API-k)
  • Hol és hogyan merülnek fel a biztonsági problémák a valódi használat során

Prompt injekció és jailbreak támadások

  • Mi a prompt injekció és miért veszélyes
  • Közvetlen és közvetett prompt injekció forgatókönyvek
  • Jailbreaking technikák a biztonsági szűrők megkerülésére
  • Észlelési és enyhítési stratégiák

Adatszivárgás és adatvédelmi kockázatok

  • Véletlen adatközzététel a válaszokon keresztül
  • Személyes adatok szivárgása és a modell memóriájának visszaélése
  • Adatvédelmi szempontból tudatos promptok tervezése és a retrieval-augmented generation (RAG)

LLM kimeneti szűrés és védelme

  • A Guardrails AI használata tartalomszűréshez és ellenőrzéshez
  • Kimeneti sémák és korlátozások meghatározása
  • Nem biztonságos kimenetek monitorozása és naplózása

Emberi felügyelet a folyamatban és munkafolyamat-megközelítések

  • Hol és mikor vezessünk be emberi felügyeletet
  • Jóváhagyási sorok, pontozási küszöbértékek, tartalék kezelés
  • Megbízhatósági kalibrálás és az érthetőség szerepe

Biztonságos LLM alkalmazás tervezési minták

  • Legkevesebb jogosultság és sandboxing az API hívásokhoz és ügynökökhöz
  • Gyakoriság korlátozása, szabályozás és visszaélések észlelése
  • Robusztus láncolás a LangChain és a prompt izoláció használatával

Megfelelőség, naplózás és irányítás

  • Az LLM kimenetek naplózhatóságának biztosítása
  • Nyomkövethetőség és prompt/verziószámozás fenntartása
  • Belső biztonsági szabályzatok és szabályozási igényekhez igazodás

Összefoglalás és következő lépések

Követelmények

  • A nagy nyelvi modellek és a prompt-alapú felületek ismerete
  • Tapasztalat LLM alkalmazások készítésében Python használatával
  • Ismeret az API integrációkban és felhőalapú üzembe helyezésekben

Közönség

  • AI fejlesztők
  • Alkalmazás- és megoldásarchitektusok
  • Technikai termékmenedzserek, akik LLM eszközökkel dolgoznak
 14 Órák

Résztvevők száma


Ár per résztvevő

Közelgő kurzusok

Rokon kategóriák