Lépjen kapcsolatba velünk
 Időtartalma 21 órák

Kurzusleírás

Alapfogalmak: Fenyegetés-modellek az agentikus AI-hoz

  • Agentikus fenyegetések típusai: rossz használathoz, jogosultság-eskalációhoz, adatvesztéshez és láncolat-kockázatokhoz kapcsolódó problémák
  • Ellenséges profilok és támadók képességei, amelyek az autonóm ügynökökre specifikusak
  • Eszközök, megbízhatási határok és kritikus vezérlési pontok feltérképezése az ügynökök számára

Irányítás, szabályzat és kockázatkezelés

  • Irányítási keretrendszerek az agentikus rendszerekhez (szerepkörök, felelősségi körök, jóváhagyási kapuk)
  • Szabályzatok tervezése: megengedett felhasználás, eszkalációs szabályok, adatkezelés és átvizsgálhatóság
  • Illetékesi szempontok és bizonyítékok gyűjtése ellenőrzésekhez

Kiservezési azonosítások és hitelesítés ügynökök számára

  • Agentikus azonosítások tervezése: szolgáltatási fiókok, JWT-ek és rövid élettartamú hitelesítő adatok
  • Legalacsonyabb jogosultságú hozzáférési minták és a pontatlan hitelesítő adatok kezelése (just-in-time credentialing)
  • Azonosítás-életciklus, forgatás, delegálás és visszavonás stratégiái

Hozzáférés-vezérlés, titkok és adattárolás

  • Részletes hozzáférés-vezérlési modellek és képesség-alapú minták ügynökök számára
  • Titokkezelés, titkosítás mozgó és tárolt adat esetén, valamint adatminimalizálás
  • Érzékeny tudásforrások és PII (Személyes Adatok) védelme jogosulatlan agentikus hozzáférés ellen

Megfigyelhetőség, átvizsgálás és eseménykezelés

  • Agentikus viselkedésre vonatkozó telemetria tervezése: szándék-követés, parancsnaplók és eredet
  • SIEM integráció, riasztási küszöbértékek és forenzisre felkészültség
  • Ügyintézési eljárások és játékterv (playbook) agentikus eseményekre és korlátozásra

Agentikus rendszerek red-teamingje

  • Red-team gyakorlatok tervezése: hatókör, szereplői szabályok és biztonságos átváltás
  • Ellenséges technikák: prompt injektálás, eszközök rossz használata, gondolkodási lánc manipulálása és API-túlterhelés
  • Vezérelt támadások végrehajtása és a kitérés mértékének mérése

Erősítés és enyhítés

  • Mérnöki intézkedések: válaszlassítás, képességek korlátozása és sandboxing
  • Irányítási és orchestrációs vezérlők: jóváhagyási folyamatok, emberi beavatkozás és irányítási kapcsok
  • Modell- és prompt-szintű védelmek: bemenet validálása, kanonizálás és kimeneti szűrők

Biztonságos agentikus üzemeltetése

  • Üzemeltetési minták: staging, canary és fokozatos telepítés ügynökök számára
  • Változás-vezérlés, tesztelési csövek és telepítés előtti biztonság ellenőrzések
  • Keresztfunkciós irányítás: biztonság, jogi, termék és operációs játéktípusok

Végkiadvány: Red-Team / Blue-Team Gyakorlat

  • Szimulált red-team támadás végrehajtása egy sandboxolt agentikus környezet ellen
  • Védelem, észlelés és javítás a blue teamként vezérelt kontroll- és telemetria használatával
  • Eredmények bemutatása, javítási terv és irányítási frissítések

Összegzés és további lépések

Követelmények

  • Rövid tudásbázis a biztonságos mérnöki, rendszeradminisztráció vagy cloud operáció terén
  • Ismeretség az AI/ML koncepciókkal és a nagy nyelvi modellek (LLM) viselkedésével
  • Tapasztalat az azonosítás- és hozzáférés-kezelésben (IAM) és a biztonságos rendszertervezésben

Résztvevők

  • Biztonsági mérnökök és red-teamerok
  • AI operációs és platformmérnökök
  • Illetékesi tisztek és kockázatkezelők
  • Ügyintézési vezetők, akik felelősek az agentikus üzemeltetésért

Résztvevők száma


Ár per résztvevő

Vélemények (1)

Közelgő kurzusok

Rokon kategóriák