Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Időtartalma 21 órák
Kurzusleírás
Alapfogalmak: Fenyegetés-modellek az agentikus AI-hoz
- Agentikus fenyegetések típusai: rossz használathoz, jogosultság-eskalációhoz, adatvesztéshez és láncolat-kockázatokhoz kapcsolódó problémák
- Ellenséges profilok és támadók képességei, amelyek az autonóm ügynökökre specifikusak
- Eszközök, megbízhatási határok és kritikus vezérlési pontok feltérképezése az ügynökök számára
Irányítás, szabályzat és kockázatkezelés
- Irányítási keretrendszerek az agentikus rendszerekhez (szerepkörök, felelősségi körök, jóváhagyási kapuk)
- Szabályzatok tervezése: megengedett felhasználás, eszkalációs szabályok, adatkezelés és átvizsgálhatóság
- Illetékesi szempontok és bizonyítékok gyűjtése ellenőrzésekhez
Kiservezési azonosítások és hitelesítés ügynökök számára
- Agentikus azonosítások tervezése: szolgáltatási fiókok, JWT-ek és rövid élettartamú hitelesítő adatok
- Legalacsonyabb jogosultságú hozzáférési minták és a pontatlan hitelesítő adatok kezelése (just-in-time credentialing)
- Azonosítás-életciklus, forgatás, delegálás és visszavonás stratégiái
Hozzáférés-vezérlés, titkok és adattárolás
- Részletes hozzáférés-vezérlési modellek és képesség-alapú minták ügynökök számára
- Titokkezelés, titkosítás mozgó és tárolt adat esetén, valamint adatminimalizálás
- Érzékeny tudásforrások és PII (Személyes Adatok) védelme jogosulatlan agentikus hozzáférés ellen
Megfigyelhetőség, átvizsgálás és eseménykezelés
- Agentikus viselkedésre vonatkozó telemetria tervezése: szándék-követés, parancsnaplók és eredet
- SIEM integráció, riasztási küszöbértékek és forenzisre felkészültség
- Ügyintézési eljárások és játékterv (playbook) agentikus eseményekre és korlátozásra
Agentikus rendszerek red-teamingje
- Red-team gyakorlatok tervezése: hatókör, szereplői szabályok és biztonságos átváltás
- Ellenséges technikák: prompt injektálás, eszközök rossz használata, gondolkodási lánc manipulálása és API-túlterhelés
- Vezérelt támadások végrehajtása és a kitérés mértékének mérése
Erősítés és enyhítés
- Mérnöki intézkedések: válaszlassítás, képességek korlátozása és sandboxing
- Irányítási és orchestrációs vezérlők: jóváhagyási folyamatok, emberi beavatkozás és irányítási kapcsok
- Modell- és prompt-szintű védelmek: bemenet validálása, kanonizálás és kimeneti szűrők
Biztonságos agentikus üzemeltetése
- Üzemeltetési minták: staging, canary és fokozatos telepítés ügynökök számára
- Változás-vezérlés, tesztelési csövek és telepítés előtti biztonság ellenőrzések
- Keresztfunkciós irányítás: biztonság, jogi, termék és operációs játéktípusok
Végkiadvány: Red-Team / Blue-Team Gyakorlat
- Szimulált red-team támadás végrehajtása egy sandboxolt agentikus környezet ellen
- Védelem, észlelés és javítás a blue teamként vezérelt kontroll- és telemetria használatával
- Eredmények bemutatása, javítási terv és irányítási frissítések
Összegzés és további lépések
Követelmények
- Rövid tudásbázis a biztonságos mérnöki, rendszeradminisztráció vagy cloud operáció terén
- Ismeretség az AI/ML koncepciókkal és a nagy nyelvi modellek (LLM) viselkedésével
- Tapasztalat az azonosítás- és hozzáférés-kezelésben (IAM) és a biztonságos rendszertervezésben
Résztvevők
- Biztonsági mérnökök és red-teamerok
- AI operációs és platformmérnökök
- Illetékesi tisztek és kockázatkezelők
- Ügyintézési vezetők, akik felelősek az agentikus üzemeltetésért
Vélemények (1)
leltár és a különböző kockázati kitettségek azonosítása a mesterséges intelligencián belül
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurzus - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Gépi fordítás