Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
Alapok: Veszélymodellek Agens AI rendszerekhez
- Agens veszélyek típusai: visszaélés, eszkaláció, adatszivárgás és ellátási lánc kockázatok.
- Ellenséges profilok és támadói képességek, amelyek specifikusak az autonóm agensekre.
- Eszközök, bizalmi határok és kritikus ellenőrzési pontok leképezése agensekhez.
Irányítás, Irányelvek és Kockázatkezelés
- Irányítási keretrendszerek agens rendszerekhez (szerepek, felelősségek, jóváhagyási kapuk).
- Irányelv tervezés: elfogadható használat, eszkalációs szabályok, adatkezelés és naplózhatóság.
- Megfelelőségi szempontok és bizonyítékgyűjtés auditokhoz.
Nem Emberi Identitás & Hitelesítés Agensekhez
- Identitások tervezése agensekhez: szolgáltatási fiókok, JWTs és rövid életű hitelesítő adatok.
- Legkevesebb jogosultság elvének betartása és időben történő hitelesítő adatok kiadása.
- Identitás életciklus, rotáció, delegálás és visszavonás stratégiák.
Hozzáférés-vezérlés, Titkos információk és Adatvédelem
- Finomhangolt hozzáférés-vezérlési modellek és képesség alapú minták agensekhez.
- Titkos információk kezelése, titkosítás átvitel közben és tárolás közben, valamint adatminimalizálás.
- Bizalmas tudásforrások és személyes adatok védelme jogosulatlan agens hozzáférés ellen.
Megfigyelhetőség, Naplózás és Incidenskezelés
- Telemetria tervezése agens viselkedéshez: szándék nyomon követése, parancsnaplók és származás.
- SIEM integráció, riasztási küszöbértékek és kriminalisztikai készültség.
- Runbookok és playbookok agenshez kapcsolódó incidensekhez és megfékezéshez.
Red-Teaming Agens Rendszerekhez
- Red-team gyakorlatok tervezése: hatókör, kapcsolat szabályai és biztonságos átállás.
- Ellenséges technikák: prompt injekció, eszköz visszaélés, gondolatmenet manipuláció és API visszaélés.
- Ellenőrzött támadások végrehajtása és a kitettség és hatás mérése.
Keményítés és Enyhítések
- Mérnöki ellenőrzések: válasz szabályozás, képesség korlátozás és sandboxing.
- Irányelv és irányítási ellenőrzések: jóváhagyási folyamatok, emberi beavatkozás és irányítási kampók.
- Modell és prompt szintű védelem: bemeneti ellenőrzés, kanonizálás és kimeneti szűrők.
Biztonságos Agens Telepítések Operacionalizálása
- Telepítési minták: előkészítés, canary és fokozatos bevezetés agensekhez.
- Változásvezérlés, tesztelési folyamatok és telepítés előtti biztonsági ellenőrzések.
- Keresztfunkcionális irányítás: biztonság, jogi, termék és műveleti playbookok.
Záróprojekt: Red-Team / Blue-Team Gyakorlat
- Szimulált red-team támadás végrehajtása egy sandboxolt agens környezetben.
- Védekezés, észlelés és szervizelés a blue teamként ellenőrzések és telemetria segítségével.
- Eredmények bemutatása, szervizelési terv és irányelv frissítések.
Összefoglalás és Következő Lépések
Követelmények
- Szilárd háttértudás biztonsági mérnöki területen, rendszeradminisztrációban vagy felhőműveletekben.
- Ismeret az AI/ML fogalmakkal és a nagy nyelvi modellek (LLM) viselkedésével.
- Tapasztalat identitás- és hozzáférés-kezelésben (IAM) és biztonságos rendszertervezésben.
Célközönség
- Biztonsági mérnökök és red-teamerek.
- AI műveleti és platformmérnökök.
- Megfelelőségi tisztviselők és kockázatkezelők.
- Mérnöki vezetők, akik agens telepítésekért felelnek.
21 Órák
Vélemények (1)
A szakmai ismeretek és az úgy, ahogyan ő bemutatta ezeket nekünk
Miroslav Nachev - PUBLIC COURSE
Kurzus - Cybersecurity in AI Systems
Gépi fordítás
