Kurzusleírás

Alapok: Agens alapú mesterséges intelligencia fenyegetési modellek

  • Az agens alapú fenyegetések típusai: rosszindulatú használat, jogosultság emelkedés, adattamásztás és szállítási lánc kockázatai
  • Fenyegető profilok és ellenséges agensek specifikus képességei
  • Esetek, bizalmas körök és fontos ellenőrző pontok leképezése az agensek számára

Kormányzás, szabályozás és kockázatkezelés

  • Agens alapú rendszerek kormányzási keretrendszerei (szerepkörök, felelősségi kör, jóváhagyási áramterek)
  • Szabályozás tervezése: megengedett használat, jogosultság emelkedési szabályok, adatkezelés és naplózhatóság
  • Egyezmények szempontjai és bizonyítékgyűjtés ellenőrzések számára

Nem emberi azonosságkezelés és hitelesítés agensek esetén

  • Az agensek identitásainak tervezése: szolgáltatási fiókok, JWT-k és rövid élettalajú hitelesítő adatok
  • Minimális jogosultságú hozzáférési minták és időben megvalósuló hitelesítő adatok kezelése
  • Azonosságviteli ciklus, forgatószereink, delegálás és visszavonás stratégiái

Hozzáférés-ellenőrzés, titkos kulcsok és adatvédelem

  • Részletes hozzáférés-ellenőrzési modellek és képesség-alapú minták az agensek számára
  • Titkos kulcsok kezelése, tranzit és nyugvó adatok titkosítása, valamint adatminimalizálás
  • Bizonyos rendszeres adatforrások és személyes adatok (PII) védelme az agensek jogosultságán kívül

Megfigyelhetőség, naplózás és incidenskezelés

  • Az agensek viselkedésére vonatkozó telemetria tervezése: szándék nyomon követése, parancsnaplók és eredetmegjelölés
  • SIEM integráció, riasztási küszöbök és forenzikai felkészültség
  • Üzembehelyezési iránymutatások és működési tervképek az agensek incidenseire vonatkozóan

Ellenőrző csoport gyakorlatok agens alapú rendszerek esetén

  • Ellenőrző csoport gyakorlatok tervezése: hatákkör, engedélyek szabályozása és biztonságos háttérteremtés
  • Ellenséges technikák: kérések beillesztése, eszköz rosszindulatú használata, gondolkodási lánc manipulációja és API értelmezése
  • Védelmet nyújtó támadások végrehajtása és a kitettség mérésének mérése

Megszilárdítás és csökkentő mechanizmusok

  • Mérnöki ellenőrzések: válasz korlátozás, képesség kikapcsolása és szandoroxing
  • Szabályozási ellenőrzések: jóváhagyási folyamatok, emberi beavatkozás és kormányzási csomagolók
  • Modell- és kérés-szintű védelmi mechanizmusok: bemenet ellenőrzése, kanonikus formába hozás és kimeneti szűrők

Biztonságos agens üzembe helyezések operatív kezelése

  • Üzembehelyezési minták: előkészítő, kanár és fokozatos elterjedés az agensek esetén
  • Változáskezelés, tesztelési csatornák és üzembe helyezés előtti biztonsági ellenőrzések
  • Keresztfüggő kormányzás: biztonság, jog, termék és műveletek iránymutatása

Végfeladat: Ellenőrző csoport / Kék-csoport gyakorlat

  • Hajtson végre szimulált ellenőrző csoport támadást sandbox környezetben lévő agensszerkezet ellen.
  • Védje, észlelje és javítsa a kék csapatként a vezérlők és telemetria segítségével.
  • Mutassa be az eredményeket, a javítási tervet és a szabályzat módosítását.

Összefoglalás és további lépések

Követelmények

  • Rugalmas háttér biztonsági mérnökség, rendszergazdálkodás vagy felhő-alapú operációk területén
  • Ismeretek mesterséges intelligencia (AI) és gépi tanulás (ML) koncepcióival valamint nagy nyelvi modellek (LLM) viselkedésével
  • Tapasztalat azonosságkezelési (IAM) és biztonságos rendszertervezés területén

Célcsoport

  • Biztonsági mérnökök és ellenőrző csoport tagok
  • Mesterséges intelligencia operatív és platform mérnökök
  • Egyezménybírák és kockázatkezelők
  • Az agensek üzembe helyezéséért felelős mérnöki vezetők
 21 Órák

Résztvevők száma


Ár résztvevőnként

Közelgő kurzusok

Rokon kategóriák