Red Teaming AI Systems: Offenzív biztonság a gépi tanulási modellekhez Képzés

Az AAISM egy haladó keretrendszer a mesterséges intelligencia rendszerek biztonsági kockázatainak felmérésére, irányítására és kezelésére.

Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű szakembereknek szól, akik hatékony biztonsági ellenőrzéseket és irányítási gyakorlatokat kívánnak bevezetni a vállalati AI környezetekben.

A program elvégzése után a résztvevők készen állnak:

• AI biztonsági kockázatok felmérésére iparágilag elismert módszerekkel.
• Irányítási modellek bevezetésére a felelős AI üzembe helyezés érdekében.
• AI biztonsági irányelvek összehangolására a szervezeti célokkal és a szabályozási elvárásokkal.
• A rugalmasság és a felelősségre vonhatóság növelésére az AI által hajtott műveletekben.

A képzés formátuma

• Szakértői elemzésekkel támogatott előadások.
• Gyakorlati workshopok és felmérés alapú tevékenységek.
• Gyakorlati feladatok valós AI irányítási forgatókönyvek alapján.

Képzés testreszabási lehetőségei

• A szervezeti AI stratégiához igazított, testreszabott képzésért kérjük, lépjen kapcsolatba velünk.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) középhaladó szintű vállalati vezetőknek szól, akik szeretnék megérteni, hogyan irányítsák és biztosítsák felelősségteljesen az AI rendszereket, és hogyan maradjanak megfelelőek az újonnan megjelenő globális keretrendszerekhez, mint például az EU AI Act, a GDPR, az ISO/IEC 42001 és az USA AI-ról szóló végrehajtási rendelete.

A képzés végén a résztvevők képesek lesznek:

• Megérteni az AI használatának jogi, etikai és szabályozási kockázatait a különböző részlegekben.
• Értelmezni és alkalmazni a főbb AI irányítási keretrendszereket (EU AI Act, NIST AI RMF, ISO/IEC 42001).
• Biztonsági, auditálási és felügyeleti irányelveket létrehozni az AI bevezetéséhez a vállalatnál.
• Beszerzési és használati irányelveket kidolgozni harmadik fél és saját fejlesztésű AI rendszerekhez.

A Mesterséges Intelligencia (AI) új dimenziókat hoz az üzleti kockázatok, a kormányzati kihívások és a kiberbiztonsági kitettségek területén a kormányzati szervek és minisztériumok számára.

Ez az oktató által vezetett, élő képzés (online vagy helyszíni) azoknak a közszférában dolgozó IT- és kockázati szakembereknek szól, akiknek korábbi tapasztalata korlátozott az AI területén, és szeretnék megérteni, hogyan értékelhetik, monitorozhatják és biztosíthatják az AI rendszereket egy kormányzati vagy szabályozási keretrendszerben.

A képzés végére a résztvevők képesek lesznek:

• Értelmezni az AI rendszerekhez kapcsolódó kulcsfontosságú kockázati fogalmakat, beleértve az elfogultságot, a kiszámíthatatlanságot és a modelleltolódást.
• Alkalmazni az AI-specifikus kormányzati és auditálási keretrendszereket, mint például a NIST AI RMF és az ISO/IEC 42001.
• Felismerni a kiberbiztonsági fenyegetéseket, amelyek az AI modelleket és adatfolyamokat célozzák.
• Kialakítani részlegközi kockázatkezelési terveket és politikai összehangolást az AI üzembe helyezéséhez.

A képzés formátuma

• Interaktív előadás és vita közszférai használati esetekről.
• AI kormányzati keretrendszer gyakorlatok és politikai leképezés.
• Forgatókönyv-alapú fenyegetésmodellezés és kockázatértékelés.

Képzés Testreszabási Lehetőségei

• Ha testreszabott képzést kérne ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk.

Ez az oktató által vezetett, élőben tartott képzés Magyarország (online vagy helyszínen) kezdő és középhaladó szintű IT szakemberek számára készült, akik szeretnék megérteni és alkalmazni az AI TRiSM-et szervezetükben.

A képzés végére a résztvevők képesek lesznek:

• Megérteni az AI megbízhatóság, kockázatkezelés és biztonság kulcsfogalmait és jelentőségét.
• Azonosítani és kezelni az AI rendszerekhez kapcsolódó kockázatokat.
• Biztonsági ajánlott gyakorlatokat implementálni az AI területén.
• Megérteni a szabályozási megfelelőséget és az etikai szempontokat az AI kapcsán.
• Stratégiákat kidolgozni az AI hatékony irányítására és kezelésére.

Ez az oktató által vezetett, élő képzés Magyarország-ban (online vagy helyszíni) középhaladó és haladó szintű AI fejlesztők, architektusok és termékmenedzserek számára készült, akik szeretnék azonosítani és csökkenteni az LLM-alapú alkalmazásokkal kapcsolatos kockázatokat, mint például a prompt injekció, az adatszivárgás és a szűretlen kimenetek, miközben olyan biztonsági ellenőrzéseket alkalmaznak, mint a bemeneti ellenőrzés, az emberi felügyelet és a kimeneti korlátok.

A képzés végére a résztvevők képesek lesznek:

• Megérteni az LLM-alapú rendszerek alapvető sebezhetőségeit.
• Biztonságos tervezési elveket alkalmazni az LLM alkalmazások architektúrájában.
• Olyan eszközöket használni, mint a Guardrails AI és a LangChain az ellenőrzéshez, szűréshez és biztonsághoz.
• Integrálni olyan technikákat, mint a sandboxolás, a red teaming és az emberi felügyelet a termelési folyamatokba.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) középszintű MI- és kiberbiztonsági szakembereknek szól, akik meg szeretnék érteni és kezelni az MI-modellek és -rendszerekre jellemző biztonsági sebezhetőségeket, különösen a pénzügy, adatirányítás és tanácsadás területén működő, szigorúan szabályozott iparágakban.

A képzés végére a résztvevők képesek lesznek:

• Megérteni az MI-rendszerekre irányuló ellenséges támadások típusait és az azok elleni védekezési módszereket.
• Modellkeményítési technikák implementálása a gépi tanulási folyamatok biztosítása érdekében.
• Az adatbiztonság és integritás biztosítása a gépi tanulási modellekben.
• Navigálni az MI-biztonsággal kapcsolatos szabályozási megfelelőségi követelményeket.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) a biztonsági mérnököknek és a megfelelőségi tisztviselőknek szól, akik szeretnék megerősíteni az EXO telepítéseket, szabályozni a modellekhez való hozzáférést, és irányítani a kizárólag helyszínen futó AI munkaterheléseket.

Ez az oktató által vezetett, élő képzés Magyarország (online vagy helyszínen) kezdő szintű IT biztonsági, kockázat- és megfelelőségi szakembereknek szól, akik szeretnének megismerni az AI biztonság alapvető fogalmait, fenyegetési vektorait és globális keretrendszereit, mint például a NIST AI RMF és az ISO/IEC 42001.

A képzés végére a résztvevők képesek lesznek:

• Megérteni az AI rendszerek által bevezetett egyedi biztonsági kockázatokat.
• Azonosítani a fenyegetési vektorokat, mint például az ellenséges támadások, az adatmérgezés és a modell inverzió.
• Alkalmazni az alapvető irányítási modelleket, mint például a NIST AI Risk Management Framework.
• Összehangolni az AI használatát az új szabványokkal, megfelelőségi irányelvekkel és etikai elvekkel.

Az OWASP GenAI Biztonsági Projekt legújabb irányelvei alapján a résztvevők megtanulják azonosítani, felmérni és enyhíteni az AI-specifikus fenyegetéseket gyakorlati feladatok és valós forgatókönyvek segítségével.

Ez az oktató által vezetett, élő képzés Magyarország-ben (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnék megvalósítani és értékelni az olyan technikákat, mint a federatív tanulás, a biztonságos többfélű számítás, a homomorf titkosítás és a differenciál adatvédelem valós gépi tanulási folyamatokban.

A képzés végére a résztvevők képesek lesznek:

• Megérteni és összehasonlítani a kulcsfontosságú adatvédelmi technikákat a gépi tanulásban.
• Federatív tanulási rendszereket implementálni nyílt forráskódú keretrendszerek segítségével.
• Differenciál adatvédelmet alkalmazni a biztonságos adatmegosztás és modellképzés érdekében.
• Titkosítási és biztonságos számítási technikákat használni a modell bemenetek és kimenetek védelmére.

Ez az oktató által vezetett, élő képzés Magyarország (online vagy helyszíni) középhaladó szintű mérnökök és biztonsági szakemberek számára készült, akik az élőben üzembe helyezett AI modelleket szeretnék biztosítani olyan fenyegetések ellen, mint a manipulálás, adatszivárgás, ellenséges bemenetek és fizikai támadások.

A képzés végére a résztvevők képesek lesznek:

• Azonosítani és felmérni a biztonsági kockázatokat az Edge AI üzembe helyezésekben.
• Alkalmazni a manipulálás elleni védekezés és titkosított következtetési technikákat.
• Megkeményíteni az élőben üzembe helyezett modelleket és biztonságossá tenni az adatcsatornákat.
• Fenyegetés-megelőzési stratégiákat implementálni, amelyek specifikusak a beágyazott és korlátozott rendszerekre.

Ez az oktató által vezetett, élő képzés Magyarország (online vagy helyszíni) középszintű gépi tanulással és kiberbiztonsággal foglalkozó szakembereknek szól, akik szeretnének megérteni és enyhíteni az AI modellek elleni újonnan felmerülő fenyegetéseket, mind elméleti keretrendszerek, mind gyakorlati védekezési módszerek, például a robusztus tanítás és a differenciális adatvédelem segítségével.

A képzés végére a résztvevők képesek lesznek:

• Azonosítani és osztályozni az AI-specifikus fenyegetéseket, mint például az ellenséges támadások, az inverzió és az adatmérgezés.
• Az Adversarial Robustness Toolbox (ART) eszköz használata támadások szimulálására és modellek tesztelésére.
• Gyakorlati védekezési módszerek alkalmazása, beleértve az ellenséges tanítást, a zajbefecskendezést és az adatvédelmi technikákat.
• Fenyegetés-érzékeny modellértékelési stratégiák tervezése üzemi környezetekben.

A TinyML egy olyan megközelítés, amely gépi tanulási modellek üzembe helyezését teszi lehetővé alacsony teljesítményű, erőforrás-korlátozott eszközökön, amelyek a hálózat peremén működnek.

Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű szakembereknek szól, akik szeretnék biztosítani a TinyML folyamatokat és adatvédelmi technikákat implementálni az edge AI alkalmazásokban.

A képzés végén a résztvevők képesek lesznek:

• Azonosítani az eszközön történő TinyML következtetésekhez kapcsolódó egyedi biztonsági kockázatokat.
• Adatvédelmi mechanizmusokat implementálni az edge AI üzemelő példányokhoz.
• A TinyML modelleket és beágyazott rendszereket ellenséges fenyegetések ellen megerősíteni.
• Az adatkezelés legjobb gyakorlatait alkalmazni korlátozott környezetekben.

A képzés formátuma

• Élvezetes előadások szakértői vitákkal támogatva.
• Gyakorlati feladatok, amelyek a valós fenyegetési helyzetekre összpontosítanak.
• Gyakorlati megvalósítás beágyazott biztonsági és TinyML eszközök használatával.

Képzés testreszabási lehetőségei

• A szervezetek kérhetnek egy testreszabott verziót a képzésből, amely igazodik saját biztonsági és megfelelőségi igényeikhez.

Ez a kurzus az agens AI rendszerek irányítását, identitáskezelését és ellenséges tesztelését fedi le, kiemelve a vállalati szinten biztonságos telepítési mintákat és gyakorlati red-teaming technikákat.

Ez az oktató által vezetett, élő képzés (online vagy helyszíni) haladó szintű szakembereknek szól, akik agens alapú AI rendszereket kívánnak tervezni, biztosítani és értékelni éles környezetekben.

A képzés végére a résztvevők képesek lesznek:

• Irányítási modellek és irányelvek meghatározása biztonságos agens AI telepítésekhez.
• Nem emberi identitások és hitelesítési folyamatok tervezése a legkevesebb jogosultság elvének betartásával.
• Hozzáférés-vezérlés, naplózási nyomvonalak és megfigyelhetőség implementálása autonóm agensekhez szabva.
• Red-team gyakorlatok tervezése és végrehajtása a visszaélések, eszkalációs útvonalak és adatszivárgási kockázatok felderítésére.
• Gyakori fenyegetések enyhítése agens rendszerekben irányelvek, mérnöki ellenőrzések és monitorozás segítségével.

A kurzus formátuma

• Interaktív előadások és veszélyelemzési workshopok.
• Gyakorlati laborok: identitás kiépítése, irányelv betartatása és ellenséges szimulációk.
• Red-team/blue-team gyakorlatok és kurzusvégi értékelés.

Kurzus Testreszabási Lehetőségek

• Ha testreszabott képzést kérne ehhez a kurzushoz, kérjük, lépjen kapcsolatba velünk.