Introduction to AI Security and Risk Management Képzés

Artificial Intelligence (AI) új dimenziókat hoz létre a működési kockázatok, kormányzati kihívások és a kiberbiztonsági kitételezettség területén a kormányhivatalak és minisztériumok számára.

Ez az oktatóvezetett élő képzés (online vagy helyszínen) a közszfériai IT és kockázatkezelési szakemberekre irányul, akiknek korlátozott az AI-val kapcsolatos tapasztalata és akik meg szeretnék érteni, hogyan érdékeljék ki, monitorozzák és biztonságossá tegyék az AI rendszereket egy kormányos vagy szabályozói kontextusban.

A képzés végén a résztvevők képesek lesznek:

• Fogalmazzák meg az AI rendszerekhez kapcsolódó kulcsfontosságú kockázati koncepciókat, beleértve a torzítást, a előre nem jósolható viselkedést és a modell eltolódást.
• Alkalmazzák az AI-specifikus kormányzási és auditalási keretrendszereket, mint például a NIST AI RMF és az ISO/IEC 42001.
• Felismertetik a kiberbiztonsági fenyegetéseket, amelyek az AI modelleket és az adatfolyamokat célozzák.
• Létrehoznak támszerven átnyúló kockázatkezelési terveket és politikai harmóniát az AI bevezetéséhez.

A képzés formája

• Interaktív előadás és a közszfériai használati esetek megvitatása.
• AI-kormányzási keretrendszer gyakorlatok és politikai hozzárendelés.
• Jelenetalapú fenyegetésmodellezés és kockázatértékelés.

A képzés szabványosítási lehetőségei

• A képzés szabványosításának kérésére, kérjük, lépjen kapcsolatba velünk a megrendezéshez.

Ez a tanfolyamoktatói, élő képzés Magyarország (online vagy helyszínen) középszintű és előkelő szintű AI-fejlesztők, architektusok és termékmenedzserek számára szolgál, akik szeretnének azonosítani és csökkenteni az LLM-meghajtott alkalmazásokkal kapcsolatos kockázatokat, beleértve a prompt-becsapás, adatszivárgás és szűretlen kimenet problémáit, beépítve biztonsági ellenőrzéseket, mint például bemeneti validáció, emberi felügyelet és kimeneti korlátok.

Ez a képzés végére a résztvevők képesek lesznek:

• Értsék meg az LLM alapú rendszerek alapvető gyengeségeit.
• Alkalmazzák a biztonságos tervezési elveket az LLM alkalmazás architektúrában.
• Használjanak eszközöket, mint Guardrails AI és LangChain validálásra, szűrésekre és biztonságra.
• Beépítsenek technikákat, mint a sandboxing, red teaming és emberi felügyeleti áttekintés gyártási szintű folyamatokba.

Ez az oktatóvezetett, élő képzés Magyarország (online vagy helyszínen) olyan előrehaladott szintű szakemberekre céloz, akik szeretnének megvalósítani és értékelni olyan technikákat, mint a federált tanulás, a biztonságos többpárti számítás, a homomorf kódolás és a differenciál privatizmus valódi gépi tanulás (ML) folyamatokban.

A képzés végén a résztvevők képesek lesznek:

• Értelmezni és összehasonlítani az ML-ben használatos kulcsfontosságú adatvédelmi technikákat.
• Federált tanulási rendszereket valósítanak meg nyílt forráskódú keretek használatával.
• Differenciál privatizmust alkalmaznak biztonságos adatmegosztásra és modellképzésre.
• Titkosítást és biztonságos számítási technikákat használnak a modellbeviteli és -kimeneti adatok védelmére.

Ez az oktatóvezetett, élő képzés Magyarország (online vagy helyszínen) az olyan előrehaladott szintű biztonsági szakembereknek és ML-specialistáknak szól, akik akarnak támadásokat szimulálni AI-rendszereken, sebezhetőségeket feltárni, és a telepített AI-modellek robustusságát növelni.

A képzés végén a résztvevők képesek lesznek:

• Valós világbeli fenyegetéseket szimulálni gépi tanulási modellek ellen.
• Adversarial példákat generálni a modell robustusságának teszteléséhez.
• Értékelni az AI API-k és pipeline-ok támadásfelületét.
• Red teaming stratégiákat tervezni AI-telepítési környezetekhez.

Ez az oktatóvezetett, élő kézbesítési edzés Magyarország (online vagy helyszínen) olyan középfokú mérnökökre és biztonsági szakemberekre célzódik, akik az élesen telepített AI-modellek védelmével akarnak foglalkozni, például manipuláció, adatszivárgás, ellenséges bemenetek és fizikai támadások ellen.

Ez az edzés végén a résztvevők képesek lesznek:

• Biztonsági kockázatokat azonosítani és értékelni az élesen telepített AI-telepítéseknél.
• Manipuláció ellenállás és titkosított következtetés technikáit alkalmazni.
• Megerősíteni az élesen telepített modelleket és biztonságos adatszálakat biztosítani.
• Specifikus veszélycsökkentési stratégiákat valósítani beágyazott és korlátozott rendszerekre.

Azt tanítja, hogy oktatóvezetett élő képzés Magyarország (online vagy helyszínen), és célcsoportja a közép szintű gépi tanulás és kiberbiztonsági szakemberek, akik meg akarnak érteni és csökkenteni a kutatási modelljeik ellen érvényesülő fenyegetéseket, koncepcionális keretek és gyakorlati védelmi stratégiák, például robust tréning és differenciális bizalmaság alkalmazásával.

A képzés végén a résztvevők képesek lesznek:

• Gépi tanuláshoz tartozó fenyegetéseket azonosítani és osztályozni, például ellenőrző támadások, inverszió és mérgezés.
• Használni a Adversarial Robustness Toolbox (ART) eszközöket támadások szimulálására és modellek tesztelésére.
• Alkalmazni gyakorlati védelmi stratégiákat, például ellenőrző tréninget, zajbevitel és bizalmaságvédő technikákat.
• Kezelni fenyegetésekre érzékeny modellértékelési stratégiákat termelési környezetekben.