Kurzusleírás
1. nap
A modern AI ügynök anatómiája
A chatbotokon túl: ügynökök mint autonóm érvelő és cselekvő rendszerek
Reaktív, proaktív, hibrid és célirányos ügynök paradigmák
Alapvető komponensek: érzékelés, tervezés, memória, eszközhasználat, cselekvés
Egy- és többügynökös tervezési kompromisszumok
Ügynök keretrendszerek és a modern stack
LangChain, LlamaIndex, AutoGen, CrewAI és azok kompromisszumai
Összehasonlítás klasszikus keretrendszerekkel, mint a JADE és a SPADE
Keretrendszer választása termelési követelmények alapján
Eszközhívás, függvényhívás és strukturált kimenetek
Gyakorlat: egyetlen Python ügynök építése eszközhívásokkal
Többügynökös rendszerarchitektúrák
Központosított, decentralizált, hibrid és rétegzett többügynökös rendszertervek
FIPA ACL, üzenetküldés és modern ekvivalensek
Koordinációs minták: tervezés, tárgyalás, szinkronizáció
Emergens viselkedés és önszerveződés ügynökpopulációkban
Döntéshozatal és tanulás ügynökökben
Játékelmélet együttműködő és versengő ügynökinterakciókhoz
Reinforcement learning többügynökös környezetekben
Transfer learning és tudáscsere ügynökök között
Konfliktusfeloldás és bizalom koordináló ügynökök között
2. nap
Többmodális alapok ügynököknek
Többmodális AI mint egységes munkafolyamat szöveg, kép, beszéd és videó között
Vezető többmodális modellek: GPT-4 Vision, Gemini, Claude, Whisper
Fúziós technikák a modalitások kombinálásához az ügynök érvelési ciklusában
Késleltetés, költség és pontosság kompromisszumok többmodális folyamatokban
Az érzékelési réteg építése
Képfeldolgozás ügynököknek: osztályozás, feliratolás, objektumdetektálás
Beszédfelismerés Whisper ASR és streaming átírással
Szövegről beszédre szintézis és természetes hanginterakció
Érzékelési kimenetek összekapcsolása LLM-vezérelt érveléssel és eszközválasztással
Gyakorlat - Többmodális ügynök építése Pythonban
Az ügynök feladatának, kontextusablakának és eszközkészletének meghatározása
GPT-4 Vision és Whisper API-k végponttól végpontig történő összekapcsolása
Memória, állapot és beszélgetéskezelés implementálása
Biztonságos eszközhívások hozzáadása, amelyek valós hatásokat váltanak ki
Gyakorlat - Többügynökös rendszer szervezése
Specializált ügynökök összeállítása AutoGen vagy CrewAI segítségével
Szerepek, felelősségek és ügynökök közötti kommunikációs protokollok meghatározása
Erőforrásallokáció és koordináció szimulált környezetben
Az ügynökök érvelésének, eszközhívásainak és döntéseinek naplózása ellenőrzés és audit céljából
3. nap
A termelési AI ügynökök fenyegetettségi felülete
Mi teszi az ügynökös AI-t egyedülállóan sebezhetővé a hagyományos szoftverekhez képest
Fenyegetettségi felület: adat, modell, prompt, eszköz, kimenet és interfészrétegek
Fenyegetettségi modellezés autonóm eszközhasználatú ügynökrendszerekhez
AI biztonsági gyakorlatok összehasonlítása a hagyományos biztonsággal
Ellenséges támadások gyakorlatban
Ellenséges példák és perturbációs módszerek: FGSM, PGD, DeepFool
Fehér doboz versus fekete doboz támadási forgatókönyvek
Modell inverzió és tagsági következtetési támadások
Adatmérgezés és hátsó ajtó injekció a képzés során
Prompt injekció, jailbreaking és eszközérvénytelenítés LLM-alapú ügynökökben
Védelmi technikák és modell megerősítés
Ellenséges képzés és adatbővítési stratégiák
Védelmi desztilláció és egyéb robusztussági technikák
Bemenet előfeldolgozás, gradient maszkolás és regularizáció
Differenciális adatvédelem, zajinjecálás és adatvédelmi keretek
Federált tanulás és biztonságos aggregáció elosztott képzéshez
Gyakorlat az Adversarial Robustness Toolbox-szal
Támadások szimulálása a 2. napon épített többmodális ügynök ellen
Robusztusság mérése perturbáció alatt és degradáció kvantifikálása
Védelmi intézkedések iteratív alkalmazása és a támadások sikerarányának újraértékelése
Eszközhívási útvonalak és prompt injekció vektorok stressztesztelése
4. nap
Kockázatkezelési keretrendszerek AI-hoz
NIST AI Kockázatkezelési Keretrendszer: irányítás, leképezés, mérés, kezelés
ISO/IEC 42001 és új AI-specifikus szabványok
AI kockázatok leképezése meglévő vállalati GRC keretrendszerekhez
AI felelősség, ellenőrizhetőség és dokumentációs követelmények
Szabályozási megfelelőség ügynökrendszerekhez
EU AI Act: kockázati szintek, tiltott felhasználások és kötelezettségek magas kockázatú rendszerekhez
GDPR és CCPA következményei ügynök adatfolyamokhoz
Az USA elnöki rendelete a biztonságos, biztonságos és megbízható AI-ról
Ágazatspecifikus útmutatások pénzügy, egészségügy és közszolgáltatások számára
Harmadik fél kockázatai és beszállítói AI eszközhasználat
Etika, elfogultság és magyarázhatóság
Elfogultság észlelése és enyhítése az ügynök érzékelése és érvelése során
Magyarázhatóság és átláthatóság mint biztonsági szempontok
Igazságosság, leági károk és felelős üzembe helyezés
Inkluzív, ellenőrizhető ügynökviselkedés tervezése
Termelési üzembe helyezés, monitorozás és incidenskezelés
Biztonságos üzembe helyezési minták egy- és többügynökös rendszerekhez
Folyamatos monitorozás elmozdulás, anomália és visszaélés esetén
Naplózás, audit nyomvonalak és forenzikai készültség ügynök cselekményekhez
AI biztonsági incidenskezelési forgatókönyvek és helyreállítás
Valós AI-biztonsági incidensek esettanulmányai és tanulságok
Záróprojekt és összegzés
A kurzus során épített többmodális többügynökös rendszer áttekintése
Végponttól végpontig történő folyamat áttekintése: tervezés, építés, biztonság, irányítás, üzembe helyezés
A rendszer önértékelése a NIST AI RMF funkciók alapján
Előretekintés az ügynökös AI és AI biztonság terén felmerülő trendekre
Összegzés és következő lépések
Követelmények
Célközönség
AI mérnökök és architektusok, akik ügynökrendszereket építenek termelési használatra. Biztonsági, kockázati és megfelelőségi szakemberek, akik felelősek az AI biztosításáért szabályozott iparágakban, mint például a pénzügy, egészségügy és tanácsadás. Szenior fejlesztők és megoldásvezetők, akik többmodális és többügynökös képességeket ágyaznak be vállalati platformokba.
Vélemények (3)
Az oktató türelmes és nagyon segítőkész. Jól ismeri a témát.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Kurzus - Agentic AI for Business Automation: Use Cases & Integration
Gépi fordítás
Jó ismeret- és gyakorlati keverék
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Agentic AI for Enterprise Applications
Gépi fordítás
A számítástudomány elméleti és gyakorlati, valamint magasabb és alacsonyabb szintű perspektívák keverékének bemutatása
Ion Mironescu - Facultatea S.A.I.A.P.M.
Kurzus - Autonomous Decision-Making with Agentic AI
Gépi fordítás
