Kurzusleírás

Agens alapú rendszerek alapjai a termelésben

  • Agens architektúrák: ciklusok, eszközök, memória és orchestralizációs rétegek
  • Az agensek élettartama: fejlesztés, üzembe helyezés és folyamatos működés
  • A termelési méretű agens kezelés kihívásai

Infrastruktúra és üzembe helyezési modellek

  • Agensek üzembe helyezése kontainerizált és felhő környezetben
  • Méretezési minták: vízszintes vs. függőleges méretezés, párhuzamosítás és áramláscsökkentés
  • Több-agens orchestralizáció és terheléselosztás

Monitorozás és megfigyelhetőség

  • Fontos metrikák: késleltetés, sikertársám, memóriahasználat és agens hívásmélység
  • Agensek tevékenységének nyomon követése és hívási gráfok készítése
  • Megfigyelhetőség eszköztár implementálása Prometheus, OpenTelemetry és Grafana segítségével

Naplózás, ellenőrzés és megfelelés

  • Központi naplózás és strukturált eseménygyűjtés
  • Megfelelés és ellenőrizhetőség az agens munkafolyamatokban
  • Hibaeltávolításra alkalmas naplózási sorok és visszajátszható mechanizmusok tervezése

Teljesítményleadás és erőforrás optimalizálás

  • Inferencia költségek csökkentése és agens orchestralizációs ciklusok optimalizálása
  • Modell gyorsítótár és könnyűsúlyú beágyazások a gyorsabb lekérdezéshez
  • Terhelés tesztelése és stresszes forgatókönyvek az AI folyamatai számára

Költségek kontrollja és szabályozás

  • Az agensek költségvetési tényezőinek megértése: API hívások, memória, számítási teljesítmény és külső integrációk
  • Agens szintű költségek nyomon követése és chargeback modell implementálása
  • Automatizált házirendek az agensek átterhelésének megelőzéséhez és üres erőforrások fogyasztásának elkerüléséhez

CI/CD és telepítési stratégiák az agensek számára

  • Az agens folyamatok integrálása a CI/CD rendszerekbe
  • Tesztelés, verziókezelés és visszavonási stratégiák az iteratív agens frissítésekhez
  • Fokozatos telepítések és biztonságos üzembe helyezési mechanizmusok

Hibaüzemeltetés és megbízhatósági mérnökség

  • Megbízhatóság és mélyen gondolkozó elhanyaglás tervezése
  • Újrapróbálkozási, időtúllépési és folyamatáram-bontó minták az agensek megbízhatóságához
  • Incidenskezelési és post-mortem keretrendszerek az AI műveletek számára

Záró projekt

  • Agens alapú mesterséges intelligencia rendszer létrehozása és üzembe helyezése teljes monitorozással és költségkövetéssel
  • Terhelés szimulálása, teljesítmény mérés és erőforrások optimalizálása
  • Végleges architektúra és monitorozási irányítópult bemutatása szakkollégakörben

Összefoglalás és következő lépések

Követelmények

  • Erős ismeretek MLOps-ről és a termelési gépi tanulási rendszerekről
  • Tapasztalat kontainerizált üzembe helyezésekkel (Docker/Kubernetes)
  • Ismeretek felhő költségoptimalizálásáról és megfigyelhetőségi eszközökről

Célcsoport

  • MLOps mérnökök
  • Helytiszta rendszerüzemeltetők (SRE-k)
  • Az AI infrastruktúra felett felügyeleti mérnökök
 21 órák

Résztvevők száma


Ár per résztvevő

Vélemények (3)

Közelgő kurzusok

Rokon kategóriák