Köszönjük, hogy elküldte érdeklődését! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Köszönjük, hogy elküldte foglalását! Csapatunk egyik tagja hamarosan felveszi Önnel a kapcsolatot.
Kurzusleírás
EXO Infrastruktúra mint Kód
- Az EXO üzembe helyezési mintáinak áttekintése: egyszemélyes, többcsomópontos és RDMA klaszterek
- Függőségek telepítésének automatizálása (Xcode, uv, Node.js, Rust) konfigurációkezeléssel
- Nix flakes használata reprodukálható EXO buildeléshez és fejlesztői környezetekhez
- Ansible playbookok vagy shell szkriptek írása felügyelet nélküli klaszter kiépítéshez
Reprodukálható Buildelés és CI Integráció
- Függőségek rögzítése és a dashboard buildelése CI folyamatokban
- EXO smoke tesztek futtatása GitHub Actions vagy GitLab CI futtatókban
- Golden image-ek és snapshot-alapú visszaállítási munkafolyamatok létrehozása macOS és Linux VM-ekhez
- Egyéni modell kártyák verziózása az alkalmazáskód mellett
Klaszter Felderítés és Hálózati Automatizálás
- mDNS és statikus DNS konfigurálása megbízható libp2p csomópont felderítéshez
- Hálózati profilok létrehozásának automatizálása és Thunderbolt híd kezelése macOS-on
- Egyéni névterek (EXO_LIBP2P_NAMESPACE) használata dev, staging és prod klaszterek elkülönítéséhez
- Tűzfalszabályok és hálózati szegmentálás több-bérlős környezetekhez
Tárolás és Modell Életciklus Menedzsment
- EXO_MODELS_DIRS és EXO_MODELS_READ_ONLY_DIRS stratégiák tervezése
- NFS vagy SAN megosztások csatlakoztatása csak olvasható modell tárolókként gyors kiépítéshez
- Elavult gyorsítótárak szemétgyűjtése és verziózott súlyok megőrzési politikái
- Modellek előzetes letöltésének és állapotellenőrzésének automatizálása frissítések előtt
Monitorozás és Riasztás
- EXO naplók szállítása központosított naplózásba (ELK, Loki vagy Splunk)
- Grafana dashboardok építése EXO_TRACING_ENABLED kimenetből
- Riasztás klaszter tagsági változásokra, OOM eseményekre és inferencia késleltetés ugrásokra
- macmon hardver telemetria korrelálása modell teljesítmény regressziókkal
Frissítés, Visszaállítás és Katasztrófa Helyreállítás
- EXO bináris frissítések előzetes bevezetése egy canary csomópontban a teljes flotta előtt
- Modell-szintű visszaállítás: kvantált verziók közötti váltás újra letöltés nélkül
- Klaszter állapotának, egyéni névtereknek és gyorsítótárazott súlyoknak biztonsági mentése és visszaállítása
- Helyreállítási runbookok dokumentálása teljes klaszter újraépítési forgatókönyvekhez
Biztonsági Keményítés és Megfelelőség
- TLS alkalmazása a reverse proxy rétegben (nginx, traefik) a dashboard és API számára
- API sebességkorlátozás és IP engedélyezési lista implementálása EXO végpontokhoz
- Klaszterek elkülönítése VLAN-okkal és zero-trust hálózati politikákkal
- Hozzáférés naplózása és üzembe helyezett modellek és verziók nyilvántartása
Követelmények
- Tapasztalat DevOps gyakorlatokban (CI/CD, IaC, konténer orchestration)
- Ismeret a macOS vagy Linux rendszeradminisztrációban és csomagkezelésben
- Hálózati, DNS és tárolási fogalmak ismerete
Célközönség
- DevOps mérnökök
- Infrastruktúra architektusok
- SRE-k, akik helyszíni AI munkaterhelésekért felelősek
21 Órák
Vélemények (2)
Craig nagyon aktívan vett részt a képzésben, mindig ellenőrizve, hogy figyelmesek-e vagyunk, alkalmazta a példákat naprakész tevékenységeinkhez és minden alkalommal adott választ, még akkor is, ha az információ nem szerepelhetett a bemutatóban.
Ecaterina Ioana Nicoale - BOOKING HOLDINGS ROMANIA SRL
Kurzus - DevOps Foundation®
Gépi fordítás
Magas elkötelezettség és tudás a képző szakembertől
Jacek - Softsystem
Kurzus - DevOps Engineering Foundation (DOEF)®
Gépi fordítás
