Lépjen kapcsolatba velünk

Kurzusleírás

Offline EXO Telepítés

  • Az EXO_OFFLINE használata a futásidejű internet-hozzáférés megakadályozására
  • Modellek előzetes betöltése az EXO_MODELS_READ_ONLY_DIRS-be megbízható belső tükrökről
  • Modell súlyok integritásának ellenőrzése SHA-256 ellenőrzőösszegekkel és aláírt modellkártyákkal
  • Az EXO futtatása légréses hálózatokban HuggingFace függőségek nélkül

Dashboard és API Hozzáférés-vezérlés

  • Fordított proxyk (nginx, Caddy) telepítése és konfigurálása TLS lezárással
  • Szerepköralapú hozzáférés-vezérlés implementálása az EXO dashboardhoz és REST API-hoz
  • Titkok tárolása macOS keychain vagy Linux pass segítségével API hitelesítéshez
  • Adminisztratív végpontok korlátozása meghatározott forrás IP tartományokra

Klaszter Elkülönítés és Hálózati Biztonság

  • EXO klaszterek szegmentálása EXO_LIBP2P_NAMESPACE és VLAN-ok segítségével
  • Hoszt tűzfalak konfigurálása (macOS alkalmazás tűzfal, iptables, nftables) EXO portokhoz
  • Jogosulatlan eszközfelderítés és rosszindulatú csomópontok befecskendezésének megakadályozása
  • Libp2p forgalom titkosítása csomópontok között, ha RDMA nem érhető el

Modell Irányítás és Eredetiség

  • Belső modellregiszter felépítése jóváhagyott modelllistákkal és metaadatokkal
  • Kvantált súlyok (4-bit, 8-bit) címkézése és verziókezelése a forrás ellenőrzőpontok mellett
  • Az érvényesítés, hogy csak meghatározott HuggingFace repók vagy belső artefaktok tölthetők be
  • Modell leszármazás, licencfeltételek és elfogadható használati irányelvek dokumentálása

Naplózás és Megfelelés

  • EXO naplók továbbítása nem módosítható naplózási nyomvonalakba (SIEM, WORM tároló)
  • API hívási naplók korrelálása felhasználói azonosítóval és időbélyeggel
  • Modell példányok létrehozásának, törlésének és inferencia kérések eseményeinek rögzítése
  • Időszakos megfelelési jelentések generálása belső és külső auditorok számára

Veszélyforrás-modellezés és Incidenskezelés

  • Veszélyforrások azonosítása: adatkiszűrés modellkimeneteken keresztül, prompt injekció, oldalcsatornás szivárgások
  • Prompt monitorozás és tartalomszűrési folyamatok implementálása
  • Incidenskezelési folyamatok létrehozása klaszter kompromittálási esetekre
  • Érintett csomópontok elkülönítése, kriminalisztikai naplók megőrzése és tiszta környezetek újraépítése

Fizikai Biztonság és Hardverhatárok

  • Thunderbolt portok biztosítása jogosulatlan RDMA kábelkapcsolatok ellen
  • Biztonságos enclave-ok és Apple Silicon hardver hitelesítés használata, ahol alkalmazható
  • Fizikai hozzáférés szabályozása klaszterezett Mac-ekhez és megosztott tárolókhoz
  • Hardver életciklus és leszerelési eljárások dokumentálása

Szabályozási Megfontolások

  • EXO telepítések leképezése GDPR, HIPAA és SOC 2 követelményekre
  • Adattartózkodás fenntartása az inferencia helyszínen történő futtatásával
  • Beszerzői ellátási lánc kockázatok dokumentálása (MLX, EXO, modell súlyok)
  • Felkészülés az AI irányítási keretrendszerekre, például az EU AI Act 53. cikke

Követelmények

  • Tapasztalat az EXO vagy egy másik helyi LLM futási környezettel
  • A Unix fájlrendszer jogosultságok és hálózati ACL-ek ismerete
  • Ismeret a TLS/SSL tanúsítványkezelésről és a titkosítás alapjairól

Célközönség

  • Biztonsági mérnökök
  • Megfelelési tisztviselők
  • AI infrastruktúra adminisztrátorok, akik bizalmas adatokkal dolgoznak
 14 Órák

Résztvevők száma


Ár per résztvevő

Vélemények (1)

Közelgő kurzusok

Rokon kategóriák