ABB: 2.1.9 High-Performance Accelerated Computing (HPC)

Dienstbeschrijving

De dienst High-Performance Accelerated Computing (HPC) biedt krachtige rekenkracht (GPU/CPU) voor intensieve workloads zoals AI/ML-trainings- en inferentietaken, data-analyse, visualisatie, simulatie en modellering. De dienst is containergebaseerd op Kubernetes/OpenShift en ondersteunt GPU-operators/drivers(NVIDIA/AMD/Intel), DGX-class nodes en VDI’s met GPU voor interactieve 3D/GIS/CAD‑scenario’s.

Doel en scope

• In scope: GPU/CPU‑nodepools (DC/edge), device plugins/operators, driver- en firmwarebeheer, resource classes/quotas, high‑performance networking (RDMA/RoCEv2/InfiniBand waar beschikbaar), high‑throughput storage (NVMe/scratch), en observability/FinOps.

• Niet in scope: applicatiecode/algoritmes, klassieke HPC‑batch zonder Kubernetes (bijv. pure bare‑metal Slurm), en niet‑goedgekeurde on‑prem AI appliances buiten standaard hardwareprofielen.

Waardepropositie

• Prestatie & schaal: geoptimaliseerde GPU/CPU‑pools, MIG/vGPU/time‑slicing en snelle IO/NET.

• Veilig & compliant: policy‑as‑code, gesigneerde drivers/images, isolatie per tenant, BIO/AVG‑conform.

• Snel naar productie: golden paths voor AI/ML (notebooks, jobs, serving) en VDI‑workspaces met GPU.

• Transparant: kosten- en verbruiksinzichten per namespace/tenant; SLO/KPI‑dashboards.

Dienstonderdelen

1. Compute‑pools: GPU‑geaccelereerde en CPU‑intensieve nodepools (o.a. DGX/Instinct/Intel GPU).

2. Operators & drivers: vendor device plugins en GPU Operators (NVIDIA/AMD/Intel) inclusief DCGM/telemetrie.

3. Data & storage: NVMe‑scratch, parallel/hoog‑throughput filesystems, integratie met SmartFiles/S3.

4. Netwerk: 25–100GbE, RDMA/RoCEv2/InfiniBand waar beschikbaar, pod‑niveau QoS en NUMA‑bewuste plaatsing.

5. VDI met GPU: virtuele desktops/apps met vGPU/passthrough voor interactieve workloads.

6. Observability/FinOps: metriek, profiling, energie/temperatuur‑signalen en charge/showback.

7. Security/compliance: image signing/SBOM, secrets via KMS/Vault, isolatie (MIG/vGPU), SIEM‑logging.

Servicelevels (richtwaarden)

Functionele Specificaties

Onderstaande eisen beschrijven wat de dienst levert. AC = acceptatiecriteria.

Hardwarepools, labels & plaatsing

• FS‑HW‑001 Node features & labels
  Eis: Automatische labeling via NFD (GPU‑type, vRAM, compute capability, NIC/RDMA, NUMA, storage).
  AC: Labels beschikbaar ≤ 5 min na node‑join; 0% misplaatsing in canary‑tests.

• FS‑HW‑002 Poolprofielen & isolatie
  Eis: GPU‑pools (train/infer, MIG/vGPU, low‑latency) en CPU‑HPC‑pools met taints/affinity.
  AC: Workloads landen uitsluitend op compatibele pools; P95 latency binnen afgesproken SLO.

• FS‑HW‑003 MIG/vGPU/time‑slicing
  Eis: Ondersteuning voor MIG‑partities, vGPU‑profielen en (waar zinvol) time‑slicing.
  AC: Isolatie‑tests tonen geen cross‑tenant resource‑leaks; performance binnen 10% van profiel‑SLO.

Operators, drivers & runtime

• FS‑DRV‑001 GPU Operators (NVIDIA/AMD/Intel)
  Eis: Beheer van drivers, device plugins en runtime‑bibliotheken via vendor GPU Operators.
  AC: Rollout/rollback zonder downtime van niet‑betrokken workloads; health‑checks groen.

• FS‑DRV‑002 Driver‑/kernel‑matrix
  Eis: Gekwalificeerde combinaties (driver + kernel + container runtime/CUDA/ROCm/oneAPI).
  AC: Preflight blokkeert mismatch; 100% herleidbaarheid van driverstack per workload.

• FS‑DRV‑003 Container images & frameworks
  Eis: Goedgekeurde, gesigneerde AI/ML‑images (bijv. PyTorch/TensorFlow/ONNX Runtime) met SBOM.
  AC: Geen kritieke CVE’s (CVSS ≥ 7) bij release; SBOM publiek binnen RWS.

Scheduling, quotas & service‑modellen

• FS‑SCH‑001 Resource classes
  Eis: Standaard resource requests/limits voor GPU/CPU/RAM, inclusief vendor‑resources (device plugins).
  AC: Admission policies weigeren onbeperkte requests; quota per tenant enforced.

• FS‑SCH‑002 Batch/queue integratie
  Eis: Ondersteuning voor batch/queue (bijv. Kueue‑achtig) en prioriteiten/pre‑emption.
  AC: Jobs met hogere prioriteit starten binnen afgesproken window; pre‑emptie logt root‑cause.

• FS‑SCH‑003 Job‑/serving‑patronen
  Eis: Golden paths voor notebooks (Jupyter), batch jobs en model serving (REST/gRPC).
  AC: Templates in Git; smoke‑tests slagen vóór promotie naar PRD.

Data, storage & netwerk

• FS‑DATA‑001 NVMe scratch & parallel I/O
  Eis: Per‑pod scratch met hoge IOPS en (optioneel) parallel filesystem voor grootschalige data.
  AC: P95 IO‑latency binnen SLO; cleans up na job‑einde.

• FS‑NET‑001 RDMA/RoCE/IB
  Eis: Optionele RDMA‑paden, jumbo MTU, CPU‑offload waar ondersteund.
  AC: Bandbreedte/latency‑tests halen target; fallback naar TCP wanneer nodig.

VDI met GPU

• FS‑VDI‑001 vGPU/passthrough profielen
  Eis: VDI‑platform met vGPU‑/passthrough‑profielen voor GIS/CAD/visualisatie.
  AC: P95 frame latency binnen SLO; profielen koppelbaar aan tenant/app‑policy.

• FS‑VDI‑002 Beeld/stream beveiliging
  Eis: TLS‑versleuteling, scherm‑watermerk (optioneel), clipboard/USB‑policies.
  AC: Compliance‑scan zonder kritieke bevindingen; SIEM‑events bij policy‑overtreding.

Observability, security & FinOps

• FS‑OBS‑001 GPU‑telemetrie
  Eis: Metrics (utilization, memory, temperature, power) via DCGM/tegenreferenties; dashboards en alerts.
  AC: Telemetrie‑gap < 60 s; alert‑MTTD < 5 min voor kritieke events.

• FS‑SEC‑001 Supply chain & secrets
  Eis: Image signing/attestaties, driver‑hash‑validatie, secrets via KMS/Vault.
  AC: Deploy zonder geldige handtekening wordt geblokkeerd; 0 plaintext secrets.

• FS‑FIN‑001 Kosteninzicht
  Eis: Showback/chargeback per tenant (GPU‑tijd, CPU‑tijd, storage, egress).
  AC: Maandrapport automatisch; afwijkingen >10% ten opzichte van forecast gemarkeerd.

Edge/OT‑geschiktheid

• FS‑EDGE‑001 Disconnected profiel
  Eis: Lokale mirrors/caches en beperkte WAN‑modus voor inferentie aan de rand.
  AC: Model serving blijft functioneren ≥ 48 uur zonder WAN; resync na herstel.

Roadmaps

Mijlpaal 1

• Pilot NVIDIA GPU Operator op geselecteerde clusters, inclusief DCGM/telemetrie en basis MIG‑profielen.

• DGX‑nodes ingebed in GPU‑pool; gouden images voor AI/ML frameworks met signing/SBOM.

• VDI met GPU: pilot vGPU/passthrough‑profielen voor GIS/CAD/3D in Twin‑DC.

Mijlpaal 2

• AMD/Intel GPU‑ondersteuning: uitrol van AMD ROCm‑stack en Intel GPU Operator/oneAPI waar hardware dit ondersteunt.

• RDMA/RoCEv2 enablement op HPC‑pools; NVMe‑scratch standaardiseren; batch/queue (Kueue‑achtig) introduceren.

• Uitrol golden paths voor notebooks, batch en serving; FinOps‑dashboards.

Mijlpaal 3

• Fleet‑brede orchestration: multi‑cluster GPU scheduling, automatische canary‑driverrollouts en rollback.

• VDI‑opschaling met profielbeheer en policy‑gedreven toewijzing; energie‑/temperatuurbewuste scheduling.

Mijlpaal 4

• Volwassenheidsfase: voorspellende planning (demand forecasting), self‑healing drivers/stacks, en vendor‑agnostische policy‑profielen.

• Uitbreiding naar edge‑inferentie met disconnected profielen en model lifecycle‑automatisering.

Landingslocaties

Waar de architectuuronderdelen landen binnen de infrastructuur, dit kan bijvoorbeeld een externe commerciële cloud zijn, een private cloud of een Rijkscloud. Hiervoor wordt de definitie in de ICT Strategie gebruikt.

Beschikbare SBBs 

Een overzicht van de oplossingen die beschikbaar zijn vanuit dit ABB en de beschrijving van de diensten die daarmee worden geleverd. Vul dit in wanneer de SBBs bekend zijn.

Koppelvlakken

Interfaces en afhankelijkheden tussen verschillende architectuurelementen. Dit zijn bijvoorbeeld de protocollen die kunnen worden gebruikt door andere bouwblokken die gebruik maken van het ABB.

Afhankelijkheden

Beschrijving waar dit ABB van afhankelijk is of welke ABBs afhankelijk zijn van het ABB. Dit geldt ook voor de verschillende serviceketens. Geef dit aan met links naar de architectuur elementen.

EIRA Koppeling

Dit bouwblok is gekoppeld binnen de EIRA aan: Vul hier de EIRA koppeling in.

Een overzicht van alle relevante EIRA bouwblokken staan hier: EIRA Technology & Physical