Batch scoring
Elaborazioni mass batch via Data Factory/Functions su Blob/Data Lake; ideale per report, segmentazioni, enrichment periodico.
Architetture e pattern per portare i servizi Azure AI nelle applicazioni e nei processi aziendali.
Cluster Tecnologie · Torna a Tecnologie Azure AI · Azure ML
Elaborazioni mass batch via Data Factory/Functions su Blob/Data Lake; ideale per report, segmentazioni, enrichment periodico.
Endpoint online (AKS/ACI) per esperienze interattive: raccomandazioni, antifrode, assistenti.
Event Grid/Hub + Stream Analytics/Functions per pipeline a bassa latenza e back‑pressure controllato.
Arricchisci LLM con fonti aziendali (indice + embedding) per risposte citabili e aggiornabili.
Registry, ambienti, CI/CD, monitoraggio e retraining; separazione di ruoli e ambienti.
Reti private, managed identity, key vault, data encryption, logging, DLP e policy di retention.
Ingest → Storage → Feature → Train → Registry → Deploy → Monitor → Retrain
Automatizza con pipeline e policy di qualità.
| Pattern | Latenza | Volume | Esempi |
|---|---|---|---|
| Batch | Alto (minuti‑ore) | Molto alto | Report, scoring notturni |
| Real‑time | Basso (ms‑s) | Medio | Raccomandazioni in sessione |
| Event‑driven | Basso (ms‑s) | Alto | IoT, log, clickstream |
| RAG | Medio | Variabile | Knowledge e assistenti |
Traccia richieste, code, tempi, errori e costi; definisci SLO e alert.
Retry/backoff, idempotenza, circuit breaker e rate limiting su API.
Versioning modelli/API, canary/blue‑green, compatibilità e piano di rollback.
Autoscaling, code asyncrone e caching; separa piani di calcolo per evitare contese.
Latenza P50/P95, error rate, throughput, cost per call, qualità modello (F1/AUC), drift.
Key Vault, managed identity, secret rotation e principle of least privilege.