Definire l'architettura dei sistemi GenAI: scelte make/buy, selezione dei modelli, trade-off cloud vs on-premise in base a vincoli di dati, costi e performance
Guidare tecnicamente i progetti più complessi, dal design alla produzione, garantendo scalabilità e affidabilità
Progettare e gestire il serving self-hosted di LLM open-weight (vLLM)
Definire gli standard di qualità e LLMOps: evaluation, observability, testing, gestione dei costi, versionamento di prompt e modelli
Implementare guardrail e sicurezza: mitigazione di prompt injection, gestione PII, controlli sull'output
Svolgere attività di mentoring a beneficio di profili junior e mid, guidando code review e design review
Operare come interfaccia tecnica verso clienti e stakeholder interni, contribuendo alle decisioni di prodotto e allo scouting tecnologico
Comprovata esperienza (5+ anni) nel settore del software o ML engineering, di cui almeno 2 anni nello sviluppo e conduzione di sistemi GenAI/LLM in produzione
Solida e dimostrabile esperienza nell'implementazione di sistemi agentici in produzione e nell'ingegnerizzazione di architetture RAG complesse su larga scala (ambienti multi-tenant, elevati volumi di traffico e gestione di dati sensibili)
Approfondita conoscenza tecnica di almeno una piattaforma hyperscaler (AWS, Azure, GCP) e consolidata competenza in soluzioni di deployment ibride o on-premise
Competenza nel serving e nell'ottimizzazione di modelli open-weight (tramite vLLM o framework equivalenti), comprese le logiche di quantizzazione, batching e gestione avanzata delle risorse GPU
Solide basi metodologiche relative ad architetture di sistemi distribuiti, Kubernetes, networking e protocolli di sicurezza informatica
Completa padronanza delle metodologie di evaluation avanzata e dei principali framework di observability/LLMOps (quali Langfuse o LangSmith, con relative valutazioni automatiche e processi human-in-the-loop)
Consolidata esperienza nel ruolo di leadership tecnica, comprendente attività di mentoring, definizione di standard qualitativi e coordinamento di team di progetto multidisciplinari
