Fastweb AI Security

Ogni soluzione basata su modelli di Intelligenza Artificiale Generativa porta con sé rischi specifici: risposte imprecise o inappropriate, comportamenti discriminatori, perdita di controllo sui contenuti generati, possibili violazioni di sicurezza. FastwebAI Security è il servizio Fastweb che verifica la robustezza dei modelli AI e ne definisce le regole di comportamento, per un utilizzo sicuro, controllato e conforme alle normative — incluso l’AI Act europeo.

Il servizio si articola su due ambiti complementari:

Mettere alla prova i modelli (Adversarial Testing)

Un team di esperti simula tentativi di attacco reali contro il modello di AI del cliente, con l’obiettivo di scoprirne le debolezze prima che lo faccia qualcun altro. Il test verifica la tenuta del modello di fronte a tecniche note come i tentativi di manipolare le istruzioni di sistema (prompt injection) o di aggirare le regole etiche imposte al modello (jailbreak). Al termine, il cliente riceve una valutazione precisa e misurabile del livello di rischio, confrontabile nel tempo per verificare i miglioramenti ottenuti.

Definire le regole di comportamento (Guardrailing)

Con BoundGuard, la componente dedicata al guardrailing, Fastweb progetta regole di comportamento su misura per ogni cliente: cosa il modello può e non può dire, quali argomenti evitare, quali dati proteggere. Tra le protezioni attivabili:

• Filtro dei contenuti, per bloccare argomenti vietati, linguaggio offensivo o riferimenti a concorrenti e marchi protetti.
• Protezione dei dati personali, con riconoscimento automatico e mascheramento di informazioni sensibili (email, codici fiscali, numeri di carta di credito) prima che vengano trattate dal modello.
• Controllo delle risposte generate, per intercettare contenuti inappropriati, informazioni false o non verificate (“allucinazioni” del modello), fughe accidentali di dati riservati o codice potenzialmente dannoso.

Un rischio tutt’altro che teorico: si stima che oggi circa l’11% dei dati inseriti in strumenti di AI generativa pubblici contenga informazioni aziendali riservate, spesso condivise senza che l’azienda ne sia consapevole.

I vantaggi:

• Scoprire le vulnerabilità prima che diventino un problema, grazie a test realistici e ripetibili nel tempo.
• Un modello che rispetta le regole dell’azienda, non solo quelle generiche del fornitore del modello.
• Protezione concreta dei dati sensibili, aziendali e personali, in ogni interazione con l’AI.
• Supporto alla conformità normativa, incluso l’AI Act europeo.
• Un servizio modulare, calibrabile in base alla complessità dei sistemi da testare e proteggere, con la possibilità di un monitoraggio continuativo nel tempo.