Salta ai contenuti

📖 Glossario rapido

  • Prompt Injection : attacco che dirotta l’IA tramite istruzioni malevole (rischio OWASP n°1).
  • Iniezione diretta / indiretta : digitata dall’utente / nascosta in un contenuto che l’agente legge.
  • Guardrail : filtro automatico di input/output (tossicità, dati sensibili, attacchi).
  • Triade letale : dati sensibili + contenuti non affidabili + comunicazione esterna = agente pericoloso.
  • Privilegio minimo : dare all’agente solo i permessi strettamente necessari.
  • Stopping rule / Iteration cap : un limite di passi per evitare i loop infiniti.
  • HITL (Human-in-the-Loop) : validazione umana obbligatoria prima di un’azione irreversibile.
  • Osservabilità / Tracce : registrazione dettagliata delle azioni, del ragionamento e dei costi dell’agente.
  • Defense-in-depth : impilare più livelli di protezione (nessuno perfetto da solo).
  • Storico delle esecuzioni : log nativo (Make/n8n) di ogni run di un workflow — una traccia pronta all’uso.
  • Account/token di servizio : un identificativo dedicato all’agente (≠ il tuo account admin), con diritti limitati.

Una formazioneBaxIA