Come capire se l'AI sta classificando male: si controlla la confidenza
Un modello che classifica sbaglia senza lasciare traccia: l'etichetta che restituisce è sempre formalmente valida.
8 articoli in questa categoria.
Un modello che classifica sbaglia senza lasciare traccia: l'etichetta che restituisce è sempre formalmente valida.
Chi automatizza il controllo di fascicoli di documenti ricorrenti comincia quasi sempre dalla parte sbagliata: prima del modello viene l'elenco di cosa serve.
Se un modello scrive un curriculum sapendo il nome del candidato, anonimizzarlo dopo non basta: il testo è già cambiato con quel nome.
Davanti a un processo industriale, un modello generico può scrivere equazioni che tornano sulla carta e dimenticare ciò che il tecnico dà per scontato.
Un agente AI che usa il gestionale come un impiegato può aprire la scheda giusta, salvarla e lasciare nel database un valore sbagliato.
In molte aziende manifatturiere il configuratore c'è, ma la combinazione giusta per un cliente la sanno trovare due o tre tecnici.
Il “babysitting” dei prompt è ufficialmente diventato il collo di bottiglia della produttività moderna.
Quando parliamo di agenti AI, spesso ci concentriamo su modelli, tool, prompt, workflow e capacità di ragionamento.