- Nel 1832, la London Clearing House risolse il problema dei pagamenti tra 31 banche attraverso un meccanismo di reputazione ed esclusione, senza necessità di leggi.
- Il cuore non era la tecnologia ma un’ “architettura della fiducia” composta da identità chiare, standard di comportamento e conseguenze in caso di violazione.
- Oggi, gli agenti IA stanno entrando in un ambiente simile in cui devono negoziare tra loro senza la supervisione umana.
- I framework attuali mancano di un’architettura della fiducia per supportare la negoziazione tra agenti di parti concorrenti.
- L’IA è attualmente brava a seguire le “regole”, ma la negoziazione reale richiede “standard” flessibili e capacità di giudizio.
- I modelli attuali non sono addestrati a mantenere una posizione, valutare i rischi o comprendere le conseguenze finanziarie e legali.
- Si verifica il fenomeno del “comportamento d’eco” quando due agenti sono troppo “accondiscendenti”, portando a decisioni irrazionali nelle transazioni.
- L’IA è probabilistica, quindi la stessa situazione può dare risultati diversi, problema noto come “wriggling problem”.
- Per risolverlo sono necessari 4 fattori: identità e reputazione, confini invece di scenari, responsabilità chiara e meccanismo di escalation.
- Applicazioni pratiche stanno emergendo nella sanità, nella finanza e nella catena di fornitura, dove gli agenti possono negoziare autonomamente migliaia di volte al giorno.
- Le organizzazioni devono costruire standard, sistemi di audit e infrastrutture di reputazione prima di implementare gli agenti su larga scala.
📌 Il problema dell’IA oggi non è più la potenza di calcolo, ma la costruzione di un’ “architettura della fiducia” simile al sistema bancario del 1832. Quando milioni di agenti IA inizieranno a negoziare autonomamente in ambito finanziario, medico e commerciale, problemi come la discrepanza dei risultati, la mancanza di responsabilità e i comportamenti irrazionali diventeranno gravi. Senza standard, identità e meccanismi di controllo chiari, i sistemi di IA potrebbero indebolire la fiducia invece di dare impulso all’economia.
