Nel dibattito sull’intelligenza artificiale continuiamo a concentrarci soprattutto sulle capacità dei modelli: quanto sanno ragionare, programmare, analizzare documenti, individuare vulnerabilità o prendere decisioni. Ma capacità e intenzione sono due cose completamente diverse. Un hacker etico e un hacker criminale possono possedere sostanzialmente le stesse competenze. Possono utilizzare gli stessi strumenti, conoscere le stesse vulnerabilità e applicare tecniche molto simili. Ciò che cambia è l’obiettivo per cui quelle capacità vengono utilizzate. Con l’intelligenza artificiale accade qualcosa di analogo. Un agente capace di analizzare un sistema, individuare una vulnerabilità e sfruttarla può essere utilizzato per attaccare quel sistema oppure per proteggerlo. Il vero problema, quindi, non è necessariamente la capacità dell’AI. Sono gli obiettivi, gli incentivi e soprattutto l’asimmetria tra chi attacca e chi difende.

Attaccare e difendere non sono attività simmetriche

Immaginiamo un agente AI offensivo che cerca autonomamente una vulnerabilità. Può effettuare cento, mille o diecimila tentativi. Può fallire 999 volte e riuscire una sola volta. Quell'unico successo può essere sufficiente. Il costo del fallimento di ogni singolo tentativo può essere estremamente basso, mentre il valore dell'unico tentativo riuscito può essere enorme. Chi difende si trova nella situazione opposta. Un sistema di sicurezza basato sull’AI può individuare una possibile vulnerabilità e generare automaticamente una correzione. Ma applicarla significa modificare un sistema che, in quel momento, sta probabilmente funzionando. La correzione potrebbe interrompere un servizio, compromettere un'applicazione critica, generare incompatibilità o addirittura introdurre una nuova vulnerabilità. Per l'attaccante il fallimento è spesso solo un tentativo perso. Per il difensore il fallimento può significare fermare la produzione. È comprensibile, quindi, che un'azienda introduca un essere umano nel processo:

AI individua il problema → AI propone la soluzione → un tecnico verifica → un responsabile approva → la modifica viene applicata.

È una scelta razionale. Ma introduce un problema enorme.

Le macchine attaccano alla velocità delle macchine. Gli uomini difendono alla velocità degli uomini

Se gli agenti offensivi diventano completamente autonomi, la capacità di attacco può crescere enormemente. Non soltanto perché l’AI è veloce, ma perché può operare contemporaneamente su migliaia di sistemi, ventiquattro ore al giorno, modificando continuamente le proprie strategie. A quel punto avremo una situazione strutturalmente sbilanciata:

attacco completamente autonomo → velocità delle macchine

difesa AI con approvazione umana → velocità degli esseri umani

Non credo che questo equilibrio possa durare. La cybersecurity potrebbe diventare uno dei primi settori nei quali saremo costretti, più che scegliere, ad accettare livelli molto elevati di autonomia dell’intelligenza artificiale. Il processo potrebbe diventare:

individuazione della vulnerabilità → generazione della correzione → verifica automatizzata → distribuzione → monitoraggio → eventuale ripristino della versione precedente.

Senza necessariamente aspettare l'approvazione di un essere umano per ogni singola operazione. Naturalmente questo apre problemi enormi di sicurezza, responsabilità e controllo. Ma l'alternativa potrebbe semplicemente diventare troppo lenta. Ed è proprio questa asimmetria tra capacità tecnologica e disponibilità a concedere autonomia che, secondo me, aiuta a comprendere un fenomeno molto più ampio.

Perché l’AI sta penetrando nell’economia più lentamente del previsto

Sam Altman ha recentemente riconosciuto che l'impatto economico dell'intelligenza artificiale sta procedendo più lentamente di quanto immaginasse ai tempi del lancio di GPT-4. Credo che l'osservazione sia corretta. Ma c'è una spiegazione che rischiamo di sottovalutare.

Un'azienda esistente ragiona inevitabilmente in termini di rischio. Se un processo oggi produce 100 e l'AI permette teoricamente di produrre 150, l'opportunità è evidente. Ma esiste anche un'altra domanda: cosa succede se l'AI sbaglia? Se quell'errore può compromettere clienti, produzione, reputazione, sicurezza o ricavi, l'azienda introduce controlli. Supervisione umana. Procedure. Approvazioni. Limiti operativi. Controlli a campione. Escalation. L'AI entra quindi nell'organizzazione, ma viene inserita dentro il processo esistente. Ed è qui che si crea un paradosso. Abbiamo una tecnologia potenzialmente capace di cambiare radicalmente il modo in cui viene svolto un lavoro, ma la utilizziamo principalmente per rendere più efficiente il modo in cui quel lavoro viene già svolto. Non eliminiamo il processo. Acceleriamo il processo.

L’AI è soprattutto un'innovazione incrementale

Questa distinzione ricorda quella tra innovazione incrementale e innovazione dirompente. Per un'azienda consolidata l'intelligenza artificiale tende naturalmente a diventare un'innovazione incrementale. Microsoft, Google, una banca, un'assicurazione o una grande software house hanno già clienti, prodotti, dipendenti, procedure, responsabilità e miliardi di valore da proteggere. La domanda diventa quindi:

Come possiamo utilizzare l'AI per migliorare quello che facciamo senza compromettere quello che già funziona?

È una domanda legittima e razionale e allo stesso tempo conservativa. Automatizzare completamente significa infatti assumersi il rischio di danneggiare un'attività che genera già valore. Ed oggi è l’argomento più discusso durante le riunioni in azienda. E questo spiega perché, almeno inizialmente, molte aziende utilizzeranno l'AI per aumentare la produttività delle persone invece di eliminare completamente interi livelli organizzativi.

Le startup partono dal problema opposto

Una startup AI-native si trova invece in una situazione radicalmente diversa. Il suo scenario di base non è proteggere un'organizzazione che funziona.

Non ha migliaia di clienti da perdere, processi consolidati da preservare, organizzazioni costruite in vent'anni o ricavi miliardari da mettere a rischio. Questo cambia completamente gli incentivi. Un'azienda consolidata può pensare:

L'AI può migliorare questo processo, purché un essere umano mantenga il controllo.

Una startup AI-native può invece fare una domanda molto più pericolosa:

Perché dovrebbe esistere questo processo? E perché dovrebbe esserci un essere umano?

Questa differenza apparentemente sottile potrebbe diventare enorme. Perché la startup non deve necessariamente utilizzare l'AI per automatizzare un'organizzazione progettata per gli esseri umani. Può progettare direttamente un'organizzazione per l'AI.

Non automatizzare il lavoro. Ripensare l'azienda

Questo potrebbe essere uno degli errori strategici più importanti dei prossimi anni. Pensare all'intelligenza artificiale principalmente come strumento di automazione. Prendiamo un processo composto da dieci attività svolte da persone e cerchiamo di automatizzarne cinque. È utile. Riduce costi e aumenta produttività. Ma probabilmente non è ancora trasformazione. La domanda interessante è un'altra:

Forse no. Forse non esisterebbero alcuni reparti. Forse non esisterebbero alcune procedure. Forse alcune decisioni non richiederebbero riunioni. Forse determinati flussi amministrativi semplicemente scomparirebbero. Ed è molto più facile fare queste domande quando non esiste già un'organizzazione da difendere.

Le startup potrebbero diventare gli “attaccanti” dell'economia

La metafora della cybersecurity torna quindi utile. Le startup saranno, in un certo senso, gli hacker offensivi dell'economia. Potranno sperimentare aggressivamente. Potranno concedere molta più autonomia agli agenti. Potranno accettare numerosi fallimenti. Potranno costruire organizzazioni estremamente piccole capaci di gestire volumi che oggi richiedono decine o centinaia di persone. Le aziende consolidate saranno invece nella posizione dei difensori. Hanno clienti. Hanno ricavi. Hanno reputazione. Hanno sistemi informativi. Hanno procedure. Hanno responsabilità. Hanno qualcosa da perdere. E proprio per questo tenderanno razionalmente a mantenere l'essere umano nel processo decisionale più a lungo. Il problema è che quella prudenza potrebbe trasformarsi progressivamente in uno svantaggio competitivo.

Prima incrementale, poi dirompente

Non c'è quindi necessariamente contraddizione tra chi sostiene che l'AI aumenterà principalmente la produttività delle aziende esistenti e chi prevede che distruggerà interi modelli organizzativi. Potrebbero avere ragione entrambi, ma su orizzonti temporali differenti. Nel breve periodo l'intelligenza artificiale sarà soprattutto innovazione incrementale. Renderà programmatori, consulenti, amministrativi, commerciali, manager e aziende più produttivi. Nel lungo periodo potrebbe diventare invece innovazione dirompente. Non necessariamente perché gli stessi operatori elimineranno progressivamente gli esseri umani dai propri processi. Ma perché nasceranno concorrenti progettati fin dall'inizio con processi radicalmente differenti. E allora la vera competizione potrebbe non essere:

Potrebbe essere:

È una differenza molto più profonda.

Il vero vantaggio competitivo potrebbe essere la fiducia

Per anni abbiamo considerato il modello come il principale vantaggio competitivo. Chi possiede il modello più potente? Chi ha più parametri? Chi ha capacità di ragionamento migliori? Chi programma meglio? Ma questa competizione potrebbe diventare progressivamente meno importante. Se i modelli continuano a migliorare e le loro capacità diventano accessibili attraverso API, modelli open source e infrastrutture sempre più standardizzate, il modello tende progressivamente a diventare una commodity. A quel punto il vantaggio competitivo si sposta altrove. Nei dati proprietari. Nei processi. Nelle integrazioni. Nella memoria aziendale. Nella conoscenza specifica dell'organizzazione. Nei sistemi di controllo. E soprattutto nel grado di autonomia che siamo disposti a concedere all'intelligenza artificiale. Potrebbe quindi accadere qualcosa di apparentemente paradossale. Due aziende potrebbero utilizzare modelli con capacità quasi identiche e ottenere risultati radicalmente differenti. La prima utilizza l'AI per suggerire. La seconda per decidere. La prima chiede all'AI di preparare il lavoro per un essere umano. La seconda lascia che l'AI svolga direttamente il lavoro, controllando risultati, eccezioni e rischi. Tecnicamente utilizzano la stessa tecnologia.

Ed è qui che, secondo me, si giocherà una parte importante della competizione dei prossimi anni. Il vantaggio competitivo decisivo dell'intelligenza artificiale potrebbe non essere avere un modello migliore, ma essere organizzativamente disposti a fidarsi abbastanza del modello da lasciarlo operare autonomamente. E questo porta a un'ultima conseguenza. Se i modelli diventeranno sempre più intercambiabili, la vera differenza non sarà avere accesso all'AI. Tutti lo avranno. La differenza sarà avere l'AI dentro l'azienda: integrata nei sistemi, alimentata dai dati proprietari, capace di comprendere il contesto operativo, dotata degli strumenti necessari per agire e soprattutto autorizzata a farlo entro limiti definiti. A quel punto non parleremo più semplicemente di aziende che usano l'intelligenza artificiale. Parleremo di aziende che funzionano attraverso l'intelligenza artificiale. E saranno due cose molto diverse.