L'intelligenza artificiale abbatte il costo per produrre un lavoro apparentemente qualificato. Ma c'è un problema molto più subdolo: la capacità di fare qualcosa sta crescendo più velocemente della capacità di giudicare se quella cosa è fatta bene.
È questo il punto centrale di mio pensiero sul fenomeno che potremmo chiamare “competenza artificiale”.
Per anni abbiamo dato per scontata una relazione abbastanza semplice: se non possiedi le competenze necessarie per svolgere un'attività, difficilmente puoi produrre un risultato professionale. L'AI rompe questa assunzione.
Oggi posso chiedere a un modello generativo di scrivere un programma, preparare un'analisi finanziaria, progettare una campagna marketing, costruire una presentazione o elaborare una strategia commerciale. In pochi minuti ottengo qualcosa che ha l'aspetto di un lavoro professionale.
Ma c'è una domanda a cui l'AI non risponde (per ora almeno) :
Come faccio a sapere che quello che hoo fatto è giusto?
Il nuovo divario
Prima dell'AI, capacità di esecuzione e capacità di valutazione tendevano a crescere insieme.
Se ero un programmatore mediocre, producevo codice mediocre e, almeno in parte, ero consapevole dei miei limiti.
Con l'AI posso invece produrre codice molto più sofisticato delle mie competenze.
Schema concettuale — i valori non sono dati reali
Ed è proprio qui che nasce il rischio.
Il problema non è l'errore dell'AI
Dire semplicemente “l'AI può sbagliare” è banale.
Il problema interessante è un altro: può sbagliare in modo credibile.
Un esperto riconosce più facilmente un risultato assurdo. Un inesperto può invece trovarsi davanti a un output elegante, coerente e apparentemente professionale senza avere gli strumenti per verificarlo.
È una situazione particolarmente pericolosa perché l'AI elimina alcuni dei segnali che normalmente ci ricordano la nostra incompetenza.
Prima, se non sapevo programmare, non potevo costruire un'applicazione complessa e soprattutto, una volta lanciata, semplicemente non funzionava o funzionava male.
Oggi posso farlo.
Ma il fatto che riesca a costruirla non significa che sappia progettare correttamente sicurezza, architettura, scalabilità, manutenzione e gestione degli errori. Ed è importante sottolineare proprio questa distinzione: essere molto bravi nell'uso dell'AI non equivale a essere bravi nel lavoro che l'AI sta aiutando a svolgere.
Schema concettuale — i valori non sono dati reali
Il problema non è che l'AI sbaglia. È che sbaglia in modo credibile.
La parte pericolosa
Possiamo quindi immaginare tre situazioni.
1 · Competenza alta + AI
È la situazione migliore. L'AI accelera il lavoro, ma l'essere umano possiede il contesto e sa criticare il risultato.
2 · Competenza media + AI
L'AI può aumentare enormemente la produttività, purché il risultato venga verificato.
3 · Competenza bassa + AI
Qui nasce la vera area di pericolo. L'utente non sa fare bene il lavoro e non sa nemmeno riconoscere necessariamente quando l'AI lo ha fatto male.
Schema concettuale — i valori non sono dati reali
Il punto non è quindi usare o non usare l'AI.
È sapere in quali territori abbiamo abbastanza competenza per controllarla e per capirne il processo ed il risultato.
L'AI come amplificatore del giudizio
Questa distinzione diventa ancora più importante nel product management.
Il vero valore dell'AI, quindi e per ora, non dovrebbe essere semplicemente produrre più rapidamente roadmap, backlog, PRD, user story o prototipi. Il vantaggio maggiore può arrivare dalla ricerca, dall'analisi delle evidenze e dalla product discovery.
Ormai sappiamo che l'AI aiuta certamente a:
- analizzare grandi quantità di dati;
- individuare pattern;
- formulare ipotesi;
- costruire modelli;
- generare esperimenti;
- analizzare risultati;
- mettere in discussione il ragionamento umano.
Ma con una condizione fondamentale: l'essere umano deve mantenere la capacità di criticare e validare il risultato.
In altre parole, l'AI dovrebbe essere un moltiplicatore dell'intelligenza, non un sostituto del giudizio.
Il paradosso della produttività
Qui emerge una conseguenza strategica che va oltre il singolo lavoratore, operatore o addetto.
Se produrre software, testi, immagini, analisi e documentazione diventa molto più economico, il vantaggio competitivo non sarà necessariamente di chi produce più output.
Potrebbe essere di chi decide meglio cosa produrre.
Potrei dire che l'accelerazione dello sviluppo non rende automaticamente inutile la fase di ricerca. Anzi, se costruire diventa più facile, diventa ancora più importante evitare di costruire cose sbagliate.
Se costruire diventa facile, il valore si sposta sul decidere cosa non costruire. E almeno per ora, a parte fare una analisi sui dati come mercato, potenziale ecc, l'AI non riesce ancora a decidere. Ma questo non vuol dire che a breve sarà in grado di farlo.
La competenza necessaria oggi
Il rischio più grande dell'AI non è quindi creare persone completamente incapaci.
È creare persone abbastanza capaci da fare cose che prima non potevano fare, ma non abbastanza competenti da comprenderne completamente le conseguenze.
Questa è la vera frattura.
La domanda non sarà più:
Sai farlo?
Perché probabilmente l'AI permetterà a quasi tutti di rispondere positivamente.
Sarà:
Sai capire quando è fatto bene, quando è sbagliato e quando non dovresti nemmeno farlo?
Ed è una domanda molto più difficile.
L'AI sta trasformando rapidamente la produzione di competenza in una commodity.
Il giudizio, invece, per ora non è affidabile. Ed è lì che si giocherà la differenza.
Quanto alla comprensione del valore di ciò che si realizza, bene, questoè argomento di un altro articolo.