Credo che il rischio più grande dell’intelligenza artificiale non sia che cominci a pensare al posto nostro, ma che potremmo essere noi a smettere di farlo.
Ho letto un interessante articolo sulla resa cognitiva che affronta il fenomeno; e secondo me se ne parla ancora troppo poco.
L’articolo - che vi lascio al primo commento - si concentra sullo sviluppo software, ma credo che il problema sia ancora più interessante quando lo spostiamo sul management.
Immaginiamo un manager che debba prendere una decisione strategica.
Chiede all’AI di analizzare il mercato, confrontare gli scenari, valutare i rischi e proporre una soluzione.
In pochi minuti riceve un documento ben strutturato, con numeri, argomentazioni convincenti e una raccomandazione finale.
Lo legge, magari modifica qualche passaggio, e lo porta in comitato direttivo.
Ha preso una decisione o ha semplicemente approvato quella di qualcun altro?
L’AI potrebbe persino aver individuato una soluzione migliore di quanto il manager avrebbe potuto far da solo, ma il problema non è tanto quello quanto ciò che succederà nel tempo alla capacità del manager di comprendere il problema, valutare alternative e riconoscere quando una raccomandazione è sbagliata.
L’autore definisce questa condizione “cognitive surrender”, ovvero l’accettare progressivamente le conclusioni degli agenti senza esercitare un giudizio critico autonomo.
E nel management questo rischio si somma a una patologia che conosciamo già molto bene: la tendenza a confondere una presentazione convincente con un ragionamento solido.
Se prima erano le slide dei consulenti, ora sono le risposte degli LLM… vedi un po'!
Ne discende che stiamo aumentando enormemente la capacità di produrre analisi, ma non necessariamente quella di prendere decisioni migliori e credo che dovremmo cominciare a rivalutare il modo in cui utilizziamo l’AI.
Dobbiamo cominciare a chiedere alla macchina di contestare le nostre ipotesi anziché confermarle, di aiutarci nella modellazione di scenari alternativi, di cercare le ragioni per cui una decisione potrebbe fallire.
Solo questo esercizio ci potrà ancora permettere di distinguere ciò che possiamo delegare alla macchina da ciò che dobbiamo continuare a comprendere.
E un manager che non è più in grado di giudicare le decisioni che approva non sta facendo management, ma è diventato il passacarte di un algoritmo, e questa è una fine indegna.
Voi cosa ne pensate? Vi lasciate trasportare dalla corrente persi nel marasma generale, oppure siete ancora padroni del vostro pensiero?