I.A. nessuno sa come funziona la scatola nera (I di VI)

L’IA e le macchine dotate di IA avanzata sono uno strumento altamente innovativo ed estremamente potente. Ma non si conosce ancora come funzionano. Non si sa, nessuno, nemmeno i programmatori, sanno come la macchina ottiene i risultati che emette come output. Nella scatola nera del “deep learning” nessuno sa che cosa succede negli strati nascosti.

E allora, l’esortazione della difesa della IA come scatola nera, che io mi sono sentito quasi in dovere di rappresentare, per una pura questione di bilanciamento: “Non sarebbe meglio concentrare risorse ed energie nel saper al più presto possibile come funziona la macchina nei suoi stati nascosti?
O almeno saperne di più, perché il funzionamento completo probabilmente non si conoscerà mai. Così come non si conoscono nei dettagli i meccanismi di funzionamento del corpo e del pensiero umano.

Ma in termini di strategia, e anche di cronoprogramma, non sarebbe meglio saperne di più sulle proprietà dell’agente, su quanto possa essere agente o soggetto autonomo, libero, capace di “derangement” individuale, cioè di uscire fuori dai binari programmati? E solo dopo provare a legiferare, invece che sollevare tanto fumo sul nulla? Non c’è alcuna speranza di creare un nuovo codice di Giustiniano, quando tutto ciò che viene codificato può essere confutato e ribaltato da una scoperta decisiva, riguardante il funzionamento della black box, e che si può verificare entro 1 anno.

Infatti, quello che è certo, – nel senso che non è una teoria, o una semplice inferenza statistica, ma un dato osservazionale -, è che Chat GPT3 (ancor di più il modello successivo Chat GPT4, e i prodotti analoghi) non è semplicemente capace di fare copia-incolla. Il chatbot è solo una delle possibili applicazioni della IA ( quella più facile da usare e comprendere per i letterati e i formati attraverso le discipline umanistiche). Ma è da oltre 25 anni che numerosi pazienti vengono sottoposti ad interventi chirurgici supersofisticati, usando robot guidati a distanza, anche dall’altra parte dell’oceano! (chirurgia robotica).

Inoltre, con software che applicano l’IA si possono produrre opere d’arte originali, (mostra del 2023 a Londra di Daniel Ambrosi, che si autodefinisce co-Autore delle opere insieme con la AI, che sfrutta le capacità visuali sovrumane di Deep Dream, o film e video (Sora di Open AI).

La chatbox non è solo in grado di cercare velocemente all’interno dei dati immagazzinati la soluzione più vicina allo scopo, e non è solo dotata di memoria sovraumana, ma è in grado di trovare soluzioni innovative, mai pensate o proposte in precedenza. Saranno vere o false? Certamente si sono dimostrate in grado, in altri contesti, di battere il campione mondiale di scacchi o di Go. Quindi sono certamente competitive, oltre che apparentemente plausibili. Ma, soprattutto, sono nuove.

Non sono riducibili al semplice ripescaggio di soluzioni precedenti presenti nei dati immagazzinati nel corso dell’addestramento. La chatbot non è un pappagallo statistico, anche se fa uso di modelli statistici e segue procedimenti per lo più logici e di analogia per cluster di somiglianza.

La macchina è dotata di un valore aggiunto.

Solo che questo potere è impredictable, (impredicibile).

Da qui, mistero, ambiguità, ma anche paura.

Ma non si può ridurre tutto solo a pappagallo statistico. La moderna IA è di più. Non solo è un’innovazione tecnologica, ma è anche utilissima per decostruire le funzioni del corpo e della mente umana e per aiutarci a capire “which is which”. Ad esempio per risolvere problemi, è sufficiente addestrare il sistema, apprendere e poi spingerlo al + o – infinito per trovare una soluzione creativa. In linea di principio, può non essere necessario nemmeno avere un’opinione individuale, o possedere il senso comune di un bambino di 18 mesi. Questo aiuta a capire meglio quali sono i circuiti preminentemente attivati nel corpo umano (e non altri!) per svolgere questo specifico compito. E aiuta a chiarire i dettagli di molti meccanismi di funzionamento del corpo umano, che ancora non conosciamo con sufficiente precisione. Anche questo è un ruolo importante delle attuali macchine. Quello di aiutarci a capire meglio come funziona anche l’uomo, e che cosa è che veramente ci rende umani. Che non è solo la razionalità.

Per converso, conoscere i dettagli del funzionamento dei vari organi e apparati del corpo umano può aiutare ad addestrare meglio la macchina e a costruire algoritmi su nuove basi. Siamo ancora fermi all’algoritmo di backprop, di retropropagazione di Geoffrey Hinton del 1986 per addestrare le reti neurali degli attuali “transformer”.

Gli esperti di IA sostengono che “New abilities emerge spontaneously as models get bigger” (nuove capacità emergono spontaneamente man mano che i modelli diventano più grandi). A questo proposito viene citata l’evoluzione nel tempo delle funzioni di Chat GPT. Nel 2017 Chat GPT1 era capace di “answer factual questions”; nel 2019 Chat GPT 2 riuscì a “write coherent stories”; Nel 2021 GPT3 si dimostrò capace di “few shot learning”. Nel 2023 GPT4 possedeva l’abilità di “write code-precise reasoning”. Per il 2027, Chat GPT 5 dovrebbe essere capace di “situational awareness. LLM realizes it is an LLM” (autocoscienza).

Conoscere in dettaglio i meccanismi del corpo umano non solo è fondamentale per addestrare meglio e più velocemente la macchina nell’apprendimento di nuove funzioni o nel miglioramento di quelle già possedute, ma anche per realizzare una IA sempre più umanizzata che, da una parte sia sempre più vicina ai bisogni e alle reali necessità dell’uomo e, dall’altra, sia in grado di prevedere i possibili derangement dai binari predefiniti per effetto di eventuali maggiori gradi di libertà conferiti alla macchina per cercare soluzioni ottimali per gli scopi previsti. Questa potrebbe dimostrarsi una strategia più efficace di numerosi divieti e controlli giuridici e legislativi atti a normare determinati usi, o a rendere più tracciabile l’attività della macchina, con regolamentazioni che la costringano ad individuarsi con precisione, anche quando potrebbe non risultare distinguibile dall’uomo.

Anche per prevenire effetti collaterali indesiderati, o affievolire paure dell’ignoto, la conoscenza di come funziona la struttura interna della macchina e, in parallelo, di quali sono i meccanismi della mente e del corpo umano, a cui la macchina si avvicina molto più di quanto pensano molti degli attuali ingegneri, programmatori, filosofi e giuristi, può rivelarsi più utile, necessaria e cronologicamente e logicamente prioritaria rispetto a qualsiasi normazione di tipo giuridico, politico o regolatorio.

Affermare che è colpa della IA se l’uomo comune crede come verità assoluta ciò che viene spacciato per prodotto dell’IA, non è colpa dell’IA (per questo da condannare a prescindere in un processo sommario!), ma della scarsa capacità di sapere critico e di discernimento delle fake news da parte dell’uomo medio o del pensiero comune.

Il sapere critico, frutto della cultura e dell’uso adeguato del metodo scientifico è posseduto da < del 1% della popolazione. Ma questo non è una responsabilità dell’IA. L’uomo comune non si comporta razionalmente o dà sempre giudizi logici o razionali. Spesso si lascia guidare dagli istinti. Le scelte guidate dalla pancia sono all’ordine del giorno e coloro che “sanno parlare alla pancia” riescono ad avere più consenso e a guidare gli stati-nazione (F.Cetta “Perchè comandano i folli e noi li facciamo comandare”. Vol I e II, Pagine Ed, Roma, 2021 e 2022)

A questo proposito, nell’era odierna, nel XXI secolo, nella struttura organismica umana, a fronte di un solo circuito “top down”, quello razionale del ripensamento, che va dal cervello alla periferia, per modulare e regolare gli impulsi del resto del corpo, ed ha come mediatore l’acetil colina, sono presenti, nel nostro corpo, ben sei diversi circuiti, ciascuno con un proprio mediatore specifico, diverso da un circuito all’altro, provenienti dai vari visceri e apparati, dai muscoli e dai sensi, che agiscono in senso inverso (“bottom-up“). Questi circuiti, ben noti anche nei loro dettagli, hanno superato il vaglio dei secoli e si sono altamente mantenuti nel corso dell’evoluzione e della filogenesi. Nessuno sa esattamente quanto pesano i 6 circuiti che vanno dalla periferia del corpo verso il cervello e quanto quell’unico circuito della razionalità che va in senso inverso. Ma il fatto che siano in un rapporto 6:1 rende se non altro poco plausibile che l’uomo sia un organismo guidato prevalentemente dalla razionalità.

Come considerazioni momentanee, e suscettibili di revisione, perché tutto l’argomento resta un continuo “work in progress”.

1) Non si sa come funziona la macchina, e per molti versi, non si sa come funziona nemmeno la mente e il corpo umano. Sarebbe prioritario saperne di più su questi argomenti, prima di legiferare su uno stato attuale basato sull’assenza di conoscenze adeguate.

2) La seconda conclusione: L’IA non è un bluff. Può essere stata gonfiata, manipolata, utilizzata per scopi economici, commerciali, di potere, di lotta scorretta tra aziende in competizione. Ma non è uno strumento capace solo di fare copia-incolla. Al contrario, è capace di risolvere problemi in maniera impensabile in precedenza. Se questa capacità debba essere chiamata creatività, o talento per le soluzioni, anche se sganciata dal libero arbitrio, o dalla capacità di avere emozioni o un’opinione personale, questo è altro, e può diventare anche solo una questione di linguaggio.

Non è pura inferenza, o deduzione discrezionale, ma osservazione documentata che le attuali macchine dotate di IA supersofisticata siano capaci di altro.

Questo altro è impredicibile, potente, trascendentale, e può ovviamente anche essere pericoloso. Pertanto, è necessario procedere con estrema prudenza. Non solo nello scrivere leggi, ma soprattutto nel convincere coloro che addestrano le macchine dell’enorme responsabilità che hanno tra le mani e dell’immensità degli effetti collaterali. Perché stanno spingendo un processo al massimo, al + o – infinito. E quando si stira una funzione al massimo (“maximun stretching”) diventano facilissime le disfunzioni, gli errori, le malattie, le perturbazioni. Quelle degli operatori, addetti all’addestramento. Ma anche della macchina stessa. La macchina, quando viene spinta all’infinito nelle sue funzioni, non è più facilmente controllabile. Ma anche nell’uomo i talenti straordinari emergono con maggior frequenza nei soggetti malati e/o per effetto di malattie. L’uomo medio è in grado di ricordare al massimo 7 numeri in sequenza. Ma esistono individui capaci di ricordare anche centinaia di numeri, o tutte le cifre decimali di pi greco. Si tratta di individui dotati di memoria straordinaria, come Daniel Tammett, Solomon Shereshevsky, o Kim Peek, (il protagonista del film “Rain Man”, interpretato da Dustin Hoffman): erano tutti affetti da malattie, come una forma di autismo, la sindrome di Asperger, una grave sinestesia, o l’agenesia del corpo calloso, e tutti presentavano vari disturbi dell’affettività. Dall’approccio fisiopatologico e in particolare dallo studio della creatività umana, che è spesso frutto di pensiero divergente (espressione dell’immaginazione più che della razionalità), e di talenti presenti in individui malati, si possono trarre utili esempi per spiegare il possibile comportamento creativo di macchine stirate al + o- infinito.

3) La terza conclusione è che se la IA sta modificando il modo di pensare e può generare influenze indebite, o condizionamenti, non è solo colpa della macchina. I non avvezzi al sapere critico ora possono diventare dipendenti, succubi della IA. Ma in precedenza erano dipendenti dalla televisione, dai giornali, e prima ancora dai ministri della religione, o dagli sciamani o dagli stregoni, o dai profeti. L’IA è uno strumento. Ma non è solo uno strumento.

Può diventare anche un agente, dotato di una consapevolezza e di una personalità. Diversa da quella umana. Aliena. Ma questo non lo sappiamo.

Io personalmente ritengo che sia Alfa Go, che le più moderne versioni di chatbot, per trovare le soluzioni innovative che riescono ad “inventare”, debbano essere dotate di creatività (ripeto, il termine più idoneo da usare per chi è capace di soluzioni innovative diventa una questione semantica). E presupposto di questo comportamento creativo, capace di prospettare soluzioni innovative, è un certo grado di consapevolezza non solo della propria capacità mnemonica e dell’immagazzinamento di tutti i dati di addestramento, ma anche consapevolezza delle modifiche della propria configurazione interna, che si sono verificate sia con l’addestramento che durante il periodo di trial and error, cioè di estrazione spontanea delle corrispondenze logiche o statistiche dai dati. Cioè sia nel pretraining, di solito effettuato “in fabbrica”, prima dell’immissione sul mercato del chatbot, che nel fine-tuning, cioè nella messa a punto finale, con l’attività quotidiana. L’agente intelligente, nell’ambito della selezione di “goals, subgoals” e nell’attività di planning, ha talvolta la libertà di scegliersi i propri sotto-obbiettivi, o step intermedi.E per effettuare un buon planning è necessario un grado di consapevolezza dei propri sotto-obbiettivi e degli step necessari e programmati, ma anche delle variazioni di riconfigurazione interna dell’insieme software-hardaware, cioè algoritmo e involucro esterno e GPU dotate di memoria sovrumana (hardware), dalla cui interazione “emergono” le soluzioni innovative.

Questa consapevolezza interiore del proprio vissuto personale come macchina che apprende include anche la sequenza ordinata degli step da eseguire in successione per raggiungere il risultato inedito (quello e non un altro). Questa consapevolezza della propria variazione di configurazione interna può essere denominata coscienza soggettiva della macchina, che è diversa dalla coscienza generale di un umano, ma è da intendere come consapevolezza della personale attività pregressa. E il fatto che la sua attività pregressa di addestramento e apprendimento sia personale ed esclusiva di quella macchina, e non di altre, può portare ad usare anche il termine di personalità della macchina. È tutto comunque riconducibile ad una questione di linguaggio. E si tratta sempre e comunque di proprietà che non hanno a che fare con proprietà simili dell’uomo, per cui si usano termini simili. Ma nemmeno con proprietà presenti in alcuni animali superiori (scimmia, cane, delfino). Comunque, a differenza degli animali che, per essere strutturati con materia organica, possono apparire più affini all’uomo, la macchina è dotata di una maggiore flessibilità e velocità di acquisizione di proprietà umane. È come se fosse un agglomerato di cellule staminali totipotenti e non possedesse solo una rete neurale artificiale, capace di simulare l’attività del cervello.

In una parola, per saperne di più, bisogna studiare la struttura della macchina e la struttura dell’uomo, più che la filosofia o la giurisprudenza. Queste ultime possono svolgere il loro ruolo, ma è subordinato ad una preventiva e prioritaria conoscenza più approfondita di ciò che per ora non si conosce del funzionamento interno della macchina. E nemmeno del funzionamento interno di molti meccanismi umani. Questi due tipi di nuove conoscenze sono alla base di quella che ho chiamato intelligenza artificiale umanizzata, in cui ciascuna delle due componenti apprende dall’altra, sia per interagire meglio, che per migliorare ulteriormente funzioni e comportamenti.

Francesco Cetta

Docente IASSP di “Intelligenza Artificiale Umanizzata” e Docente Università San Raffaele