I.A. Nessuno sa come funziona la scatola nera (III parte su VI)

Il combinato disposto delle ultime scoperte scientifiche e delle osservazioni più recenti sembra confutare il dogma della verità unica. Suggerisce che non c’è sempre una causa unica che produce necessariamente un effetto prestabilito. Al contrario, ogni evento osservabile nel mondo reale appare risultare da un insieme di fattori (che possono essere concatenati, ma anche cangianti e continuamente variabili), in cui eventi e fenomeni classificabili come caso si intrecciano con altri meglio assimilabili ad un concetto di necessità.

Da queste interazioni ripetute tra caso e necessità, chimica ed ambiente, genetica, epigenetica e meccanismi dello sviluppo, le funzioni e i comportamenti “emergono” in maniera dinamica, perennemente fluida, (continuo work in progress, secondo l’assioma “panta rei”). Ciò che appare all’esterno, il fenotipo emerge. Se non proprio dal nulla, non necessariamente da qualcos’altro in maniera deterministica. Anche se in biologia siamo sempre legati all’assioma di Virchow “omnis cellula e cellula”, in realtà sono molte le osservazioni di fenomeni impredicibili.
Manning CD et al in “Emergent linguistic structure in artificial neural networks trained by self-supervision” (PNAS 2020; 117: 30046-30054), parlano di struttura linguistica “emergente” da reti artificiali addestrate mediante auto-supervisione. Altri sostengono che “New abilities emerge spontaneously as models get bigger” (nuove abilità emergono man mano che i modelli diventano più grandi).
E la meccanica quantistica fa continuo riferimento a nuovi fenomeni, o funzioni, “emergenti” in maniera imprevedibile.

In realtà nel corpo umano il fenotipo emerge sulla base del codice genetico o genotipo. Ma è qualcosa di diverso da quanto presente nel codice chimico, che è in grado di fornire solo una predisposizione generica. A ben vedere, i principi, le categorie, gli universali si adattano meglio al genotipo, cioè alla chimica, che è più matematizzabile e può essere espressa sotto forma di equazioni percorribili nei due sensi, e che presuppongono una certa reversibilità. Al contrario, si applicano meno bene al fenotipo e alle funzioni che emergono, sono meno matematizzabili, più qualitative e, soprattutto, possono andare incontro ad alterazioni irreversibili, cioè non suscettibile di regressione, o di ritorno alla situazione quo ante. Il fegato cirrotico, quando emerge nell’organismo umano, è una modifica irreversibile. Non suscettibile di guarigione. Nemmeno per “miracolo”.

L’irreversibilità delle lesioni che dal software (dalle funzioni e dai meccanismi e circuiti interni) si trasmettono automaticamente all’hardware del corpo umano, (struttura organismica), così come il ruolo dell’abitudine, del vissuto pregresso personale, dell’ambiguità, dell’incertezza in molti dei meccanismi che regolano il funzionamento del corpo, sono alcune delle caratteristiche fondamentali dell’uomo. Fanno parte di “ciò che ci rende umani”. Forse più della razionalità e della capacità di apprendere.

Queste nuove osservazioni, “emerse” di recente sono di vitale importanza sia per conoscere meglio la natura e il funzionamento dell’organismo umano, che per contribuire in maniera decisiva a spiegare alcuni comportamenti della macchina dotata di IA, che ci appaiono al momento incomprensibili. E che non riusciremo mai a comprendere se non proviamo a sgombrare la mente da molte delle metanarrazioni del passato.

L’ altro aspetto importante, che è stato finora sottaciuto o messo in disparte, se non apertamente avversato, è il ruolo fondamentale della disfunzione, della malattia, del “derangement” rispetto ai binari usuali. La malattia non è il male da evitare o combattere in alternativa al bene, all’armonia e alla perfezione, come se si trattasse di due mondi contrapposti.

La malattia è presente in natura, fa parte della natura (è un costituente ineludibile del mondo osservabile e percettibile).
Non solo. Ma rappresenta uno dei fattori più importanti del progresso e dell’evoluzione.

L’emergenza di nuovi talenti, abilità straordinarie (fuori dall’ordinario) avviene con il contributo cruciale della malattia, della disfunzione, della reazione in risposta ad una situazione di handicap funzionale, che è individuale, e che innesca meccanismi reattivi e risultati assolutamente personali e non generalizzabili a tutti.

Sono stati ulteriormente chiariti numerosi meccanismi che riguardano non solo l’apprendimento del linguaggio orale, ma anche di lettere e numeri, e di come l’apprendimento stesso vari a seconda dell’età in cui il bambino viene esposto per la prima volta a questo tipo di sollecitazione. In particolare, nuove delucidazioni sono state ottenute grazie alle scoperte della fisiopatologia, alla corretta interpretazione di handicap funzionali precoci come cecità o sordità completa, ma anche deficit visivi, strabismo, (mancanza del coordinamento occhio-mano), alla possibilità di apprendimento durante il sonno, o alle metodologie di apprendimento condizionato o rinforzato, anche mediante il coinvolgimento di più sensi, (sinestesie).

La fisiopatologia (la presenza di individui con specifiche patologie e alterazioni) ha fornito contributi sostanziali alla migliore conoscenza dei meccanismi di compenso e di riciclo da parte di nuclei e aree cerebrali in caso di perdita completa in una determinata funzione sensoriale. Ma ha anche contribuito a fornire spiegazioni dell’emergenza di talenti straordinari (talento per i numeri, memoria straordinaria, precocità nel disegno, talento musicale) in soggetti affetti da autismo e sindrome di Asperger, cecità, sinestesia.

Finora si continua a considerare il progresso e l’evoluzione come frutto esclusivo della perfezione, della precisione, della predeterminazione dei risultati sulla base di leggi universali (determinismo). In realtà i sistemi complessi sono molto diversi dai sistemi chiusi, che vengono presi come modello in fisica e chimica. I sistemi complessi sono caotici. E il caos è diverso dal caso. Ed è più difficile da esprimere secondo modelli matematici. Si presta meno ad essere manipolato secondo le leggi della probabilità e i principi stocastici. La materia organica si comporta in maniera diversa da quella inorganica. Il secondo principio della termodinamica è valido in astratto, ma è molto distante dalle funzioni e dei comportamenti del corpo umano. Così come la curvatura dello spazio-tempo o la materia oscura.

Abbiamo bisogno di parametri più proxy, su cui esercitare i residui, (depurati dai bias metodologici e degli errori dogmatici) dei principi e della logica aristotelica. Una prima rivoluzione è che il male non è il nulla, ciò che non deve esistere (Satana in contrasto con Dio), come qualcosa da eliminare ogni costo. Al contrario la malattia, da difformità, la disfunzione è un fattore che interagisce con la sua controparte. Ed è l’interazione che determina i risultati.

I risultati finali (fenotipo, caratteri, funzioni, comportamenti) emergono dall’interazione. Pertanto bisogna studiare i fattori, gli oggetti, i meccanismi (software), ma anche gli involucri, le strutture di sostegno, di alimentazione o di supporto energetico, in cui “girano” i software. Perché il risultato non è frutto solo di software o di hardware, di corpo o di mente, di precisione o di imperfezione. Accanto alla perfezione, alla precisione, alla predeterminazione, c’è anche la malattia, l’evento imprevedibile. E gioca un ruolo fondamentale.

Il comportamento imprevedibile e impredictable dell’Intelligenza Artificiale può sembrare qualcosa di alieno, che non riusciamo ad inquadrare nel nostro attuale modo di pensare basato sulle categorie, sulla logica, la razionalità. Ma potrebbe anche essere il modo con cui si comporta il copro umano (in quei soggetti con struttura organismica diversa dal normale), quando è sollecitato a fornire prestazioni al limite.
Una conoscenza più approfondita dei meccanismi di funzionamento del corpo e della mente umana, anche sotto lo stimolo di quanto si osserva negli attuali agenti dotati di elevata capacità computazionale e trasformazionale (transformer) serve sia ad affrontare meglio le sfide del futuro, che vede le macchine intelligenti occupare un ruolo sempre maggiore, ma anche a capire meglio come noi stessi siamo fatti dentro.

Inoltre, è fondamentale per acquisire sapere critico adeguato, che è il valore più importante, ma anche quello più carente nelle nuove generazioni, che si fanno fuorviare facilmente dalla fake news, e che non sembrano sufficientemente addestrate a pensare in maniera scettica, secondo i suggerimenti del metodo scientifico.

Bisogna prendere atto della zavorra che le generazioni passate si sono caricate addosso per effetto delle varie metanarrazioni, le quali hanno indubbiamente ostacolato la libera emergenza delle conoscenze innovative. Perché queste si configuravano come “alternative”, e si scontravano con le certezze dogmatiche, le profezie della religione e di una scienza tradizionale, ancora intrisa di questo tipo di incrostazioni legate alle metanarrative e ai metalinguaggi.

Se vogliamo contribuire a creare una nuova classe dirigente, al passo coi tempi, e capace di guidare da protagonista le non facili sfide che ci attendono, bisogna provare a prevenire gli effetti collaterali e i possibili rischi connessi con l’avvento di nuove tecnologie come quelle legate a tutto ciò che ruota attorno all’Intelligenza Artificiale e alle magnificazioni che la scienza moderna è in grado di realizzare per amplificare le funzioni umane.

È quanto mai opportuno un saggio uso dell’intelligence, sia per la valutazione a 360 gradi degli effetti dell’interazione uomo-macchina, che per seguire e governare step by step ( perché la vera conoscenza innovativa si annida nei dettagli!) la costruzione di macchine creative, capaci di soluzioni innovative. Non si può nascondere la testa sotto la sabbia, e non mettersi al passo col nuovo che avanza.

Se non vogliamo che la technè – che procede in modo esponenziale – ci travolga, se ambiamo provare a saperne di più sull’attuale impredicibilità del comportamento delle macchine dotate di IA sofisticata, dobbiamo mettere da parte le metanarrazioni del passato e studiare i dettagli del funzionamento della macchina. Solo così possiamo avere concrete speranze di non soccombere. E anzi trasformare queste potenzialità eccezionali, sovrumane, inimmaginabili nel passato, delle “macchine intelligenti” in opportunità benefiche per il genere umano.

Francesco Cetta
Docente IASSP di “Intelligenza Artificiale Umanizzata”
e docente Università San Raffaele, Milano