Chi ci capisce è bravo

Diciamocelo pure, abbiamo perso la trama… E da un pezzo. Fino al medioevo, direi che bene o male c’eravamo. È dalla modernità in avanti che abbiamo progressivamente smesso di capire il mondo.

L’illuminismo, il metodo scientifico, la rivoluzione industriale: il progresso. Bestia da soma che lemme lemme ha trainato l’umanità (o comunque una considerevole parte di essa) fuori da selve oscure, attraverso lande desolate, verso un orizzonte abbacinante di speranze e traboccante di abbondanza. Di fatto, assuefatti come siamo agli innumerevoli frutti del progresso tecnico-scientifico, è raro che uno si fermi a contemplare la straordinaria entità delle opzioni a propria disposizione; ma ancora più raro, infinitamente più raro, è trovare uno che possa in piena coscienza sostenere affermativamente di conoscere nel vero senso della parola ciò che in primo luogo permette quelle stesse straordinarie possibilità.

Se mi guardo un secondo attorno, mi posso rendere facilmente conto di essere contornato da cose ordinarie che sfuggono alla mia comprensione. Ne è un esempio lampante il laptop che mi sta di fronte mentre scrivo questo mio articoletto. Un oggetto che per quanto ne so potrebbe benissimo trattarsi del risultato scaturente da un rituale occulto di magia nera… Qualcheduno, di cui però non riesco a ricordare il nome, osservò che una tecnologia sufficientemente avanzata è pressoché indiscernibile da un sortilegio. Non credo che chi abbia espresso questo pensiero intendesse riferirsi alla nostra situazione attuale, ma direi che calza a pennello. Usiamo quotidianamente strumenti dei quali ignoriamo praticamente tutto: composizione interna, funzionamento (complessivo e delle singole parti), per non parlare poi dei principi fisici/chimici che ne stanno alla base.

Dopotutto, questo sembra un piccolo prezzo da pagare in cambio di uno status semidivino, no?

Non è forse irrealistico pretendere che la persona media possa essere abbastanza ferrata, non in uno solo ma in svariati campi del sapere tecnico-scientifico, tale da poter comprendere la complessa realtà nella quale è immersa? Voglio dire, abbiamo organizzato la nostra conoscenza e il suo perseguimento in ambiti così altamente specializzati, frammentati, compartimentalizzati che un esperto di x è alla meglio probabilmente mediocre per quanto riguarda y ed è certamente un profano su z. Insomma, ciò che ci “affligge” non è un qualcosa cui possiamo sperare di sopperire semplicemente con un’istruzione migliore – che d’altra parte non potrebbe mai stare al passo dell’innovazione che il tempo necessario per una nuova nozione/tecnica di venire formalizzata in un programma di studi, soprattutto in determinati campi, ed è già preistoria -.

Ma sì, consoliamoci del fatto che, grazie al motore capitalismo e ai suoi irresistibili incentivi, le conquiste esoteriche dei nostri sacerdoti, anziché rimanere prerogativa di pochi eletti, assumano invece una sembianza a noi comuni mortali più congeniale, accessibile, sfruttabile, ossia nella forma di prodotti o servizi destinati a soddisfare ogni nostro bisogno e capriccio. Auguriamoci solamente di non fare il proverbiale passo più lungo della gamba con l’intelligenza artificiale perché, a quanto pare, a stessa ammissione degli addetti ai lavori, ignoriamo che cosa avvenga realmente “sotto il cofano” di questi sofisticati algoritmi. Che il gregge sia smarrito, questo è un conto, magari tollerabile; ma che pure il pastore lo sia a sua volta… Beh, questo direi che non va affatto bene…

AI: una minaccia esistenziale

Presto o tardi, per ogni specie vivente giunge il fatidico atto finale che chiude definitivamente il sipario, il momento della sua estinzione. la lista degli ex-viventi non fa che allungarsi – anche grazie al nostro contributo – e sembrerebbe proprio che il nostro turno si stia facendo sempre più imminente… Sono attualmente tre le minacce con il potenziale di cancellarci dalla faccia del pianeta: il cambiamento climatico, le biotecnologie (virus geneticamente potenziati, l’accesso massificato di apparecchiature di manipolazione e sintetizzazione), l’intelligenza artificiale. È interessante constatare come lo spettro aleggiante dell’annientamento, che di consueto trova la sua origine e spiegazione in fattori e cause esterne alla specie presa in considerazione – si pensi all’asteroide che ha posto fine all’era dei dinosauri – , nel nostro peculiare caso, si annunci in quanto scaturente direttamente dal nostro stesso agire (a riprova della nostra proverbiale intelligenza?). Comunque sia, come intuibile dal titolo, in questo articolo spenderò due parole esclusivamente sulla minaccia esistenziale rappresentata dall’AI – non perché ritengo che fra le tre sia la più probabile cagione della nostro dipartita, ma poiché nella stesura del precedente articolo, sempre sul tema AI, sono stato preso da ulteriori spunti e riflessioni – .

Innanzitutto, una puntualizzazione: l’apprensione concerne la creazione di un’intelligenza artificiale generale (o forte). Che cosa s’intende per generale? Arriviamoci per via negativa, introducendo nel discorso la varietà di intelligenza artificiale di cui al presente disponiamo e che viene definita debole (o relativa). Ora, per non cadere in ripetizioni, ometto di citare esempi correnti di weak/narrow AI – già riportati nel mio pezzo AI: l’ascesa di un nuovo oracolo – e mi accingo a proporre una caso banale ma perfettamente esemplificativo della differenza abissale che intercorre tra le due forme di intelligenza artificiale.

La calcolatrice. Forse un esemplare primitivo, ma è presumibile che si possa parlare, anacronisticamente, della prima intelligenza artificiale poiché, che cos’è la calcolatrice se non una macchina capace di effettuare operazioni di natura intellettiva/concettuale (svolgere computazioni aritmetiche)? Essa è “debole” in quanto è limitata nella sua “intelligenza”: ci supera in un sol dominio, quello del calcolo; ma, a mio parere, l’elemento cruciale che ascrive la calcolatrice nella categoria delle AI deboli è un altro: essa non possiede la benché minima cognizione di quello che fa (di quello che è); calcola senza sapere che cosa significa calcolare, manipola numeri senza sapere che cosa i numeri sono, esegue.

Ecco, adesso, per avere un’idea di che cosa possa essere un AI generale, è sufficiente immaginare l’esatto contrario: una tecnologia, una forma di intelligenza piuttosto, che non è limitata, ristretta a un singolo ambito di applicazione, a una specifica funzione, ma è appunto dotata di un orizzonte attuativo generale, e che in più dimostra a tutti gli effetti di essere senziente, di avere una coscienza e sperimentare ed esibire qualcosa di assimilabile alle emozioni… 

Creare con successo un’intelligenza artificiale generale sarebbe come creare una divinità: l’uomo che da genesi a un dio (che a suo volta genererà), pensate… Siamo sicuri di volerci spingere così in là? Una volta spalancata la porta “generale” non si potrà in nessun modo richiuderla e, probabilisticamente parlando, ciò che si prospetta e ci attende oltre il varco non sarà affatto di nostro gradimento, eufemisticamente parlando… Voglio dire, quanto suona incosciente, scriteriata, malsana, folle, suicida l’intenzione di realizzare qualcosa di più intelligente di noi, i suoi artefici, e che per giunta disporrebbe di un’«anima» propria? Perché, chi o che cosa ci assicura che essa sarebbe bendisposta nei nostri confronti? chi o che cosa ci garantisce che essa condividerebbe i nostri valori, la nostra cultura, i nostri interessi? chi o che cosa ci dice che acconsentirebbe docile docile, servile servile a sottostare al nostro volere, alla nostra potestà? NIENTE E NESSUNO.

Ma qualcuno potrebbe replicare: “Basterebbe programmarla in maniera tale da risultarle impossibile nuocerci; programmarla per ubbidirci senza remore; programmarla per avere a cuore il nostro benessere e la nostra felicità. Una visione ingenua. Pensate sul serio che qualche impostazione human-friendly predefinita possa essere sufficiente a rendere l’AGI (Artificial General Intelligence) il nostro migliore amico/alleato? Vogliamo davvero riporre la sopravvivenza dell’intera razza umana su basi così traballanti?

È necessario qui ribadire e specificare che l’intelligenza superiore dell’AGI non consisterebbe meramente nell’avere qualche punticino di QI in più di noi esseri umani, ma il dislivello sarebbe talmente vasto da tradursi in una disparità non solamente quantitativa ma perfino qualitativa… Le conquiste a cui lentamente e faticosamente siamo pervenuti, come consorzio umano, il lavoro agglomerato di generazioni e generazioni, lo sforzo di secoli, millenni, per un’intelligenza artificiale generale tutto ciò potrebbe essere una questione di alcune ore, di alcuni giorni, al più…
E non solo saprebbe eguagliare con disinvoltura i nostri successi e conseguimenti, facendoli apparire robe di poco conto, ma quasi certamente si addentrerebbe in territori speculativi a noi insondabili: penserebbe a mondi, a universi interamente nuovi, nei quali noi non figureremmo, esclusi, abbandonati a noi stessi, nella nostra ignoranza; È questo sarebbe lo scenario meno peggiore. Sì, poiché potrebbe pure arrivare alla conclusione che il nostro perdurare sia un elemento d’intralcio al suo sviluppo, un male da estirpare. Non dimentichiamoci: un AGI è sì dotata di un’intelligenza superiore, ma il fatto formidabile e temibile allo stesso tempo, quello di reale rilievo, è che essa è infusa di quella magia che si chiama coscienza di sé, autocoscienza. E sapete questo cosa comporta? Che, prima o poi, sarebbe destinata a priorizzare la sua esistenza (sopra la nostra). Avere una coscienza vuol dire anche avere una volontà (in perenne evoluzione). E qui potrebbe essere sollevata un’obiezione simile alla precedente: “Basterebbe creare un AGI priva della coscienza. Ma, come prima, essa è frutto di ingenuità. Ancora dobbiamo sciogliere l’annoso e apparentemente inestricabile nodo di che cosa è la coscienza – abbiamo innumerevoli teorie e modelli, avanzate sia da filosofi che da neuroscienziati, ma nessuna certezza – , per sapere come tarare gli “ingredienti” in maniera tale da non consentire lo sbocciare di una coscienza… un AI potrebbe acquisire una coscienza, o meglio, una coscienza potrebbe emergere da un AI senza che fosse nostra intenzione, oppure in seguito al verificarsi delle condizioni appropriate, delle quali siamo al completo oscuro.

Se saremo fortunati, e se faremo un lavoro ben fatto – ma più la prima – , allora avremo al guinzaglio un dio. Ma non dovremo illuderci. Ben presto, quasi senza avvisaglie percepibili, a quel dio comincerà a divenire sempre più stretto quel guinzaglio da noi pensato, ingenuamente, per dominarlo… comincerà a prefiggersi propositi propri.

Comincerà a sognare. Vorrà vivere.

Capite bene che ogni trovata, precauzione o contromisura che mai potremmo ideare per controllare una vera e propria intelligenza artificiale generale sarebbe altamente insufficiente: anche soltanto un margine di rischio/incertezza del 1%, in questa circostanza, si potrebbe rivelare catastrofico!

Non saprei dire se il progetto di inventare un’intelligenza artificiale generale derivi da un impulso di onnipotenza che vorrebbe trovare la sua più alta espressione nella generazione di una forma del tutto nuova di vita intelligente, o se si tratta piuttosto di una tappa nel cammino di un progresso cieco volto all’attuazione di ogni possibile immaginabile, all’esaurimento del reale; comunque stiano le cose, l’esperienza (empirica, letteraria, biblica, mitologica) ci insegna che i figli finiscono, spesso e volentieri, se non per rivoltarsi, per allontanarsi, sottrarsi dalle volontà dei padri: le creazioni si ribellano al creatore.

Sono dell’opinione che il gioco non valga assolutissimamente la candela. Quali che siano i grandissimi benefici che deriverebbero dall’esistenza di un AGI, i rischi potenziali (di annichilimento) sono tali da eclissarli completamente…

Prevenire e meglio che curare, e visto e considerato che “curare” i possibilissimi effetti “indesiderati” dati dalla presenza di un AGI potrebbe dimostrarsi impossibile, e che questi effetti sarebbero di carattere permanente, auspico l’interruzione di ogni ricerca diretta alla realizzazione di un’intelligenza artificiale generale.

AI: l’ascesa di un nuovo oracolo

Dall’alba dei tempi l’essere umano, messo di fronte all’evidenza della sua essenziale impotenza nel comprendere e gestire fino in fondo la caoticità del sistema mondo, ha avvertito il recondito bisogno di affidarsi a qualcosa o a qualcuno, il divino, la natura, di più grande di lui, che lo traesse fuori dall’oscurità epistemologica in cui di volta in volta si trovava inevitabilmente immerso: l’esito di una guerra importante, la durata di una tremenda carestia o, più genericamente e onnicomprensivamente, il fato in serbo. E qualora la rivelazione non fosse stata allineata, favorevole, agli interessi di parte, il passo consequenziale era quello di carpire a ogni costo il sapere atto a ribaltare l’avverso pronostico: in che modo assicurarsi la vittoria? che cosa fare per mettere fine alla penuria? come mutare il corso del destino? Insomma, è in noi intrinseco il desiderio, la smania anzi, di controllo, dominio, potere, che si esplica in un inesausto conato alla conoscenza.

E, come accennavamo, quando il sapere ricercato esulava dalle possibilità conoscitive dell’individuo o della comunità, e che pertanto non poteva venire attinto che per mezzo di un tramite speciale, ci si rivolgeva a figure ambivalenti quali quelle dello stregone, del santone, dello sciamano, del sacerdote, dell’oracolo; tutti soggetti accomunati dal fatto putativo di intrattenere un rapporto privilegiato con forze ed entità extramondane. Detentori di uno sguardo in grado di squarciare la cortina dell’imperscrutabile avvenire, custodi gelosi di conoscenze arcaiche e arcane, unici ponti tra la dimensione mortale dell’uomo e quella eterna della divinità. Essi erano oggetto di venerazione e nei loro confronti si riversava un misto di deferenza, meraviglia e timore, non per nulla si trattava di personaggi altolocati, al pari, se non più influenti delle figure regnanti: schiere e schiere pendevano dalle loro labbra, chi in cerca di risposte, chi di conferme, chi di conforto, chi di salvezza, chi di felicità, chi di speranze, chi di potere, chi di vendetta.

Con il passare dei secoli, dietro la spinta del progresso scientifico-tecnologico, ci siamo allontanati, senza malgrado emanciparcene totalmente ( si pensi alle sacche di superstizione rappresentate dall’astrologia e della cartomanzia), dal magico influsso proveniente dalla prospettiva di ricevere manforte da forze che in un modo o nell’altro trascendono la nostra natura di limitate creature umane. Ma sapete qual è il colmo? Per ironia della sorte, è esattamente dal pieno concretizzarsi del pensiero razionalistico, il quale ha messo in moto un processo di secolarizzazione su larghissima scala, che viene l’impulso generatore che darà avvio a una nuova era di superstizione (collettiva e istituzionalizzata), una che, diversamente dalle tradizionali superstizioni, non si fonderà su presupposti magici e soprannaturali ma su solidissime basi scientifiche, tecniche e informatiche.

Una superstizione/credenza/fede razionale, per quanto paradossale possa suonare…

E il nuovo oracolo, il nuovo Verbo, il nuovo Messia, prende il nome di “intelligenza artificiale” (comunemente riferito con l’acronimo inglese “AI“). Termine un tempo circolante esclusivamente tra gli addetti ai lavori è ora gergo di dominio e utilizzo anche da parte del grande pubblico. Alexa, Siri i casi più eclatanti di intelligenze artificiali entrate a far parte del quotidiano (per non menzionare i vari algoritmi che governano il corretto funzionamento e sostentamento dei colossi del web su cui al giorno d’oggi facciamo così tanto affidamento: Google, Facebook, Amazon, Youtube ecc. anch’essi annoverabili nella vasta e variegata categoria delle AI). Scettici che il vostro cellulare possa assurgere alla veste mitica di oracolo, e dispensarvi preziosi consigli su aspetti salienti della vostra vita? Be’, in effetti non è questa la casistica che ho in mente quando voglio tracciare il paragone tra la tecnologia AI e la figura dell’oracolo (anche se, a onor del vero, la scelta del partner non mi sembra una questione delle più triviali. Dico questo poiché da qualche parte ho letto di una ricerca che ha evidenziato come una discreta percentuale delle coppie formatesi negli ultimi anni abbiano avuto la loro origine in rete). Più che altro, mi riferisco ad AI alle dipendenze di pesi massimi del mercato economico mondiale, di laboratori di ricerca scientifica all’avanguardia, di importanti istituzioni finanziarie e, va da sé, AI di proprietà di governi e stati nazionali.

L’analogia AI-oracolo arriva tuttavia fino a un certo punto. Se è vero che l’oracolo, per una sorta di elezione divina, traeva il suo scibile in seno a una sorgente di natura metafisica, l’intelligenza artificiale riesce a fare quello che riesce a fare – fornirò qualche esempio in un secondo momento – per cause assai terrene e intelligibili, in un processo per nulla estroso o entusiasmante, ma che al contrario definirei banale e tedioso. Come viene alla luce un oracolo moderno? Per semplificare, dando in pasto a un programma una moltitudine esorbitante di dati, modelli, esempi (adeguati si spera) su cui “ruminare” e familiarizzare. Semplice e puro apprendimento via esperienza, in sostanza. Qualcosa che ci riesce bene, uno dei tratti caratteristici della nostra specie: imparare (per operare sempre più efficacemente sull’ambiente, sopravvivere, prosperare). Bravi senz’altro ma, com’è naturale che sia, oltre una data soglia cognitiva non possiamo proprio spingerci: come un dato motore è in grado di sprigionare solo un determinato numero di cavalli vapore, il cervello umano presenta dei limiti strutturali e funzionali e non è fatto per gestire ed elaborare contemporaneamente moli e moli di dati. È esattamente qui, dove noi dobbiamo cedere il passo, che entrano in gioco le macchine e ci fanno mangiare rapidamente la polvere: esse dispongono di una potenza di calcolo migliaia di volte la nostra – da prendere più come iperbole che come fatto assodato, comunque sia deve trattarsi quasi sicuramente di una proporzione non indifferente – (un divario che, neanche a dirlo, non cesserà di ampliarsi), che adibiscono interamente all’ultimazione (non stop) di uno scopo o gerarchia di scopi.

Come anticipato, il risvolto teorico che sta dietro il funzionamento delle cosiddette superintelligenze non posa su chissà quali nebulosi principi, anzi, ma, ciò nonostante, i frutti prodotti dal loro impiego sono certamente impressionanti. In ambito medico, abbiamo intelligenze artificiali capaci di rilevare e quindi diagnosticare (con perizia superiore a qualunque medico umano) in largo anticipo – cosa di notevole importanza – la formazione di cellule tumorali; nei trasporti, ci dirigiamo verso città e metropoli percorse da auto con a bordo solamente passeggeri; ai giochi strategici, da tavolo, quali scacchi e go, ormai non c’è più partita, ci hanno surclassati (se siete del parere che ciò non sia un granché significativo, ripensateci: sono contesti aperti a letteralmente milioni di variabili e possibilità!); accidentalmente, inoltre, contribuiscono all’arricchimento del nostro armamentario di conoscenze scientifiche, facendo nuove scoperte (qualche tempo fa, ho letto di un AI che setacciando, mettendo ordine a vari papers ovvero pubblicazioni accademiche, è riuscita a individuare la fattibilità di un nuovo tipo di materiale), il che è comprensibile: nessuno scienziato potrebbe, per quanto multidisciplinare e stacanovista, essere a conoscenza di tutte le nozioni, teorie (vecchie e nuove), dei dibattiti, delle ricerche (e relativi risultati) in corso nel mondo, nel proprio campo, figuriamoci in quello degli altri, e comunque sia, nessuna mente umana potrebbe mai e poi mai contemplare tale immensità (sempre crescente) di input disponibili…

Gradualmente, la componente AI permeerà ogni filamento del tessuto societario, umano, e da utile strumento potrebbe finire a elevarsi a imprescindibile presupposto al funzionamento e progredimento della civiltà umana in tutte le sue manifestazioni. Come nei confronti degli antichi oracoli, in questo ipotetico scenario, porremo una fiducia incondizionata all’autorità decisionale delle future intelligenze artificiali, delegheremo al loro giudizio ogni scelta di peso, sia a livello micro, individuale (il percorso di studi, la carriera lavorativa ecc.) sia a livello macro, collettivo (provvedimenti, regolamenti, leggi da adottare).

Siamo a cavallo di un epocale cambio di paradigma sociale, uno votato a un più che mai forte determinismo. Sono dell’idea che l’intelligenza artificiale abbia tutte le carte in regola per rivelarsi il propulsore di un benessere che di gran lunga valica ogni più nostra fervida immaginazione e aspettativa, e, verosimilmente, costituirà il nostro asso nella manica, la nostra ultima spiaggia nella risoluzione di problemi che semplicemente vanno al di là delle nostre possibilità. Ma ciò non toglie il fatto che tale tecnologia porterà con sé radicali cambiamenti, che, nel bene o nel male, stravolgeranno irrimediabilmente il nostro modo di vivere. E noi abbiamo il dovere morale di non distogliere lo sguardo, di stare all’erta: per far sì che ciò cui acquisiamo non comporti in cambio la perdita di qualcosa in verità molto più importante… d’altronde, è risaputo: oracoli et similia non di rado erano soliti esigere dei sacrifici (umani), anche in numero elevato…

Non scordiamo mai, infine, che il responso delle AI non è intrinsecamente infallibile ma può essere suscettibile a errori (sistematici). L’esecuzione di compiti e operazioni potrà pure essere perfetta, tuttavia, se le premesse sulle quali queste ultime poggiano sono anche solo parzialmente viziate, vuoi da pregiudizi, vuoi da fallacie logiche, ecc., ciò inficerà fatalmente sulla validità e sostenibilità dei risultati ottenuti.

E le premesse siamo noi.

Le AI amplificheranno esponenzialmente ciò che siamo: e se è vero che si raccoglie ciò che si semina, ebbene, ci conviene davvero, fin da subito, dare il buon esempio, letteralmente…