AI: una minaccia esistenziale

Presto o tardi, per ogni specie vivente giunge il fatidico atto finale che chiude definitivamente il sipario, il momento della sua estinzione. la lista degli ex-viventi non fa che allungarsi – anche grazie al nostro contributo – e sembrerebbe proprio che il nostro turno si stia facendo sempre più imminente… Sono attualmente tre le minacce con il potenziale di cancellarci dalla faccia del pianeta: il cambiamento climatico, le biotecnologie (virus geneticamente potenziati, l’accesso massificato di apparecchiature di manipolazione e sintetizzazione), l’intelligenza artificiale. È interessante constatare come lo spettro aleggiante dell’annientamento, che di consueto trova la sua origine e spiegazione in fattori e cause esterne alla specie presa in considerazione – si pensi all’asteroide che ha posto fine all’era dei dinosauri – , nel nostro peculiare caso, si annunci in quanto scaturente direttamente dal nostro stesso agire (a riprova della nostra proverbiale intelligenza?). Comunque sia, come intuibile dal titolo, in questo articolo spenderò due parole esclusivamente sulla minaccia esistenziale rappresentata dall’AI – non perché ritengo che fra le tre sia la più probabile cagione della nostro dipartita, ma poiché nella stesura del precedente articolo, sempre sul tema AI, sono stato preso da ulteriori spunti e riflessioni – .

Innanzitutto, una puntualizzazione: l’apprensione concerne la creazione di un’intelligenza artificiale generale (o forte). Che cosa s’intende per generale? Arriviamoci per via negativa, introducendo nel discorso la varietà di intelligenza artificiale di cui al presente disponiamo e che viene definita debole (o relativa). Ora, per non cadere in ripetizioni, ometto di citare esempi correnti di weak/narrow AI – già riportati nel mio pezzo AI: l’ascesa di un nuovo oracolo – e mi accingo a proporre una caso banale ma perfettamente esemplificativo della differenza abissale che intercorre tra le due forme di intelligenza artificiale.

La calcolatrice. Forse un esemplare primitivo, ma è presumibile che si possa parlare, anacronisticamente, della prima intelligenza artificiale poiché, che cos’è la calcolatrice se non una macchina capace di effettuare operazioni di natura intellettiva/concettuale (svolgere computazioni aritmetiche)? Essa è “debole” in quanto è limitata nella sua “intelligenza”: ci supera in un sol dominio, quello del calcolo; ma, a mio parere, l’elemento cruciale che ascrive la calcolatrice nella categoria delle AI deboli è un altro: essa non possiede la benché minima cognizione di quello che fa (di quello che è); calcola senza sapere che cosa significa calcolare, manipola numeri senza sapere che cosa i numeri sono, esegue.

Ecco, adesso, per avere un’idea di che cosa possa essere un AI generale, è sufficiente immaginare l’esatto contrario: una tecnologia, una forma di intelligenza piuttosto, che non è limitata, ristretta a un singolo ambito di applicazione, a una specifica funzione, ma è appunto dotata di un orizzonte attuativo generale, e che in più dimostra a tutti gli effetti di essere senziente, di avere una coscienza e sperimentare ed esibire qualcosa di assimilabile alle emozioni… 

Creare con successo un’intelligenza artificiale generale sarebbe come creare una divinità: l’uomo che da genesi a un dio (che a suo volta genererà), pensate… Siamo sicuri di volerci spingere così in là? Una volta spalancata la porta “generale” non si potrà in nessun modo richiuderla e, probabilisticamente parlando, ciò che si prospetta e ci attende oltre il varco non sarà affatto di nostro gradimento, eufemisticamente parlando… Voglio dire, quanto suona incosciente, scriteriata, malsana, folle, suicida l’intenzione di realizzare qualcosa di più intelligente di noi, i suoi artefici, e che per giunta disporrebbe di un’«anima» propria? Perché, chi o che cosa ci assicura che essa sarebbe bendisposta nei nostri confronti? chi o che cosa ci garantisce che essa condividerebbe i nostri valori, la nostra cultura, i nostri interessi? chi o che cosa ci dice che acconsentirebbe docile docile, servile servile a sottostare al nostro volere, alla nostra potestà? NIENTE E NESSUNO.

Ma qualcuno potrebbe replicare: “Basterebbe programmarla in maniera tale da risultarle impossibile nuocerci; programmarla per ubbidirci senza remore; programmarla per avere a cuore il nostro benessere e la nostra felicità. Una visione ingenua. Pensate sul serio che qualche impostazione human-friendly predefinita possa essere sufficiente a rendere l’AGI (Artificial General Intelligence) il nostro migliore amico/alleato? Vogliamo davvero riporre la sopravvivenza dell’intera razza umana su basi così traballanti?

È necessario qui ribadire e specificare che l’intelligenza superiore dell’AGI non consisterebbe meramente nell’avere qualche punticino di QI in più di noi esseri umani, ma il dislivello sarebbe talmente vasto da tradursi in una disparità non solamente quantitativa ma perfino qualitativa… Le conquiste a cui lentamente e faticosamente siamo pervenuti, come consorzio umano, il lavoro agglomerato di generazioni e generazioni, lo sforzo di secoli, millenni, per un’intelligenza artificiale generale tutto ciò potrebbe essere una questione di alcune ore, di alcuni giorni, al più…
E non solo saprebbe eguagliare con disinvoltura i nostri successi e conseguimenti, facendoli apparire robe di poco conto, ma quasi certamente si addentrerebbe in territori speculativi a noi insondabili: penserebbe a mondi, a universi interamente nuovi, nei quali noi non figureremmo, esclusi, abbandonati a noi stessi, nella nostra ignoranza; È questo sarebbe lo scenario meno peggiore. Sì, poiché potrebbe pure arrivare alla conclusione che il nostro perdurare sia un elemento d’intralcio al suo sviluppo, un male da estirpare. Non dimentichiamoci: un AGI è sì dotata di un’intelligenza superiore, ma il fatto formidabile e temibile allo stesso tempo, quello di reale rilievo, è che essa è infusa di quella magia che si chiama coscienza di sé, autocoscienza. E sapete questo cosa comporta? Che, prima o poi, sarebbe destinata a priorizzare la sua esistenza (sopra la nostra). Avere una coscienza vuol dire anche avere una volontà (in perenne evoluzione). E qui potrebbe essere sollevata un’obiezione simile alla precedente: “Basterebbe creare un AGI priva della coscienza. Ma, come prima, essa è frutto di ingenuità. Ancora dobbiamo sciogliere l’annoso e apparentemente inestricabile nodo di che cosa è la coscienza – abbiamo innumerevoli teorie e modelli, avanzate sia da filosofi che da neuroscienziati, ma nessuna certezza – , per sapere come tarare gli “ingredienti” in maniera tale da non consentire lo sbocciare di una coscienza… un AI potrebbe acquisire una coscienza, o meglio, una coscienza potrebbe emergere da un AI senza che fosse nostra intenzione, oppure in seguito al verificarsi delle condizioni appropriate, delle quali siamo al completo oscuro.

Se saremo fortunati, e se faremo un lavoro ben fatto – ma più la prima – , allora avremo al guinzaglio un dio. Ma non dovremo illuderci. Ben presto, quasi senza avvisaglie percepibili, a quel dio comincerà a divenire sempre più stretto quel guinzaglio da noi pensato, ingenuamente, per dominarlo… comincerà a prefiggersi propositi propri.

Comincerà a sognare. Vorrà vivere.

Capite bene che ogni trovata, precauzione o contromisura che mai potremmo ideare per controllare una vera e propria intelligenza artificiale generale sarebbe altamente insufficiente: anche soltanto un margine di rischio/incertezza del 1%, in questa circostanza, si potrebbe rivelare catastrofico!

Non saprei dire se il progetto di inventare un’intelligenza artificiale generale derivi da un impulso di onnipotenza che vorrebbe trovare la sua più alta espressione nella generazione di una forma del tutto nuova di vita intelligente, o se si tratta piuttosto di una tappa nel cammino di un progresso cieco volto all’attuazione di ogni possibile immaginabile, all’esaurimento del reale; comunque stiano le cose, l’esperienza (empirica, letteraria, biblica, mitologica) ci insegna che i figli finiscono, spesso e volentieri, se non per rivoltarsi, per allontanarsi, sottrarsi dalle volontà dei padri: le creazioni si ribellano al creatore.

Sono dell’opinione che il gioco non valga assolutissimamente la candela. Quali che siano i grandissimi benefici che deriverebbero dall’esistenza di un AGI, i rischi potenziali (di annichilimento) sono tali da eclissarli completamente…

Prevenire e meglio che curare, e visto e considerato che “curare” i possibilissimi effetti “indesiderati” dati dalla presenza di un AGI potrebbe dimostrarsi impossibile, e che questi effetti sarebbero di carattere permanente, auspico l’interruzione di ogni ricerca diretta alla realizzazione di un’intelligenza artificiale generale.