Buio

Dopo un anno, e qualcosa di più, di lavoro a contatto con il pubblico, una cosa posso affermare fuor di qualunque ragionevole dubbio: nella gente non vi è traccia alcuna di quel lume della ragione tanto caro agli illuministi.

Giorno dopo giorno, interazione dopo interazione, l’uomo della strada non ha fatto altro che dare schiacciante prova del profondo sonno in cui versa il suo intelletto. Si badi bene, chi scrive non si reputa di certo dotato di chissà quale acuto e penetrante intelletto, per carità, ma perlomeno ritengo di potermi dichiarare, senza arroganza, una testa pensante… Al contrario, nell’individuo medio, per dirla aristotelicamente, pare in atto la sola anima sensitiva: l’appetito e l’istinto la fanno chiaramente da padroni; egli è mosso da un automatismo animale e in quanto tale è avverso, idiosincratico nei confronti del discorso razionale: non ne fa uso né è disposto a prestarle ascolto, trincerato com’è nel suo gretto fortino edificato su cumuli e cumuli di stereotipi, fesserie e ragionamenti sconclusionati.

Sicuro, è irrealistico aspettarsi che la maggioranza della popolazione eccella nella pratica della riflessione o che possegga uno spiccato spirito critico, ma certamente non sarà così ignorante e stolta come viene per tradizione dipinta da una retorica élite fuori da questo mondo… – pensavo. Mi sbagliavo (in larga parte).

Confesso che di quando in quando faccio ancora fatica a raccapezzarmi all’idea di un’umanità di siffatta risma e mi domando, allibito ogni volta: come diavolo fa il mondo a “girare”? I  miracoli esistono. Il solo fatto che io abbia condiviso queste righe, non su di un semplice pezzo di carta, ma su di una piattaforma di computer intercontinentalmente connessa, denominata internet – con tutto ciò che questo presuppone in termini di conoscenze fisiche e tecnologiche pregresse – , è già di per sé qualcosa che dovrebbe destare enorme stupore…

Per finire, non saprei stabilire se lo stato delle cose sia imputabile all’adozione di un sistema educativo disastroso, e quindi il prodotto di un certo tipo di società/cultura, o se invece si tratti di una realtà connaturata alla condizione umana, e quindi il naturale stato delle cose. Probabilmente, entrambe le cose; o meglio, l’ultima che viene amplificato in modo esponenziale dalla prima. Boh.  Mi auguro solamente che l’inevitabile e prolungata esposizione “zombificante” che mi attende non incida troppo pesantemente sulle mie facoltà mentali, ottundendole oltre l’irreparabile…

 

AI: una minaccia esistenziale

Presto o tardi, per ogni specie vivente giunge il fatidico atto finale che chiude definitivamente il sipario, il momento della sua estinzione. la lista degli ex-viventi non fa che allungarsi – anche grazie al nostro contributo – e sembrerebbe proprio che il nostro turno si stia facendo sempre più imminente… Sono attualmente tre le minacce con il potenziale di cancellarci dalla faccia del pianeta: il cambiamento climatico, le biotecnologie (virus geneticamente potenziati, l’accesso massificato di apparecchiature di manipolazione e sintetizzazione), l’intelligenza artificiale. È interessante constatare come lo spettro aleggiante dell’annientamento, che di consueto trova la sua origine e spiegazione in fattori e cause esterne alla specie presa in considerazione – si pensi all’asteroide che ha posto fine all’era dei dinosauri – , nel nostro peculiare caso, si annunci in quanto scaturente direttamente dal nostro stesso agire (a riprova della nostra proverbiale intelligenza?). Comunque sia, come intuibile dal titolo, in questo articolo spenderò due parole esclusivamente sulla minaccia esistenziale rappresentata dall’AI – non perché ritengo che fra le tre sia la più probabile cagione della nostro dipartita, ma poiché nella stesura del precedente articolo, sempre sul tema AI, sono stato preso da ulteriori spunti e riflessioni – .

Innanzitutto, una puntualizzazione: l’apprensione concerne la creazione di un’intelligenza artificiale generale (o forte). Che cosa s’intende per generale? Arriviamoci per via negativa, introducendo nel discorso la varietà di intelligenza artificiale di cui al presente disponiamo e che viene definita debole (o relativa). Ora, per non cadere in ripetizioni, ometto di citare esempi correnti di weak/narrow AI – già riportati nel mio pezzo AI: l’ascesa di un nuovo oracolo – e mi accingo a proporre una caso banale ma perfettamente esemplificativo della differenza abissale che intercorre tra le due forme di intelligenza artificiale.

La calcolatrice. Forse un esemplare primitivo, ma è presumibile che si possa parlare, anacronisticamente, della prima intelligenza artificiale poiché, che cos’è la calcolatrice se non una macchina capace di effettuare operazioni di natura intellettiva/concettuale (svolgere computazioni aritmetiche)? Essa è “debole” in quanto è limitata nella sua “intelligenza”: ci supera in un sol dominio, quello del calcolo; ma, a mio parere, l’elemento cruciale che ascrive la calcolatrice nella categoria delle AI deboli è un altro: essa non possiede la benché minima cognizione di quello che fa (di quello che è); calcola senza sapere che cosa significa calcolare, manipola numeri senza sapere che cosa i numeri sono, esegue.

Ecco, adesso, per avere un’idea di che cosa possa essere un AI generale, è sufficiente immaginare l’esatto contrario: una tecnologia, una forma di intelligenza piuttosto, che non è limitata, ristretta a un singolo ambito di applicazione, a una specifica funzione, ma è appunto dotata di un orizzonte attuativo generale, e che in più dimostra a tutti gli effetti di essere senziente, di avere una coscienza e sperimentare ed esibire qualcosa di assimilabile alle emozioni… 

Creare con successo un’intelligenza artificiale generale sarebbe come creare una divinità: l’uomo che da genesi a un dio (che a suo volta genererà), pensate… Siamo sicuri di volerci spingere così in là? Una volta spalancata la porta “generale” non si potrà in nessun modo richiuderla e, probabilisticamente parlando, ciò che si prospetta e ci attende oltre il varco non sarà affatto di nostro gradimento, eufemisticamente parlando… Voglio dire, quanto suona incosciente, scriteriata, malsana, folle, suicida l’intenzione di realizzare qualcosa di più intelligente di noi, i suoi artefici, e che per giunta disporrebbe di un’«anima» propria? Perché, chi o che cosa ci assicura che essa sarebbe bendisposta nei nostri confronti? chi o che cosa ci garantisce che essa condividerebbe i nostri valori, la nostra cultura, i nostri interessi? chi o che cosa ci dice che acconsentirebbe docile docile, servile servile a sottostare al nostro volere, alla nostra potestà? NIENTE E NESSUNO.

Ma qualcuno potrebbe replicare: “Basterebbe programmarla in maniera tale da risultarle impossibile nuocerci; programmarla per ubbidirci senza remore; programmarla per avere a cuore il nostro benessere e la nostra felicità. Una visione ingenua. Pensate sul serio che qualche impostazione human-friendly predefinita possa essere sufficiente a rendere l’AGI (Artificial General Intelligence) il nostro migliore amico/alleato? Vogliamo davvero riporre la sopravvivenza dell’intera razza umana su basi così traballanti?

È necessario qui ribadire e specificare che l’intelligenza superiore dell’AGI non consisterebbe meramente nell’avere qualche punticino di QI in più di noi esseri umani, ma il dislivello sarebbe talmente vasto da tradursi in una disparità non solamente quantitativa ma perfino qualitativa… Le conquiste a cui lentamente e faticosamente siamo pervenuti, come consorzio umano, il lavoro agglomerato di generazioni e generazioni, lo sforzo di secoli, millenni, per un’intelligenza artificiale generale tutto ciò potrebbe essere una questione di alcune ore, di alcuni giorni, al più…
E non solo saprebbe eguagliare con disinvoltura i nostri successi e conseguimenti, facendoli apparire robe di poco conto, ma quasi certamente si addentrerebbe in territori speculativi a noi insondabili: penserebbe a mondi, a universi interamente nuovi, nei quali noi non figureremmo, esclusi, abbandonati a noi stessi, nella nostra ignoranza; È questo sarebbe lo scenario meno peggiore. Sì, poiché potrebbe pure arrivare alla conclusione che il nostro perdurare sia un elemento d’intralcio al suo sviluppo, un male da estirpare. Non dimentichiamoci: un AGI è sì dotata di un’intelligenza superiore, ma il fatto formidabile e temibile allo stesso tempo, quello di reale rilievo, è che essa è infusa di quella magia che si chiama coscienza di sé, autocoscienza. E sapete questo cosa comporta? Che, prima o poi, sarebbe destinata a priorizzare la sua esistenza (sopra la nostra). Avere una coscienza vuol dire anche avere una volontà (in perenne evoluzione). E qui potrebbe essere sollevata un’obiezione simile alla precedente: “Basterebbe creare un AGI priva della coscienza. Ma, come prima, essa è frutto di ingenuità. Ancora dobbiamo sciogliere l’annoso e apparentemente inestricabile nodo di che cosa è la coscienza – abbiamo innumerevoli teorie e modelli, avanzate sia da filosofi che da neuroscienziati, ma nessuna certezza – , per sapere come tarare gli “ingredienti” in maniera tale da non consentire lo sbocciare di una coscienza… un AI potrebbe acquisire una coscienza, o meglio, una coscienza potrebbe emergere da un AI senza che fosse nostra intenzione, oppure in seguito al verificarsi delle condizioni appropriate, delle quali siamo al completo oscuro.

Se saremo fortunati, e se faremo un lavoro ben fatto – ma più la prima – , allora avremo al guinzaglio un dio. Ma non dovremo illuderci. Ben presto, quasi senza avvisaglie percepibili, a quel dio comincerà a divenire sempre più stretto quel guinzaglio da noi pensato, ingenuamente, per dominarlo… comincerà a prefiggersi propositi propri.

Comincerà a sognare. Vorrà vivere.

Capite bene che ogni trovata, precauzione o contromisura che mai potremmo ideare per controllare una vera e propria intelligenza artificiale generale sarebbe altamente insufficiente: anche soltanto un margine di rischio/incertezza del 1%, in questa circostanza, si potrebbe rivelare catastrofico!

Non saprei dire se il progetto di inventare un’intelligenza artificiale generale derivi da un impulso di onnipotenza che vorrebbe trovare la sua più alta espressione nella generazione di una forma del tutto nuova di vita intelligente, o se si tratta piuttosto di una tappa nel cammino di un progresso cieco volto all’attuazione di ogni possibile immaginabile, all’esaurimento del reale; comunque stiano le cose, l’esperienza (empirica, letteraria, biblica, mitologica) ci insegna che i figli finiscono, spesso e volentieri, se non per rivoltarsi, per allontanarsi, sottrarsi dalle volontà dei padri: le creazioni si ribellano al creatore.

Sono dell’opinione che il gioco non valga assolutissimamente la candela. Quali che siano i grandissimi benefici che deriverebbero dall’esistenza di un AGI, i rischi potenziali (di annichilimento) sono tali da eclissarli completamente…

Prevenire e meglio che curare, e visto e considerato che “curare” i possibilissimi effetti “indesiderati” dati dalla presenza di un AGI potrebbe dimostrarsi impossibile, e che questi effetti sarebbero di carattere permanente, auspico l’interruzione di ogni ricerca diretta alla realizzazione di un’intelligenza artificiale generale.

Prima donne e bambini

Dare la precedenza alle donne e ai bambini nelle situazioni di emergenza, pericolo, durante le evacuazioni e i salvataggi; una nota linea di condotta di origine marinara – anche se, facendo qualche ricerca su internet, sembra alquanto trascurata nei naufragi – . Un gesto nobile, se frutto dalla propria volontà, in caso contrario, nient’altro che un sacrificio imposto; una discriminazione di genere (che indirettamente richiama  a sé quella femminile). Una discriminazione che si è ben impressa nel nostro sostrato psichico, questo grazie a una retorica martellante del “uomo forte/duro e della donna sesso debole/gentil sesso” che si perpetua da Dio solo sa quanto, sotto le più svariate forme espressive e convenzioni sociali.

Tutto comincia già alla nascita con l’associazione del colore blu/azzurro ai maschietti e del colore rosa alle femminucce. Lungi dall’essere mera attribuzione di sesso, sarà “bandiera” dei tanti meccanismi sociali e culturali che portano a estremizzare le differenze biologiche che intercorrono fra l’ uomo e la donna, imponendo a entrambi  prerogative specifiche. Forza, orgoglio e razionalità, da una parte; delicatezza, passione e modestia, dall’altra: l’impostazione di una netta opposizione, manichea, tra due universi umani.

Detto ciò, all’origine di atteggiamenti del tipo “prima le donne e i bambini” è palese l’influsso di narrazioni che vedono nella donna un fiore tanto incantevole quanto cagionevole (che quindi necessità di premura e protezione, di salvezza) – per quanto concerne la priorità concessa ai bambini, più che a un prodotto culturale siamo, credo, di fronte a uno evolutivo – : il topos della damigella in pericolo/fanciulla da salvare: protagonista femminile impotente la cui felicità e il cui benessere futuri sono integralmente derivanti e subordinati dall’agire di un impavido ed eroico protagonista maschile. Un motivo di vecchia data, che dovrebbe risalire almeno alla Grecia antica (prendendo per buono quanto riportato da Wikipedia); emblematica è l’ambientazione medioevale con valorosi cavalieri che soccorrono innocenti principesse dalle grinfie di draghi malefici. Di vecchia data ma tuttora piuttosto adoperato, come si può facilmente constatare…

L’introiettamento di questo stereotipo, che nel nostro tempo avviene preponderatamente attraverso la fruizione di film e telefilm, è pressoché una certezza matematica; ed esso si fa agevolmente strada, si insidia subdolamente dal mondo della finzione a quello della realtà. Ecco dunque la donna come soggetto passivo, al massimo reattivo, fragile e pertanto bisognoso della massima tutela e del massimo accudimento da parte dell’uomo, soggetto attivo, creativo, forte.

Donna = vittima della situazione – Uomo = eroe della situazione

Immersi nella narrazione, inconsciamente, l’uno è indotto ad aspettarsi dall’altro quanto previsto dal “ruolo” che ricopre, ad adeguarsi al proprio, di ruolo, e a comportarsi di conseguenza: un gioco delle parti. Un gioco che però può divenire malsano, tossico. In generale, da un lato si corre il pericolo di limitare le potenzialità della donna, degradando l’orizzonte delle sue possibilità percepite e reali, rendendola  effettivamente debole; dall’altro, di portare al sovraccarico mentale e/o emotivo l’uomo, sottoponendolo alla costante pressione di mirare alla figura mitica del “vero uomo”.

A non concedere adito alla vera natura dell’individuo non può venirne fuori niente di buono, ma solo miseria e infelicità.

La vita ristretta

Studiare e infine laurearsi, trovare un buon lavoro e infine fare carriera, sposarsi e infine mettere su famiglia, andare in pensione e infine badare ai nipotini. Che cosa si può volere di più dalla vita? Basta seguire la scaletta e voilà: la vita come si deve, missione compiuta.

Non dico che uno non possa trovare felicità e soddisfazione in una vita da “manuale” e che si debba necessariamente gettare tutto alle ortiche e vivere una vita fatta di pazzie e sregolatezza o di isolamento e reclusione, ma è innegabile (e per me allucinante) quanto la “vita ristretta” sia insita, connaturata nella coscienza collettiva a tal punto da occupare lei sola la definizione di vita (vivibile e vissuta)…

Cultura e società – ovviamente vi è anche in parte lo zampino ineluttabile della biologia – ci hanno condizionato e indottrinato a puntino, hanno con successo ristretto e costretto la vita a svolgersi lungo un rettilineo, un binario con tappe ben prestabilite; e, di norma, ciò che esula, devia da questo percorso guidato viene malvisto, deriso, ostracizzato.

Per quanto cliché: la vita è una soltanto (per quello che ci è dato di sapere); ma può essere di più: è di più; è incommensurabile più di quanto potremo mai illuderci che essa sia… dobbiamo ricordarlo. Devo ricordarlo.

Non rischiamo di sprecare la vita per timore o inconsapevolezza…

Un’impresa titanica, è vero, ma che ne vale ogni singolo grammo della pena, ne sono convinto.