Isaac Asimov - Intuito Femminile - Lettura e riflessioni

Quello che segue è lo script originale dell'episodio.

Introduzione Intuito femminile - di Isaac Asimov.

Per la prima volta nella storia della United States Robots and Mechanical Men Corporation, un robot era andato distrutto a causa di un incidente avvenuto sulla Terra.

Non era colpa di nessuno. Il mezzo aereo era stato distrutto in volo e un’incredula commissione investigatrice si chiedeva se avrebbe mai avuto il coraggio di dichiarare che, secondo le prove raccolte, era stato colpito da una meteorite. Nient’altro, infatti, avrebbe potuto disporre di una velocità tale da eludere lo schivamento automatico; niente avrebbe potuto provocare un danno del genere, se non un’esplosione nucleare, il che era impensabile.

C’era inoltre da tenere conto dell’avvistamento di una grande luminosità in cielo un attimo prima che il veicolo esplodesse, e l’avvistamento era stato effettuato dall’Osservatorio di Flagstaff, non da un dilettante, e del ritrovamento di un pezzo di ferro d’origine meteoritica conficcato di recente nel terreno a un chilometro circa dalla località del disastro. Mettendo insieme tutto questo, che conclusione era logico trarre?

Tuttavia, prima non era mai successo niente di simile e le probabilità contrarie erano immensamente superiori a quelle favorevoli. Tuttavia, capita a volte che possa verificarsi anche un’improbabilità infinitesimale.

Negli uffici della U.S. Robots, i come e i perché passavano in seconda linea. L’unica cosa che contava era questa: un robot era andato distrutto.

Il fatto era di per se stesso angoscioso.

Più angoscioso ancora perché il JN-5 era un prototipo, il primo, dopo quattro precedenti tentativi, che fosse entrato in funzione.

L’angoscia poi diventava abissale se si pensi che il JN-5 era un tipo di robot completamente nuovo e diverso dagli altri costruiti prima.

Infine non c’erano parole sufficienti a descrivere l’angoscia per il fatto che il JN-5 aveva compiuto una cosa di capitale importanza prima di andare distrutto, e forse il suo operato era ormai perduto per sempre.

Il fatto che insieme al robot fosse morto il robopsicologo capo della ditta era un particolare di secondaria importanza, che valeva sì e no la pena di menzionare.

Sigla.

Quella che ti ho appena letto è l’introduzione di un racconto di Isaac Asimov intitolato Intuito femminile.

Qualche episodio fa, precisamente nel numero 127, ho letto e commentato un altro racconto, sempre di Asimov, il cui titolo era invece Tutti i guai del mondo, e i feedback sono stati così numerosi e così positivi che ho deciso di fare il bis.

Chissà che non ne venga fuori perfino una serie…

Per oggi, quindi, ho scelto questo Intuito femminile perché l’ho trovato particolarmente attuale per via di alcune notizie che sono uscite di recente e sulla base di varie ricerche scientifiche che mi è capitato di leggere in questo periodo.

Ora però bando alle ciance, anche perché non voglio rischiare di farti spoiler, e quindi non ti anticipo altro e ti auguro semplicemente buon ascolto!

Clinton Madarian era entrato nell’azienda dieci anni prima. Per cinque aveva lavorato senza mai lamentarsi sotto l’arcigna supervisione di Susan Calvin.

La genialità di Madarian era così evidente, che Susan Calvin l’aveva tranquillamente promosso scavalcando altri senza dare spiegazioni (cosa di cui del resto non si sarebbe degnata) al direttore delle ricerche Peter Bogert. Ma d’altro canto, nel caso specifico, le spiegazioni non sarebbero state necessarie, tanto il motivo era evidente.

Madarian era l’opposto della famosa dottoressa Calvin, sotto molti ed evidenti aspetti. Non era così grasso come poteva lasciar supporre il suo doppio mento, ma aveva una presenza imponente, mentre Susan passava quasi inosservata. Il faccione massiccio, la folta chioma rossastra, la carnagione accesa, la voce tonante, la risata sonora, e soprattutto l’irrefrenabile sicurezza di sé e la spavalderia con cui sbandierava il proprio successo, facevano di lui una personalità preponderante.

Quando finalmente Susan Calvin andò in pensione (rifiutando a priori qualsiasi forma di festeggiamento, con particolare riferimento al pranzo d’addio in suo onore, in modo talmente deciso che i mass-media non comunicarono nemmeno la notizia), Madarian prese il suo posto.

Lo occupava esattamente da un giorno quando diede l’avvio al progetto JN.

Per attuarlo era necessario uno stanziamento di fondi molto più cospicuo di quello che la U.S. Robots avesse stanziato per qualsiasi altro progetto. Ma per Madarian questo era un particolare trascurabile.

«Vale ogni soldo che ci spendiamo, Peter» disse «e mi aspetto che tu convinca il Consiglio Direttivo.»

«Spiegami perché» disse Bogert, chiedendosi se Madarian l’avrebbe accontentato. Susan Calvin non aveva mai dato spiegazioni.

Madarian invece disse: «Certo» e si sistemò comodamente in poltrona nell’ufficio del direttore.

Bogert lo guardava con qualcosa di molto simile al rispetto. I suoi capelli, un tempo neri, erano ormai quasi bianchi, ed entro meno di dieci anni sarebbe andato anche lui in pensione come Susan Calvin. Questo avrebbe segnato la fine del gruppo originale che aveva fatto della U.S. Robots un’azienda di importanza mondiale, rivale del governo per complessità e importanza. Ma né lui né quelli che si erano già ritirati si erano mai assuefatti all’enorme espansione della ditta.

Questa, però, era la nuova generazione. I nuovi dirigenti si trovavano a proprio agio nel colosso. Non provavano nei suoi confronti quello stupore che confinava con la reverenza. Tiravano dritto, e dopotutto era forse meglio così.

«Propongo di iniziare la costruzione di robot privi di costrizioni» disse Madarian.

«Senza le Tre Leggi? Ma…»

«No, Peter. Credi che non sia capace di pensare ad altre costrizioni? Che diamine, hai pur contribuito al progetto dei primi cervelli positronici. Devo proprio dirti io che, oltre alle Tre Leggi, in quei cervelli non c’era un circuito che non fosse progettato e fissato con precisione? Abbiamo robot adatti a compiti specifici, altamente specializzati…»

«E tu adesso proporresti…»

«Che, ferme restando le restrizioni delle Tre Leggi, i circuiti possano restare aperti. Non è difficile.»

«Già, non è difficile» commentò seccamente Bogert. «Le cose inutili non sono mai difficili. Il difficile è fissare i circuiti e rendere utili i robot.»

«Perché? Fissare i circuiti richiede uno sforzo notevole perché il Principio d’Incertezza è importante nella massa di positroni e bisogna minimizzare l’effetto incertezza. Ma perché dobbiamo? Se combiniamo le cose in modo che il Principio abbia la preponderanza sufficiente a consentire l’opposizione a circuiti imprevedibili…»

«Otterremo un robot imprevedibile.»

«Un robot “creativo”» precisò Madarian con un briciolo d’impazienza. «Peter, se il cervello umano possiede una cosa di cui il cervello dei robot è privo, questa è una sfumatura d’imprevedibilità che deriva dagli effetti dell’incertezza a livello subatomico. Ammetto che non sia mai stato possibile dimostrare questo effetto nell’ambito del sistema nervoso, ma senza di esso il cervello umano non sarebbe superiore a quello robotico.»

«E tu credi che inserendo questo effetto nel cervello di un robot, quello umano non sarebbe più superiore?»

«Esattamente» confermò Madarian. E continuarono a discutere per un bel pezzo.

Un robot creativo L’idea di creare una macchina intelligente è senza dubbio un concetto affascinante già di per sé. Affascinava Asimov nel 1969, quando pubblicò Intuito femminile e tanti altri racconti, e affascina sicuramente anche molti di noi tutt’oggi.

Pensaci: chi non vorrebbe avere al proprio fianco un Jarvis come quello del personaggio della Marvel Ironman o una Andromeda come quella nell’omonima serie di Gene Roddenberry.

I modelli di machine learning moderni, d’altronde, come possono non essere considerati varie strade con le quali si sta tentando di raggiungere un tale obiettivo?

Nello specifico di questo racconto, Asimov pone l’attenzione su un aspetto particolare che spesso nelle serie TV e nei film è dato piuttosto per scontato. Un aspetto che, come vedremo più avanti nella storia, si evolverà in un secondo tratto altrettanto importante.

Insieme, queste due caratteristiche - intrinseche nell’essere umano -, sono elementi fondamentali per considerare una intelligenza come tale, anche senza sfociare in un dibattito filosofico sulla stessa definizione di intelligenza.

È quelle di cui sto parlando sono le peculiarità della mente umana che noi normalmente chiamiamo creatività e intuito. La creatività è già entrata in gioco, mentre di intuito si parlerà a breve.

Il dottor Madarian, infatti, come vedremo tra poco, vuole realizzare un cervello positronico che sia in grado di svolgere compiti e formulare nuove idee sulla base di informazioni eterogenee incamerate in modo naturale e non schematicamente prestabilito. Che sia creativo, insomma.

E in effetti, nel racconto come nella nostra realtà attuale, la creatività sembrerebbe proprio essere l’ultima caratteristica che ancora separa nettamente l’Intelligenza artificiale da quella naturale.

Di recente, però, sono stati pubblicati alcuni studi scientifici che suggeriscono che questa disparità non resterà tale ancora per molto.

Secondo tali studi, che trovi in descrizione, è infatti possibile che a poco a poco anche quest’ultimo baluardo della superiorità del cervello umano stia venendo superato.

Anche se, di fatto, ancora non conosciamo pienamente come funziona al proprio interno un modello di machine learning generativo (per capirci, parlo di GPT e compagni), negli ultimi mesi sono stati effettuati vari esperimenti per esplorarne le potenzialità e, fra questi, alcuni molto interessanti erano volti a valutarne le capacità creative.

Messi di fronte a dei test - utilizzati normalmente per misurare la creatività negli umani -, i migliori chatbot basati sui maggiori large language model si sono rivelati in grado di superarne i quesiti con una certa facilità.

Nello specifico, le prove a cui mi riferisco si concretizzano in attività come scrivere racconti originali o trovare, per certi oggetti, utilizzi differenti da quelli canonici.

I chatbot interrogati hanno saputo generare risposte che hanno quantomeno sorpreso i ricercatori: i modelli linguistici, infatti, hanno dimostrato di essere in grado di rispondere alle domande dei test perfino meglio della media degli esseri umani con cui sono stati confrontati.

Si tratta senza dubbio di risultati interessanti, di cui probabilmente sentiremo nuovamente parlare in futuro, e che fanno pensare che l’intelligenza artificiale supererà a breve quella naturale.

Ma prima di lasciarci prendere dall’entusiasmo teniamo ben presente una cosa: nel caso di una IA, superare un test di creatività non vuol dire necessariamente essere creativa.

Non avendo possibilità di verificarne il funzionamento e i dati di training, infatti, non è possibile, per i ricercatori, escludere che essa sia stata allenata proprio su risposte ai suddetti test, e sia dunque questo il motivo per cui è in grado di superarli.

In altre parole, i modelli potrebbero stare semplicemente ripetendo risposte che hanno assimilato precedentemente all’interno di tutto il materiale con il quale sono stati addestrati e, se così fosse, non potremmo certo definirli creativi.

Altri studi, invece, nei quali sono stati messi in competizione esseri umani e Large Language Model hanno fatto emergere il fatto che, in linea generale, il livello di creatività di entrambi si equivale nel caso in cui i soggetti umani non sono particolarmente creativi. Anzi l’ago della bilancia pende addirittura verso i modelli generativi.

Tuttavia, se si confrontano invece i soggetti migliori presi sia tra gli esseri umani che tra i chatbot, i risultati evidenziano che, in creatività, l’intelligenza naturale supera ancora di gran lunga quella artificiale.

Il concetto, quindi, sembra essere che una IA generativa riesce ad essere mediamente creativa ma non brillare in tal senso. E sicuramente, non è in grado di tenere il passo con quelli che sono i picchi di intelligenza ed inventiva tipici della nostra specie.

Il Consiglio Direttivo non aveva la minima intenzione di lasciarsi convincere facilmente.

Scott Robertson, il più importante azionista, disse: «È già abbastanza difficile dirigere l’industria dei robot così com’è, con l’ostilità latente dell’opinione pubblica sempre pronta a passare a vie di fatto. Se la gente si convince che i robot saranno incontrollati… Oh, non venitemi a parlare delle Tre Leggi. L’uomo della strada non crederà più che basteranno a proteggerlo quando sentirà la definizione “senza controllo”».

«Non è mica obbligatoria» disse Madarian. «Possiamo chiamare il robot… intuitivo.»

«Un robot intuitivo?» commentò qualcuno. Un sorriso serpeggiò lungo la tavola.

Madarian afferrò l’idea al volo. «Sì, un robot femmina. I nostri robot, naturalmente, sono asessuati, e lo sarà anche questo, ma noi li abbiamo sempre considerati di genere maschile. Gli abbiamo dato nomi maschili e abbiamo sempre detto lui, lo, gli, riferendoci a loro. Questo, invece, se consideriamo la natura della struttura matematica del cervello che ho proposto, cadrà nel sistema di coordinate JN. Il primo robot sarà JN-uno, e contavo che l’avremmo chiamato John-uno… Purtroppo credo che il livello medio di originalità dei creatori di robot non vada oltre. Ma perché non chiamarlo invece Jane-uno? Se dobbiamo spiegare al pubblico quello che intendiamo fare, diremo che stiamo costruendo un robot femmina dotato d’intuito.»

«E che differenza farebbe?» obiettò Robertson scrollando la testa. «A quanto dici, progetti di togliere l’ultima barriera che, in linea di principio, rende il cervello robotico inferiore a quello umano. Quale credi che sarà la reazione dell’opinione pubblica?»

«Perché? Avreste intenzione di divulgare la notizia?» chiese Madarian. Ci pensò su un poco, e poi disse: «Sentite, una delle convinzioni più diffuse è che le donne sono meno intelligenti degli uomini».

Su molte facce si dipinse per un attimo un’espressione d’angustia, mentre gli occhi si volgevano verso il punto dove un tempo era solita sedere Susan Calvin.

«Se annunciamo la fabbricazione di un robot femmina» continuò Madarian, «non importa come sarà. La gente si farà d’istinto l’idea che è mentalmente arretrata. Ci basterà pubblicizzare il robot come Jane-uno, senza bisogno di aggiungere altro. Non c’è niente da temere.»

«In verità ci sono parecchie altre cosette» disse a questo punto con la massima calma Peter Bogert. «Madarian e io abbiamo revisionato tutti i calcoli a fondo, e posso assicurare che la serie JN, John o Jane che sia, non presenta il minimo pericolo. Saranno dei robot meno complessi e intellettualmente meno capaci, in senso ortodosso, di molte altre serie da noi progettate e costruite. Ci sarà un unico fattore in più, che possiamo pure abituarci a chiamare “intuito”.»

«Chi sa quali effetti avrà?» borbottò Robertson.

«Madarian ha suggerito una funzione. Come sapete, è stato creato in teoria il principio del Balzo Spaziale. L’uomo, in teoria, può raggiungere velocità superiori a quella della luce, visitare sistemi stellari e tornare in pochissimo tempo… qualche settimana al massimo.»

«Non è una novità» osservò Robertson. «E senza i robot non sarebbe stato possibile.»

«Esatto. Ed è perfettamente inutile in quanto la supervelocità si può raggiungere solo una volta, per dimostrazione, e di conseguenza la nostra azienda non ne ricava che un vantaggio minimo. Il Balzo Spaziale è rischioso, richiede una enorme quantità di energia e di conseguenza è enormemente costoso. Se però dovessimo attuarlo, sarebbe bello poter scoprire e riferire l’esistenza di un pianeta abitabile. Chiamatela necessità psicologica. Spendere circa venti miliardi di dollari per un unico Balzo, e tornare solo con dei dati scientifici, provocherebbe le proteste dei contribuenti. Riferire invece che è stato scoperto un pianeta abitabile farebbe di noi dei Colombo interstellari e nessuno penserebbe al denaro speso.»

«E allora?»

«Allora, dove possiamo trovare un pianeta abitabile? Oppure, mettiamola così… quale stella, nell’ambito delle possibilità del Balzo, quale delle trecentomila stelle e sistemi stellari nell’ambito di trecento anni luce ha le maggiori probabilità di possedere un pianeta abitabile? Disponiamo di un’infinità di dati su tutte le stelle distanti fino a trecento anni luce, e sappiamo che quasi tutte hanno un sistema planetario. Ma quale possiede un pianeta “abitabile”? Quale dobbiamo visitare?… Lo ignoriamo.»

Uno dei presenti chiese: «In cosa potrebbe esserci utile a questo riguardo il robot Jane?».

Madarian stava per rispondere, ma poi fece un cenno a Bogert, che afferrò al volo. Il suo parere, come direttore, avrebbe avuto più peso. La cosa non andava molto a genio a Bogert: se la serie JN si rivelava un fiasco, il fatto di esporsi adesso a sostenerla avrebbe fatto poi di lui il capro espiatorio. D’altro canto non era molto lontano il giorno in cui sarebbe andato in pensione, e gli sarebbe piaciuto ritirarsi circondato da un’aureola di gloria. Forse la causa andava attribuita alla gran sicurezza di sé di Madarian, comunque sia, Bogert si era ormai persuaso che la cosa avrebbe funzionato.

«Probabilmente, controllando e studiando i dati sulle stelle sarà possibile calcolare le probabilità della presenza di pianeti abitabili tipo Terra. Bisogna capire bene i dati, interpretarli in modo creativo e fare i raffronti del caso. Il che, finora, non è mai stato fatto. O, se qualche astronomo se n’è occupato, non è stato abbastanza in gamba da capire cos’aveva scoperto.

«Un robot del tipo JN può fare i raffronti e stabilire i rapporti molto più rapidamente dell’uomo. In un giorno vaglierebbe le possibilità e scarterebbe i dati negativi che un uomo impiegherebbe dieci anni a esaminare. Per di più non avrebbe i preconcetti e le convinzioni dell’uomo.»

Seguì un pesante silenzio, che Robertson ruppe per dire: «Ma si tratta solo di probabilità, no? Supponiamo che il robot dica: “La stella che ha più probabilità di avere un pianeta abitabile entro tot anni luce è Lumachetta diciassette” o che so io, e allora noi andiamo a vedere e scopriamo che la probabilità è solo una probabilità e che non ci sono pianeti. Cosa faremmo in questo caso?».

Madarian non si dette per vinto. «Sarà sempre una vittoria per noi» disse «perché vorrà dire che il… cioè che la robot ci avrà detto questo in seguito a date deduzioni. Si tratterà di un enorme passo avanti in campo astronomico, e sarà sempre valsa la pena di aver provato anche se non faremo poi il Balzo vero e proprio. Inoltre potremo esaminare, per esempio, i dati sui cinque più probabili sistemi dotati di pianeti abitabili e le probabilità che uno dei cinque abbia un pianeta abitabile sarebbero superiori al novantacinque per cento. Sarebbe la certezza…»

E tirarono avanti ancora per un bel pezzo.

L’impiego di una nuova intelligenza A questo punto del racconto abbiamo il primo accenno al concetto di robot femmina, uno dei temi principe di questo racconto che pervaderà un po’ tutta la narrazione e che verrà approfondito in modo interessante più avanti.

Per questo motivo, anche noi avremo modo di parlarne a dovere fra un po’ e quindi preferisco concentrarmi su un altro aspetto di ciò che abbiamo appena letto, qualcosa di meno evidente, forse, ma che trovo comunque molto interessante: parlo dell’impiego da trovare per la nuova tipologia di intelligenza.

Madarian ha pensato di utilizzare il nuovo cervello positronico intuitivo o creativo per effettuare dei calcoli probabilistici che per degli umani richiederebbero un impegno ed un tempo pressoché improponibili.

Questa è una sorprendente intuizione da parte di Asimov, perché anticipa di decenni un utilizzo dell’Intelligenza Artificiale che oggi è ampiamente diffuso nell’ambito della ricerca e sviluppo e che si fonda principalmente sul reinforcement learning.

Si tratta di una tipologia di machine learning, questa, che viene impiegata in moltissimi campi e discipline per effettuare i più disparati tipi di studi e ricerche tecnologiche.

A tali algoritmi viene affidato il compito di sondare centinaia di migliaia di opzioni o di strategie al fine di individuare relazioni invisibili agli esseri umani ed elaborare le migliori soluzioni possibili a determinati problemi.

In parole più semplici, gli algoritmi di reinforcement learning sono in grado di esplorare un numero immenso di possibilità, ciascuna leggermente diversa dalla precedente, fino ad individuarne una - o un gruppo ristretto - che si avvicini il più possibile al risultato richiesto.

Ne abbiamo già parlato anche qui su Pensieri in codice, ad esempio nell’episodio 119 su AlphaDev in cui abbiamo scoperto insieme come questa IA abbia inventato un nuovo algoritmo di ordinamento dei dati.

Ma in pratica le reti ad apprendimento per rinforzo sono utilizzate ogni giorno da industrie o enti di ricerca per i più disparati obiettivi: creare nuovi farmaci, nuovi materiali, nuove strategie, nuovi software, nuovi metodi di sviluppo e moltissimo alto ancora.

L’intero processo viene predisposto da un team di esperti e poi, una volta avviato, lasciato interamente all’Intelligenza Artificiale in modo che essa possa portare al risultato sulla base delle restrizioni, dei parametri e degli obiettivi prestabiliti.

L’assenza di interazione umana, in teoria, - proprio come ipotizza Madarian per il suo robot JN - dovrebbe ridurre al minimo la presenza di preconcetti o bias.

Nel racconto, poi, gli azionisti della U. S. Robots, definendo questo nuovo tipo di robot come incontrollato, sottolineano il fatto che i circuiti aperti non permetterebbero di prevedere in anticipo le decisioni prese dal cervello positronico.

Anche questo è un parallelismo interessante con le nostre moderne IA generative: difatti, negli attuali modelli non è possibile in alcun modo conoscere o verificare il modo in cui essi arrivano ai risultati che restituiscono.

L’abbiamo già detto tante volte: i large language model, ad esempio ma non solo - anche i generatori di immagini o video - , sono in effetti delle blackbox il cui interno non è osservabile o conoscibile nemmeno dai loro stessi creatori.

Per quanto riguarda, invece, l’interazione tra la IA e le persone comuni, Asimov già ne intuiva l’importanza, e noi - che oggi quell’interazione la stiamo letteralmente vivendo - sappiamo che non tutto sta andando per il verso giusto.

Ci stiamo accorgendo che è fondamentale che chiunque utilizzi software basato su machine learning, in qualsiasi ambito al di là del semplice divertimento, ne conosca i limiti intrinseci e sia in qualche modo in grado di gestirli.

E se negli ambienti scientifici e altamente specializzati come la medicina, l’ingegneria, la meccanica e simili, una certa sicurezza è garantita da protocolli, certificazioni e controlli di qualità che esistevano già ben prima del boom del machine learning, per l’uomo della strada come è definito nel racconto, tutto ciò non è affatto scontato.

Con la diffusione su larga scala delle intelligenze artificiali generative, infatti, un chatbot o, per i più smanettoni, un modello in grado di generare testi, immagini o video è divenuto facilissimo da reperire ed utilizzare.

Chiunque può installarne uno su un PC da un migliaio di euro o poco più.

La facilità d’uso, però, non implica automaticamente la conoscenza dei limiti ne tantomeno delle implicazioni dovute all’utilizzo di questi strumenti. E, se vogliamo dirla tutta, non implica nemmeno la buona fede…

Un utilizzo improprio o addirittura fraudolento è tutt’altro che remoto e ne abbiamo già visti innumerevoli esempi.

Infine, in un interessantissimo saggio intitolato Intelligenza Artificiale e Fiducia, Bruce Schneier parla proprio del rapporto tra le persone e le IA generative che sono in circolazione e che, ovviamente, si diffonderanno sempre più nel prossimo futuro.

Secondo lo scrittore - che definisco scrittore per via del saggio ma che in realtà è anche esperto di crittografia, privacy e sicurezza informatica -, l’aspetto principale da tenere sotto controllo riguarda appunto la fiducia.

Secondo gli azionisti del racconto di Asimov, per il bene dell’azienda - e quindi del loro portafoglio -, le persone devono fidarsi dei robot e pertanto Madarian deve fare tutto quanto in proprio potere per far si che ciò avvenga.

Schneier, nel saggio, fa notare che la fiducia è una caratteristica fondamentale per l’esistenza della società umana, ma sottolinea anche il fatto che le nuove intelligenze generative produrranno un’enorme confusione.

Esse sono degli strumenti, dei servizi, ma le persone inizieranno a considerarle come figure amiche, delle quali - appunto - fidarsi, e alle quali affidarsi.

Le aziende detentrici dei più potenti modelli generativi, dice Schneier, cercheranno dunque di approfittare di questa confusione per ottenere sempre più potere e ricchezza, e sarà compito dei governi impedire che ciò avvenga, regolamentando non tanto le IA, ma direttamente le aziende che le controllano.

Si tratta di un saggio davvero interessante. Ti consiglio di leggerlo. Come per tutto ciò di cui ti parlo, trovi il link anche di questo in descrizione.

I fondi stanziati non erano sufficienti, ma Madarian contava sull’abitudine di concederne altri con facilità dopo aver tanto tentennato prima di concedere lo stanziamento iniziale. L’idea di aver buttato via duecento milioni di dollari quando concedendone altri cento si poteva salvare la situazione, avrebbe senz’altro facilitato lo stanziamento degli altri cento milioni.

Jane-1 fu finalmente costruita, e messa in mostra. Peter Bogert la esaminò con gran serietà e chiese: «Perché la vita sottile? Indebolisce la struttura meccanica».

«Senti» gli spiegò ridacchiando Madarian «se dobbiamo chiamarla Jane, non vedo perché debba somigliare a Tarzan.»

«Non va.» Bogert scrollò la testa. «Di questo passo la farai più grossa in alto per simulare il seno, ed è una cosa che potrebbe avere degli effetti spiacevoli. Se le donne cominciano a pensare che i robot sono fatti come loro, si mettono in testa delle idee sbagliate, e non vorrai rendertele ostili, spero.»

«Forse hai ragione» ammise Madarian. «Non esiste una donna sola che vorrebbe essere sostituita da qualcosa che non ha nessuno dei suoi difetti.»

Jane-2 non aveva la vita sottile. Era un robot triste che si muoveva poco e parlava ancora meno.

Durante la costruzione, Madarian era corso poche volte da Bogert per annunciargli trionfante qualche novità, e questo era segno che le cose non andavano bene. Quando otteneva brillanti risultati, l’esuberanza di Madarian non aveva freni. Non avrebbe esitato a precipitarsi nella camera da letto di Bogert alle tre di notte per dargli subito una bella notizia, senza aspettare il mattino. Bogert lo sapeva per esperienza.

Adesso invece Madarian era avvilito, il colorito acceso si era fatto pallido, le guance tonde quasi cascanti. Sicuro di indovinare, Bogert disse: «Non parla».

«Oh, per parlare parla» disse Madarian mettendosi pesantemente a sedere e mordicchiandosi il labbro. «Qualche volta, almeno.»

Bogert si alzò e girò intorno al robot. «E quando parla, immagino che dica cose prive di senso. Be’, se non parla non è una femmina, no?»

Madarian tentò di abbozzare un sorriso, ma ci rinunciò. «Il cervello, in isolamento, funzionava.»

«Lo so» disse Bogert.

«Ma quando è stato inserito nell’apparato fisico del robot, per forza ha subito delle modifiche.»

«Certo» si limitò ad ammettere Bogert.

«Ma in modo imprevedibile e deludente. Il guaio è che quando ci si trova a che fare col calcolo enne-dimensionale dell’incertezza, le cose diventano…»

«Incerte?» suggerì Bogert, stupito della sua stessa reazione. La compagnia aveva investito somme ingentissime, erano già passati due anni e il risultato, per dirla in termine eufemistico, era deludente. E nonostante questo, lui era lì che si divertiva a punzecchiare Madarian.

Quasi furtivamente, si chiese se non stesse punzecchiando invece l’assente Susan Calvin. Madarian era di gran lunga più espansivo ed estroverso di quanto fosse mai stata Susan Calvin anche quando le cose andavano bene. Ed era molto più vulnerabile di lei quando andavano male, perché Susan non aveva mai ceduto alle avversità. Così, Madarian offriva un facile bersaglio, che ricompensava Bogert di non essersi mai potuto cavare quella soddisfazione con Susan.

Madarian non reagì all’ultima osservazione di Bogert così come avrebbe fatto Susan Calvin, e non, come lei, per disprezzo, ma solo perché non l’aveva sentita.

«Il difficile sta nel saper distinguere» disse, con l’aria di chi dà l’avvio a una discussione. «Jane-due è bravissima nello stabilire i rapporti, ma poi non è capace di riconoscere una deduzione valida da una che non lo è. Non è un problema facile riuscire a stabilire come si deve programmare un robot in modo che dia dei giudizi validi, quando non sappiamo come mette in rapporto le cose.»

«Immagino che tu abbia pensato di abbassare il potenziale alla congiunzione del diodo W-ventuno e di…»

«No, no, no, no» lo interruppe Madarian in un diminuendo che finì in sussurro. «Non si può rifare tutto. Bisogna invece riuscire a trovare qual è il rapporto decisivo, e trarne le conclusioni. Una volta stabilito questo, Jane sarà in grado di dare una risposta per intuito. Però ci potremmo riuscire solo grazie a un colpo di fortuna.»

«A me pare» osservò seccamente Bogert «che, se ci riuscissimo, avremmo un robot capace di intuizioni quali solo un genio, fra gli esseri umani, può avere, e solo poche volte nella vita.»

«Esatto» confermò Madarian annuendo vigorosamente. «L’ho pensato anch’io, ma non avrei mai osato dirlo. Ti prego di non farne parola col Consiglio Direttivo.»

«Ma vorresti sul serio un robot genio?»

«Cosa sono le parole? Io sto cercando di ottenere un robot capace di mettere in correlazione le cose più svariate, a caso e in brevissimo tempo, e che sia contemporaneamente dotato di un elevatissimo quoziente di capacità selettiva. E sto tentando di tradurre questi concetti in equazioni positroniche. Credevo di esserci riuscito, e invece no. Non ancora.»

Guardò deluso Jane-2 e disse: «Che senso hai, Jane?». La testa del robot si voltò verso di lui, ma Jane non emise alcun suono, e Madarian sussurrò, rassegnato: «Sta cercando il senso della mia domanda nei banchi dei rapporti».

Finalmente Jane-2 disse con voce atona: «Non lo so». Erano le prime parole che pronunciava.

Madarian alzò gli occhi al cielo. «Quello che fa è l’equivalente di elaborare le equazioni con soluzioni indeterminate.»

«Lo supponevo» disse Bogert. «Senti, Madarian, credi di poter riuscire ancora a combinare qualcosa, o ci mettiamo una pietra sopra riducendo le perdite a mezzo milione?»

«Oh, no, no, ce la farò» borbottò Madarian.

Ma con Jane-3 non c’era ancora riuscito. Il robot era inerte e Madarian pazzo di rabbia.

Colpa sua, se si voleva andare a fondo, ma sebbene lui si sentisse deluso e umiliato, gli altri non aprirono bocca. Si arrangiasse lui a rimediare, lui che si era sempre vantato di non aver mai fatto un errore nei difficilissimi e astrusi calcoli di matematica positronica.

Distinguere una deduzione valida Asimov ha appena sottolineato un aspetto fondamentale dell’Intelligenza Artificiale.

Madarian pronuncia queste parole: Non è un problema facile riuscire a stabilire come si deve programmare un robot in modo che dia dei giudizi validi, quando non sappiamo come mette in rapporto le cose.

Ciò di cui sta parlando, in pratica, sono quelle che noi chiamiamo allucinazioni dei modelli generativi: in parole semplici, sta dicendo che non si può stabilire a priori se l’output prodotto sia corretto se non si conosce con certezza il modo in cui il modello funziona internamente.

Noi lo vediamo accadere ogni giorno: a volte i chatbot danno risposte totalmente insensate, dall’illustrare i benefici di correre con le forbici in mano, fino allo sbagliare semplici calcoli matematici.

Il fatto è che inventare roba è esattamente quello per cui i modelli generativi sono progettati, ed essi sono in grado di farlo in maniera veramente eccellente: il compito, ad esempio, di un large language model è quello di inventare nuovi testi mettendo in fila una parola dietro l’altra ed esso è bravissimo nel farlo.

Peccato che tirare fuori informazioni corrette da un llm non è per nulla simile a reperirle da un database: esse, infatti, all’interno del modello non sono strutturate, non sono esatte, non sono precise e non sono nemmeno verificate.

Se noi guardassimo dentro un motore generativo, non vedremmo informazioni come quelle prodotte negli output, ma solo miliardi e miliardi di numeri, frutto dell’addestramento a cui esso è stato sottoposto in precedenza.

Ogni volta che lo interroghiamo, il modello usa tutta una serie di combinazioni di questi numeri per generare al volo un testo: ogni parola è frutto di una scelta effettuata tenendo conto del contesto e del peso statistico ad essa associata.

Il software non ha alcuna contezza del significato del testo generato e nessuno può garantirne il senso compiuto o la correttezza delle affermazioni, ma in generale, l’output prodotto appare sempre essere estremamente attendibile.

Questa cosa dipende dal fatto che la scelta delle parole è così impeccabile ed il risultato finale è così ben scritto da farlo sembrare preso da una fonte di qualità come un libro, un sito giornalistico, un’enciclopedia o una base dati, ma non è così: ogni somiglianza con la realtà è puramente casuale.

Come riportato nell’articolo Way Does AI Hallucinate sul sito Technology Review del MIT, possiamo tranquillamente affermare che un llm è molto simile una gigantesca palla magica, di quelle che si agitano e poi dal liquido emerge una risposta a caso.

Anche di questo abbiamo già parlato: nell’episodio 118 intitolato Come funziona ChatGPT (e gli altri Large Language Model): in pratica, un modello di testo generativo non fa altro che predire la più probabile parola successiva in una sequenza di parole esistente.

Pensato in questo modo, dovrebbe essere chiaro che in realtà qualsiasi output di qualsiasi llm è sempre un’allucinazione. Solo che a volte ha senso rispetto alla realtà e a volte no; e a volte siamo noi ad attribuire a tali output significati più o meno concreti di quanto non siano in realtà .

Il problema, quindi, è proprio che, come dicevo poco fa, i modelli linguistici sono così bravi nel fare quello che fanno che le loro risposte hanno sempre l’aria di essere corrette, anche quando non lo sono.

Passò quasi un anno prima che fosse pronta Jane-4. Madarian aveva ritrovato l’antico entusiasmo. «Ce la fa!» disse. «Ha un buon quoziente di selettività.»

Era talmente sicuro che la presentò al Consiglio perché la mettesse alla prova. Niente problemi matematici che qualsiasi robot sarebbe stato capace di risolvere, ma problemi i cui dati, senza essere imprecisi, erano tuttavia volutamente vaghi.

«Non è una gran cosa» disse Bogert, dopo la prova.

«No, è addirittura elementare, per Jane-4, ma sufficiente per una dimostrazione, non credi?»

«Sai quanto abbiamo speso finora?»

«Andiamo, Peter, non saltar fuori con certi argomenti, adesso. Sai piuttosto quanto ci ha fruttato? Sai bene che sono cose che non si possono fare dall’oggi al domani, e io ci ho faticato sopra per tre anni, ma mentre mi ci accanivo ho elaborato nuove tecniche di calcolo che ci faranno risparmiare almeno cinquantamila dollari per ogni tipo di cervello positronico che progetteremo in futuro. Cosa te ne pare?»

«Be’…»

«Non cominciamo coi be’. È così e basta. E inoltre sono sicuro che il calcolo enne-dimensionale dell’incertezza può essere applicato in molti altri campi, purché si abbia l’intelligenza sufficiente da scoprirli, e sarà la mia Jane a farlo. Appena avrò ottenuto il risultato che voglio, la nuova serie JN renderà tanto da pagarsi le spese nel giro di cinque anni, anche se dovessimo triplicare la somma investita finora.»

«Cosa intendi dire con “appena avrò ottenuto il risultato che voglio”? Jane-4 non va bene?»

«Sì, per funzionare funziona, ma può far di più. Intendo migliorarla. Credevo di sapere quello che volevo, quando l’ho progettata. Ma adesso che l’ho messa alla prova, “so” quello che voglio, e ci riuscirò.»

E ci riuscì con Jane-5. Impiegò un anno a produrla, ma alla fine ne fu completamente soddisfatto.

Jane-5 era più bassa e meno massiccia dei robot normali. Senza essere una caricatura della donna come Jane-1 riusciva ad avere un’aria femminile sebbene non possedesse alcun attributo femminile.

«È il portamento» disse Bogert. Muoveva le braccia con grazia e, quando si voltava, dava l’impressione che si curvasse leggermente.

«Ascoltala» disse Madarian. «Come stai, Jane?»

«Godo di eccellente salute, grazie» disse Jane-5, e la voce era indubbiamente femminile, un contralto dolce, conturbante.

«Perché con una voce simile, Clinton?» chiese perplesso Bogert.

«È importante dal punto di vista psicologico» spiegò Madarian. «Voglio che la considerino una donna, che la trattino come una donna.»

«Ma chi?»

Madarian si ficcò le mani in tasca e guardò pensoso Bogert. «Vorrei che si potesse combinare per portarla a Flagstaff.»

«A Flagstaff? E perché?»

«Perché è il centro mondiale della planetologia generale, no? È là che studiano le stelle e cercano di calcolare la probabilità dell’esistenza di pianeti abitabili, no?»

«Lo so. Ma è sulla Terra.»

«Lo sapevo.»

«Lo sai che l’operato dei robot sulla Terra è sottoposto a rigidi controlli. E poi che bisogno c’è di portarla laggiù? Forniscile tutta una biblioteca di testi di planetologia generale, e Jane li assorbirà.»

«No! Peter, vuoi metterti in testa che Jane» non c’era più bisogno di indicarla con un numero di serie, adesso: quella era la Jane «non è uno dei soliti robot logici? Lei è intuitiva.»

«E allora?»

«Allora come possiamo sapere cosa le occorre, di quali dati ha bisogno? Per leggere libri può andar bene qualsiasi robot, si tratta di dati stabiliti, e magari anche sorpassati. Jane deve avere informazioni recenti, di prima mano; deve captare i toni delle voci, afferrare le sfumature. Come diavolo facciamo a sapere quando i suoi meccanismi mentali si mettono in funzione? Quando comincia il clic-clic e i dati si mettono in bell’ordine a formare uno schema logico? Se lo sapessimo, potremmo far da soli, senza bisogno di ricorrere a lei, ti pare?»

Bogert cominciava a cedere. «Fai venire qui i planetologi» propose.

«Non servirebbe. Non trovandosi nel loro elemento non reagirebbero in modo naturale. Voglio che Jane li veda al lavoro, voglio che veda gli strumenti che adoperano, i loro uffici, le loro scrivanie, tutto quello che può esserle utile. E voglio che tu faccia in modo che venga portata a Flagstaff. E basta con le discussioni.»

Bogert ebbe per un attimo l’impressione di aver sentito parlare Susan. Ma si riprese e disse: «Troppo complicato. Trasportare un robot sperimentale…».

«Jane non è sperimentale. È la quinta della serie.»

«Gli altri quattro non erano dei veri e propri modelli funzionanti.»

«Ma chi ti obbliga a informare il governo?» gli chiese Madarian.

«Non è di questo che mi preoccupo. Posso sempre dimostrare che si tratta di un caso eccezionale. Mi preoccupa l’opinione pubblica. In cinquant’anni abbiamo fatto molta strada e non vorrei ritrovarmi al punto di partenza, nel caso che perda il controllo…»

«Io non perderò nessun controllo, mai. Non dire sciocchezze. Senti, la U.S. Robots può permettersi un aereo privato. Atterriamo come se niente fosse nel più vicino aeroporto commerciale, confondendoci con altri aerei, e sistemiamo Jane su un bel furgone chiuso che la porterà a Flagstaff. Naturalmente Jane sarà chiusa in una cassa e figurerà come strumento astronomico o qualcosa del genere. Nessuno saprà che la cassa contiene un robot. Intanto gli uomini di Flagstaff saranno stati avvertiti e messi al corrente dello scopo della nostra visita. E sarà loro interesse far sì che la cosa non si risappia.»

Bogert ci pensò su. «Se mai dovesse succedere qualcosa alla cassa durante il viaggio…»

«Non succederà niente.»

«Potremmo almeno disattivare Jane durante il trasporto. Se mai qualcuno scoprisse…»

«No, Peter, è impossibile. Jane-cinque non può essere disattivata. Si potrebbero mettere in naftalina le informazioni, ma non l’associazione d’idee. Questo mai. Impossibile.»

«E se qualcuno scopre che trasportiamo un robot funzionante?»

«Nessuno lo scoprirà.»

Un robot infiltrato Ancora tiene ampiamente banco il discorso di Schneier della fiducia: Madarian vuole che Jane si mescoli agli scienziati del centro di Flagstaf e che loro la considerino il più possibile una di loro, che si fidino di lei.

Il motivo è semplice: vuole che loro si comportino in modo naturale, come se avessero a che fare con una normale collega. Questo fatto aiuterà ad estrarre da loro tutta una serie di informazioni nel modo più attendibile possibile, senza filtri.

Anche se Jane è un robot e le sue sembianze sono impossibili da confondere con quelle di un essere umano, essa è stata comunque progettata per essere umanizzata il più possibile dai suoi interlocutori, grazie ad un sapiente utilizzo della gestualità e della voce.

Il risultato desiderato è che le persone la considerino in tutto e per tutto una donna e si comportino con lei come se fosse umana.

Tutta la schiera di chatbot che siamo abituati a conoscere, sono stati resi disponibili al grande pubblico esattamente con le stesse intenzioni, anche se con mezzi diversi.

I primi assistenti vocali, come Siri o Cortana, avevano quasi tutti sole voci femminili, almeno all’inizio. Mentre ChatGPT, Gemini e tutti i chatbot di ultima generazione sono progettati per comportarsi come si comporterebbe un essere umano, o almeno per provarci.

Mostrano il testo un po’ per volta, quasi come a farci pensare che dall’altra parte ci sia qualcuno che ha bisogno di tempo per pensare alle parole; provano a manifestare emozioni; si scusano quando gli diciamo che sbagliano; cercano di mostrare empatia e comprensione per l’interlocutore.

Tutti questi comportamenti non sono intrinseci del modello ma completamente artificiali e programmati: esattamente al pari delle fattezze femminili e della voce di Jane, sono studiati per farci dimenticare che stiamo interloquendo con un software.

Uno studio del Dipartimento di Scienze Cognitive di San Diego ha evidenziato come un modello come GPT-4 sia stato in grado di superare tranquillamente il test di Turing: messo a confronto con vari soggetti umani, infatti, questi hanno creduto di stare chattando con un umano ben nel 54% dei casi.

Inoltre - aspetto molto interessante - l’analisi dei ragionamenti e delle strategie attuate dai partecipanti, ha evidenziato come lo stile di scrittura e i fattori socio-emozionali giochino un ruolo fondamentale in questo tipo test, molto più delle nozioni di conoscenza e intelligenza intese in senso tradizionale.

In altre parole, le persone si convincono di avere a che fare con altre persone molto più facilmente se gli interlocutori mostrano emozioni o si interessano a loro o scrivono in modo naturale, piuttosto che se mostrano di conoscere l’argomento del discorso o di saper ragionare correttamente.

La difficoltà di riconoscere di star parlando con una macchina, poi, apre la strada all’utilizzo dei chatbot al posto di esseri umani in svariate situazioni potenzialmente dannose.

Senza voler necessariamente tirare in ballo la voce, o addirittura il video, il solo fatto di chattare con un modello di intelligenza artificiale, magari a nostra insaputa, è già una possibilità reale che potrebbe avere ripercussioni notevoli sul nostro stile di vita.

Il modo in cui ci esprimiamo, o anche solo i testi che scriviamo ogni giorno, infatti, anche quelli dei semplici messaggi di una chat sono intrisi di informazioni che ci riguardano. E non parlo solo di quei dati che andiamo intenzionalmente a inviare o dei metadati.

Nel nostro modo di scrivere, nelle parole che usiamo e nel modo in cui costruiamo le frasi, sono racchiuse informazioni che un umano difficilmente è in grado di estrapolare, ma che per una rete neurale sono semplicemente il pane quotidiano.

Secondo vari ricercatori i maggiori chatbot sono in grado di inferire moltissime informazioni riguardanti l’interlocutore anche se la conversazione che stanno avendo riguarda tutt’altro.

Razza, posizione, lavoro, preferenze varie e molto altro possono essere estratte grazie all’utilizzo di tutta una serie di correlazioni statistiche.

Sembra essere una capacità legata al modo in cui i modelli sono stati addestrati: pare che le enormi quantità di dati che gli vengono date in pasto - e che quasi sempre sono reperite dal Web - gli infondano una sorta di sensibilità ai pattern del linguaggio.

Tali dati possono infatti essere correlati ad altri in modi molto sottili e imprevisti, portando a dedurre dettagli che non ci si aspetterebbe di poter conoscere.

Ad esempio correlando l’utilizzo di certi dialetti o certe frasi, è possibile indovinare il luogo di provenienza o il livello sociale di una persona.

Il concetto è complesso, ma possiamo semplificarlo dicendo che, normalmente, persone che frequentano gli stessi ambienti o sono interessate alle stesse cose, tendono ad sviluppare sfumature simili nel modo di esprimersi.

La somiglianza può essere impercettibile: magari l’uso di una parola in modo particolare o la ripetizione di uno o più termini con frequenza maggiore o minore della media.

In ogni caso, gli algoritmi di machine learning, il cui compito principale è proprio scoprire e sfruttare correlazioni statistiche all’interno di moli di dati enormi, sono bravissimi ad individuare queste minime sfumature e, pertanto, possono facilmente categorizzare il proprio interlocutore all’interno di uno gruppo piuttosto che un altro.

Questi pattern consentono in pratica ai modelli di fare ipotesi su di una persona a partire da ciò che digita. Ad esempio, se una persona scrive che “ha appena preso il tram del mattino”, il modello potrebbe dedurre che si trova in Europa dove magari in quel momento è mattina e dove i tram sono piuttosto comuni.

Questo è un esempio banale, ma poiché un algoritmo di machine learning può raccogliere e combinare moltissimi indizi anche umanamente impercettibili, gli esperimenti fatti hanno dimostrato che esso può facilmente fare ipotesi incredibilmente accurate su moltissime informazioni tra cui la provenienza, il sesso, le tendenze religiose, l’età e la razza dell’utente.

Madarian era deciso, e un bel giorno l’aereo decollò. Era un modernissimo computo-jet automatico, ma per precauzione era salito a bordo anche un pilota, un dipendente della U.S. Robots. La cassa con Jane arrivò sana e salva all’aeroporto, fu trasferita sul furgone e raggiunse senza incidenti i Laboratori di Ricerca a Flagstaff.

Peter Bogert ricevette la prima chiamata da Madarian meno di un’ora dopo che quest’ultimo era arrivato a Flagstaff. Madarian, manco a dirlo, era in estasi, non poteva aspettare.

Il messaggio arrivò via raggio laser privato, schermato, mascherato, insomma impenetrabile, tuttavia Bogert era esasperato. Infatti chi disponeva dell’adatta attrezzatura tecnica e fosse deciso a farlo, avrebbe potuto benissimo intercettare il messaggio. Il governo, per esempio. L’unico motivo per cui poteva ritenerlo sicuro era che il governo non aveva ragione di tentare di intercettarlo. Così almeno sperava Bogert.

«Per l’amor di Dio, dovevi proprio chiamare?» disse.

Ignorandolo, Madarian, tutto infervorato, disse: «È stata un’ispirazione. Un’idea geniale, te l’assicuro».

Bogert rimase a fissare attonito il ricevitore, poi gridò incredulo: «Come? Hai già avuto la risposta?».

«Ma no, dacci tempo, accidenti! Dicevo della voce. Sta’ a sentire. Dopo averla portata dall’aeroporto a Flagstaff abbiamo aperto la cassa e Jane è uscita. Al vederla tutti hanno fatto un passo indietro atterriti. Se nemmeno gli scienziati capiscono il senso delle Tre Leggi della Robotica, come possiamo pretendere che lo capisca l’uomo della strada? Così, al momento, ho pensato: non ci caverò un ragno dal buco. Si rifiuteranno di parlare. Chiuderanno i laboratori per paura che dia i numeri…»

«Vieni al punto.»

«Ma poi lei li ha salutati, com’è sua abitudine. “Buongiorno, signori” ha detto con quella sua bella voce di contralto. “Sono felice di fare la vostra conoscenza…” È stato come un colpo di bacchetta magica. Uno si è raddrizzato la cravatta, un altro si è pettinato alla meglio con le dita… Insomma, adesso tutti vanno pazzi per Jane. Per via della voce. Non la considerano più un robot, ma una donna.»

«Vuoi dire che parlano con lei?»

«Eccome! Avrei dovuto programmarla con delle inflessioni erotiche. A quest’ora le avrebbero già chiesto un appuntamento. Guarda cosa significano i riflessi condizionati! Gli uomini reagiscono alle voci, da’ retta a me. Nei momenti più intimi guardano? No, caro mio, ascoltano la voce che sussurra all’orecchio…»

«Già, mi par di ricordare. Dov’è Jane, adesso?»

«Con loro. Non la lasciano un momento.»

«Maledizione, seguila. Non perderla mai di vista.»

Gli effetti di un robot femmina L’idea che l’aspetto e la voce femminile possano condizionare l’atteggiamento delle persone verso una macchina è uno dei due temi dominanti di questo racconto.

Madarian aveva inizialmente scelto di definire il cervello creativo come femminile per timore delle reazioni da parte dell’opinione pubblica. Poi aveva dato fattezze femminili a Jane per inserirla coerentemente in un gruppo di soggetti umani. Infine le ha dato una voce sensuale per stimolare le interazioni.

E ha funzionato. E funziona anche nella realtà, non solo nel racconto.

È notizia di un paio di mesi fa che OpenAI abbia provato a dare all’ultima versione del suo ChatGPT la voce di Scarlet Johansson, o comunque una così simile da risultare indistinguibile.

L’attrice ha dato la voce, qualche anno fa, all’Intelligenza Artificiale protagonista del film Her e, secondo Sam Altman, CEO di OpenAI, in quel film viene descritto in modo molto accurato il modo in cui le persone si rapportano con le IA.

Ora, il motivo di una mossa del genere riguarda sicuramente la risonanza mediatica, ma non solo.

Il fatto che gli umani si interfaccino nei confronti un software con voce femminile in modo diverso da uno con voce maschile è noto già dal secolo scorso. E non vale solo per i software.

Negli anni ‘90 il fenomeno fu già documentato nel libro The Media Equation in cui gli autori arrivano persino a fare un discorso più ampio affermando che le interazioni con computer, televisione, e le varie tecnologie di comunicazione, per il cervello, sono essenzialmente identiche alle relazioni sociali reali.

Poi, tornando ancora più indietro, agli anni ‘70, sappiamo che le implicazioni psicologiche del parlare con una macchina furono ampiamente studiate dall’informatico del MIT Joseph Weizenbaum che creò il primo rudimentale chatbot della storia: ELIZA.

ELIZA era una sorta di psicologo automatizzato che seguiva essenzialmente una strategia di interazione nella quale rigirava le affermazioni dell’utente in forma di domanda.

Con sua grande sorpresa, Weizenbaum, che voleva in realtà dimostrare la superficialità di uno scambio uomo-macchina di quel genere, si trovò di fronte a comportamenti che non avrebbe mai immaginato.

Lo stesso scienziato affermo in seguito: (cito)ciò che non avevo però compreso è che un’esposizione anche molto breve a un programma informatico relativamente semplice potesse provocare reazioni deliranti in persone altrimenti decisamente normali.

Gli utenti instaurarono però immediatamente uno stretto rapporto con il chatbot, passando ore di fila in sua compagnia per condividere conversazioni intime(fine citazione).

Un fenomeno, quello che abbiamo appena appreso descritto dalle parole dello scienziato, che prese successivamente proprio il nome di Effetto ELIZA.

La cosa assurda, sempre raccontata da Weizenbaum, fu che perfino la sua segretaria, che lo aveva visto programmare il bot e che ne conosceva il funzionamento, un giorno, mentre chattava con ELIZA, chiese allo studioso di uscire dalla stanza, evidentemente con l’obbiettivo di avere una maggiore privacy nella conversazione con la macchina.

Detto questo, paradossalmente negli stessi studi citati nel blocco precedente, è stato appurato che ELIZA ha superato il test di Turing nel 22% dei casi. Quindi con un’efficacia pari a meno della metà di ChatGPT.

Tornando, però, alla questione della voce sappiamo che, in generale, questa è uno strumento eccezionalmente potente di comunicazione e persuasione.

Vari esperimenti, tra cui alcuni effettuati anche su larga scala, hanno dimostrato che aumentando o diminuendo la lunghezza del tratto vocale si può indurre un’associazione mentale a stereotipi di tipo maschile o femminile.

In pratica, la lunghezza del tratto vocale aiuta a definire il timbro di voce: mediamente tale lunghezza è di poco meno di 17cm negli uomini e poco più di 14 nelle donne.

Pertanto si è visto, soprattutto in campo pubblicitario, che modificare il tratto vocale aiuta a migliorare le performance di un annuncio quando questo riguarda un prodotto stereotipicamente maschile o femminile.

È uno dei motivi per i quali, in generale, le pubblicità rivolte specificamente alle donne sono raccontate da voci femminili e quelle rivolte agli uomini da voci maschili.

Nei chatbot, però, questo utilizzo mirato della voce ha anche non pochi effetti collaterali.

Il fatto che le voci degli assistenti virtuali, storicamente femminili, contribuiscano ad aumentare i pregiudizi di genere verso le donne non è affatto una novità.

L’argomento è ampiamente trattato, ad esempio, in un report publicato in collaborazione dal Brookings Institution e dall’Istituto Italiano per gli Studi di Politica Internazionale, che ha dato vita poi ad un paper che ti lascio in descrizione.

L’umanizzazione di questi strumenti, poi, assistenti o chatbot che siano, dissuade le persone dal considerarli degli strumenti di sorveglianza, attività per la quale, invece, come abbiamo già detto, possono facilmente essere impiegati.

E infine, come risultati estremi di questa insistenza a indurre gli utenti a vedere le IA come altri esseri umani, abbiamo anche varie storture.

Un esempio è Friend, l’IA progettata per diventare un amico del proprio utente, tenergli compagnia, assecondare le sue inclinazioni e incoraggiare le sue idee.

Emblematico è il fatto che l’autore stesso di questo strumento ha tenuto a specificare come esso non debba diventare l’unica Persona - fra virgolette - con cui avere rapporti. Evidentemente già conscio del fatto che è proprio questa la piega che prenderebbero le cose.

Oppure, altro esempio interessante è il concorso di Miss AI che ha premiato i realizzatori delle migliori social-media influencer generate artificialmente.

Qui trovo che il commento migliore a questa iniziativa sia proprio di una ricercatrice della community di sviluppatori di AI Hugging Face che ha affermato: (cito)L’ennesimo passo avanti sulla strada dell’oggettivazione delle donne con l’IA […] Come donna che lavora in questo campo, sono delusa ma non sorpresa.(fine citazione).

Le chiamate che Madarian fece in seguito, durante i dieci giorni della sua permanenza a Flagstaff, furono poco frequenti e via via meno entusiaste.

Jane ascoltava attentamente e qualche volta rispondeva. Era molto popolare. Aveva accesso ovunque. Ma quanto a risultati: zero.

«Proprio niente?» chiese Bogert.

«No, proprio niente non si può dire» rispose Madarian, subito sulla difensiva. «È impossibile dire “niente” trattandosi di un robot intuitivo. Noi non sappiamo cosa le passa per la testa. Stamattina ha chiesto a Jensen cosa aveva mangiato a colazione.»

«Rossiter Jensen, l’astrofisico?»

«Ma sì. Ed è saltato fuori che stamattina aveva bevuto solo una tazza di caffè.»

«Vedo che Jane impara a parlare del più e del meno… Ma non mi pare che per ottenere questo valesse la pena di spendere tanto…»

«Non fare l’imbecille. Tutto quello che dice Jane è importante, anche se non sembra a prima vista. Aveva fatto quella domanda perché aveva a che fare con una sua associazione d’idee.»

«Ma com’è possibile mai…»

«E come faccio a saperlo? Se lo sapessi sarei come Jane e non avrei bisogno di lei. Ma quella domanda doveva avere un suo significato particolare. È stata programmata perché risponda alla domanda se esiste un pianeta con un optimum di abitabilità-distanza e…»

«E allora fammelo sapere quando l’avrà fatto e non prima. Non m’interessano le descrizioni dettagliate di tutte le sue possibili associazioni d’idee.»

Bogert non si faceva illusioni, e ogni giorno che passava s’illudeva sempre meno che avrebbero ottenuto qualcosa. Così, quando invece arrivò la conferma del successo, non era preparato. E arrivò proprio all’ultimissimo momento.

Il messaggio decisivo di Madarian arrivò sotto forma di un pacato sussurro. Ormai aveva esaurito tutta la sua riserva di entusiasmo.

«C’è riuscita» disse con voce pacata. «C’è riuscita. Anch’io ormai mi ero dato per vinto. Dopo aver assorbito tutte le informazioni possibili e immaginabili e averci rimuginato sopra due o tre volte, senza mai aver detto niente di sensato… Sono in aereo. Sto tornando. Siamo appena partiti.»

Bogert fece del suo meglio per dominarsi. «Senti, piantala con gli scherzi. Dimmi solo se hai ottenuto la risposta. Sì o no.»

«Sì. Sì. Mi ha fatto i nomi di tre stelle entro un ambito di ottant’anni luce che, dice, hanno dal sessanta al novanta per cento la probabilità di avere un pianeta abitabile. La probabilità che ce ne sia almeno uno è del 97,2 per cento. Quindi è quasi certo che esista. Appena arrivati Jane spiegherà come ha fatto per giungere a questa conclusione e io ti assicuro che l’astrofisica e la cosmologia saranno…»

«Ma sei proprio sicuro?»

«Credi che abbia le allucinazioni? Ho anche un testimonio. Quel povero diavolo è sobbalzato per lo sbalordimento quando Jane di punto in bianco ha cominciato a snocciolare la risposta con quella sua stupenda voce…»

E in quel momento la meteorite colpì l’aereo che si disintegrò. Di Madarian e del pilota rimase qualche brandello di carne sanguinolenta. Di Jane nessuna parte utilizzabile.

Alla U.S. Robots non aveva mai regnato una così profonda tristezza. Robertson cercava di consolarsi pensando che la distruzione totale era servita almeno a mantenere nascoste le illegalità di cui l’azienda si era resa colpevole.

Peter scrollò la testa ed espresse il suo profondo rammarico dicendo: «Abbiamo perduto l’occasione migliore che la ditta abbia mai avuto perché il pubblico se ne facesse un’immagine indimenticabile, superando una buona volta quel maledetto complesso di Frankenstein. Sai cosa avrebbe significato per i robot se uno di loro fosse riuscito a risolvere il problema dei pianeti abitabili, dopo che altri robot avevano contribuito al progetto del Balzo Spaziale? I robot ci avrebbero aperto le porte della galassia… E se noi fossimo poi riusciti a utilizzare i dati, a incanalarli nella direzione giusta… Dio, è impossibile calcolare i benefici che ne avrebbe ricavato l’umanità e, fra parentesi, anche noi».

«Ma non potremmo costruire altre Jane?» disse Robertson. «Anche se Madarian non c’è più.»

«Certo che potremmo. Ma chi ci assicura che i rapporti, le associazioni, porterebbero alla stessa conclusione? Chi ci dice che avremmo la probabilità di ottenere subito un risultato positivo? Come capita spesso ai principianti, Madarian forse ha avuto un colpo di fortuna. E poi, per compenso, un colpo di sfortuna. Chi mai poteva prevederlo? Una meteorite… Incredibile! Se almeno sapessimo cosa aveva detto Jane-cinque!»

«Madarian aveva accennato a un testimonio.»

«Già, ci ho pensato anch’io» disse Bogert. «Credi che non mi sia già messo in contatto con Flagstaff? Nessuno laggiù l’ha sentita dire qualcosa di particolare, qualcosa che potesse sembrare la soluzione del problema dei pianeti abitabili. E se mai l’ha pronunciata, nessuno l’ha sentita o ha capito che si trattava della risposta che tutti aspettavano.»

«Credi che Madarian possa aver mentito? O che fosse diventato matto?… Forse, per proteggersi…»

«Vuoi dire che per salvare la propria reputazione fingeva di avere ottenuto la risposta? E poi ha fatto in modo che Jane andasse distrutta per non essere contraddetto? Ma andiamo! Di questo passo arriveremmo a pensare che è stato lui a provocare lo scontro con la meteorite.»

«E allora cosa si fa?»

«Bisogna tornare a Flagstaff. Se una risposta esiste, è là. Devo scavare più a fondo. Vado là e porto con me un paio di assistenti di Madarian. Scandaglieremo tutto e tutti a fondo.»

«Ma stammi a sentire. Anche se c’è qualcuno che ha sentito Jane, come diceva Madarian, cosa ci servirebbe saperlo senza Jane che ci spiega come è arrivata a quella conclusione?»

«Tutto può servire. Jane ha dato i nomi delle stelle; i numeri di catalogo, probabilmente, perché nessuna delle stelle che hanno un nome ha la probabilità di avere dei pianeti abitabili. Se qualcuno riesce a ricordarsi che ha parlato e ricorda anche i numeri di catalogo, o li ha sentiti ma non li ricorda e acconsente di farli risalire alla memoria cosciente con la Psicosonda… be’, sarà già qualcosa. Col risultato finale e i dati con cui Jane era stata programmata, potremmo riuscire a ricostruire il ragionamento che ha seguito, scoprire qual è stata l’intuizione. E se ci riusciremo, saremo salvi…»

Il miracolo informatico I ricercatori della U.S. Robots non sanno veramente come funziona un cervello positronico intuitivo. E come potrebbero? Non lo sapeva neanche il suo creatore, Madarian.

Ciò vuol dire che non possono in alcun modo ricostruire, con un grado di attendibilità sufficiente, tutti i calcoli che deve aver svolto per formulare la tanto agognata risposta.

In questo senso, il cervello di Jane è davvero molto simile ad un modello di machine learning generativo moderno.

Ho provato a chiedere a ChatGPT: come faccio ad ottenere da un llm due volte lo stesso output?

E la sua risposta è stata: (cito) Nei modelli di linguaggio come GPT, ogni volta che viene fornito un input, il modello elabora il contesto e genera una risposta in base a ciò che ha appreso durante il suo addestramento. Quindi, anche se l’input è simile o identico, le risposte possono comunque variare a causa della complessità e della natura probabilistica del modello. (fine citazione).

Lo abbiamo già detto, no? I modelli generativi di testo, di immagini, di video o altro, sono generatori stocastici. Per loro ogni risposta è un’allucinazione: un insieme di parole o pixel scelti su base statistica.

Non conoscono il significato di ciò che scrivono, né sanno cosa è rappresentato nelle immagini che producono. Nessuna delle loro associazioni o risposte è frutto di un ragionamento per come lo intendiamo noi.

Con delle premesse del genere, è abbastanza comprensibile li fatto che ogni risposta sia un unicum. Una volta persa è persa per sempre.

Bogert tornò dopo tre giorni, silenzioso e completamente depresso. Quando Robertson lo interrogò ansiosamente sui risultati, scrollò la testa. «Niente.»

«Niente?»

«Niente di niente. Ho parlato con tutti, a Flagstaff… tutti gli scienziati, tutti i tecnici, tutti gli studenti che avessero avuto a che fare con Jane; con tutti quelli che l’avevano anche soltanto vista. Non erano poi molti e bisogna dar credito a Madarian per la sua discrezione. Aveva permesso di vederla solo a quelli dotati di cognizioni planetologiche utili per lei. In tutto erano ventitré gli uomini che l’avevano vista, e di questi solo dodici avevano parlato con lei.

«Ho riesaminato un’infinità di volte tutto quello che Jane ha detto. Si ricordavano abbastanza bene di tutto. È gente in gamba, impegnata in studi importanti che interessano le loro specialità, e quindi avevano dei buoni motivi per ricordarsene. Per di più, avevano a che fare con un robot parlante, cosa di per se stessa insolita, e che parlava come un’attrice della televisione. Non avrebbero potuto proprio dimenticarsene.»

«Cosa ne diresti di una Psicosonda?» azzardò Robertson.

«Se qualcuno di loro avesse avuto la sia pur minima idea che era successo qualcosa d’interessante, gli avrei strappato il consenso a farsi sondare. Ma non ne ho visto il motivo. E sondare due dozzine di uomini che vivono del proprio cervello è una cosa inconcepibile. Sinceramente non sarebbe stato di nessuna utilità. Se Jane avesse citato tre stelle e detto che avevano pianeti abitabili, sarebbe stato come far scoppiare dei fuochi d’artificio nelle loro teste. Non se ne sarebbero potuti dimenticare.»

«E allora vuol dire che qualcuno di loro mente» disse cupo Robertson. «Vuole tenersi per sé l’informazione per assicurarsene il merito in un secondo tempo.»

«Che vantaggio potrebbe ricavarne?» obiettò Bogert. «A Flagstaff tutti sapevano esattamente il motivo della presenza di Madarian e di Jane. E in secondo luogo sapevano perché ci ero andato io. Se un bel giorno qualcuno a Flagstaff saltasse fuori con una teoria su un pianeta abitabile, completamente nuova e diversa, ma valida, tutti gli scienziati di Flagstaff e tutti i tecnici della U.S. Robots capirebbero immediatamente da dove viene. Non riuscirebbe mai a farla franca.»

«Allora può darsi che Madarian si sia sbagliato.»

«Anche questo mi pare incredibile. Come tutti i robopsicologi, Madarian aveva un carattere irritante. Deve essere per questo che preferiscono lavorare coi robot invece che con gli uomini. Ma non era un imbecille. Non poteva sbagliarsi in una cosa come questa.»

«E allora…» Ma Robertson aveva esaurito tutte le sue idee. Si trovavano davanti a un muro cieco e per qualche minuto rimasero tutti e due a fissarlo sconsolati. Alla fine Robertson si riscosse. «Peter…»

«Sì?»

«Chiamiamo Susan.»

Bogert s’irrigidì. «Cosa?»

«Chiamiamo Susan e chiediamole di venir qua.»

«Perché? Che cosa può fare?»

«Non lo so, ma è una robopsicologa anche lei e può darsi che capisca il comportamento di Madarian meglio di noi. Per di più Susan… oh, al diavolo, ha sempre avuto più testa di tutti quanti noi.»

«Ha quasi ottant’anni.»

«E tu ne hai settanta. E con questo?»

Chissà, pensò Bogert sospirando, se la lingua pungente di Susan non si era un po’ smussata da quando era andata in pensione. «Bene» concluse «le chiederò di venire.»

Susan Calvin entrò nell’ufficio di Bogert guardandosi intorno prima di fissare gli occhi sul direttore delle ricerche. Era molto invecchiata in quegli anni. I capelli erano di un bianco candido e la faccia si era come raggrinzita. Era diventata talmente diafana da sembrare quasi trasparente. Solo gli occhi, penetranti e inflessibili, erano rimasti quelli di sempre.

Bogert si fece avanti tendendo la mano con calore: «Susan!».

Susan Calvin gli strinse la mano, e disse: «Non sei male, per la tua età, Peter. Se fossi in te non aspetterei fino all’anno venturo. Ritirati adesso e lascia che si arrangino i giovani… E così, Madarian è morto. Mi hai chiamato perché riprenda il mio posto? Avete deciso di tenere in servizio i vecchioni fino a un anno dopo la morte fisica?».

«No, Susan, ti ho chiamato per…» lasciò a mezzo la frase. Non aveva la minima idea di come cominciare.

Ma Susan gli leggeva nel pensiero come aveva sempre fatto, senza la minima difficoltà. Si mise a sedere con cautela a causa delle giunture irrigidite, e disse: «Peter, mi hai chiamato perché sei nei guai fino al collo, altrimenti preferiresti vedermi morta, piuttosto che entro il raggio di un chilometro da te».

«Andiamo, Susan…»

«Non perdere tempo in convenevoli. Non avevo tempo da perdere quando avevo quarant’anni, e di sicuro non ne ho adesso. La morte di Madarian e il fatto che tu mi abbia chiamato sono due avvenimenti eccezionali, e quindi dev’esserci per forza un rapporto fra loro. Il fatto che due avvenimenti eccezionali non siano in rapporto è di una probabilità talmente scarsa, che non val la pena di prenderla in considerazione. Comincia dal principio e non aver paura di fare la figura dello stupido. Tanto lo so già da un pezzo.»

Bogert si schiarì la voce con aria infelice e cominciò a parlare. Susan Calvin ascoltò attentamente sollevando di tanto in tanto la mano grinzosa per interromperlo e interloquire con una domanda.

Ad un certo momento sbuffò con disprezzo: «Intuito femminile? È per questo che avete costruito il robot? Voi uomini! Davanti a una donna capace di arrivare a una conclusione logica, e incapaci di accettare il fatto che sia uguale o anche superiore a voi per intelligenza, inventate quella cosa che chiamate intuito femminile».

«È vero, Susan, ma lasciami continuare.»

Quando le parlò della voce di contralto di Jane, lei disse: «A volte è difficile scegliere fra il ribellarsi contro il sesso maschile o lasciar perdere perché non ne vale la pena».

«D’accordo, ma lasciami andare avanti.»

Quando ebbe finito, Susan chiese: «Puoi cedermi il tuo ufficio per un paio d’ore?».

«Sì, ma…»

«Devo esaminare tutte le registrazioni, i documenti, la programmazione di Jane, le telefonate di Madarian e i tuoi colloqui con quelli di Flagstaff. Penso che mi possa servire quel bel telefono nuovo a laser e il tuo terminale del computer. È possibile?»

«Naturalmente.»

«Bene, allora sgombra.»

Non erano passati tre quarti d’ora che si avviò zoppicando alla porta, l’aprì e fece chiamare Bogert.

Quando costui arrivò, era accompagnato da Robertson. Entrarono e Susan salutò Robertson con scarso entusiasmo.

Bogert si sforzò di leggere le conclusioni sulla faccia di Susan, ma vedeva solo la faccia di una vecchia arcigna che non aveva la minima intenzione di facilitargli le cose.

«Susan, credi che si possa fare qualcosa?» si azzardò a chiedere.

«Oltre a quello che ho già fatto? No, non c’è proprio niente.»

Le labbra di Bogert si piegarono in una smorfia di delusione, ma Robertson chiese: «Che cosa hai già fatto, Susan?».

La vecchia rispose: «Ho pensato un po’, cosa che, a quanto sembra, non riesco a convincere nessun altro a fare. Innanzitutto, ho pensato a Madarian. Lo conoscevo bene, lo sapete. Aveva un bel cervello ma era estroverso in un modo eccessivamente irritante. Pensavo che ti sarebbe piaciuto, dopo aver sopportato me, Peter».

Bogert non riuscì a trattenersi dal dire: «Era un bel cambiamento».

«E lui correva sempre a riferirti i risultati appena li aveva ottenuti, non è così?»

«Sì, infatti.»

«E tuttavia il suo ultimo messaggio, quello in cui ti comunicava che Jane gli aveva dato la risposta, lo ha trasmesso dall’aereo. Come mai ha aspettato tanto? Perché non ti ha chiamato da Flagstaff subito dopo che Jane gli ha detto… quel che gli ha detto?»

«Immagino che una volta tanto avesse sentito il bisogno di fare un controllo radicale, e… be’, non lo so. Era la cosa più importante che gli fosse mai successa. Può darsi che, una volta tanto, avesse sentito il bisogno di aspettare di essere sicuro al cento per cento.»

«Al contrario. Quanto più importante era la notizia, tanto meno avrebbe aspettato. Ne sono sicurissima. E se fosse riuscito a trattenersi, perché non avrebbe aspettato a parlare dopo essere arrivato qui, in modo da poter controllare il risultato con tutte le attrezzature di calcolo che questa azienda poteva mettergli a disposizione? Per farla breve, da un punto di vista ha aspettato troppo, e non abbastanza da un altro.»

Robertson la interruppe. «Allora credi che avesse scoperto qualche intrigo…?»

Con aria disgustata, Susan lo interruppe dicendo: «Non fare a gara con Peter, non fare osservazioni cretine. Lasciami continuare… Il secondo punto riguarda il testimonio. Secondo la registrazione dell’ultima chiamata, Madarian ha detto: “Quel povero diavolo è sobbalzato per lo sbalordimento quando Jane di punto in bianco ha cominciato a snocciolare la risposta con quella sua stupenda voce”. Queste sono le sue ultime parole. E allora dobbiamo chiederci: perché il testimonio ha fatto un salto? Madarian ha spiegato che tutti impazzivano per quella voce e avevano passato dieci giorni col robot… con Jane. Perché il semplice fatto che si era messa a parlare dovrebbe averli sbalorditi a tal punto?».

«Penso che sia stata la meraviglia nel sentire Jane esporre la soluzione di un problema che aveva fatto impazzire i planetologi per quasi un secolo.»

«Ma quella era proprio la risposta che si aspettavano da lei. Era andata a Flagstaff per quello. Inoltre notate come si è espresso Madarian: dice che l’uomo è sobbalzato per lo sbalordimento, non per la meraviglia, se notate la differenza. Inoltre la reazione è avvenuta quando Jane ha cominciato di punto in bianco… in altre parole, appena si è messa a parlare. Se l’uomo fosse rimasto meravigliato per il contenuto del discorso di Jane, avrebbe dovuto ascoltarla e capire quello che diceva, e quindi Madarian avrebbe detto che aveva “fatto un salto” dopo averla sentita parlare. “Dopo”, non “quando” e non avrebbe detto “di punto in bianco”.»

«Non credo che si debba arzigogolare sull’uso di questa o di quella parola» obiettò con un certo disagio Bogert.

«E invece io posso» ribatté gelida Susan «perché sono un robopsicologo. E posso presumere che anche Madarian seguisse lo stesso modo di ragionare, in quanto era “anche lui” un robopsicologo. Dobbiamo quindi spiegarci queste due anomalie: lo strano ritardo di Madarian nel chiamare, e la strana reazione del testimone.»

«E “tu” sei in grado di spiegarle?»

«Naturalmente» rispose Susan «dal momento che mi servo della logica. Madarian non ha tardato a comunicare le novità, o al massimo ha tardato perché non poteva telefonare prima. Se Jane avesse risolto il problema a Flagstaff, avrebbe sicuramente chiamato da là. Siccome invece ha chiamato dall’aereo, significa che Jane aveva risolto il problema sicuramente “dopo” aver lasciato Flagstaff.»

«Ma allora…?»

«Lasciami finire, lasciami finire. Madarian non è stato portato dall’aeroporto a Flagstaff in un camion chiuso, e Jane era nella cassa?»

«Sì.»

«E immagino che saranno tornati da Flagstaff all’aeroporto con lo stesso mezzo, no?»

«Certo. Naturalmente.»

«E non erano soli nel camion, vero? In una delle sue telefonate Madarian ha detto: “Siamo stati portati dall’aeroporto a Flagstaff. Immagino di avere buoni motivi per dedurre che se “erano stati portati”, significa che al volante del camion c’era un autista.»

«Santo Dio!»

«Il guaio con te, Peter, è che quando pensi al testimonio di una dichiarazione planetologica, pensi a un planetologo. Tu dividi gli esseri umani in categorie, la maggior parte delle quali disprezzi, senza nemmeno prenderle in considerazione. Un robot non può comportarsi così. La Prima Legge dice: “Un robot non può recar danno a un essere umano, né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno”. “Qualsiasi” essere umano. Questa è, in sostanza, la base del comportamento dei robot. Un robot non fa distinzioni. Per un robot tutti gli uomini sono veramente uguali, e anche per un robopsicologo che, per deformazione professionale, tratta gli uomini a livello robotico, tutti gli uomini sono veramente uguali.

«A Madarian non sarebbe venuto in mente di precisare che era stato l’autista a sentir parlare Jane. Per te, un camionista non è uno scienziato, ma una semplice appendice animata del veicolo. Per Madarian, invece, era un uomo, e un testimonio. Niente di più, niente di meno.»

Bogert scosse la testa incredulo. «Ne sei proprio sicura?»

«Certo che ne sono sicura. In quale altro modo, se no, puoi spiegare il secondo punto, la frase di Madarian circa la sorpresa del testimonio? Jane era chiusa nella cassa, no? Ma non era disattivata. Secondo le registrazioni, Madarian era rigorosamente contrario alla disattivazione di un robot intuitivo. Inoltre, Jane-cinque, come i prototipi che l’avevano preceduta, era estremamente laconica. Probabilmente Madarian non aveva pensato di ordinarle di starsene zitta quando era chiusa nella cassa; ed è stato proprio dentro la cassa che i pezzi del mosaico sono andati finalmente a posto. E allora, logicamente, il robot ha cominciato a parlare. Improvvisamente, dall’interno della cassa è scaturita una bella voce di contralto. E se tu fossi stato il camionista, cosa avresti fatto? Certamente saresti rimasto sbalordito. È un caso che non abbia provocato un incidente.»

«Ma se il testimonio era l’autista, perché non si è fatto vivo prima?»

«Perché? Come faceva a sapere che era successa una cosa decisiva, e che quello che aveva sentito era importante? Inoltre , non pensi che Madarian possa avergli dato una grossa mancia perché non riferisse quello che aveva sentito? Avresti voluto che si spargesse la notizia che un robot attivato veniva trasportato illegalmente da un posto all’altro della Terra?»

«D’accordo. Ma quel tizio ricorderà quello che ha sentito?»

«Perché no? A te, che consideri un camionista un gradino sopra alle scimmie, potrà sembrar strano che sia capace di ricordare. Ma anche i camionisti hanno un cervello, sai? Le dichiarazioni di Jane erano palesemente importanti ed è facile che se le ricordi. Anche se ricorda male qualche lettera o qualche cifra, si tratta di un argomento ben definito, lo sai: i millecinquecento sistemi di stelle nell’ambito di un’ottantina di anni luce, mi pare. È possibile fare le scelte giuste, e se sarà necessario si potrà ricorrere alla Psicosonda.»

I due uomini la fissavano cogli occhi sgranati. Infine Bogert, ancora incredulo, sussurrò: «Ma come fai a esserne “certa”?».

Per un momento, Susan fu lì lì per rispondergli: perché ho telefonato a Flagstaff, stupido, e perché ho parlato con l’autista che mi ha riferito quello che aveva sentito; perché ho controllato col calcolatore di Flagstaff e ne ho ricavato le sole tre stelle che corrispondono alle affermazioni di Jane, e perché ho in tasca i nomi di queste stelle.

Ma non disse niente di tutto questo. Lascia che si arrangino. Si alzò con cautela, e disse sardonicamente: «Mi chiedi come faccio a esserne certa? Chiamalo intuito femminile…».

Creatività naturale o artificiale Asiomv ha scritto tanti racconti e romanzi su robot e intelligenze artificiali e spesso le sue previsioni, la sua fantascienza, non si è poi rivelata così distante dalla realtà. È stato così anche nel caso di questo racconto.

Innanzitutto ha predetto il fatto che la IA sarebbe potuta essere in qualche modo creativa e sarebbe potuta addirittura esserlo più dell’essere umano. Almeno di alcuni esseri umani.

Poi ha intuito che l’umanizzazione di queste macchine sarebbe stato un grimaldello utile ad inserirle facilmente nella società civile e farle apprezzare particolarmente alle persone comuni, ai non addetti ai lavori.

E infine ha illustrato i limiti che tali strumenti statistici avrebbero avuto, dall’insondabilità del processo alla non riproducibilità del risultato.

In ogni caso, i modelli di machine learning sono ormai una realtà alla portata di tutti, sono qui per restare e certamente non potranno che migliorare col tempo sotto ogni aspetto.

Ciò vuol dire che diventeranno più intelligenti degli esseri umani? Questo non lo so, non ho ne le conoscenze ne le competenze per predirlo. Anche se, almeno per ora, non ci scommetterei.

L’Intelligenza Artificiale può essere creativa o meno e intelligente o meno a seconda di come intendiamo la creatività e l’intelligenza. E, per come la vedo io, l’intelligenza si misura nei suoi picchi e così dovrebbe essere anche per la creatività.

La stampa a caratteri mobili o Internet o La Divina Commedia o la Quinta di Beethoven non sono certo frutto di un ingegno o di una creatività mediocri, ma sono una manifestazione della sua massima espressione.

Negli studi di cui abbiamo parlato, in particolare quelli in cui i modelli generativi sono stati usati dagli scrittori per produrre una serie di storie, è stato evidenziato che i benefici ricevuti dai vari soggetti sono stati piuttosto impari.

Gli autori meno creativi hanno tratto maggior giovamento dall’uso degli llm, mentre quelli già intrinsecamente creativi non ne hanno avuto alcun vantaggio.

Per contro, però, le storie generate con l’aiuto dell’IA sono risultate tutte molto simili in termini di semantica e contenuto, nonché piene di frasi molto lunghe e di stereotipi.

E sopratutto, sono risultate molto più simili tra loro rispetto a quelle scritte dagli esseri umani da soli.

In altre parole, questi risultati indicano un aumento della creatività individuale, ma anche il rischio di una perdita di varietà collettiva.

E questo potrebbe essere il più grande limite dei grandi modelli generativi.

Un aspetto molto importante per lo sviluppo di queste IA, infatti sono le fonti di enormi quantità di dati con le quali vengono allenate. Questi dati sono stati essenzialmente messi insieme dall’umanità nel corso dei secoli.

Se a causa dell’impiego dell’IA la qualità delle informazioni prodotte diminuisce, secondo me diminuirà anche di pari passo la qualità dei modelli risultanti dall’allenamento fatto su tali fonti.

Al momento, l’unica riserva di dati abbastanza grande da essere utilizzata per creare modelli sempre più potenti e con sempre più parametri è Internet, che ogni anno cresce in modo esponenziale. Ma c’è un problema.

Non se se te ne sei reso conto anche tu, ma dopo una manciata di mesi dal boom della IA generativa il Web è letteralmente invaso da pagine chiaramente create tramite l’utilizzo di llm.

A me capita sempre più spesso che le ricerche online portino a pagine con testi artificiosamente lunghi, che non arrivano mai al punto, con errori logici e frasi a volte sconclusionate.

In pratica le IA, o meglio l’utilizzo che se ne sta facendo, sta avvelenando il pozzo stesso al quale le future IA si abbevereranno.

E se da un lato aumentano i contenuti appositamente realizzati, dall’altro si diluiscono i contenuti originali prodotti dall’ingegno umano, che sono poi quelli che servono effettivamente per far progredire i sistemi.

Questo fenomeno decreterà uno stop nella crescita delle IA? Un nuovo inverno?

La verità è che, per usare le parole del filosofo Yuval Noah Harari, Per ora abbiamo evocato un intelligenza aliena, di cui sappiamo molto poco.

Ad essere sinceri, però, almeno al momento, questa intelligenza sembra non essere in grado di fare in autonomia quello che hanno fatto alcuni esponenti dell’umanità. Anzi in effetti, in autonomia, non è in grado fare proprio nulla.

A volerci riflettere bene, infatti, tutte le sue conquiste, anche quelle di cui abbiamo parlato oggi e in altri episodi, non sono state conseguite dalla IA, ma dai ricercatori che l’hanno utilizzata.

In altre parole, il machine learning non è la mente, ma lo strumento utilizzato dallo scienziato, dall’inventore o dall’autore.

Secondo il più famoso campione di scacchi di tutti i tempi, Garri Kasparov, l’Intelligenza Artificiale è uno strumento del quale non potremo e non dovremo fare a meno, ma che dovremo utilizzare con consapevolezza e saggezza:

Un uomo debole, più una macchina, più un processo migliore, sono superiori a una macchina molto più potente lasciata da sola e, soprattutto, a un uomo forte, con una macchina e un processo inferiore.

Conclusione Ed eccoci alla fine di questo lunghissimo episodio. Spero sia stato di tuo gradimento.

Ci è voluto un po’ per pubblicarlo, ma tra la lunghezza, la quantità di fonti che ho studiato e il tempo per riorganizzare il tutto, varie settimane per scriverlo per scriverlo e un paio per registrarlo… Poi è un periodo di lavoro assurdamente intenso quindi meglio di così non ho potuto fare.

Detto ciò, un super grazie va a Rosanna Lia che ha interpretato sia Jane che la Dott.ssa Susan Calvin e ad Alex Raccuglia che ha interpretato Garri Kasparov.

Tu ormai dovresti conoscerli perché sono già stati nostri ospiti ma in ogni caso ti lascio i link ai loro progetti in descrizione. Vai a dare un’occhiata perché se ami i contenuti audio troverai pane per i tuoi denti.

Rosanna ha letto una montagna di audiolibri, mentre Alex conduce podcast che spaziano dall’informatica alla musica e al vino da più di 10 anni.

Prima di chiudere, spero velocemente perché sono abbastanza provato, ti ricordo al volo il concetto di Value4Value.

Pensieri in codice è un progetto che porto avanti nel mio tempo libero. Non mi interessa usarlo per guadagnare soldi e non mi è mai interessato, onestamente, però ci investo davvero tante risorse.

Per questo motivo sarei felice se tu che lo ascolti, magari da tanto tempo, volessi restituire un po’ del valore che senti di ricevere da questo podcast.

I modi per farlo sono tre: dedicargli un po’ del tuo tempo, magari condividendolo ai tuoi amici, lasciando una recensione su apple podcast, facendo ascoltare allo zio e robe così.

Dedicargli un po’ del tuo talento, per esempio prendendoti carico della gestione di una pagina social, o aiutandomi con la scrittura di episodi, o… suggerisci direttamente tu la tua idea e la valutiamo insieme.

E infine, ma solo in fine, puoi fare una donazione o usare i link affiliati per iscriverti ai vari servizi o acquistare su Amazon. Insomma decidi tu con la massima libertà.

In ogni caso, io ti ringrazio già solo perché ascolti. E in più ringrazio i soliti Edoardo e Carlo, donatori mensili da ormai più di un anno, a cui oggi si aggiungono Domenico e Marco con la loro donazione spot e xCRIx85 che ha lasciato una recensione a 5 stelle su Apple Podcasts con scritto: Interessante e stimolante podcast, racconta ragionamenti complessi in linguaggio semplice e chiaro!!!

Grazie, mi fa molto piacere avere la conferma perché questo è proprio uno degli obiettivi che mi sono prefisso.

Infine ti ricordo che sul sito pensieriincodice.it trovi tutte le informazioni, i contatti, i metodi per contribuire, ecc. Spero prossimamente di trovare il tempo di scrivere un articolo specifico sul Value4Value - che anzi potresti scrivere tu? Eh? Blink blink?

(Blink blink è la mia onomatopeica per l’occhiolino che per ovvie ragioni in podcast non viene benissimo..)

E niente. Sono distrutto. Basta. Ci sentiamo al prossimo episodio e, mi raccomando, non dimenticare mai che un informatico risolve problemi, a volte anche usando il computer.