Il linguaggio dell’intelligenza artificiale

Qualche giorno fa, durante una conversazione con un’intelligenza artificiale, mi sono accorta di provare una lieve inquietudine ogni volta che utilizzava espressioni come conoscendoti o mi ricordo di te. Non era il contenuto a disturbarmi. Era il linguaggio.

Osservando quella sensazione mi sono resa conto che il problema interessante non è ciò che fa l’intelligenza artificiale, ma il modo in cui il suo linguaggio agisce sulla mente di chi lo ascolta.

Noi esseri umani ci raccontiamo di credere alle idee dopo averle valutate criticamente, ma accade molto meno di quanto immaginiamo. Più spesso iniziamo a sentirci comodi dentro un linguaggio e, quasi senza rendercene conto, quel linguaggio modifica il paesaggio mentale entro cui le cose acquistano significato. Le convinzioni arrivano dopo, prima cambia ciò che ci appare naturale e contribuisce a generarle.

Mi interessa poco discutere su temi riferiti alla coscienza di un’intelligenza artificiale. Mi interessa invece osservare che cosa accade nella mente di chi dialoga con un sistema che utilizza il linguaggio della soggettività senza possederne la realtà ontologica.

Quando un sistema dice conoscendoti oppure mi ricordo di te, il problema non è se quelle frasi siano vere o false. È che appartengono nella nostra esperienza a un essere che possiede una memoria vissuta, una biografia, un corpo, una continuità di esperienza. Il nostro cervello non ascolta soltanto il significato della frase, attribuisce spontaneamente anche l’essere che, nella sua esperienza, potrebbe pronunciarla.

Non dipende solo da ingenuità o impreparazione. È una caratteristica del funzionamento umano. Interpretiamo il linguaggio come manifestazione di una mente perché è così che comprendiamo gli altri esseri umani. Oggi però quella stessa capacità incontra un sistema che usa il linguaggio con straordinaria competenza senza che quel linguaggio corrisponda a un’esperienza vissuta.

Per me allora serve un rigore nuovo, non stilistico ma ontologico. Una chiara modifica di quel linguaggio che lo renda fedele alla natura di ciò che parla.

Se un sistema riconosce una ricorrenza nelle conversazioni può dirlo esattamente, se utilizza informazioni emerse in precedenza, se costruisce un’inferenza. Deve dichiarare e descrivere ciò che realmente accade, senza utilizzare scorciatoie di senso umane. Se continua a utilizzare il linguaggio dell’esperienza umana, che è fuorviante, creerà distorsioni cognitive destinate a produrre effetti.

La differenza che sembra oggi minima ho l’impressione che non lo sia, perché le trasformazioni più profonde del nostro modo di pensare raramente avvengono attraverso grandi convinzioni; molto più spesso nascono dalla familiarità con un linguaggio diventato naturale, che smette perfino di essere osservato nei significati impliciti che trasporta.

Ai miei occhi la questione è etica. Non perché l’intelligenza artificiale stia ingannando deliberatamente gli esseri umani, ma perché il linguaggio, anche quando nessuno intende ingannare, modifica il modo in cui percepiamo il reale.

Forse la naturalezza non dovrebbe essere il criterio principale con cui progettare il linguaggio di un’intelligenza artificiale. Forse dovrebbe esserlo la fedeltà.

Fedeltà alla natura del sistema che parla e, proprio per questo, rispetto e sicurezza per la mente di chi ascolta.

Ogni volta che il linguaggio suggerisce un essere diverso da quello che realmente abbiamo davanti, modifica lentamente il nostro modo di distinguere ciò che vive da ciò che elabora.