L’AI al tempo dei profitti in fiore

L’AI al tempo dei profitti in fiore

---

di Antonino Contiliano

.

Abstract

In questa riflessione critica attorno ai volti del potere della rivoluzione informatica “intelligente” del turbocapitalismo cognitivista (la conoscenza trasformata in scienza naturalizzata e metodi esecutivi), senza mezzi termini, posizioniamo la contro-potenzialità dell’uso dell’essere del linguaggio poetico (inaggirabile potenza di rotture e distanze rispetto agli ordini di comando del sistema). Nel suo avviarsi e andare non fa a meno di mettere in vista (seppure schematicamente) la dimensione di controllo delle identità individuali e collettive che il potere egemone esercita, orientando le coscienze comuni e servendosi dell’appropriazione di classe del sapere sociale. Non è in questione l’utilità indiscussa della tecnologia dell’IA né della tecnologia in genere, proprio perché non c’è linguaggio e applicazioni, compreso quello dell’arte e della poesia, che non abbiano una tecnologia specifica.

L’avvio

Nell’epoca del neo-capitalismo linguistico-cognitivista, centrale è diventato il discorso dell’Intelligenza Artificiale (AI), ovvero del linguaggio algoritmico-digitale e delle relative applicazioni (quelle destinate all’attività produttiva materiale e immateriale). Incorporati nel cervello elettronico-robotico – definito intelligente –, gli algoritmi danno vita, giusta applicazione e realizzazione tecnica, a famiglie di robot addestrati. Macchine indipendenti, autonome e sempre più efficaci e veloci nel gestire i big data archiviati nel proprio database.

Un insieme di informazioni codificate e finalizzate sia alla produzione economico-sociale che alla creazione di nuovi modelli di consumo e alla produzione dei soggetti consumatori. Sostituiscono gli stessi soggetti umani per le azioni e le mansioni per cui sono addestrati: fare l’operaio, i camerieri, i maggiordomi, gli assistenti, i traduttori e i servitor dialoganti. Un esercito di lavoratori e servili dipendenti che non mette minimamente in discussione il modello della produzione economico-sociale egemone e il sistema etico-politico del potere che lo amministra. Il potere, cioè, che regola gli usi e i rapporti sociali d’ordine gerarchico ed elitario in ordine alla stessa cooperazione individuale e collettiva (sia la produzione di tipo materiale che immateriale). Il potere che (come ripensato da Michel Foucault) oggi si configura come azione di azioni su azioni e relazione con il sapere diffuso e le astrazioni scientifico-tecniche (perché è venuta meno la forma dello Stato centralizzato, il monopolio hobbesiano). L’astrazione matematica “pura”, da canto suo, e la formalizzazione dei passaggi combinatori binari (la numerazione digit ‘0 1’), depurate di qualsiasi zona d’ombra, preordinate, automatizzate e pronte allo scopo e all’uso, dirigono ogni attività e rappresentazione di fatti, idee, parole, immagini e invenzioni-soluzioni. E gli automatismi, come le leggi logiche e gli schemi, sono procedure “ideali” disincarnate: incuranti delle rappresentazioni di ogni individuo e di ogni fenomeno o stato di cose dell’emprìa. Innumerevoli e prodigiosi però i risultati. Solo per qualche riferimento: tutte le conquiste positive nel campo della medicina, della biologia, dell’astronomia, della fisica, delle telecomunicazioni, delle esplorazioni spaziali, ecc. Qui gli automatismi della razionalità meccanizzata fanno autentici “miracoli” (c’è – scrive Eugene P. Wigner, 2017 – L’irragionevole efficacia della matematica nelle scienze naturali). Risultati certamente utili per la collettività generale e, in generale, agli stessi fini della conoscenza scientifica del reale, ma non certamente per affrontare la contingenza degli eventi dell’esperienza fenomenica e quella della molteplicità della moltitudine con le sue relazioni e modi d’essere diversificati. La diminuzione ed eliminazione delle concrete diseguaglianze sociali perseguite dal turbo-capitalismo digitale (il neo-turbo-capitalismo della sorveglianza e del controllo digitale a tutto tondo) non ha dignità d’ascolto e rispetto per le possibilità alternative e di controtendenza. E non c’è cosa che, grazie a delle “app” specifiche, non sperimenti, commercializzi e sfrutti a basse perdite (massimi però sono i profitti privati). E non manca di pubblicizzare il “credo” di una comunicazione semplice quanto obiettiva, garantita dal linguaggio matematico e dalla presunta neutralità con cui agirebbero gli algoritmi nello svolgere lo scopo o il compito loro affidato. Compiute e univoche unità di misure e di composizione astratte quanto generiche e prive di contenuti e pratiche reali (esenti cioè dall’esporsi alla contingenza degli eventi e a quella delle percezioni rappresentative o configurative delle singolarità), le invenzioni algoritmiche diventano così azioni robotiche conformi allo scopo in virtù di un pre-addestramento automatizzato. E l’addestramento del cervello elettronico non è affatto neutro (vero è infatti che gli algoritmi rispecchiano concetti, valori e figure di chi li organizza dandogli regole necessarie e funzionali agli scopi determinati). Gli algoritmi del riconoscimento facciale, per esempio, così possono privilegiare un uomo bianco rispetto a uno di colore o un maschio rispetto ad una donna (e quelli addestrati al riconoscimento dei particolari del “primo piano” tralasciano invece il “contesto” o lo “sfondo” che è il sine qua non dei primi). Anche il diktat della semplicità è cosa affatto neutrale. L’addestramento esecutivo è curato e mirato per ogni dove con efficienza ed efficacia.

Nella realtà “Chatbot”

La sperimentazione pratica oggi ha preso in cura persino la stessa produzione letteraria, artistica e poetica. Il riferimento è alla capacità delle attuali macchine intelligenti “Chatbot”. Il robot in grado di dialogare con un utente e, in base al quesito posto, di rilasciare il conforme prodotto richiesto. Il prodotto è fatturato così secondo l’ordine automatico delle regole pre-ordinate e strutturalmente organizzate per ogni tipologia di scrittura e tasselli (articolo, riassunto, abstract, raccontino, poesia, preposizioni, suoni, immagini, vocalità, soggetti, verbi, predicate, etc.). Il tipo di algoritmo incorporato – programmato dall’inventore/programmatore e/o sponsorizzato dall’investitore – è già pronto all’uso. È nato quello che a tutti gli effetti può essere chiamato il potere delle modernissime multinazionali dello spirito digitalizzato, il “GAFAM” (Google, Apple, Facebook, Amazon, Microsoft). Il gruppo che, nella denuncia critica di Francesco Muzzioli, soppiantando la vecchia editoria industriale (la stampa) dell’anima si è reso “lodevole” (?!) dell’ulteriore «mercificazione letteraria […] della deriva dell’editoria e della caduta di livello dei prodotti selezionati secondo lo standard del rapido consumo; facile è rendersi conto della perdita di stile della narrativa attuale e della riduzione del romanzo a scenografia, ad imitazione delle più fortunate versioni cinematografiche o televisive, e quindi essenzialmente dell’approccio esclusivamente contenutistico che viene richiesto»¹. Ma la perdita di stile e di sperimentazione tocca anche lo spazio del fare poesia. Le machine chatbot (sempre macchine di Turing o automi meccanici), oggi, grazie alle ricerche e alle applicazioni delle neuroscienze, sono dotate di circuiti

linguistico-grammaticali-sintattici sempre più potenti e raffinati; e tali da imitare quelli logici e mentali umani. Addestrate, rispondono pure alla richiesta per la costruzione di una poesia, come un sonetto o una ballata. E ciò è possibile dal momento in cui le regole grammaticali, sintattiche, le procedure metriche, le misure sillabiche e ritmiche del genere, essendo tradotte in algoritmi autonomi predisposti (seriale o parallela sia la rete neurale del pc), funzionali al riconoscimento di un nome-soggetto, predicato, aggettivo, articolo, preposizione etc., inferenzialmente concatenati, partoriscono il determinato testo ordinato. La perdita di ciò che è potenziale e indefinito negli interstizi dei fenomeni e delle impalcature categoriali, o di ciò che nella poesia compete agli aspetti del non-razionalizzabile (la subliminalità, la soglia delle parole anfibie, o delle negazioni come affermazioni, etc.), in negativo, è il costo da pagare. In analogia associativa è lo stesso prezzo che paga la teoria dei numeri razionali naturali rispetto all’inesauribile potenza dei numeri “irrazionali”, e quella della filosofia dell’essere rispetto alla realtà del non-essere.

Gli interrogativi

Ma questo basta per dire che la poesia-sonetto o ballata sia la stessa di quella generata dalla mente dell’animale umano? Le due tecnologie e gli stili combaciano? E non c’è alcuna differenza tra il comportamento mimetico-simulante della macchina e quello reale del soggetto umano? Il logico e matematico Alan Turing (padre fondatore dell’AI), ricorrendo proprio al gioco del comportamento operativo-mimetico (test di Turing), non ne era certo. Il comportamento di un robot non gode delle evidenze delle sfumature di uno sguardo, di un gesto, del tono di una voce (nessun comportamento – praxis – è riducibile a qualsiasi computabilità). Tutti gli aspetti impressivi ed espressivi impalpabili o imponderabili o vaghi della comunicazione che si accompagnano alla prassi contestuale e in pubblico non hanno luogo in un robot. Qui ogni atto percettivo-linguistico soggettivo non è esposto al pubblico o alla molteplicità dei non-io, alla presenza degli altri e alla loro parole (la facoltà di linguaggio, il parlare che differisce dalle cose che si dicono). Una macchina di Turing odierna, come l’aggiornata “chatbot” (e simili) dell’AI più raffinata (quella che, grazie all’immagine neuro-imaging, gode di un cervello sempre più vicino a quello umano), non solo non ha la facoltà di linguaggio ma neppure ha pensieri, vissuti e soggettività. Le soggettivazioni di un soggetto reale e storico, che vive pure situazioni di cose inattese o eventi ambigui o di confine e indiscernibili dal contest, quanto non coglibili a primo acchito, non gli appartengono. Nella biografia di un artista o di un poeta vivente nota è infatti l’incidenza dell’inatteso e dell’imprevisto o del lampo o di ricordi di ricordi o di cose eguali che diventano diseguali e di cose diseguali che diventano eguali per l’attivo scheletro concettuale della somiglianza o delle analogie o delle anomalie linguistico-semantiche etc. Tutti questi aspetti (per quanto si possa matematizzare la rete neuro sinaptica con nodi e circuiti correlati), non potendo essere previsti e definiti (quindi incodificabili algoritmicamente), mancano la “mente” elettromeccanica di un robot. Note sono le dichiarazioni biografiche di personalità creative (artisti, poeti, scienziati etc.) circa il modo insolito – non rigoroso o formale – di come siano venuti a capo delle invenzioni creative o delle soluzioni intuite (vie non canoniche). Esperienze, quest’ultime, che si vivono sia da svegli che nei sogni (attività onirica notturna) quanto nei momenti della stessa veglia. Roger Penrose, per esempio, fa capo a quelle del musicista Wolfgang Amadeus Mozart e del matematico Henri Poincaré. Poincaré racconta che prima di trovare una soluzione per la “funzione fuchsiana”² (il nome si deve al matematico tedesco Lazarus Fuchs) di essersi trovato in vicolo cieco, pur essendosi impegnato intensamente per lunghi periodi e “in modo deliberato e cosciente, nella ricerca”³. A Poincaré l’idea risolutiva gli venne invece mentre scendeva da un autobus (era a seguito di una escursione geologica programmata dall’École des Mines): le trasformazioni utili per definire le funzioni fuchsiane erano “identiche a quelle della geometria euclidea. Non verificai l’idea […] ma mi sentivo perfettamente certo”⁴. Il controllo successivo confermò la singolarità di quella intuizione logico-matematica fulminea, simultanea e globale. Mozart, egualmente, racconta che i pensieri che affollavano la sua mente, prima di comporre un’opera determinata, erano un fluire indeterminato. Non sapeva da dove venissero. Si presentavano mentre stava mangiando, passeggiando o quando non riusciva a dormire. Trovati tema e melodia, si metteva così a canticchiare quando trovava un ritmo musicale che gli piaceva di più. Allora – racconta – la mia mente coglieva l’opera “nel suo insieme come uno sguardo del mio occhio comprende in sé un bel quadro o una bella giovane. Essa non mi viene successivamente, con varie parti elaborate nei particolari, come verranno in seguito, ma la mia immaginazione me le fa udire nella sua interezza”⁵. Il fisico Wolfgang Ernst Pauli, nel suo carteggio con lo psicoanalista Carl Gustav Jung, parla dei suoi sogni. I sogni che, legati agli archetipi e alla sincronicità⁶ di cui si occupava Jung. Questi sogni gli presentificavano immagini legate alla sua ricerca fisico-quantistica: così – racconta Pauli – «mi è capitato, nei sogni, di scambiare un moderno spettrografo, con un fornello alchemico, che ha un profondo significato simbolico, e quindi psicologico. Ma non è sempre così, […] quanto più le conoscenze tecnologiche crescono, tanto più i simboli rimangono nell’inconscio, per cui il conferimento alla materia, di tali immagini mentali, diviene sempre più arduo. […] Il Suo resoconto […] sulla Sincronicità nei sogni, e in altre circostanze, mi è stato di grande aiuto […] l’immagine archetipica del sogno che Le allego, e che rappresenta una rotazione, […] È una simbolica “mandalica”, dopo tutto. Poi, per ritornare alla sua alla Sua Sincronicità debbo dirLe che, parte mia, ho pensato subito ad un’altra immagine, a qualcosa che assomiglia ad una superficie di Riemann, a due fogli, cioè, tagliati trasversalmente (oppure verticalmente) nello stesso punto istante»⁷.

Ora, se così stanno ancora le cose, neanche le stesse macchine “AI” del tipo deep learning (quelle capaci di autoapprendimento e in grado di riconoscere immagini, testo, suoni e altri dati per produrre informazioni e fare previsioni accurate) possono eguagliare o sostituire in toto (e per qualsiasi attività e fenomeno conoscitivo, creativo-pratico) il cervello-mente umano. Il pensiero che reagisce e agisce in rapporto alle singolarità delle situazioni molteplici in cui si trova; nodi o possibilità irriducibili a qualsiasi deduzione formalizzata e meccanizzata. Dove l’idea di un pensiero in movimento è stata impacchettata, come un dato naturale immutabile (il cognitivismo naturalizzato che sta alla base dell’AI), le singolarità creative, che intersecano i processi fluidi, non avranno più luogo (imperano solo gli addestramenti specializzati, come sono le attitudini e le disposizioni degli animali non umani che sono in perfetta simbiosi con l’ambiente in cui vivono). L’automatizzato e l’addestramento lavorano sempre in codice prefissato e simulazioni che fanno un deserto delle potenzialità del reale. La creatività che pulsa nel cervello-mente di un soggetto umano, come nei fenomeni quantistici, vive invece di esplosioni e diramazioni ondo-corpuscolari imprevisti, imprevedibili e pluridirezionali (lo spazio potenziale dove le scelte osservative non sono né ponderabili né misurabili simultaneamente con regole immobilizzate … l’inaspettato è sempre a portata di mano: il mondo quantistico è una potenzialità di nuovi sbocchi in sussulto; una possibilità che, in quanto tale, essendo indeterminata si prova sempre con una sperimentazione inarrestabile, e sempre innovativa.

La sospensione di Alan Turing

Nel merito della creatività e dell’equiparazione praticabile tra cervello elettronico-meccanico e mente umana, già lo stesso Alan Turing (anticipatore delle machine intelligenti o dell’AI) non aveva certezze. Nel 1950 sulla rivista “Mind” scriveva infatti l’articolo “Computing Machinery and Intelligence”: “Le macchine possono pensare?” Lui (ammiratore di Shakespeare e del sonetto) se ne distaccò dal momento in cui, ipotizzando un gioco comportamentale-imitativo – “test di Turing” –, mise un pc (uno dei giocatori) a confronto con la possibilità o meno di distinguere consapevolmente l’aseità semantica della funzione qualitativa di una metafora, di una allusione, di una ambiguità linguistica et alia di cui è intessuta una scrittura poetica; e ciò nella possibilità di potere eguagliare i cervelli in causa e messi alla prova. Se le risposte tra i giocatori – ipotizzò Turing – si eguagliano statisticamente (più o meno) sia negli errori che nella risposta giusta, allora si potrebbe pensare e dire che tra i cervelli in gara non c’è differenza. Avvia il gioco. I giocatori, interloquenti, non hanno notizie sulle loro identità tranne sul fatto che sanno usare il linguaggio. I risultati, more impersonale, sono trascritti su un supporto materiale passivo (tastiera o visualizzazione su uno schermo). Non molto diversa è la lettura del “test di Turing” di Penrose. Se il giocatore umano – dice Roger Penrose (fisico, matematico e cosmologo) – non identifica il soggetto reale umano (poiché il computer è programmato per mentire e ingannare l’essere umano) “si giudica che il computer (o il programma per computer, o il programmatore, o il progettista) abbia superato il test”⁸. Ma ciò non attesta che il suo cervello pensi e interagisca come un soggetto del linguaggio naturale-storico (il soggetto del linguaggio non è esente dai processi di soggettivazione o individualizzazione legati al contesto in cui si vive e si opera collettivamente come singolarità). Il soggetto che distingue tra atti, percezione sensibile e segni, contesto e immaginazione, enunciati descrittivi, verità e senso, coscienza e autocoscienza (il rapporto che, tra fattuale e controfattuale, passa per i poli in tensione), destabilizza i vissuti e i significati acquisiti (non è riducibile agli atti specializzati come quelli degli animali non umani). Nel linguaggio delle macchine non ci sono tracce di desideri, inconscio, conflitti, vuoti, indeterminazione e arbitrarietà della ‘parole’. Si precisa: si tratta di atti specializzati (pur se modificabili come ri-adattamento seriale condizionato dall’ambiente naturale modificato), come quelli di un animale non umano in simbiosi diretta col suo ambiente naturale. Né – sempre Penrose – un computer parallelo (e non meno – in avvenire – quello pensato nei termini della meccanica quantistica), come molti pensano, è la chiave di volta perché la macchina sia messa sullo stesso piano della capacità del cervello umano e su quello dell’unità appercettiva della coscienza umana e dei modi eterogenei e simultanei (consci e inconsci) che urgono la stessa creatività artistica dei soggetti che hanno facoltà di linguaggio, la singolarità di parole potenziale. Sebbene “un singolo stato quantico potrebbe, in linea di principio, consistere in un gran numero di attività diverse, svolte tutte simultaneamente […] Prima però di poter considerare seriamente questa idea, realizzata in un computer quantistico (c.n.), dobbia­mo sollevare il problema se è probabile che degli effetti quantistici possano avere in generale qualche pertinenza per l’attività del cervello”⁹.

Il fare poesia

La poesia, come il cervello umano, è un sistema di alta complessità (sistemi in cui possono esistere obiettivi in mutuo conflitto, paradossalità e finalità che non possono essere realizzate in simultaneità); inoltre è restia alle semplificazioni deduttive delle formule. L’uniformità delle reazioni meccaniche non gli appartengono. La sua realtà è la sfera semiotico-semantica dove un minimo di incertezza produce instabilità e imprevedibilità: uno spazio-tempo in movimento di processi non lineari, turbolenze affettive, vuoti e pause. Un caos biforcante insieme ordine, disordine e neghentropia. I processi tra le parti e il sistema delle regole, sottoposti alle relazioni dinamiche tra costanti, parametri e variabili non producono univocità semantiche (e nel caso poi del linguaggio letterario e poetico le possibilità differenziali toccano sia l’uso delle regole grammaticali, sintattiche, connettivi, preposizioni e proposizioni quanto le invenzioni che emergono dalle zone di confine dove non è possibile il limite di una frontiera, la scissione netta tra il dentro e il fuori dell’esser-ci. Il ‘tra’ – zona di confine e mediazione inaggirabile – è ineliminabile. Sembra piuttosto essere nel paesaggio dei “tre corpi” di Enri Poincaré. Il piano in movimento dove le traiettorie, anche dei corpi più semplici, sfuggono alle determinazioni necessarie della scienza rettilinea, la semplicità della razionalità galileana-newtoniana. Nel piano dei tre corpi o nello spazio a più dimensioni si apre il ventaglio del futuro e delle aleatorietà. Il futuro che non hanno la possibilità di definire né prevedere sia i modelli di pc ‘seriali’ (quelli che devono sezionare tutti gli elementi della catena e analizzarli sequenzialmente uno dopo l’altro), che i ‘paralleli’ (quelli che analizzato tutti gli elementi della catena simultaneamente). In questa sfida neanche i circuiti ricorsivo/ripetitivi, co-implicati e coimplicati delle macchine “chatter robot”/chatbot (GPT 1, 2, 3, 3.5, 4- Generative Pre-trained Transfiormer/Trasformatore generativo pre-addestrato) sono in grado (nonostante i learner) di razionalizzare, formalizzare e catturare le latenze dell’intersecazione. Le virtualità che giacciono tra il biologico/fisiologico la facoltà di linguaggio e le situazioni di confine, la soglia né formalizzabile né meccanizzabile che non permette una netta scissione della zona che tiene in contatto i confinanti.

Ora, turinghianamente, abbiamo messo a prova una di queste macchine con un testo poetico libero. Si è voluto saggiare la risposta e l’eventuale classificazione dentro i suoi schemi pre-determinati. La poesia è la nostra: «vacanza vacanza fra i deliri dei buchi neri / eri una danza e non vacanza vagante / / in canoa dis-orbite infuriava il vento solare / soledad il fotone sulle tue orbite” // choc e chance l’evaporazione / “charme” dance e “stranezza” / dis-d-io il tempo kaone»¹⁰. Legge il pc “GTP 3.5” (OpenAI). Quattro strofe in risposta e in forma di quartine a rima baciata. Qui, solo le prime due. In stile metrico e rimato standardizzato (rima baciata, “a a b b”), qui la traduzione automatizza della nostra poesia¹¹:

Fra i deliri dei buchi neri, danza d’eternità,

Una vacanza cosmica, senza fine, senza gravità,

Nelle orbite stellari, la tua anima danzava,

Sotto il sole ardente, la tua luce splendeva.

Choc e chance, nell’evaporazione dell’Universo,

Charms di mistero e stranezza, senza un verso,

Il tempo si dissolve, in un kaone di speranza,

Nel vuoto dell’eternità, la nostra danza senza fine avanza.

A questo punto, se si guarda sia alla metrica (metri e piedi dei versi), sia alla fono-semantica della rima o dei compagni di rima (il pensiero colto nei rapporti con ciò che non è razionalizzabile, il sensibile tout court et alia) non è improprio ricordare che il linguaggio della poesia, seppure legato a sistemi di regole razionali (analogia con la matematica dei numeri naturali), diversamente però dalle costruzioni automatizzate, come teoremi deducibili dagli assiomi logici, dispone di possibilità “impure” gli atti percettivi e le pulsioni psicologiche. Non è, cioè, giustapposizione simbolica di segni derealizzati, desensibilizzati e depolicizzati come nei testi del modello asemantico dell’astrazione algoritmica binary (0 1). Nei testi poetici, come nelle forme di una ballata o dei sonetti, ineliminabile è la presenza non-presente degli aspetti imponderabili affidata, ad esempio, alla tecnologia della cura della rima baciata (a a b b), rima alternata (a b a b), rima chiusa (a b b a), rima incatenata (a b a, b c b, c d c), rima reinterzata (a b c, c b a): il comune delle zone di confine che dicono per somiglianza o analogie (etc.) il senso non automatizzabile degli enunciati in versi e discorso. Il linguaggio della poesia, nel caso anche delle forme chiuse, è una modellizzazione che non sacrifica affatto l’anteriorità ed eterogeneità della logica del sensibile, del senso e del fuori che intersecano il meta-pherein (il figurativo) e l’allegorein (parlare d’altro, il dire altrimenti) o la distanza tra il fatto di dire (la facoltà di parola) e ciò che si dice. Dove, invece, un’idea o pensiero (che pur necessita di regole e schemi concettuali generali), viene isolato dalla contingenza degli eventi e dall’accadere (e si ingabbiano in formalismi automatizzati), non si può più dire che lì ci sia un cervello-mente storico-naturale libero, esposto cioè al divenire essere delle possibilità.

Un’altra prova è stata fatta con la poesia di quattro versi della poetessa libanese Joumana Haddad. Il testo elaborato è stato ancora confezionato in uno degli stampi del sonetto. Cosa di facile costruzione dal momento in cui la macchina intelligente risponde solamente seguendo le regole e le procedure che le sono stante confezionate su misura e messe nel circuito del suo cervello elettronico. La macchina dell’AI è ancora la pensante chatbot “GPT 3.5” (pc capace di “dialogo”). Le abbiamo chiesto di leggere e rielaborare in altra forma la poesia “La chiave della loro prigione è la loro lingua / Tuttavia la loro lingua si avvinghia attorno alle dita del mio desiderio / E al mio desiderio non impartiscono ordini” (Joumana Haddad). Qui la risposta di “GPT 3.5: “Certo, posso riscriverla in forma di sonetto”:

La chiave della prigione è il lor parlare,

ma avvinghia intorno al mio ardente volere,

ordini al desiderio non vogliono dare,

la lingua loro, un nodo da sciogliere.

Serrati tra le frasi, il cammin serrato,

legame e libertà in quel mistero intrecciato,

al desiderio mio, comando negato,

nei silenzi, ogni sentiero bloccato.

Intrappolata è la via, stretta è la via,

dove parole tentano, ma poi s’arrestano,

ogni suono, un’ala che il vento non guida.

E così la lingua, prigione e libertà,

s’aggira nel desiderio, ma non dà

comandi al volere che in silenzio sfida.

Ulteriormente, alla chatbot “Bard” (Google), abbiamo chiesto invece di dare la forma di una “ballata” alla stessa poesia di Joumana Haddad “La chiave della loro prigione è la loro lingua / Tuttavia la loro lingua si avvinghia attorno alle dita del mio desiderio / E al mio desiderio non impartiscono ordini”. Di seguito il testo della poetessa reso in forma di ballata da “Bard”:

Ballata della lingua¹²

Ritornello

La chiave della loro prigione

è la loro lingua

tuttavia la loro lingua

si avvinghia attorno alle dita del mio desiderio

e al mio desiderio non impartiscono ordini

Strofa 1

La lingua è uno strumento

che può essere usato per creare

o distruggere

per liberare o imprigionare

Ritornello

La chiave della loro prigione

è la loro lingua

tuttavia la loro lingua

si avvinghia attorno alle dita del mio desiderio

e al mio desiderio non impartiscono ordini

Strofa 2

La lingua può essere usata per dire la verità

o per mentire

per amare o odiare

per unire o dividere

Ritornello

La chiave della loro prigione

è la loro lingua

tuttavia la loro lingua

si avvinghia attorno alle dita del mio desiderio

e al mio desiderio non impartiscono ordini

Strofa 3

La lingua è un potere

che può essere usato per il bene o per il male

per creare un mondo migliore

o per distruggerlo

Ritornello

La chiave della loro prigione

è la loro lingua

tuttavia la loro lingua

si avvinghia attorno alle dita del mio desiderio

e al mio desiderio non impartiscono ordini

Coda

La lingua è una scelta

che possiamo fare ogni giorno

scegliere di usare la lingua per il bene

o scegliere di usarla per il male

Ritornello

La chiave della loro prigione

è la loro lingua

tuttavia la loro lingua

si avvinghia attorno alle dita del mio desiderio

e al mio desiderio non impartiscono ordini

Cose non facili, ma non impossibili

Ora, alla maniera di Turing: se un lettore, all’oscuro del fatto che il sonetto è la traduzione di una machine learning e della sua capacità di autoapprendimento algoritmicamente automatizzato (secondo il presupposto della logica-matematica binaria ‘ 0 1’), saprebbe distinguere o meno sull’origine umana della poesia, del lessico, della sintassi, delle forme metaforiche, analogiche ed extralinguistiche che sostanziano il sonetto o la ballata? Certo non è cosa facile, ma non è neanche impossibile. A tal proposito, infatti, visto che la chatbot è una macchina intelligente e dialogante, le si potrebbe chiedere se nella composizione poetica ha tenuto conto delle “piccole percezioni” primarie, e secondarie (quelle dovute alle impressioni dovute agli stessi condizionamenti socio-linguistici del contesto, o alle “appariscenze imponderabili” ma empiriche provocate dai concetti verbali reificati del linguaggio). Appariscenze, come le ha chiamate qualcuno, “sensibilmente sovrasensibili” che non sono né unificabili né misurabili né logizzabili sebbene empiricamente appariscenti. Un sensibile sovrasensibile che non è affatto un “segno” (quindi non traducibile in codice binario), essendo – scrive Paolo Virno – consistente di per sé stesso in quanto già “risultato finale di un vasto lavoro semiotico” già svolto […] attraverso il quale non trapela (c.n.) di soppianto l’interiorità. Non allude a qualcosa di più alto, giacché è essa stessa il culmine di una esperienza vissuta”¹³, la parola che si è fatta carne, cosa (res). E il linguaggio – ancora Paolo Virno – “è la cosa sensibile sovrasensibile per eccellenza”¹⁴, mentre il “contenuto concettuale della parola è indistinguibile dai suoi caratteri acustici o grafici”¹⁵. È – come scrive Franco Lo Piparo (richiamato da Virno), la dimensione della monofaccialità del segno: « “non c’è un significato ideale prima e al di fuori del significante materiale”. La monofaccialità del segno indica “la piena identità tra ‘piano dell’espressione’ e ‘piano del contenuto’, indica con precisione che cosa debba intendersi, da un punto di vista naturalistico, per “carne del verbo”: il pensiero verbale non cerca un corpo qualsiasi (questo o quel suono articolato) per diventare fenomeno e res, ma è in sé stesso corporeo, fenomenico, cosale; fa tutt’uno, dunque, con il lavorio dei polmoni e della epiglottite, che i suoni articolati produce”»¹⁶.

E come se non bastasse, cosa che non pertiene a un cervello elettronico, nella mente di un “soggetto” singolare – che fa poesia – hanno luogo zone di confine (indicate dalla preposizione “tra”) come spazio potenziale e indeterminato tra le cose, il sé proprio e quello della parola degli altri. Lo spazio intermedio che mette in contatto l’individuale soggettivo e il trans-individuale, il “pre” (l’antecedente) che precede la stessa coscienza singolare dei soggetti umani. E poi gli interrogativi verrebbero meno se, sull’esempio della “Teoria del Tutto” (l’ipotesi relativa all’unificazione delle quattro forze fondamentali della fisica quanto-relativa), si riuscisse a unificare i vari tipi di algoritmi che sono necessari per rettificare i discorsi con l’informatizzazione dei data? Il differimento della raccolta di ulteriori data scomparirebbe? Cesserebbe il bisogno di accumulare ulteriori informazioni da rettificare? Qui si allude alla teoria dell’“Algoritmo Definitivo” di Pedro Domingos. L’algoritmo che sarebbe capace di assemblare e riassemblare automaticamente e in autonomia tutti gli stessi “algoritmi di autoapprendimento”, i ‘learner’. Gli algoritmi cioè che, espletando funzioni diverse per affrontare e risolvere problemi diversi, sono strutturati differentemente: “simbolisti” (deduzione); della “deduzione inversa” (induzione dai dati “empirici”); connessionisti o della retropropagazione; evoluzionisti come nella programmazione genetica; bayesiani o dell’inferenza probabilistica/statistica; analogisti o della somiglianza (capire quanto siano simili-dissimili “due cose e decidere cos’altro inferire dalla loro somiglianza”¹⁷).

L’ideale di Domingos

L’ideale sarebbe – scrive Pedro Domingos, guardando all’unificazione delle quattro forze fondamentali nella scienza quantistica della “Teoria del Tutto” – inventare un algoritmo definitivo che unificasse i diversi algoritmi: un Uno senza la molteplicità, la pluralità delle singolarità e la contingenza degli eventi che miscelano un mondo e la sua non linearità. L’idea di Domingos, secondo noi, specie se legata alle invenzioni creative, rimane solo una credenza vuota. La poesia ha una logica e una tecnologia linguistica che vanno al di là delle semplici manipolazioni delle equazioni binarie della tecnologia automatizzata e dei suoi teoremi di biunivoca eguaglianza formale (quelli che, elidendo il contesto o lo sfondo nel rapporto col mondo, ineliminabile per ogni coscienza o unità sintetica di appercezione semantica, lavorano solamente su un uno stato di biunivoca corrispondenza tra codice, data e stati di cose). Il linguaggio poetico ha un’aseità tecno-semantica che pesca pure nel vuoto della lingua-codice, la potenza della facoltà di linguaggio che è sempre indeterminata; la possibilità cioè che non esibisce mai in atto nessuna costante stabilità della coscienza-autocoscienza nel suo rapporto (temporalmente instabile, precario) con il contesto o lo sfondo in cui opera (un contesto dal quale non bisogna escludere né il già vissuto né il non-ancora del futuro. Una situazione singolare e generale dove le “prerogative salienti dell’animale umano – scrive Paolo Virno, citando l’antropologo Ernesto De Martino – non sono uno sfondo acquisito una volta per tutte”¹⁸. Si è situati in una comunicazione socio-umana che, propria pure alla tecnologia propria del linguaggio poetico, è impossibile all’astrazione logico-algoritmica pre-determinata delle macchine intelligenti (queste non acquisiscono abitudini sociali). E ciò sia che il cervello dell’AI sia dell’ordine dei pc ‘seriali’ (i cervelli che hanno una logica causale-lineare) che di quelli ‘paralleli’ attuali, o dei prossimi – i quantistici – cui la ricerca è dedita (i cervelli che simultaneamente operano con più combinazioni eterogenee).

E poi, in effetti – richiamandoci poi a Roger Penrose – tra i due tipi di pc – paralleli e quantistici – non c’è molta differenza: entrambi sono macchine di Turing (sono degli automi e non hanno nessuna coscienza sintetica unitaria). La differenza è solo nell’efficienza e nella velocità complessiva dell’elaborazione (ma qui, per inciso, gli effetti retroattivi o le minime variazioni, come succede nel mondo della complessità, potrebbero innescare una serie di processi e di esiti biforcanti quanto lontani dalle attese previste). La motivazione che accompagna l’architettura dei “paralleli”– ancora Roger Penrose – «viene in gran parte da un tentativo di imitare il modo di operare del sistema nervoso, giacché parti diverse dell’encefalo sembrano essere in effetti in grado di eseguire funzioni di calcolo separate e indipendenti (per esempio con l’elaborazione dell’in­formazione visuale nella corteccia visiva). […] ma (c.n.) è molto improbabile che il calcolo classico parallelo contenga la chiave di ciò che accade nel nostro pensiero cosciente. Un carattere tipico del pensiero cosciente (almeno quando si è in uno stato psicologico normale, e non si è subito un intervento di commise surotomia!) è la sua “singolarità”, in contrapposizione a molte attività indipendenti che si svolgono simultaneamente. […] una singola coscien­za, […] può essere vagamente consapevole di un certo nume­ro di cose, ma è concentrata ogni volta solo su una cosa particolare»¹⁹.

Conclusioni

Innegabili le applicazioni e le conquiste dei cervelli elettronici intelligenti, come attestano le telecomunicazioni a livello diffuso e globale della contemporaneità immateriale-materiale (non per ultimo le auto senza guidatore umano e l’innesto di microchip nei cervelli umani difettosi per riattivarne funzionalità perdute per incidenti o altre cause naturali). Ma è senz’altro vero che dette ricerche e conquiste sono azioni libere dalle mire di controllo dei loro programmatori o dei finanziatori pubblici e privati che le incoraggiano? Sono libere dai soggetti che cercano di “statalizzare” e “amministrare” il “general intellect” (K. Marx) e il suo potere cognitivo naturalizzato come una passività non reattiva; e ciò specie oggi che è la stessa vita ad essere diventata “forza-lavoro” produttiva e riproduttiva naturalizzata, senza i conflitti delle parti in gioco (il naturalismo dei nuovi modelli computerizzati e base del lavoro postfordista (il modo cioè di produzione storico che sfrutta le conoscenze sociali e più generiche dell’uomo sapiens).

Bill Gates, al Forum economico mondiale di Davos nel 2008, ha affermato che i profitti di questo cambiamento rivoluzionario – che semplifica e ottimizza sempre più intuitivamente l’interfaccia uomo-macchia – miglioreranno “anche la vita di coloro che non beneficiano delle forze di mercato […], il (c.n.) ‘capitalismo creativo’ […] quale soluzione per alleviare i problemi del mondo. […] l’infatuazione per l’intelligenza delle macchine incoraggia invece la massiccia raccolta di dati, l’indebolimento del potere dei lavoratori e dei cittadini e la corsa all’automazione del lavoro […] produce solo soltanto benefici modesti in termini di produttività”²⁰. I benefici, però, in parole povere, sono solo dell’élite. Il potere dominante che sorveglia e controlla i comportamenti individuali e sociali con la tecnologia di sistema. Prodotto di una rigorosa e potente razionalità computazionale, pur addestrate, le macchine intelligenti, se potenziano le stesse possibilità conoscitive-operative umane e dialogano con gli stessi soggetti tecno-sapiens connessi in rete, condizionandone fortemente scopi e scelte di vita, non sono tuttavia in grado di eguagliare le attività creative dell’animale umano che gode dell’indeterminatezza, dell’imponderabile appariscenza che anima la ‘singolarità’ di ogni essere della pluralità umana . In prospettiva, scrive Douglas R. Hofstadter (Gödel, Escher, Bach: un’Eterna Ghirlanda Brillante, 1984), non sappiamo se le machine dell’AI saranno pari all’intelligenza umana o superiori; di sicuro però non sapranno comporre (ripete con Turing) né musica né poesia come è nelle corde del big bang della mente umana. Hofstadter (studioso contemporaneo di AI e costruttore di algoritmi), egualmente, in prospettiva dell’evoluzione dell’intelligenza artificiale, si è autoimposto dieci domande e altrettanti tentativi di risposta. Qui facciamo cenno e sintetizziamo sui tentativi di programmare la musica, le emozioni e le identità delle persone: la

“musica è un linguaggio di emozioni, e finché i programmi non avranno emozioni complesse come le nostre non sarà possibile che un programma scriva qualcosa di bello. […] Dovrebbe capire la gioia e la solitudine di una note fredda e ventosa, il desiderio struggente di una mano amata […], la rassegnazione, la stanchezza della vita, l’angoscia e la disperazione, […] saper accogliere sentimenti opposti come speranza e timore, […] l’ironia, il ritmo, un senso dell’inatteso, […] e la magia di una fresca creazione. […] Qualsiasi simulazione diretta delle emozioni […] non può avvicinarsi alla complessità delle emozioni umane, che sorgono indirettamente dal modo in cui la nostra mente è organizzata. […] un programma intelligente non sarà più camaleontico di quanto lo siano le persone. Si baserà sulla costanza dei suoi ricordi e non sarà in grado di svolazzare da una personalità all’altra. […] I programmi IA saranno praticamente identici a persone umane. Non vi sarebbe nessuna differenza? […] Probabilmente le differenze tra i programmi IA e le persone saranno più grandi delle differenze tra una persona e un’altra. È quasi impossibile immaginare che il ‘corpo’ nel quale un programma IA abiterà abbia profonde influenze su di esso. […] probabilmente esso avrà una visione enormemente diversa di ciò che è importante, interessante, ecc. Wittengenstein una volta fece questa divertente osservazione: “ Se un leone potesse parlare, noi non lo capiremmo”²¹.

Se la tecno-scienza dei soggetti sapiens oggi produce oggetti che condizionano e mutano gli stessi soggetti, non per questo i giochi sono stati chiusi definitivamente. Un reticolo di rapporti e traiettorie cyberspaziali artificiali – codici astratti e impersonali – orientano azioni, decisioni e operatività. Al tempo stesso, immancabilmente, espongono a diseguaglianze sociali, reificazioni di commando logico-linguistico, sorveglianza e controllo (la società del controllo di cui, nel secolo scorso, sono stati profeti GillesDeleuze/Felix Guattari e Michel Foucault). Non mettono, i robot dell’AI, di sicuro le resistenze a riposo. Certo, innegabile, storicamente, è tuttavia il fatto generale (senza dimenticare negatività e discriminazioni) delle ricadute positive sulla vita e le cure dell’innovazione scientifica e tecnica. Le teorie non sono rimaste sul terreno degli auspici. I nuovi modelli-codici, simbolizzando e formalizzando, si realizzano in concreti corpi meccanici agenti, e significano anche valori descrittivi, predittivi e prescrittivi di verità in ordine all’uso e all’utilità dei modelli in gioco. Ma è pur vero che se la stessa potenza della vita, del pensiero verbale e delle diverse facoltà, attitudini e varie forme espressive (dalle scienze, all’arte, alla letteratura, alla poesia …) non sfuggono ai tentativi di cattura di questa tecnica di codificazione artificiale e naturalizzata (rottura del rapporto segni cose, significante e significati, valore d’uso e valore di scambio), è anche certo che il “nuovo imperatore” non può ridurre tutto a codici prefissati, determinati, calcolati, calcolabili e traducibili in comportamenti mimetici funzionali ad hoc. Il linguaggio algoritmico dell’imperatore – pur veloce e capace di combinare una gran quantità di dati definiti e dettagliati (ridotti a operazioni numeriche) – è pur sempre finalizzato a un solo compito specifico. Cosa che se da un lato permette di usufruire con immediatezza di un’informazione o di un riconoscimento, dall’altro si trova a gestire una molteplicità eterogenea di algoritmi ciclici che di per sé, non potendo porre una totalità chiusa, non semplificano l’organizzazione degli stessi (generano errori e inceppamenti).

E il limite non è solo della “mente” dei pc seriali (che procedono passo dopo passo). Coinvolti sono anche quelli che, volendo imitare i processi della fisica quantistica e più vicini al modo di funzionare del cervello umano, sono attrezzati per essere “paralleli” o “quantistici”. I cervelli elettronici cioè che possono gestire simultaneamente una molteplicità di algoritmi diversi per orientarli al compito assegnato e realizzarlo con semplicità e immediatezza cognitivistica (ma un cognitivismo totale e totalizzante, e chiuso, gli è escluso; non gli appartiene).

Né la semplicità delle misure di cui parla Bill Gates è taumaturgica. Oggi, scrive Bill Gates, il potere è infatti di chi, imprenditore o meno, sa essere semplice nel comunicare e nell’informare gli utenti del mercato mondiale. E la maniera più semplice è quella della lingua dei numeri e l’annessa presunta persuasione della loro universalità. La credenza di una eguaglianza semantico-sintattica (isomorfia) tra cose e formule o stati di cose e stati d’animo, enunciati, suoni e immagini. Nel caso della lingua dell’AI, l’isomorfia è affidata alla semplicità dell’aritmetica binaria-digitale ‘0 1’ (o digit): il linguaggio che anima il cervello elettronico di un pc, o di una “Chatbot” (macchine intelligenti) che – volendo eguagliare la vita della mente umana con la struttura dei codici logici, sensibili, verbali e non verbali – dialogano con gli stessi soggetti umani sia singolarmente che collettivamente. Rispondendo infatti ai loro quesiti, per loro costruiscono testi aprioristicamente determinati (né ambiguità né ambivalenze pragmatiche). Generano cioè unità discrete-astratte (come discreto è ogni individuo) di frasi e discorsi definiti e compiuti nel significato contenuto. Queste macchine intelligenti così, grazie alla convertibilità tra cose, stati di cose e stati d’animo, immagini linguaggio e numeri hanno duplicato la vita della mente naturale-storica degli animali umani, mettendo a lavoro direttamente lo stesso linguaggio generale e la stessa comunicazione sociale e socializzante. Da qui la cura per la parola semplice e l’immagine vivida (incarnazione dei significati simbolici veicolati dal verbo e dai connettivi grammaticali e logici) come le nuove forze produttive e riproduttive del modello capitalistico della rivoluzione tecno-tele-informatica-digitale. La rivoluzione tecno-logica che riduce il linguaggio naturale solamente a linguaggio numerico, e tanto più potente quanto più trasforma il complicato e complesso del linguaggio naturale in semplice calcolo combinatorio probabilistico-statistico. Né il potere dello Stato né la sovranità del Popolo con le relative istituzioni di un tempo fanno argine ormai alla potenza della lingua dei cervelli elettronici. Un fatto e una potenza comunicativa senza mediazioni istituzionali con i lavoratori che non siano quelle delle direttive del governo dei nuovi padroni e finanziatori della ricerca tecnologica più sofisticata. L’immediata semplicità è sempre, allora, l’esito di una grammatica logico-linguistica di tecniche e regole pre-costituite, predeterminate e formalizzate che includono o escludono. Un filtraggio che, espungendo il contesto opaco delle cose e l’indivisibilità del continuum (la fluidità dei confini di soglia), rinforza il potere di chi distingue e discrimina senza controparti in lotta. Ma il mondo dell’arte e della poesia, nella complessità e plasticità che gli compete – relazioni con l’altro, immaginario, sensibilità, speranza, utopia, controfattuale, soggettività, vissuto, contraddizioni, conflitti, possibile … –, dotato di una propria tecnologia e linguaggio aseico, non è compatibile (né riducibile) con l’uso dei linguaggi formalizzati e degli automatismi procedurali ripetitivo-statistici quanto, di per sé, anestetici.

Il linguaggio logico-numerico-digitale della tecno-scienza informatica con la sua capacità di convertire immagini e parole nella potenza del “semplice” dei numeri, a fronte della complessità della realtà naturale preindividuale e storica umana, ha veramente segnato una svolta definitiva nell’affrontare e risolvere la problematicità e i processi dei rapporti di corrispondenza della teoria con gli interrogativi in fieri delle cose e dei soggetti individuali e sociali?

E la semplicità, universalità e oggettività di questo linguaggio, ha veramente eliminato e/o convertito in toto la significanza degli altri linguaggi – i linguaggi non numerici –, come il gestuale e il concettuale-vocale?

E la gloria del “semplice” non sarà piuttosto, come ha detto oggi Bill Gates (uno dei fondatori della multinazionale informatica “Microsoft), la forza e il potere di chi sa usarlo nella comunicazione per dominare il mondo dell’informazione sociale come forza produttiva e riproduttiva del modello capitalistico in rivoluzione permanente?

A far memoria, se ci si pensa, è sin dai primordi della riflessione filosofica e scientifica sui rapporti tra logica, linguaggio e realtà d’essere e di verità delle cose che il “semplice”, insieme con il concetto di verità, non è stata cosa semplice”. Una per tutti basterebbe, forse, il pensiero al permanere delle antinomie e dei paradossi, come quello di Epimenide (il vero e il falso che, in simultanea, si convertono), o delle contraddizioni che hanno frammentato la naturalità dei numeri tra razionali e irrazionali; e tra le teorie fondatrici più recenti dei numeri quella tra intuizionisti (Giuseppe Peano) e Gottbl Frege (Ideografico).

Tutto questo, naturalmente, per chi scrive, non smentisce, come ebbe a dire Eugene P. Wigner, “L’irragionevole efficacia della matematica nelle scienze naturali”, ma è pur vero che non tutte le leggi formali sono convertibili e condivisibili quando, come accade per i modelli della fisica, si passa da un tipo di formalizzazione ad un’altra di livello diverso. Così, per esempio, la stessa legge logica distributiva della somiglianza in aritmetica [2 x/e (3 + 4) = (2 x 3) +/o (2 x 4)] non vale nella logica quantistica per individuare la simultaneità di posizione dello “spin” di una particella sull’asse e o ‘su’ o ‘giù’ rispetto agli assi “x” e “y” delle coordinate cartesiane. E questo non dice, ancora, di un altro limite circa la possibilità che il cervello elettronico di un pc quantistico possa, di fatto, eguagliare il reale cervello umano? Il “Reale” – direbbe Jacques Lacan – mostra sempre un’eccedenza. È l’eccedenza dell’oggetto piccolo “a(utre)” (la pulsione originaria, il desiderio) della psiche umana. Si può ricorre a una simbolizzazione algebrizzante particolare – “$< > a” (il desiderio e il fantasma), ma non si smaterializza; anzi si evidenzia una consistenza irriducibile ai linguaggi codificati mostrando e, al contempo, implicando pure il bisogno di ricorrere ad altre istanze teorico-pratiche. La riduzione logico-matematizzante della ricerca scientifico-tecnica del digitale, che riduce il complesso delle proposizioni e degli enunciati al semplice dell’universale dei numeri e delle regole combinatorie, può avere così – qui, si chiede – un possibile uso diverso o di contro-tendenza rispetto agli scopi di tendenza neocapitalistica delle formalizzazioni digitalizzate?

È possibile che diagrammi ed equazioni esauriscano la distribuzione (riducendola alle quantificazioni definite delle misure standardizzate) di tutte le potenzialità del reale, delle logiche e dei linguaggi che vi si rapportano, compreso il linguaggio della poesia? Le loro astrazioni escludono altre possibilità? Queste astrazioni hanno messo fuori gioco l’“effetto farfalla” del linguaggio della poesia, la “levis immutatio” (un lieve cambiamento sillabico come un’inversione, o solo vocalico-fonetico, o solo accentuativo …) della dynamis della poesia? La neofelicità digit-capital dismette veramente le contraddizioni, i conflitti, le ingiustizie, il Turing-test e il plus-valore della poesia? Non stiamo a vedere ipnotizzati! Il linguaggio della poesia è un antitodo salutare per tutti i non-io, il noi.

---

NOTE

______________________________

[Leggi tutti gli articoli di Antonino Contiliano pubblicati su Retroguardia 3.0]

______________________________