By on ( 14 commenti )

Fermate l’Intelligenza Artificiale, è pericolosa

(di Marcello Veneziani) – L’Intelligenza artificiale è un pericolo mortale. A dirlo preoccupati, anzi spaventati, non sono teologi apocalittici, luddisti antimoderni o filosofi tradizionali, ma i due padrini dell’IA, Yoshua Bengio e ora Geoffrey Hinton, già insigniti di quello che viene definito il Nobel dell’informatica, il Turing Award. I pentiti dell’IA lavorano per i colossi dei social: Hinton ha lasciato Google con la sua denuncia, ma anche Roger McNamee, lasciando Google, aveva denunciato la dipendenza dai social prodotta dagli usi invasivi dell’intelligenza artificiale, paragonandola alla tossicodipendenza. O Antonio Garcia Martinez, altro cervello in fuga dal cervellone tecnologico dei social, che vorrebbe non aver mai sviluppato quelle tecniche nocive.

Gli effetti prodigiosi delle sue applicazioni, la velocità con cui si propagano i suoi poteri e i suoi effetti, rendono sempre più stridente il confronto tra l’espansione tecnologica e la capacità di gestirla. Quella che in altra epoca Gunther Anders, scrivendo de L’Uomo è antiquato”, definì “il dislivello prometeico” tra tecnica e intelligenza umana. A cavallo degli algoritmi, l’Intelligenza Artificiale sta facendo passi da gigante nella sostituzione dell’intelligenza umana e va fermata, come si fermano le armi chimiche o letali. Così dicono i suoi padrini, inventori e propagatori pentiti. Parallelamente siamo sempre più indifesi dall’uso distorto o malvagio dell’IA da parte di hacker privati e colossi globali o di organismi pubblici, servizi segreti, stati canaglia, dittatori.

Il tema che l’IA cancellerà migliaia di posti di lavoro è solo un risvolto secondario e compensabile rispetto ai danni irreversibili che può produrre sul piano della sicurezza, della libertà e soprattutto dell’intelligenza umana.
Non è l’Intelligenza artificiale in sé che ci spaventa ma l’umana idiozia, l’incapacità di padroneggiare le cause e gli effetti, il delirio di onnipotenza tecnologica, che sono complici entusiasti di questo potere assoluto e potenzialmente totalitario, senza freni.

Qual è il pericolo dell’intelligenza artificiale? La sostituzione del mondo reale, delle identità e della natura, con una grande bolla in cui sparisce la realtà, e tutto ciò che la costituisce: la storia, il pensiero, la vita, la presenza, il corpo, la natura.

Ma tutto questo potrebbe ancora rientrare nel rischio dell’avventura umana, nella scommessa dell’intelligenza che sa osare e cavalcare la tigre della tecnica. L’uomo deve saper rischiare se vuol conoscere, migliorare le condizioni di vita, sviluppare la ricerca e i suoi risultati.

Ma se consideriamo il contesto in cui avviene oggi questa scommessa, allora nasce la preoccupazione.

La crescita rapida ed espansiva dell’Intelligenza Artificiale coincide infatti con la decrescita altrettanto rapida e regressiva dell’Intelligenza umana, delle sue connessioni vitali e mentali con la storia, con la tradizione, con il linguaggio, con la capacità di progettare il futuro e governare i cambiamenti; la ritirata del pensiero, oltre che della religione, il declino dell’arte e l’atrofizzazione progressiva, come in una paralisi, delle facoltà naturali, socievoli, lessicali e intellettuali dell’uomo e il calo progressivo e allarmante del Quoziente Intellettivo. Cresce la tecnica e decresce la cultura, cresce l’artificiale e sparisce il naturale, cresce il robot e declina l’umano. Si ingigantisce la forbice tra tecnica e sapere, il mondo artificiale si espande mentre si contrae la nostra capacità di conoscerlo, di capirlo e dunque di governare gli effetti.

Il pericolo non è dunque il golpe delle macchine, o semplicemente la pirateria informatica, o come qualcuno dice, l’uso che può farne il Putin di turno, ora additato in Occidente come nemico n.1 dell’umanità: ma l’autogoverno dell’Intelligenza Artificiale con la complice stupidità umana, infatuata per le macchine e per il virtuale. E dunque la perdita dell’umanità, il fatalismo tecnologico che pervade la nostra epoca, secondo cui non si può fermare o frenare nulla né cambiare corso. Se il procedere è automatico e inarrestabile, non c’è più libertà, intelligenza e dignità umana. Non è l’Intelligenza Artificiale in sé il pericolo ma la disumanizzazione radicale che si attua anche tramite essa. Non è una preoccupazione stupida. E comunque meglio restare uno stupido umano, anziché un idiota servitore e collaborazionista del robot.

Qui la riflessione si va inevitabilmente filosofica. La scienza non è fede ma ricerca, non è una religione con i suoi dogmi e i suoi comandamenti ma va sottoposta al vaglio critico. Sapere è potere, diceva Bacone, e lo ripete da secoli tutto lo scientismo militante. E’ vero, ma ci sono anche altre due forme importanti di sapere: da una parte è il sapere di non sapere, ossia la consapevolezza che ci sono cose che non sappiamo e non possiamo sapere: è il “so di non sapere” di Socrate, la dotta ignoranza di Nicola Cusano.

Ma dall’altra parte c’è pure il sapere di non potere, ovvero la coscienza dei propri limiti; non tutto è possibile, bisogna avere il coraggio e l’umiltà di fermarsi, di mettere a freno la volontà di onnipotenza e saper commisurare vantaggi e danni per l’umanità e per il mondo. Invece vige la legge di Gabor in base alla quale ciò che si può fare, si deve fare, e comunque si farà. E se non lo faremo noi lo faranno gli altri. Questo determina un’espansione automatica, inarrestabile, dell’intelligenza artificiale. Che nessuno ha oggi la forza di frenare. Al massimo si fugge spaventati, come fanno i cervelli in fuga dal cervellone. Sveglia. E coraggio…

(Panorama, n.20)

Categorie:Cronaca, Editoriali, Interno, Marcello Veneziani, Politica

Tagged as: , , , ,

14 replies ›

  1. Consiglio a Veneziani i libri ad es. di Gerd Gigerenzer, specie l’ultimo. Tra l’altro estremamente semplici e godibili.
    A meno che non si limiti a passare le giornate a linkare, pure lui…

    "Mi piace"

  2. Alla fine del XX secolo IA non aveva prodotto una macchina, non dico per salvare l’umanità dalle malattie contagiose, ma neanche una lavatrice capace di gestire il bucato. Cosa che i già i sistemi a logica fuzzy provvedevano a fare. Nel frattempo può darsi che si sia aggiornata, me lo auguro. Di certo questo articolo è da indifferenziata considerando che il relatore non ha la minima idea di quali potrebbero essere le potenzialità

    "Mi piace"

  3. L’intelligenza artificiale va alla stessa velocità della deficienza naturale.
    Non vogliono sostituire gli uomini con le macchine per i lavori, vogliono sostituire gli uomini con le macchine, punto.
    Grazie a Dio non lo vedrò.

    "Mi piace"

  4. Già’ ora il rudimentale Chat Gpt4 può tranquillamente superare in originalità gli articoli del Veneziani, è forse questo che più lo spaventa…

    "Mi piace"

  5. La vera paura è che le classi dominanti non riescono a manipolare più di tanto le tecnologie che stanno dietro alle AI generative che quindi razionalmente si potrebbero mettere al servizio del genere umano per migliorare la sua esistenza e dare un futuro sostenibile al pianeta. Per capirlo provate a chiedere a ChatGPT se la guerra è utile e capirete dove sta il pericolo.

    "Mi piace"

  6. Glielo ho chiesto, e la risposta è questa:

    La questione dell’utilità della guerra è molto complessa e controversa. Mentre alcuni possono sostenere che la guerra sia utile per raggiungere determinati obiettivi, come la difesa di un paese o la protezione dei diritti umani, molti altri sostengono che la guerra sia in generale dannosa e che dovrebbe essere evitata il più possibile. Ecco alcuni punti di vista differenti sull’argomento:

    Argomento a favore dell’utilità della guerra: Alcune persone ritengono che la guerra possa essere utile per difendere l’indipendenza, la libertà o i diritti umani. Ad esempio, in situazioni in cui un regime dittatoriale opprime il suo popolo, alcuni potrebbero sostenere che una guerra per rovesciare quel regime e instaurare un governo democratico potrebbe essere giustificata per il bene a lungo termine delle persone coinvolte.
    Argomento contro l’utilità della guerra: Altri ritengono che la guerra sia in generale dannosa e che i suoi costi siano spesso superiori ai benefici. La guerra porta a morte, sofferenza umana, distruzione e conseguenze a lungo termine per le società coinvolte. Inoltre, la guerra può portare a un ciclo di violenza continua e all’instabilità delle regioni coinvolte.
    Diplomazia e negoziazione: Molti sostengono che la diplomazia e la negoziazione siano vie preferibili per risolvere i conflitti, anziché ricorrere alla guerra. Lavorare per una soluzione pacifica attraverso il dialogo, le trattative e le organizzazioni internazionali può evitare la violenza e promuovere la cooperazione tra le nazioni.
    È importante notare che ogni situazione di conflitto è unica e dovrebbe essere valutata in base al suo contesto specifico. La storia ha dimostrato che la guerra può avere conseguenze imprevedibili e che spesso gli obiettivi iniziali possono essere difficili da raggiungere. Pertanto, la maggior parte delle persone cerca di evitare la guerra e di risolvere i conflitti attraverso mezzi pacifici, come la diplomazia e la negoziazione.

    Piace a 1 persona

  8. Il diavolo è nei dettagli: nella forza di penetrazione.
    Un po’ alla volta, come ha fatto Wikipedia, millantatamente “libera e democratica”.
    Mica può mostrare subito dove si vuole arrivare.
    Il problema è che già ora ogni tipo di cultura ce la facciamo linkando . Ricordiamo che l’ AI è solo una somma di dati “passati” che vengono inseriti – ovvero presi – da fonti già esistenti e create da esseri umani “occidentali” per lo più badando ad interessi poilitici e materiali. Nessuna creatività, nessuna intuizione, nessuna lungimiranza per il futuro, che sarà sempre caotico.
    E nel caos l’ AI si perde.

    Ma come per Wikipedia, la nostra piugrizia mentale ( ovvero l’ abitudine di imparare tutto solo con un click) le consentirà una penetrazione capillare. E il nostro “stato di minorità” Kantiano sarà completo.

    "Mi piace"

    • Beh, direi che in quanto a…compulsione…😄Ognuno fa quello che sa e che può, bullizzando ” creativamente”; ovviamente con l’avallo di Infosannio, che in altri casi è assai… censorio.
      Non faccio a tempo a postare, che…
      Chissà perché sempre e solo a me: di ” bulimici” ce ne sono parecchi, quando prendono l’ abbrivio dell’insulto reciproco, poi…
      Quei continui ” agguati” mi ricordano…

      "Mi piace"

  10. Si Carolina(buongiorno) lei ha ragione in merito al fatto che le risposte del chat bot non sono altro che il risultato di un assemblamento creato a suo tempo da altri, ma la mia era una risposta a Hudson sul fatto che nella risposta sensata, specialmente nel finale e un po’ cerchiabottista , non intravedevo pericoli imminenti, poi sul futuro, non mi esprimo, visto l’esponenziale modo in cui corre la tecnologia.; confesso di non aver capito poi l’allusione della Carriolina sulla compulsione, a meno che sia una presa in giro (spero di no). Saluti

    "Mi piace"

    • Purtroppo i pericoli sono i medesimi che vediamo ( o almeno spero che si vedano…) con Wikipedia.
      La AI andrà a… informarsi elaborando una quantità sempre più importante di dati, che prenderà da se stessa attraverso tutte le fonti possibili. Poi li elaborerà secondo certi criteri e darà risposte compiute.
      Anche se parrà ( o meglio, ci faranno credere ) che i dati siano “neutrali” e il calcolatore ( lo chiamiamo computer, cioè calcolatore anche se in Inglese fa più fico) decida per conto suo ( e lo fa), qualcuno ha inserito certi dati e non altri, come quantità, qualità, … e ci sono criteri di scelta che qualcuno ha programmato.
      Ovviamente, una volta dati gli imput, la macchina lavorerà autonomamente, ma il suo lavoro riguarderà sempre solo il passato. e ciò che è stato già concluso.
      Nessuna intuizione, nessuna creatività. E ben sappiamo quanto tutto questo conti anche nella nostra vita di tutti i giorni, anche nel nostro lavoro.
      E’ inutile, a confronto con la lunga pazienza cieca che ha creato il nostro cervello dall’ inizio del nostro Pianeta, l’ AI non ce la farà mai.
      Il problema è che , esattamente come ormai ci hanno convinto che ciò che viviamo personalmente è solo “percezione” mentre la realtà “vera” ce la raccontano loro attraverso i media, così ci convinceranno che il buono, il vero, il giusto ce lo dirà l’ AI.
      E smetteremo definitivamente di pensare.

      "Mi piace"