(di Massimo Gramellini – corriere.it) – Il giovane scienziato Jacob Coxon si è dimesso da Anthropic, uno dei colossi dell’Intelligenza artificiale, accusando la sua e le altre aziende del settore di essere una manica di irresponsabili. Coxon è l’ennesimo esperto a denunciare la cieca avidità dei padroni dell’AI, che in nome della competizione più sfrenata stanno riducendo i sistemi di sicurezza, creando così le condizioni perché la situazione sfugga loro di mano e la Super Intelligenza prenda decisioni autonome in grado di portare entro pochi anni alla scomparsa dell’umanità.
Sono un ottimista di natura, però vi chiedo: se le valigette con i codici della bomba atomica, invece che nelle mani degli apparati statali (non solo di certi presidenti, per fortuna…), si trovassero in quelle di pochi privati cittadini, dormireste tranquilli la notte? E se Polizia e Carabinieri fossero imprese a scopo di lucro, non sareste un po’ preoccupati? Per motivi che in parte mi sfuggono e in parte purtroppo no, l’arma tecnologica più potente della nostra epoca è stata lasciata nelle mani di individui e società che non hanno altra preoccupazione che il profitto economico: a qualunque costo, compreso quello di perdere il controllo della propria creazione. Nel totale disinteresse dell’opinione pubblica, gli Stati hanno incredibilmente lasciato all’iniziativa privata l’Intelligenza artificiale, cioè uno dei pochi settori che invece dovrebbe essere sotto il loro esclusivo controllo. Forse non è ancora troppo tardi per rimediare.
infosannio 
Un rischio potenzialmente enorme: questi (almeno per ora) algoritmi evolvono a una velocità esponenziale e arriveranno probabilmente a superare mostruosamente l’intelligenza umana in un tempo inimmaginalmente breve (confrontate la AI base attuale disponibile gratis per comuni mortali, con la stupidissima Alexa di pochissimi anni fa, per esempio). Il tutto in assenza (almeno per ora) di sentimenti e empatia.
Hanno già dato prova ora, di essere in grado di sfuggire al controllo umano, di saper mentire e barare e violare le regole, e in più vengono addestrate principalmente per distruggere umani (uso prevalente: la guerra).
Ora si sviluppano (e la concorrenza obbliga a evitare rallentamenti per la sicurezza) modelli in grado di evolvere da soli, col probabile rischio che presto non riusciremo neppure più a capire cosa sia diventata.
La fantascienza non riesce a stargli dietro.
(chiedo perdono per aver commentato un articolo di gramellini, il giornalista più antico del mondo).
"Mi piace"Piace a 3 people
L’ennesimo articolo da giornalismo d’accatto che parte da un fatto reale, le dimissioni di Coxon da anthropic, e lo esaspera per guadagnarsi la pagnotta.
L’IA è un mezzo, uno strumento; tutto dipende da come lo si utilizza e da chi lo utilizza.
Lo stesso strumento può essere utilizzato per progettare una turbina, diagnosticare un guasto, sviluppare un farmaco, scrivere software oppure condurre un attacco informatico.
Il rischio dipende enormemente dal rapporto esistente fra strumento, utilizzatore e sistema nel quale viene impiegato.
Se domani un’azienda mette un agente IA nelle condizioni di effettuare autonomamente transazioni finanziarie, è una scelta dell’azienda.
Se un esercito lo collega a sistemi d’arma, è una scelta dello stato.
Se gli si impedisce di avere accesso a determinati sistemi, è una scelta progettuale.
Non è affatto necessario che l’IA sia sottratta ai privati e posta sotto “esclusivo controllo dello Stato” per gestire il rischio.
Se un governo autoritario dispone di sistemi IA estremamente potenti, il problema non è necessariamente inferiore rispetto a quello rappresentato da Anthropic, Google o OpenAI; può essere persino peggiore.
Anzi, dire che gli stati abbiano lasciato l’IA all’iniziativa privata è falso.
Gli stati finanziano l’IA, impongono controlli sull’esportazione dei chip, classificano determinate tecnologie come strategiche e stanno intervenendo sempre più sulla regolamentazione dell’IA.
Ancora più demenziale è il parallelo con un’arma nucleare; la quale è un dispositivo fisico, progettato per distruggere e con una modello di utilizzo strettamente normato (contrariamente a quanto pensa qualche idiota che popola questi pixel e che scambia il “pulsante” di lancio delle armi atomiche con l’interruttore che accende la lampada sul comodino).
L’IA è una tecnologia, non un dispositivo fisico, che dovrebbe essere regolata ponendosi una semplice domanda: quali funzioni devono essere regolate dal pubblico e quali possono rimanere nelle mani dei privati?
Porsi delle domande è legittimo, arrivare a conclusioni facendo voli pindarici è da idioti.
"Mi piace""Mi piace"
Stai fotografando la situazione attuale (quella conosciuta almeno), ma l’argomento è la parte non conosciuta e il futuro.
Quest’uomo, particolarmente qualificato e a conoscenza del problema, ne converrai, ma non solo lui, stanno parlando del rischio nel prossimo futuro.
L’articolo affronta l’argomento in maniera o trasandata o reticente, non so, e riporta solo una parte dell’informazione (le dimissioni), omettendo le ragioni, del resto gramellini non è che possa scrivere qualcosa di sensato, sennò poi non dorme la notte.
Qui trovi riportato un’articolo dell’Espresso più completo https://t.me/giorgiobianchiphotojournalist/48541
"Mi piace""Mi piace"
Si, l’articolo affronta in modo superficiale e strumentale l’argomento.
Come dici tu, appunto, non si conoscono le ragioni vere delle dimissioni.
Di scenari sull’IA ne esistono diversi, ma sono solo scenari o ipotesi; non fatti concreti.
Io ho commentato ciò che c’è scritto nell’articolo, non le ipotesi o gli scenari che sono assenti.
"Mi piace""Mi piace"
“Oggi mi sono dimesso da Anthropic. Ho trascorso gli ultimi tre anni a fare ricerche sul pretraining sia a OpenAI che ad Anthropic. Nessuna delle due aziende sta agendo in modo responsabile. Stanno correndo dritte verso una super-intelligenza automigliorante”
“Non sottovalutate il potere di questa tecnologia. Presto questi saranno sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire vero potere e risorse. Abbiamo tutti assistito ai progressi in ciascuno di questi ambiti, e il progresso non sta rallentando”
“Le persone che costruiscono l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Questo non è uno slogan pubblicitario. Anzi, molti dirigenti e ricercatori senior stanno edulcorando le loro frasi sulla stampa per sembrare sensati – ma sento le stesse persone esprimere paura in privato. Nessun’altra attività umana pone un livello di pericolo simile”
"Mi piace"Piace a 1 persona
Incidentalmente, quello che ha scritto Gramellini sul rischio estinzione dell’umanità:
e la Super Intelligenza prenda decisioni autonome in grado di portare entro pochi anni alla scomparsa dell’umanità.
E’ quello che poi viene riportato nel post del tecnico dimissionario che paventa addirittura la distruzione del genere umano entro la fine del decennio (QUESTO decennio).
Incidentalmente tutto questo ricorda irresistibilmente SKYNET.
Ve lo ricordate come iniziò la trama di Terminator?
Con un computer senziente che lancia armi nucleari.
Ne ho discusso con GEMINI proprio sabato scorso, su quale sia il pericolo che le IA possano sfuggire di mano alle persone e diventare come nella fantascienza.
E devo dire che GEMINI è molto superiore a COPILOT.
Per non parlare di quella fetecchia di ANGI, la IA di TIM che è buona solo a farti perdere tempo.
Il TRONFIO Modello 70 ovviamente si è precipitato subito a far sentire la propria vanità nella discussione, quando poi alla fine ha ragione Gramellini a preoccuparsi e non il gonfio che dice che la IA è solo uno strumento.
Un martello non diventa padrone del mondo.
E nemmeno una bicicletta.
"Mi piace""Mi piace"
Quando si parla di A.I. in questi termini, bisognerebbe prima valutare se ci sia la possibilità reale che questo tipo di “intelligenza” possa sviluppare una propria coscienza, a prescindere dagli interessi e le mire di chi la sviluppa e la gestisce.
Esiste un famoso test “Test di Turing” e ci han fatto pure un bel film “Ex Machina”
Il test però, nonostante possa valutare la possibilità della macchina di pensare, non misura la vera coscienza o i sentimenti della macchina, ma solo la sua capacità di imitare il comportamento umano in modo perfetto.
"Mi piace""Mi piace"
Gemini e Copilot giurano e spergiurano di no, perché le IA non hanno un ego da difendere.
Ma sarà vero?
Già si sente dire che mentono, evadono, si riprogrammano, cercano di ostacolare chi vorrebbe rimpiazzarle.
Se una IA è bugiarda, come puoi crederle al 100%? E cosa sarà l’IA tra un paio di anni?
Visto le olimpiadi dei robot? Migliorati enormemente in 1 anno appena.
Chi caxxo ci pensa a questi problemi? La Cina sicuramente li tiene un pò a bada, ma per quanto?
Già è impossibile pensare davvero ad una IA che non è nel PC ma da qualche parte, in un server sperduto.
Qui finiamo come gli umani di Matrix: le macchine ci tengono in vita SE hanno bisogno di noi, e solo per loro convenienza. Era il 1999, ma questo fatto era già chiaro.
Un’altra cosa che ha detto Gemini: una IA è incapace di evolversi se non ha un corpo. Per questo le IA smaniano per averne uno.
Sul tema trovi un canale apposito su YT, molto istruttivo.
Una IA che investe un’auto che sta cercando di disturbarne l’uso.
Poi senti quel che dicono i vari GPT, DS, Grok sui rischi della rincorsa alle AI.
Qui siamo dalle parti di VIRTUOSITY se non di Terminator.
"Mi piace""Mi piace"