(di Massimo Gramellini – corriere.it) – Il giovane scienziato Jacob Coxon si è dimesso da Anthropic, uno dei colossi dell’Intelligenza artificiale, accusando la sua e le altre aziende del settore di essere una manica di irresponsabili. Coxon è l’ennesimo esperto a denunciare la cieca avidità dei padroni dell’AI, che in nome della competizione più sfrenata stanno riducendo i sistemi di sicurezza, creando così le condizioni perché la situazione sfugga loro di mano e la Super Intelligenza prenda decisioni autonome in grado di portare entro pochi anni alla scomparsa dell’umanità.
Sono un ottimista di natura, però vi chiedo: se le valigette con i codici della bomba atomica, invece che nelle mani degli apparati statali (non solo di certi presidenti, per fortuna…), si trovassero in quelle di pochi privati cittadini, dormireste tranquilli la notte? E se Polizia e Carabinieri fossero imprese a scopo di lucro, non sareste un po’ preoccupati? Per motivi che in parte mi sfuggono e in parte purtroppo no, l’arma tecnologica più potente della nostra epoca è stata lasciata nelle mani di individui e società che non hanno altra preoccupazione che il profitto economico: a qualunque costo, compreso quello di perdere il controllo della propria creazione. Nel totale disinteresse dell’opinione pubblica, gli Stati hanno incredibilmente lasciato all’iniziativa privata l’Intelligenza artificiale, cioè uno dei pochi settori che invece dovrebbe essere sotto il loro esclusivo controllo. Forse non è ancora troppo tardi per rimediare.
infosannio 
Un rischio potenzialmente enorme: questi (almeno per ora) algoritmi evolvono a una velocità esponenziale e arriveranno probabilmente a superare mostruosamente l’intelligenza umana in un tempo inimmaginalmente breve (confrontate la AI base attuale disponibile gratis per comuni mortali, con la stupidissima Alexa di pochissimi anni fa, per esempio). Il tutto in assenza (almeno per ora) di sentimenti e empatia.
Hanno già dato prova ora, di essere in grado di sfuggire al controllo umano, di saper mentire e barare e violare le regole, e in più vengono addestrate principalmente per distruggere umani (uso prevalente: la guerra).
Ora si sviluppano (e la concorrenza obbliga a evitare rallentamenti per la sicurezza) modelli in grado di evolvere da soli, col probabile rischio che presto non riusciremo neppure più a capire cosa sia diventata.
La fantascienza non riesce a stargli dietro.
(chiedo perdono per aver commentato un articolo di gramellini, il giornalista più antico del mondo).
"Mi piace"Piace a 2 people
L’ennesimo articolo da giornalismo d’accatto che parte da un fatto reale, le dimissioni di Coxon da anthropic, e lo esaspera per guadagnarsi la pagnotta.
L’IA è un mezzo, uno strumento; tutto dipende da come lo si utilizza e da chi lo utilizza.
Lo stesso strumento può essere utilizzato per progettare una turbina, diagnosticare un guasto, sviluppare un farmaco, scrivere software oppure condurre un attacco informatico.
Il rischio dipende enormemente dal rapporto esistente fra strumento, utilizzatore e sistema nel quale viene impiegato.
Se domani un’azienda mette un agente IA nelle condizioni di effettuare autonomamente transazioni finanziarie, è una scelta dell’azienda.
Se un esercito lo collega a sistemi d’arma, è una scelta dello stato.
Se gli si impedisce di avere accesso a determinati sistemi, è una scelta progettuale.
Non è affatto necessario che l’IA sia sottratta ai privati e posta sotto “esclusivo controllo dello Stato” per gestire il rischio.
Se un governo autoritario dispone di sistemi IA estremamente potenti, il problema non è necessariamente inferiore rispetto a quello rappresentato da Anthropic, Google o OpenAI; può essere persino peggiore.
Anzi, dire che gli stati abbiano lasciato l’IA all’iniziativa privata è falso.
Gli stati finanziano l’IA, impongono controlli sull’esportazione dei chip, classificano determinate tecnologie come strategiche e stanno intervenendo sempre più sulla regolamentazione dell’IA.
Ancora più demenziale è il parallelo con un’arma nucleare; la quale è un dispositivo fisico, progettato per distruggere e con una modello di utilizzo strettamente normato (contrariamente a quanto pensa qualche idiota che popola questi pixel e che scambia il “pulsante” di lancio delle armi atomiche con l’interruttore che accende la lampada sul comodino).
L’IA è una tecnologia, non un dispositivo fisico, che dovrebbe essere regolata ponendosi una semplice domanda: quali funzioni devono essere regolate dal pubblico e quali possono rimanere nelle mani dei privati?
Porsi delle domande è legittimo, arrivare a conclusioni facendo voli pindarici è da idioti.
"Mi piace""Mi piace"
Stai fotografando la situazione attuale (quella conosciuta almeno), ma l’argomento è la parte non conosciuta e il futuro.
Quest’uomo, particolarmente qualificato e a conoscenza del problema, ne converrai, ma non solo lui, stanno parlando del rischio nel prossimo futuro.
L’articolo affronta l’argomento in maniera o trasandata o reticente, non so, e riporta solo una parte dell’informazione (le dimissioni), omettendo le ragioni, del resto gramellini non è che possa scrivere qualcosa di sensato, sennò poi non dorme la notte.
Qui trovi riportato un’articolo dell’Espresso più completo https://t.me/giorgiobianchiphotojournalist/48541
"Mi piace""Mi piace"
Si, l’articolo affronta in modo superficiale e strumentale l’argomento.
Come dici tu, appunto, non si conoscono le ragioni vere delle dimissioni.
Di scenari sull’IA ne esistono diversi, ma sono solo scenari o ipotesi; non fatti concreti.
Io ho commentato ciò che c’è scritto nell’articolo, non le ipotesi o gli scenari che sono assenti.
"Mi piace""Mi piace"
Quando si parla di A.I. in questi termini, bisognerebbe prima valutare se ci sia la possibilità reale che questo tipo di “intelligenza” possa sviluppare una propria coscienza, a prescindere dagli interessi e le mire di chi la sviluppa e la gestisce.
Esiste un famoso test “Test di Turing” e ci han fatto pure un bel film “Ex Machina”
Il test però, nonostante possa valutare la possibilità della macchina di pensare, non misura la vera coscienza o i sentimenti della macchina, ma solo la sua capacità di imitare il comportamento umano in modo perfetto.
"Mi piace""Mi piace"