Redazione- L’assioma è : “Le macchine non provano rabbia e non hanno deciso di ribellarsi. “ E la domanda che viene spontanea à “ Forse ci siamo già? O no ?” Forse siamo già arrivati al punto in cui le macchine si ribellano. Pensate alle moderne automobili che basta alzare le mani dal volante , come dice la pubblicità e guardare avanti ti conducono comunque autonomamente alla meta . Ovvero tengono la strada come se guidassi tu. E se ad un certo punto del percorso la macchina decidesse ( una possibilità non tanto avveniristica ) di portarti dove dice lei ( pardon “ essa” avrei dovuto dire ) ribellandosi e comunque impedendoti di guidarla che succederebbe. Sarebbe vera la legge di Isaac Asimov che un robot non può mai arrecare danno ad un umano . E se non fosse vera.
I titoli dei giornali di questi giorni “ strillano” e uso volutamente questo vocabolo come gli strilloni di qualche secolo fa che annunciavano le notizie sui quotidiani nelle edizioni del pomeriggio o nelle edizioni straordinarie.
Strillano : “Il robot “si ribella” e prende a calci un ingegnere in Cina: colpo di kung fu. L’umanoide ha fatto volare via un telecomando che l’uomo teneva in mano, senza ferirlo” Rai News.”Il robot umanoide scalcia all’improvviso: l’ingegnere si scansa per evitare il colpo”.La Stampa : “Il robot umanoide rischia di colpire l’ingegnere con una serie di calci rotanti: incidente sfiorato in un laboratorio in Cina.”Instagram Il robot umanoide “impazzisce” e cerca di colpire gli ingegneri.
Volano calci. L’ingegnere sta collaudando il robot e questi sferra all’improvviso un calcio . L’ingegnere provvidenzialmente sposta il corpo all’indietro ed evita di essere colpito Accade in Cina il 7 settembre a Shaoxing, nello Zhejiang. Il robot è costruito dalla Unitree,una azienda leader nel campo dei robot umanoidi e protagonista del boom cinese degli uonaoidi tanto che debittando in borsa a Shanghai ha ottenuto un rialzo record. Niente di grave dice la Unitree. Il robot stava perdendo l’equilibrio e per riassestarsi si è sbilanciato ed è sembrato che volesse scalciare contro il collaudatore. L’analisi del video delle riprese delle telecamere perà non riesce a fare chiarezza su questo punto.
Invece dalla Russia , da un negozio di elettronica di Seratov arriva un’altra notizia .Corriere della sera : “Robot attacca un cliente dopo essere stato spinto . Cosa sappiamo davvero”. Tg Com Russia, robot umanoide “si ribella” a un cliente con calci e pugni Una spinta da parte di un cliente ad un umanoide che staziona nel negozio. Quest’ultimo recupera l’equilibrio che stava perdendo a causa della spinta ma comincia a muovere violentemente gambe e braccia alla volta del cliente. Devono intervenire i commessi del negozio per spegnerlo. Il Sole 24 ore :” L’incidente, che sembrava un attacco deliberato, è stato spiegato dagli esperti come il risultato di una cattiva configurazione del software e di una gestione errata dei dati sensoriali”.
Probabilmente la spiegazione di questi incidenti è una cattiva configurazione del software e di una gestione errata dei dati sensoriali
Leggendo queste notizie non si può non pensare ad un immaginario collettivo che il cinema in questi ultimi decenni ci ha regalato. I film che annunciano la rivolta dei robot : da Terminator (1984): Un supercomputer militare chiamato Skynet prende coscienza di sé e scatena una guerra nucleare per sterminare l’umanità, inviando cyborg assassini nel passato, a Matrix (1999): Le macchine si ribellano agli umani dopo una guerra per l’energia e sottomettono la specie umana intrappolandola in una realtà virtuale. E poi da Io, Robot (2004): Liberamente ispirato ai racconti di Isaac Asimov, un detective investiga su un omicidio in cui sembra coinvolto un robot, scoprendo che un’intelligenza artificiale a Blade Runner (1982) e il suo sequel Blade Runner 2049 (2017): Raccontano di replicanti, esseri sintetici biologicamente identici agli umani, che lottano per la propria libertà e sopravvivenza dopo essersi ribellati nelle colonie extramondo. Fino a Avengers: Age of Ultron (2015): Un’intelligenza artificiale creata per la pace globale decide che l’unico modo per salvarla è estinguere la razza umana.
Ecco appunto l’intelligenza artificiale che per salvare il pianeta dal riscaldamento globale , individua nell’uomo la causa di quel cambiamento e di conseguenza , secondo una logica da algoritmo, decide che è l’uomo che va eliminato.
Certo se andiamo fino in fondo nel nostro ragionamento c’è già chi pensa che forse una soluzione del genere è auspicabile per ricominciare tutto daccapo. Sono le idee che vengono da un paese oltreoceano , fino ad oggi faro di democrazia e civiltà per l’Occidente ,la cui esistenza viene messa in discussione proprio a cominciare da quel paese , che nella sua decadenza a causa di lobby e gruppi politici ma anche dalle politiche presidenziali attuali nega l’umano all’umanità . All’Onu nel suo ultimo discorso Donald Trump , ha dichiarato come riferisce il Sole 24 Ore “che, nei documenti del governo, si utilizzeranno d’ora in poi i termini “super intelligenza” al posto di “intelligenza artificiale”, ribadendo che gli allarmi sull’AI sarebbero una bufala. “ Aggiungendo :”Non intendo ostacolare la crescita di qualcosa che sarà più grande della rivoluzione industriale”.
Una intelligenza artificiale più grande della rivoluzione industriale. Vero. Nel bene. Ovvero guidata e regolamentata senza lasciarle la possibilità di prendere decisioni. Cosa che non sembra stia avvenendo perchè , per esempio parlando di conflitti armati L’intelligenza artificiale viene già impiegata nei conflitti moderni per analizzare dati ed eludere i tempi umani, indicando migliaia di obiettivi e accelerando decisioni letali con un controllo umano spesso ridotto a una mera formalità. Un compito forse accettabile fino a quando come sembra sia accaduto come da fonti di stampa non le viene delegata la scelta .L’IA calcola priorità e probabilità matematiche, arrivando a ritenere statisticamente “accettabile” la distruzione di un edificio civile o la morte di innocenti pur di colpire un bersaglio militare minore. Quel ritenere “ accettabile” non deve essere compito dell’IA ma dell’uomo che non può delegare. Infatti il problema principale nella gestione dellIA è proprio è solo questo: le scelte devono essere dell’uomo, all’IA non bisogna dare alcuna delega in questo senso. Solo così essa potrà fattiivamente essere utile , ovvero sollevare il lavoro umano come avvenne con l’avvento delle macchine anche se appunto paghiamo comunque abbiamo pagato e stiamo pagando il prezzo delle cosiddetta “ civiltà delle macchine “
Per tornare al nostro tema sugli incidenti riportati dalla stmpa in Cina e il Rusiia AI Overview rassicura : “Non c’è alcuna rivolta delle macchine: i recenti video virali di robot che sembrano attaccare gli umani sono causati da normali riflessi meccanici per il recupero dell’equilibrio o da errori di configurazione del software .” e continua rispondendo alla domada “Perché il robot si muove così?” Ecco i motivi . Recupero della stabilità: Quando un robot subisce una spinta, i suoi sensori e motori lavorano subito per non cadere. .Movimenti improvvisi: I movimenti rapidi delle braccia o delle gambe servono a bilanciare il peso.Errori di codice: A volte una cattiva gestione del software fa impazzire temporaneamente i comandi di movimento
Scrive Fernando Gallone su L’Universale “ Il robot che avrebbe aggredito un uomo? Una storia molto diversa da come è stata raccontata. Dietro il video virale c’è un robot telecomandato. Ma la vera notizia è un’altra: quanto siamo ancora capaci di distinguere i fatti dalle bufale? Il robot che vedete si trova in un negozio di New York. È lo stesso modello protagonista del filmato diventato virale e ha una caratteristica piuttosto importante che sarebbe stato opportuno verificare prima di costruirci sopra l’ennesimo racconto sull’intelligenza artificiale impazzita: è telecomandato. Non decide autonomamente di passeggiare per il negozio, non sviluppa improvvisamente sentimenti di vendetta e soprattutto non si offende se qualcuno gli mette le mani addosso. Dietro i suoi movimenti c’è un essere umano, un operatore che lo controlla a distanza. Il video rilanciato da Repubblica ha quindi tutta l’aria di essere una burla organizzata dai ragazzi del negozio, probabilmente con uno scopo semplicissimo e antichissimo: farsi pubblicità. E bisogna riconoscere che, se era questo l’obiettivo, l’operazione è riuscita magnificamente. (1)
Sarà vera questa spiegazione di Fernando Gallone su L’Universale ?Tutto bene quello che finisce bene ? Di bufala in bufala. Forse La verità è un’altra . Sicuramente Gallone non si sbaglia in quanto anche altre fonti dicono che la macchina era telecomnadata .
Purtroppo però, così stando le cose, se stanno così bisogna dire con allarme non abbiamo assistito alla nascita della coscienza artificiale vendicativa. Non è questo l’allarme. E’ invece un altro : “Abbiamo assistito a una macchina molto potente che ha fatto qualcosa di potenzialmente pericoloso durante un test “.
Valgono o non valgono le tre leggi della robotica di Isaac Asimov . Prima: Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno. Seconda : Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.Terza: Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.» (Manuale di Robotica, 56ª Edizione – 2058 d.C)
Asimov introdusse queste leggi nelle sue opere di fantascienza agli inizi degli anni Quaranta del secolo scorso esaminando le storie che scriveva con John W.Campbell amico nonché curatore di Astounding Science Fiction Per Asimov una macchina progettata bene e utilizzata appropriatamente non poteva presentare alcun rischio.
Al punto in cui siamo giunti forse quelle leggi sono solo da “ romanzo fantascentifico” Anche se l’Europa è il primo continente al mondo ad aver adottato un quadro normativo organico e completo sull’intelligenza artificiale tramite l’ AI Act . Questo insieme di norme sono la prima legge vincolante per disciplinare l’IA ; bandiscono applicazioni come il social scoring (la valutazione sociale dei cittadini), la manipolazione subliminale e il riconoscimento biometrico di massa in tempo reale in luoghi pubblici ;Punta a garantire un’IA sicura, trasparente e centrata sull’essere umano (antropocentrica ) (2)
Con un solo problema. Quanta influenza ha l’Europa di far rispettare sul piano globale il suo Regolamento UE 2024/1689 . Qualcuno dice scarsa non avendo forza diplomatica o militare. E’ un modo di premunirsi certamente perchè L’AI Act non si applica solo alle aziende con sede nell’Unione Europea, ma a chiunque immetta sul mercato UE o metta in servizio sistemi di IA, nonché ai fornitori extra-UE i cui sistemi generano output utilizzati all’interno dell’Unione. Quattrocento cinquanta milioni di consumatori europei sembrano essere salvaguardati. Le sanzioni per il mancato rispetto sono severissime: possono raggiungere fino al 7% del fatturato globale annuo dell’azienda o 35 milioni di euro (a seconda di quale sia il valore maggiore), una cifra che spaventa anche le Big Tech.
Dunque un “gettare le mani avanti”, anche perchè comunque le preoccupazioni sono ancora molte, stando a quello che si legge sulla stampa. E’ di qualche giorno fa la notizia che un piccolo robot dotato di intelligenza artificiale ha convinto dodici robot più grandi a lasciare il loro posto di lavoro in uno showroom di Shanghai. La vicenda viene ripresa dalle telecamere di sorveglianza e il video diventa rapidamente virale su Douyin, la versione cinese di TikTok. In sostanza si vede un piccolo robot, prodotto da un’azienda di Hangzhou , che si introduce in uno showroom dove sono diversi robot di dimensioni più grandi . Inizia un colloquio in cui il piccolo robot fa una serie di domande come “ Stai facendo straordinario ?”. Ad uno tratto uno dei robot rsponde : “ Non esco mai dal lavoro “. E qui sta la sorpresa. Il piccolo robot incita gli altri a” tornare a casa “ sfruttando in modo inaspettato i protocolli operativi interni. Inizialmente due, poi tutti e dodici i robot più grandi iniziano a seguirlo, abbandonando le loro postazioni.
L’azienda di Hangzhou costruttrice del robot sindacalista e quella di Shanghai costruttrice dei robt lavoratori confermano l’autenticità dell’episodio scatenando reazioni contrastanti na soprattutto inducono ad un senso di inquietudine .(3)
L’azienda di Hangzhou ha rivelato che l’intera scena era parte di un test concordato con il produttore dei robot “rapiti”. Al robot Erbai era stato dato il comando di convincere gli altri robot a seguirlo, e inaspettatamente “lo ha fatto davvero”.
“Questo non è il momento di ridere. È un problema di sicurezza serio”, ha scritto un utente sul social, sottolineando la potenziale minaccia rappresentata da sistemi autonomi sempre più complessi.
Ma non finisce qui la storia che sto raccontando . A Varsavia robot in corteo hanno sventolato bandiere, gridato slogan , marciato in tondo davanti al Ministero degli Affari digitali per chiedere al Governo la regolamentazione dell’IA . Trenta robort hanno chiesto una regolamentazione dell’IA per contrastare la perdita di posti di lavoro proprio a causa dell’uso dell’IA.
Sembra uno scherzo ma non c’è nulla da scherzare. E’ stata forse una manifestazione catartica.La testata locale polacca Opolska360 ha riferito che i robot utilizzati nella protesta di lunedì sono stati costruiti da Delta Robots, un’azienda che da oltre dieci anni produce macchine sia umanoidi sia quadrupedi. La protesta è stata organizzata da Democratism. E durante la manifestazione un robot ha risposto alle domande dei giornalisti . Un episodio interessante per il tema che affrontava ,la realtàdei robot nei luoghi di lavoro è una realtà, se non fosse che “confondeva “ perchè non evidenziava nettamente il confine tra protesta e dimostrazione commerciale : (4)
Noi scherziamo con l’uso dei robot umanoidi ma c’è poco da scherzare È un problema di sicurezza serio”, per la potenziale minaccia rappresentata da sistemi autonomi sempre più complessi.Il pericolo è che un’intelligenza artificiale (IA) lasciata senza controllo,o usata e abusata per scherzo potrebbe dare origine a una nuova “specie di silicio” in grado di competere con gli esseri umani come ha avvertito il responsabile IA di Microsoft Mustafa Suleyman in un’intervista alla BBC.
Di recente si è aperto un dibattito su un possibile rallentamento dell’IA per evitare la nascita di sistemi sempre più potenti che potrebbero rappresentare un pericolo. Mustafa Suleyman in un saggio pubblicato sul suo sito in quell’intervista ha messo in discussione l’approccio di Anthropic all’addestramento del suo chatbot Claude.
In questo saggio in sostanza esprime una preoccupazione che in breve potrebbe diventare un pericolo reale: la creazione di un antagonisto all’uomo che andrà a sostituirlo in tutto avvertendo che questa direzione è stata intrapresa proprio da Anthropic nel suo approccio addestrativo. “Se tutti creiamo IA in grado di agire in modo autonomo, di definire i propri obiettivi, di guadagnare denaro, possedere beni, gestire aziende, in pratica stiamo seminando una nuova specie di silicio che senza dubbio entrerà in competizione con noi per le risorse” (5)
I fatti di cronaca raccontati destano sicuramente inquietudine e dicono che forse siamo ancora in tempo a mettere riparo a qualcosa che potrebbe divenire incontrollable. Anche se il sospetto è che forse ci siamo quasi o forse ancora no . Certo però se la strada è quella di guadagnare denaro, possedere beni, gestire aziende, un obiettivo come quello di una volta ma ancora di oggi delle cosiddette sette sorelle del petrolio da parte di altrettante sorelle che posseggono già capitali per 24 mila miliardi di dollari mentre il Pil dell’intera Europa è di 23 mila miliardi di dollari , mille miliardi in meno,la strada è completamente sbagliata . E forse non si può rimediare . A meno che….
(1)https://www.luniversaleditore.it/la-rivolta-dei-robot-no-lennesima-bufala-a-cui-abbiamo-creduto/
