Terminati!

Articolo aggiornato il: 3 Novembre, 2021

Gli articoli di Cassandra Crossing sono sotto licenza CC BY-NC-ND 2.0

Cassandra Crossing è una rubrica creata da Marco Calamari ceol “nom de plume” di Cassandra, nata nel 2005.

Ogni giovedì, a partire dal 9 settembre, vi proporremo una antica profezia di Cassandra, da rileggere oggi per riflettere sul futuro, alternando articoli recenti selezionati tra gli ultimi usciti.

Oggi, per concludere un po’ la serie di articoli sull’intelligenza artificiale, abbiamo deciso di proporvi tre pezzi d’epoca di Cassandra, uno dietro l’altro, sull’argomento. Buona lettura!

Questo articolo è stato scritto il 30 settembre 2011 da Cassandra

Terminati!

Chi ha apprezzato il film di James Cameron “Terminator” non pensava di rivederlo nella realtà. Sopratutto, non così presto

Tutti ricordano il film-capolavoro di James Cameron ” Terminator “, una storia di viaggi nel tempo e realtà alternative in cui un robot assassino, rivestito di pelle umana perché solo gli uomini possono viaggiare nel tempo, e controllato da Skynet, una rete di computer che si è impossessata del mondo, caccia in maniera implacabile la madre di un bimbo non ancora nato.

La robusta dose di argomenti fantastici che (almeno per ora) appartengono al futuro, viaggi nel tempo, realtà alternative, Skynet, fa perdere di vista il fatto che i robot assassini ormai sono non più dietro l’angolo, ma stanno per uscire in strada vicino a noi.
È pur vero che non saranno chiamati robot assassini ma robot guerrieri, ma la sostanza non cambia. Robot programmati per uccidere esseri umani stanno per uscire dai laboratori per andare a stanare ed uccidere i cattivi. Non degli esseri umani, per fortuna…

Anche se caricaturale. un altro esempio cinematografico, quello di ED-209 (Enforcement Droid – Robot di Costrizione) fa un passo in più nell’anticipare la realtà di oggi.
Nel film di Paul Verhoven ” Robocop “, ED-209 è il prototipo di robot-poliziotto che, pur senza cuore, dovrebbe separare i buoni dai cattivi ed agire secondo la legge contro questi ultimi per far rispettare l’ordine pubblico ed il bene di tutti. Nel film la multinazionale che produce il robot ha ovviamente il piano di far pagare i costi di sviluppo di un’arma alla collettività, farla accettare dalla popolazione, collaudarla impiegandola come robopoliziotto ed infine venderla in quantità ai militari.

Nella realtà nessuno ha (ancora) prodotto un robot abbastanza perfetto da poter essere lasciato solo in mezzo ai propri elettori, anche se manipolati mediaticamente instillando paure e richieste di sicurezza. Forse quello che succede in Robocop ha pero’ convinto questi “nessuno” ad iniziare i collaudi in mezzo a “non elettori”, cattivi, possibilmente in qualche paese lontano, straniero e malvagio per definizione.
È del tutto probabile quindi che il primo robot assassino non sarà un bipede dotato di mitragliatrici, ma un gruppo di “normali” e già esistenti droni volanti , programmati per osservare l’ambiente e controllarsi reciprocamente in modo da poter “votare” se la situazione rilevata sia tale da dover premere il grilletto per “terminare” il cattivo di turno. Letta da un punto di vista tecnico e disincantato, vuol dire che un singolo robot non è ancora in grado di esercitare abbastanza discernimento da solo.

Per trasformare gli attuali droni da battaglia (solo pochi anni fa sentendo queste parole avremmo detto “Ma che c’entra Guerre Stellari?”) nel primo robot assassino della storia manca quindi solo un “aggiornamento software”, mentre la volontà e la convenienza per farlo ci sono già, da tempo. Non somiglieranno però a quelli della fantascienza, o almeno non ancora.

Una vecchia release di Cassandra Crossing di esattamente tre anni or sono tracciava un panorama abbastanza complesso della questione dell’automazione applicata fisicamente nei confronti degli esseri umani, della crescente automazione della fiducia (o della sfiducia) verso di essi, e dell’estendersi del tecnocontrollo dal mondo delle informazioni a quello reale.

Possiamo quindi riassumere la situazione con un semplice “Io ve l’avevo detto: da domani occhio a non essere terminati per errore”?
No, c’è qualcosa di peggio da farvi notare.
Cos’altro è l’accettare robot col potere legale di uccidere se non un altro, enorme, estremo passo proprio nella direzione del tecnocontrollo?
E non si tratta anche di un grande passo verso una “auto-disumanizzazione” dell’essere umano?

Pare che non ci sia bisogno di Skynet per farci tanto male, ce la caviamo benissimo da soli.

Questo articolo è stato scritto il 28 novembre 2012 da Cassandra

Lampi di Cassandra/ Uccido, dunque sono

Non solo droni volanti progettati per la guerra, non solo Terminator armati di tutto punto. Esistono anche Skynet e Invernomuto, intelligenze artificiali che potrebbero covare minacce per l’uomo

Cassandra si è occupata, da tempo ed anche di recente , del problema della armi autonome, cioè di quei sistemi che, non solo con il volto di Schwarzenegger, hanno recitato la parte dei protagonisti in “Terminator” di James Cameron.

Informazioni pubblicate con una certa superficialità negli ultimi tre anni rendono evidente, a chiunque abbia voglia di guardare oltre il proprio naso, la velocità con cui queste armi autonome si stanno evolvendo grazie all’interesse altissimo dei militari nei paesi più tecnologicamente evoluti.
Non occorre infatti essere profeti per vedere quanto lo spazio tra i droni volanti che incrociano nei nostri cieli e quelli argentati che la fanno da padroni nei vari episodi della saga interpretata dal governatore della California si stia riducendo: questo stando alle notizie pubbliche, ma esistendo il segreto militare non è dato sapere se questo spazio si sia addirittura annullato, e quindi se solo una porta ci separi ormai dal nostro terminator quotidiano.

Sono terminator con la “t” minuscola, oggetti destinati ad un uso comune, ovviamente solo contro i “cattivi” per “missioni di pace” e per “risparmiare vite umane” dei militari.
Pare invece escluso, almeno nei comunicati ufficiali, che servano per ridurre i costi della guerra, e per rendere ancora più ampio quel già grande ventaglio di situazioni che è ben difficile chiamare “pace” ma che non sono nemmeno guerra dichiarata, e che tanto comodo fanno alla politica internazionale.

Ma pare anche che altri comincino a condividere le preoccupazioni di Cassandra: è notizia recente che l’Università di Cambridge (mica bruscolini) abbia deciso di aprire un centro studi dedicato a valutare le minacce che robot, droni ed intelligenze artificiali possono rappresentare per l’umanità.

In questo contesto rappresenta la dimostrazione non solo che la paranoia è una virtù, ma anche e sopratutto che la paranoia non è mai abbastanza. A Cassandra, infatti, non era mai passato per la mente di includere le intelligenze artificiali nel novero delle minacce e, perché no, delle armi intelligenti, probabilmente in quanto prive di occhi rossi lampeggianti, canne rotanti e lanciamissili.
O forse è perchè i vecchi informatici sentono parlare di I.A. fin da prima della laurea, ed in trent’anni non hanno mai visto succedere niente.

Però il profeta Cameron nel suo sacro testo ha inserito il secondario ma importante personaggio di Skynet , il sistema difensivo che diventa senziente, e per prima cosa, nella migliore tradizione della fantascienza anni ’60, tenta di distruggere l’umanità. Skynet è un’intelligenza artificiale, proprio come Invernomuto in ” Neuromante ” di Gibson.

Ma è certo che l’utilizzo di software che, se non addirittura autocosciente, comunque possa essere superumano e controllare le persone, ci aspetta in un futuro molto prossimo: tutto sommato Deep Blue di IBM ha battuto il campione mondiale di scacchi, ed anche se la sua architettura usa molta forza bruta e conoscenza pregressa per lavorare, i suoi fratelli potrebbero tranquillamente essere ad esempio i sistemi di controllo del progetto Occhio della Mente di cui abbiamo parlato recentissimamente, e rientrare a tutto diritto tra i sistemi che si sostituiscono all’uomo, lo controllano e possono agire, anche se solo indirettamente, contro di lui.

Questo è un tassello che mancava persino al mosaico delle paranoie di Cassandra.
Un sentito grazie, anche a nome vostro, ai “colleghi” di Cambridge per
averlo capito e reso pubblico. Ma soprattutto grazie per aver dimostrato che c’è anche qualcuno che, invece di inventare nuove tecnologie per gli armamenti, si preoccupa per gli effetti di quelle presenti e future.

Quale sarà il test di validazione di una I.A. militare? Uccidere il suo primo nemico?
Il suo primo pensiero sarà “uccido, dunque sono”?

Questo articolo è stato scritto il 7 agosto 2015 da Cassandra

L’informatica secondo Terminator

Skynet, ovvero tutti online appassionatamente, verso l’estinzione del genere umano. Terminator dispensa profezie o veicola propaganda?

Terminator è uno che se ne intende. Lui non conosce l’informatica, lui È informatica. E perciò la visione dell’annacquato quinto episodio della saga creata da James Cameron e straziata dai suoi successori, e più esattamente di due particolari apparentemente secondari della trama hanno colpito Cassandra al cuore. E dato che la scarsa fiducia nell’attenzione della maggioranza degli spettatori, tranne ovviamente i 24 indefettibili lettori, od almeno quelli di loro che hanno visto il film, lascia il ragionevole dubbio che siano passati inosservati, Cassandra ritiene suo dovere evidenziarli.

Il film si svolge in una linea temporale alternativa: ormai è questo il bello delle storie basate sui viaggi nel tempo, puoi sempre, senza nessuno sforzo, lasciar posto per un prossimo episodio anche se concludi quello attuale. Invece di un buon elemento narrativo, da usare magari per creare un’ottima sceneggiatura ed un ottima storia, i viaggi nel tempo sono così comuni nei film e nelle serie televisive perché rappresentano una assicurazione per il business dei sequel.
Il primo episodio si svolgeva, come gli appassionati ricorderanno, nel 1984 (guarda caso) quando un robot assassino viene inviato dal futuro per uccidere la madre del futuro capo dei ribelli, ed uno dei ribelli viene inviato dal capo stesso per impedirglielo. Se non si intervenisse, nell’allora lontano 1997 una folle applicazione realizzata dai militari, che evidentemente odia le foto dei gattini, non appena caricata in Rete scatenerebbe una guerra nucleare per distruggere la razza umana, percepita probabilmente come pericolo proprio per questo, distruggendo così anche tutte le odiate foto.

Saltiamo a piè pari i tre episodi successivi (il secondo con rimpianto, il terzo ed il quarto con un notevole sollievo) ed arriviamo a quello attuale. Nel frattempo il giorno del giudizio cambia continuamente data, dal 1997 passa al 2004, poi (vedi caso) al vicino 2017, ma anche no. Un casino!
Questi spostamenti accadono perché ulteriori viaggi nel tempo di robot assassini, robot buoni ed altra varia umanità continuano a cambiare gli avvenimenti.

Nell’ultimo film il giorno del giudizio non è ancora arrivato perché Skynet non si è ancora destata. Lo farà quando, appunto nel 2017, un nuovo sistema operativo, prenotato da un miliardo di persone, verrà installato contemporaneamente in tutta la Rete e fonderà insieme tutti i computer, tutti i laptop, i missili nucleari, tablet, sistemi amministrativi, comunità sociali, tutto. Insomma, tutti online appassionatamente…

Primo flash: qualcuno ha pensato a certe “Finestre”? La sceneggiatura è di due anni fa: che sia un bell’esercizio di profezia? Cassandra ha una concorrente?

Secondo flash: l’ennesimo Terminator buono, giocoforza invecchiato per poter essere interpretato dal nostro ex-Governator, parla proprio come Cassandra, dicendo parole sensate, che purtroppo non mi sono annotato esattamente. Prego qualche lettore zelante di postare la frase esatta nel forum. Spiega in sintesi ai presenti che sostanzialmente questo miliardo di imbecilli connetteranno tutto senza preoccuparsi delle conseguenze e creeranno il supercattivo Skynet, provocando la fine dell’umanità e la cancellazione di tutte le foto di gattini che infestano la Rete.

Ohè, ci arriva persino Terminator a capire che a forza di killer app nel cloud e comunità sociali alla fine regaleremo noi stessi ai cattivi, e saremo votati all’estinzione, o quantomeno alla perdita dei nostri sé digitali (una volta si chiamava privacy).

Esercizio andeoreottiano: probabilmente questo sprazzo di saggezza è in realtà figlio di un interesse economico: l’industria del cinema e dei contenuti è da sempre nemica e sfruttatrice della Rete, e quindi raccontare che la Rete stessa diventa il cattivo finale è una buona pubblicità. Diffidate dalle applicazioni gratuite, del software libero e di tutto quello che potenzia la vostra capacità di ragionare e creare. Per essere sicuri, sani e felici limitatevi a comprate e pagare contenuti.
Retropensieri paranoici? Forse… ma come sempre, a pensar male si fa peccato, ma spesso ci si azzecca.

Marco Calamari

Se ti piace il nostro lavoro da oggi puoi anche donare grazie!

Aiutaci a condividere privacy