Futuro | Stefano Cecere

Videogiochi per educare al futuro

Mon, 06 May 2024 00:00:00 +0000

Mi hanno chiesto di scrivere qualcosa su quello che faccio che è particolarmente innovativo e “utile” al mondo. E così ecco un primo articolo sul tema dei videogiochi umanitari e per l’educazione.

Che dite: sarebbero cose interessanti da portare al Parlamento Europeo? Quante cose potremmo fare con la rete di contatti e risorse a cui ha accesso un europarlamentare, se usate a fin di bene e non per i lobbisti delle armi e degli allevamenti intensivi?

Come vedete si può fare “attivismo” anche con il proprio lavoro. O meglio cercare di unire professione e missione. Il mondo dell’educazione e dei nuovi media ha bisogno di persone con idee, capacità ed energia.

ECCO IL POST 👉🏼 https://beppegrillo.it/videogiochi-per-educare-al-futuro/

PS: sono particolarmente grato a Beppe Grillo. Fu uno spettacolo che vidi negli anni ‘90 che mi attivò… ne accenno in un post che scrissi il 3 maggio … 2005!!! leggete qui essere sul suo blog in prima pagina è quasi quanto suonare con Battiato! quasi eh :)

SUM#05 - Gianroberto Casaleggio tra storia e futuro ci sono le idee

Wed, 14 Apr 2021 00:00:00 +0000

questa è la settimana del SUM#05, l’evento sul futuro nato in memoria di Gianroberto Casaleggio, e quest’anno, a cinque anni dalla morte, è incentrato sulle sue idee e chi l’ha conosciuto condivide qualcosa.

Nel mio piccolo sono associato da diversi anni alle varie iniziative dell’ Associazione Gianroberto Casaleggio, perché ho ritrovato in lui molta ricerca storica e culturale, e un ottima rielaborazione e soprattutto attuazione per il futuro. è un peccato che lo si conosca così poco, e quel poco che si sa sono quasi tutti pregiudizi. a me piace approfondire le persone che ho davanti, soprattutto se si fanno promotrici di progetti rivoluzionari.. non regalo la mia fiducia tanto facilmente.

![video](https://youtu.be/imZXoO9iQkw)

Non tutti cercano riflettori o megafoni

le buone idee non devono essere tenute nel cassetto

la tentazione di imporre idee agli altri è sempre forte

ma è più valido che siano gli altri ha capire e portare avanti le idee

così la tua morte non può fermare i processi rivoluzionari

è questo secondo me il messaggio più importante di V per Vendetta

ma c’è un problema se le tue idee sono troppo avanti, troppo nel futuro

se hai una cultura immensa è facile fare collegamenti e previsioni

meno facile è farsi capire da chi quella cultura non ha

per questo dovrebbe interessarci da dove arriva una persona, cosa ha studiato, di cosa si è interessato

e lì possiamo capirci

io questo studio l’ho fatto, altrimenti non sarei quia fare questo video per ricordare Gianroberto Casaleggio

più che ricordare l’uomo, più che rendere omaggio ad un corpo
è più interessante ricordarne le idee e i progetti
ma non con un sospiro “ahh come era bravo lui ahh cosa avrebbe fatto lui ora”
bensì per ricercare da dove arrivavano quelle idee, e dove volevano andare

se un’idea è valida, è perché ha una sua storia e una sua immagine a futuro

e ci sono momenti in cui il terreno è pronto per essere inseminato dalle nuove idee

e la bravura, o la fortuna, sta nell’aspettare il momento giusto e trovare le forme migliori per comunicarle e lanciarle nel mondo

che piaccia o no, l’Italia è cambiata negli ultimi 10 anni: ad esempio oggi si parla di reddito di cittadinanza, di politica in rete, di vegetarianesimo, di decentralizzazione, di cittadini che si fanno Stato, di responsabilità politica e di politici come “nostri dipendenti”, di onestà innanzi tutto … sono semplici parole ma concentrano idee e progetti enormi

quando ne parlavamo 20 anni fa erano utopie o eresie.
Gianroberto è riuscito invece a farle realtà, senza imporle con la violenza dei dogmi o dell’autorità

certamente ci sono cose che non comprendo e non ho condiviso, ad esempio perché non abbia spinto fin da subito l’open source o una teoria dell’organizzazione, così come perché non abbia cercato la federazione con altri che stavano con la stessa sensibilità, preferendo concentrare e agglomerare (arrivando a volte a dei pasticci un po’ indigesti a mio avviso per un eccesso di fiducia nella velocità di cambiamento dell’essere umano). ma poi ho riconosciuto anche in me stesso e nelle realtà sociali in cui mi adoperavo gli stessi errori.

forse non conviene additarci per gli errori commessi, ma valutarci per le nostre intenzioni, passate e sopratutto a futuro.

in questo penso che il minimo che si dovrebbe fare sia leggersi un libro di Gianroberto, magari anche uno di Adriano Olivetti o di Gurdjieff o dei mille che cita.

e poi diamoci da fare, che il futuro ci aspetta
grazie Gianroberto e tutti quanti.

L'Arte della Distribuzione

Mon, 18 Jan 2021 00:00:00 +0000

chi non vive la trasformazione tecnologia o è già in pensione, probabilmente ha difficoltà a capire cosa sta succedendo e sopratutto prevedere cosa succederà nei prossimo 30 anni.
questo video della Casaleggio (si, proprio QUEL Casaleggio, tanto osteggiato quando sconosciuto.. che se solo uno andasse a leggere qualcosa di più, scoprirebbe un mondo degno erede del grande Olivetti) è un futuribile, ovvero immagina scenari molto realistici.. molti si sono già attuati.
fosse anche solo per il tema del Reddito Incondizionato di Base, qui si può fare una riflessione più seria, e non banalizzata alla Italia Viva con una Boschi “questi hanno solo voglia di una vita in vacanza” (cit).
sono temi molto seri. come umanisti ne parlavamo già negli anni ‘80, ma i tempi non erano adeguati. oggi siamo al limite del troppo tardi per agire. come con il riscaldamento globale.
per questo è necessario 1) diffondere questi temi, queste preoccupazioni, ma sopratutto le soluzioni 2) formare i prossimi politici, che sappiano di tecnologia e società, e resistenti alle seduzioni di quel'1% che possiede tutto e vuole mantenersi centralizzato.
io la chiamerei: “l’arte della distribuzione”
#economia #politica #futuro

Il Successo è Ispirare

Mon, 04 May 2020 00:00:00 +0000

il SUCCESSO non è solo quello che hai raggiunto nella tua vita, ma anche quanto sei riuscito ad ispirare altri.

uno potrebbe continuare a studiare, allenarsi, creare e costruire soluzioni fantastiche e magari diventare un semidio.
ma se riuscisse ad ispirare altri a partecipare, impegnarsi, studiare o liberare la propria creatività, non ancora più gratificante e molto meglio per tutti?

morire ricchissimi in un mondo di poverissimi, essere intelligenti in un mondo di stupidi, essere autodeterminati in un mondo di automi, non è il massimo del fallimento?

direi che qui c’è tutto un programma politico, sociale e culturale per costruire il #futuro.

Un esercito della nonviolenza

Mon, 30 Jan 2012 00:00:00 +0000

Riescono a fermare i singoli uomini.. ma non le Idee

Le Idee sono intangibili.. cercano lo stesso di bloccarle e imprigionarle.. ma non ce la faranno

Siamo pronti?

esiste la verità? come vogliamo l'informazione?

Thu, 24 Nov 2005 00:00:00 +0000

punto 1: la “verità” non esiste.

perché il nostro punto di vista, la diversità nel percepire, la diversità di credenze e di interessi fanno sì che parlare di “verità” è qualcosa di abbastanza difficile.

punto 2: non ci interessa lo scontro tra i punti di vista, ma la visione più ampia possibile e l’integrazione.

oggi tutta l’informazione è manipolata, interessata, strumentalizzante, contradditoria. quasi si ammazzano ognuno per imporre il proprio punto di vista. per chi non interessa questo modo di vivere, ricordo che c’è a chi interessa avere di fronte il più ampio numero possibile di punti di vista.

più ce ne sono, più ci si può avvicinare all’interessante.

stiamo lontani da coloro che pensano che poi non siamo in grado di valutare o di pensare con la nostra testa.

sogno il momento in cui un giornale o un tg, o anche un amico, mi dice senza filtri:

“allora tizio ha visto x e pensa y, caio ha visto z e pensa j, sempronio ha visto k e non pensa niente perché non gli interessa”

🙂

Hermes, il Messaggero degli Dei…

Sat, 05 Nov 2005 00:00:00 +0000

#todo_img hermes.jpg

“Non è possibile non comunicare… non esiste un comportamento che non sia comunicativo”

vivendo nell’era della Comunicazione, credo che il buon Mercurio possa tornare d’interesse 🙂

con le sue alette, per volare veloce e mettere in comunicazione i cieli e la terra, con il suo Caduceo sempre in mano (che oramai lo conoscono quasi solo i farmacisti sigh)

ma attenti, a volte è un po’ “ladro” 🙂

una nuova visione delle cose..

Fri, 04 Nov 2005 00:00:00 +0000

#todo_img earth_2.jpg

non so quanti siano andati nello spazio, o almeno ci hanno pensato.

chi ha avuto l’esperienza o vi ha meditato a fondo, converrà che non si torna più come prima.

cambiano le prospettive, cambia il punto di vista, cambia la visione del mondo e di noi in esso.

a quel punto si vogliono cambiare le relazioni che esistono, non accettando più come “naturale” un sistema basato sulla violenza e sulla sopraffazione.

la pace e l’armonia che si scoprono sono la forza per andare verso quella Nazione Umana Universale che si è vista. laggiù, nel futuro.

benigni.. tigre innevata

Wed, 02 Nov 2005 00:00:00 +0000

domenica ho visto la Tigre e la Neve..

film estremamente commovente

è davvero un film sull’amore e sulla poesia.

alcune scene sono davvero dei capolavori. tipo il cielo stellato di bagdad coi missili fuochi d’artificio, la casa fiorita del poeta iracheno, mentre fuori la gente esplode..

da vedere.

e da meditare su quanta sconnessione abbiamo con le situazioni di violenza che vengono ogni giorno perpetrate praticamente ovunque, nel mondo.

uomini con qualcosa in comune…

Sun, 23 Oct 2005 00:00:00 +0000

1 - Leonardo Da Vinci

2 - Hipátia de Alejandría

3 - Erasmo de Rótterdam

4 - Giordano Bruno

5 - José Ortega y Gasset

6 - Martín Heidegger

7 - Edmund Husserl

8 - Silo

9 - Martin L. King

10 - Salvatore Puledda

11 - Leon Tolstoy

12 - Jean Paul Sartre

13 - Nicolás Copérnico

14 - Pico de la Mirándola

15 - Miguel Servet

16 - Galileo Galilei

17 - Averroes - Ibn Rushd

18 - Mahatma Gandhi

19 - Mikhail Gorbachev

20 - Karl Marx

21 - Kenneth Kaunda

22 - Nkrumah Kwame

23 - Maimónides -Moises ben Maimón

la rivoluzione mondiale

Mon, 03 Oct 2005 00:00:00 +0000

ognuno ha un diverso modo di rappresentarsi delle idee o dei concetti.

prendiamo la parola “rivoluzione”.

a qualcuno riecchegeranno i libri di scuola di qualche decennio fa..

altri avranno l’immagine di teste ghigliottinate e polvere da sparo

per altri è utopia irrealizzabile

altri ancora ridono all’idea di voler cambiare qualcosa che non si può e non si deve cambiare

oppure spaventa così tanto l’idea di cambiare in chissà cosa che ci si adatta a qualsiasi presente..

bene: io sento la necessità ed appoggio il progetto di rivoluzione totale, integrale e mondiale di questo sistema in cui viviamo.

e anche se un giorno nessuno si ricorderà di quei “pazzi” che dedicarono la loro vita a cambiare di quel “grado” la direzione della storia, ciò non importa: dare il giusto senso, la migliore direzione, alla propria vita, e non tradire mai i propri ideali e le più profonde aspirazioni è qualcosa che è più forte di ogni altra.

baci

le formiche e l'utopia

Fri, 02 Sep 2005 00:00:00 +0000

le formiche, se solo si mettessero d’accordo, coi loro piccoli passettini, sposterebbero un grattacielo..

l’immagine è potente, vero?

per qualcuno utopica.. ma 1) a me le utopie piacciono 2) stanno iniziando a succedere grandi cose.

riguardo all’utopia: ecco cose diceva un’amico:

_“Domanda: Questa terra è in una costante disumanizzazione. Umanizzare la terra non è un’utopia, qualcosa che può accadere in qualunque luogo tranne qui?

Risposta (Silo): E’ vero; credo tuttavia che siano state le grandi utopie (la mia non è grande, è semplicemente un’utopia e basta) a determinare in buona misura il progresso umano. L’ambizione di volare, l’ambizione di raggiungere le stelle, l’ambizione di risolvere i problemi dell’essere umano erano utopie, perché nel momento in cui sono state formulate non esistevano le condizioni materiali per attuarle.

In quel momento erano utopie, però grazie a ciò la gente si è messa in moto.

Umanizzare la terra è un’utopia, ma credo che contribuisca a migliorare la vita.” (silo, 1990 - messico)_

e cosa sta succedendo?

non parlo tanto delle catastrofi e delle sciagure quotidiane che per chi non se ne fosse accorto aumenteranno ogni giorno di più..

mi riferisco a quanta sempre più gente si sta accorgendo della situazione, e sta per mettersi in moto.

ieri Beppe (Grillo) è riuscito a coinvolgere centinaia di persone a comprare una pagina di Repubblica per “promuovere” le dimissioni di Fazio.. presto lo rifarà elencando i politici condannati in via definitiva…

ma a lato sono forse le migliaia di persone, che con grande umiltà e sorriso, portano avanti grandi progetti con piccoli passi.

noi del Movimento, ad esempio, non abbiamo un grande giornale nè canali di diffusione nazionali.. ma abbiamo dozzine e dozzine di giornali di quartiere, che arrivano alle nonne e ai casalinghi..

ok, io ne curo uno ( http://www.ilfannullone.it ) che ha un linguaggio molto giovane e spiritoso.. ma il motore alla base è lo stesso di tutti:

coinvolgere la gente che ci sta vicino nello svegliarci lo spirito che muove le montagne.

quello spirito che ci porterà a fare un salto evolutivo epocale.

e con questo, vado a mangiare, che dopo devo finire di lavorare.

un forte abbraccio a tutti

In che senso?

Wed, 27 Jul 2005 00:00:00 +0000

non credo sia possibile che le migliaia di milioni di persone che abitano su questo pianeta possano essere indifferenti al tema del senso della vita.

Dovrebbe essere il punto di maggiore interesse, distaccandosi al si sopra di tutti gli altri che, sebbene attualmente importanti, non toccano il problema di fondi che si vive oggi: il problema della disorientazione generale del mondo contemporaneo di fronte al futuro.

Se pensiamo alla quantità di problemi che ci minacciano costantemente, vediamo che siamo di fronte ad una crisi molto ampia, nella quale assistiamo al declino delle ideologie, alla disintegrazione della morale, all oscuramento dello spirito.

Tutto questo si esprime quotidianamente nella competizione delle parti, nelle lotte generazionali, negli attriti dell classi e, soprattutto, nell’aumento della sofferenza individuale e collettiva.

Ognuno sperimenta su se stessa la pressione di questo impoverito contesto sociale che, lontano dall’aiutare, aggiunge oppressione alle preoccupazioni personali.

Queste preoccupazioni si manifestano come insicurezza nel presente e incertezza per il futuro, rafforzate talvolta dalle frustrazioni del passato.

….

(grazie all’amico Ernesto De Casas)

21 giugno: un giorno speciale

Tue, 21 Jun 2005 00:00:00 +0000

ciao

oggi è un giorno un po’ speciale:

il 21 giugno per tutti segna l’inizio dell’estate.

per me è anche il contatore di quanti giri il mio corpo ha fatto intorno al sole. (per i poco astronomi: è il mio compleanno)

un amico, tempo fa, mi ha raccontato che si può festeggiare il proprio compleanno in altro modo, che non la solita festa durante la quale ricevere i regali e mangiare la torta (cosa di cui cmq non mi priverò oggi 😉

in questa nuova forma, il regalo lo fa il festeggiato agli altri, con un breve discorso davanti ai propri amici (forse questa email non arriverà a tutti, ma è un inizio…)

ed è così che inizio col ringraziarvi tutti. davvero.

la mia vita, senza la relazione con voi, non avrebbe molto senso.

negli ultimi anni ho iniziato a dedicarmi con crescente passione ed entusiasmo ad alcuni progetti finalizzati a far crescere e approfondire le relazioni, oltreché aiutare a tirare fuori il meglio di sé.

uno degli ultimi (in ordine cronologico) è il “giornalino” Il Fannullone, che col numero 5, appena uscito, ha raggiunto quella che ritengo una perfetta alchimia di creatività, comunicazione, leggerezza, serietà, impegno sociale, bellezza, sentimento e divertimento.

con la “scusa” di realizzare i primi 5 numeri, in 8 mesi sono entrato in contatto, ho approfondito l’amicizia, ho riso e scherzato, abbiamo quasi litigato (su alcuni “temassi” ☺, insomma ci siamo relazionato per qualcosa che non fosse lavoro o semplice interesse personale, con più di 140 esseri umani.

non credo di poter immaginare regalo più bello dalla vita!

e dato che il giornale non lo faccio per me, il mio primo regalo è quindi lui:. goditelo: www.ilfannullone.it

un’altro evento del semestre che mi ha profondamente segnato è stato il concerto che abbiamo organizzato (io come CLUM insieme al Coordinamento Umanista Emergenza India) l'8 febbraio al Rolling Stone per Emergenza Tsunami.

è stata un’avventura che a rileggerla ha dell’incredibile.. organizzare tale impresa, che si è poi conclusa benissimo, in poche settimane e con pochissimi mezzi…

anche lì, dozzine di amici coinvolti ognuno a dare quello che poteva.. chi le sale prove, chi la regia video, chi suonava, chi portava da mangiare, chi i banchini di diffusione, chi nulla ma era importante lo stesso… fra poco sarà pronto il DVD dell’evento, per non dimenticarci!! (su clum.net c’è un pezzetto di video)

le attività svolte in India coi soldi raccolti proseguono bene. molto bene. se vorrai ci sono ulteriori informazioni.

ora… non credo riuscirei a fare a meno di esperienze del genere.

sono esse che mi danno l’energia di vivere. tanto che ne vorrò fare ancora.

sono quindi abbastanza sicuro che continuerò ad oltranza, senza timore di fallire, a dare tutto il meglio di me verso “fuori”, e magari aiutando altri a fare altrettanto.

“e il secondo regalo??” ops hai ragione.. :

questo sabato (25 giugno) parteciperò, questa volta non come co-organizzatore, ma come semplice “performer” musicale con alcuni amici, al Festival Umanista sulla Nonviolenza. potrebbe essere un’occasione per incontrarsi e ciciarare un po’. ti regalo quindi un “invito!” (tanto è gratis 😉

concludo con una constatazione: chi mi conosce da tanti anni, si ricorderà un tipo molto silenzioso, magro e un po’ oscuro che magari si comportava in modo non del tutto convenzionale.. ricordo bene e con grande amore tutta la mia evoluzione, e sono certo che non è finita! 😀

grazie. vi terrò vicini.

un grande abbraccio.

stefano

ps: alcuni riferimenti che ti potrebbero interessare:

http://cecio.blogspot.com - il mio blog nel quale pubblico cose che altrimenti non verrebbero dette
http://www.ilfannullone.it - il sito de Il Fannullone… appena riaggiornato
http://www.clum.net - Club Umanista Multimediale… la “fucina”.
http://www.iosonononviolento.it - il sito del Festival sulla Nonviolenza (ed altro) di questo finesettimana

Perchè il futuro non ha bisogno di noi

Fri, 21 Apr 2000 00:00:00 +0000

Questo articolo “Why the Future Doesn’t Need Us” pubblicato da Bill Joy su Wired di aprile 2000 è un momento importante di riflessione sul futuro delle delle tecnologie digitali d’avanguardia in relazione all’esistenza umana. Lo riporto qui integralmente.
Bill Joy è cofondatore e caposcienziato di Sun Microsystems, dirigente della commissione presidenziale sul futuro della ricerca IT.

Dal momento che sono stato coinvolto nella creazione di nuove tecnologie, la loro dimensione etica mi ha preoccupato, ma è stato solamente nell’autunno del 1998 che sono diventato ansiosamente consapevole di quanto grandi siano i pericoli che ci si propongono nel 21’ secolo. Posso dar inizio del mio sconforto al giorno in cui ho incontrato Ray Kurzweil, il meritatamente famoso inventore della prima macchina per leggere, per ciechi, ed altre cose stupefacenti.
Ray ed io eravamo entrambi oratori alla conferenza George Gilder’s Telecosm, e lo incontrai per caso nel bar dell’hotel dopo che le nostre sessioni erano finite. Ero seduto con John Searle, un filosofo dell’Università di Berkley che studia la percezione. Mentre parlavamo, Ray si avvicino e incomincio la conversazione, il soggetto , quello che a tutt’oggi mi perseguita.

Mentre avevo sentito già tali discorsi, avevo sempre pensato che i robot senzienti appartenessero al dominio della fantascienza. Ma ora, da qualcuno che rispettavo, stavo ascoltando la forte argomentazione che erano una possibilità a breve termine. Ero sconcertato, specialmente conoscendo la provata abilità di Ray di immaginare e creare il futuro. Sapevo già che le nuove tecnologie come l’ingeneria genetica e la nanotecnologia ci stavano dando il potere di rifare il mondo, ma un realistico ed imminente scenario di robot intelligenti mi ha stupito.

è facile rimanere spossati da tali innovazioni. Sentiamo dalle notizie quasi tutti i giorni di qualche progresso tecnologico o scientifico. Tuttavia questa non era una predizione consueta. Nel bar del hotel, Ray mi diede una prestampa del suo prossimo libro “The Age of Spiritual Machines”, che delineava l’utopia che prevedeva - una era in cui gli umani, diventando un tuttuno con la tecnologia robotica, si avvicinavano all’immortalità. Leggendolo, il mio senso di sconforto si intensificò; ero sicuro che stava capendo i pericoli, capendo la probabilità di un esito negativo lungo questo cammino.
Mi son trovato molto turbato da un passaggio che delinea uno scenario distopico.

La nuova sfida luddista

Per prima cosa, lasciateci postulare che gli scienziati informatici riescano a sviluppare macchine intelligenti che possano fare tutto meglio degli esseri umani. In quel caso, presumibilmente, tutto il lavoro sarà fatto da vasti ed organizzati sistemi di macchine e nessuno sforzo umano sarà necessario.Entrambi i casi possono accadere. Alle macchine potrebbe essere permesso di prendere tutte le proprie decisioni senza la supervisione umana, o altrimenti il controllo sulle macchine potrebbe essere contenuto.

Se alle macchine è permesso di prendere le proprie decisioni, non possiamo fare alcuna congettura sul risultato, perchè sarà impossibile indovinare come tali macchine potranno comportarsi. Noi indichiamo soltanto come il destino della razza umana sarà alla mercè delle macchine. Si potrebbe obiettare affermando che la razza umana non sarebbe mai così stolta da consegnare tutto il potere alle macchine. Ma non stiamo altresì suggerendo che gli umani volontariamente consegnerebbero il potere alle macchine o che le macchine di proposito si impossesserebbero del potere. Quello che suggeriamo, è che la razza umana possa facilmente lasciarsi scivolare verso una posizione di totale dipendenza dalle macchine per cui non possa avere alternativa che accettare tutte le decisioni prese dalle macchine. Visto che la società ed i suoi problemi diventano sempre più complicati, e le macchine sempre più intelligenti, le persone lasceranno che le macchine prendano sempre più le decisioni per loro, semplicemente perchè decisioni fatte dalle macchine porteranno migliori risultati che quelle fatte dagli esseri umani. Si arriverà prima o poi ad uno stadio in cui le decisioni da prendere per mantenere il sistema saranno così complicate che gli esseri umani non saranno in grado di farle in modo intelligente. A quel punto le macchine avranno effettivamente il controllo. Le persone non saranno semplicemente in grado di spegnere le macchine, perchè ne saranno così dipendenti da far risultare lo spegnimento un suicidio.

D’altra parte è possibile che il controllo umano sulle macchine possa essere conservato. In questo caso l’uomo medio potrà avere controllo su alcune sue macchine private, come la sua macchina o il suo pc, ma il controllo dei grandi sistemi sarà nelle mani di una piccola élite - così com’è oggi, ma con due differenze. Per il miglioramento della tecniche, l’élite avrà un controllo maggiore sulle masse; e visto che il lavoro umano non sarà più necessario, le masse saranno superflue, un inutile fardello per il sistema. Se l’élite fosse spietata, allora potrebbero semplicemnte decidere di sterminare la massa dell’umanità. Se fosse compassionevole allora potrebbero utilizzare la propaganda, o altre tecniche psicologiche o biologiche per diminuire il tasso di nascita fino a che la massa si estingua, lascinado il mondo all’élite. Oppure, se l’élite consiste di liberali dal cuore tenero, potrebbero decidere di interpretare la parte del buon pastore nei confronti del resto del mondo. Saranno accorti che le necessità fisiche di ognuno siano soddisfatte, provvederanno a che tutti i bambini crescano in un ambiente fisicamente e psicologicamente igienico, che ognuno abbia un qualsiasi hobby per intrattenerlo, e che chiunque possa sentirsi insoddisfatto possa intrapprendere una “terapia” per curare il suo “problema”. Certamente la vita sarà così priva di scopo che le persone dovranno essere psicologicamente o biologicamente progettate per rimuovere il proprio bisogno per il processo di potere o di subliminare la loro ricerca di potere in qualche innocuo hobby. Questi esseri umani progettati potrebbero essere felici in tale società, ma non saranno certamente liberi. Saranno stati ridotti allo stato di animali domestici.¹

Nel libro, non scopri fino a che non giri pagina che l’autore di questo passaggio è Theodore Kaczynski - l’Unabomber. Non sono un difensore di Kaczynski. Le sue bombe hanno ucciso tre persone durante la sua campagna diciasettennale di terrore ed ha ferito molti altri. Una delle sue bombe ha ferito gravemente il mio amico David Gelernter, uno dei più brillanti e visionari scienziati informatici del nostro tempo. Come molti dei miei colleghi, ho sentito di poter essere il prossimo bersaglio dell’Unabomber.
Le gesta di Kaczynski erano a mio avviso omicide e criminalmente folli. Lui è chiaramente un luddista, ma la semplice affermazione di questo non rigetta il suo discorso; benché mi sia difficile da accettare, ho visto dei meriti sui ragionamenti di questo singolo passaggio. Mi sono sentito costretto a confrontarmici.

La visione distopica di Kaczynski descrive consequenze involontarie, un problema ben noto con la progettazione ed uso della tecnologia, ed uno che è chiaramente relazionato alla legge di Murphy - “Se c’é qualcosa che può andare storto, lo andrà”.(In realtà, questa è la legge di Finagle, che in se stessa dimostra che Finagle aveva ragione). Il nostro abuso di antibiotici ha portato a quello che è forse il più grande problema fino ad ora: l’emergere di batteri molto più pericoloso e resistente agli antibiotici. Simili cose sono successe quando si è tentato di eliminare i moschito portatori di malaria con il DDT, facendoli acquisire una resistenza al DDT; parassiti malarici similarmente acquisiscono geni multi-medicine-resistenti.²

La causa di tante sorprese sembra chiara: I sistemi coinvolti sono complessi, coinvolgendo interazione e reazione tra le molte parti. Qualsiasi cambiamento a questo sistema produrrà effetti a cascata che sono difficili da prevedere; questo è specialmente vero quando sono coinvolte azioni umane.

Ho incominciato a mostrare ad amici l’estratto di Kaczynski da The Age of Spiritual Machines; davo loro il libro di Kurzweil, lasciandoli leggere il passo, e poi osservavo la loro reazione appena scoprivano chi l’aveva scritto. Più o meno nello stesso periodo, ho trovato il libro di Hans Moravec Robot: Mere Machine to Transcendent Mind. Moravec è uno dei leader nella ricerca robotica, e fu fondatore di uno dei più grandi programmi di ricerca sulla robotica alla Carnegie Mellon University. Robot mi diede altro materiale da provare sui miei amici - materiale sorprendentemente sostenitore delle teorie di Kaczynski. Ad esempio:

La breve corsa (primi anni 2000)

Le specie biologiche quasi mai sopravvivono allo scontro con un competitore superiore. Diecimilioni di anni fa, il sud e il Nord America erano separati da uno sprofondato istmo di Panama. Il Sud America, come oggi l’Australia, era popolata da mammiferi marsupiali, compresi marsupiali equivalenti di ratti, cervi e tigri. Quando l’istmo che connetteva Nord e Sud America sorse, ci sono voluti solamente poche migliaia di anni perchè le specie placentali, con metabolismi, sistemi riproduttivi e nervosi di poco più efficaci, destituissero ed eliminassero quasi tutti i marsupiali del sud.

In un mercato completamente libero, robot superiori sicuramente colpirebbero gli umani come i placentali Nord Americani colpirono i marsupiali Sud Americani (e come gli umani hanno colpito innumerevoli specie). Le industrie robotiche entrerebbero in competizione tra di loro fortemente per interesse, energia e spazio, incidentalmente portando il loro prezzo oltre le possibilità umane. Incapaci di permettersi tali necessità della vita, gli umani biologici sarebbero schiacciati via dall’esistenza.
C’è probabilmente ancora possibilità di respiro, giacchè non viviamo in un mercato completamente libero. I governi forzano comportamenti non atti al mercato, specialmente con l’accumulo delle tasse. Applicandolo con giudizio, la coercizione governativa potrebbe sostenere un alto stile di vita per le popolazioni umane frutto del lavoro dei robot per forse un lungo tempo.
Continua a focalizzare su come il nostro lavoro per il 21’secolo sarà di “assicurare la continua cooperazione dalle industrie robotiche” formulando leggi che decretino che essi siano “buoni”³ e a descrivere quanto seriamente pericoloso possa essere un umano “una volta trasformato in un robot super intelligente senza limiti”. L’opinione di Moravec è che prima o poi i robot ci succederanno - che gli umani evidentemente si affacciano all’estinzione.

Decisi che era ora di parlare al mio amico Danny Hillis. Danny divenne famoso come cofondatore della Thinking machines corporation, che costruì un super computer parallelo molto potente. Nonostante il mio attuale incarico di “Chief Scientist” - Capo scienziato - alla Sun Microsystems, sono più un’architteto di computer che uno scienziato, e rispetto molto il sapere sull’informazione e sulle scienze fisiche di Danny più che quello di qualunque altra persona. Danny è anche un futurista altamente considerato, che pensa a lungo raggio - quattro anni fa incominciò la Fondazione Long Now, che sta costruendo un orologio progettato per durare 10000 anni con la volontà di attrarre l’attenzione sulla pietosa corta durata di attenzione della nostra società.
Quindi sono andato a Los Angeles con il chiaro intento di cenare con Danny e sua moglie, Paty. Ho fatto la mia ormai familiare routine facendo trottare le mie idee ed i passaggi che trovavo così fastidiosi. La risposta di Danny - mirata specificatamente allo scenario, di Kurzweil, di umani che si fondono con i robot - venne rapidamente e mi stupì alquanto. Disse, semplicemente, che i cambiamenti sarebbero avvenuti gradualmente e che ci saremmo abituati.
Ma credo che ero del tutto stupito. Avevo visto una citazione di Danny nel libro di Kurzweil la quale diceva, “amo il mio corpo come chiunque altro ma se posso essere 200 con un corpo di silicone, mi va bene”. Sembrava che lui fosse in pace con questo processo e con i rischi annessi, mentre io no.

Parlando e pensando su Kurzweil, Kaczynski e Moravec, improvisamente mi sono ricordato di un romanzo che avevo letto quasi più di venti anni fa - The White Plague, di Frank Herbert - nel quale un biologo molecolare impazzisce per l’insensato omicidio della sua famiglia. Per vendicarsi costruisce e dissemina una piaga altamente contagiosa che uccide in maniera vasta ma selettiva. (Siamo fortunati che Kaczynski era un matematico e non un biologo molecolare). Mi era venuto alla mente anche i Borg di Star Trek, un misto di creature in parte biologiche ed in parte robotiche con un forte senso distruttivo. Disastri da “Borg” sono il soggetto per eccellenza della fantascienza, quindi per quale motivo non mi ero preocupato prima per tali distopie robotiche? Perchè altre persone non erano turbate da questi scenari da incubo?
Parte della risposta sicuramente è nella nostra attitudine verso il nuovo - nella nostra tendenza all’instantanea familiarità e accettazione acritica. Abituati a vivere con ormai scoperte scientifiche di routine, dobbiamo ancora arrivare al fatto che le tecnologie del 21’ secolo, robotica, ingegneria genetica e nanotecnologia, pongono una nuova minaccia rispetto alle tecnologie venute prima. Specificamente, Robot, organismi progettati e nanobots condividono lo stesso pericolo: possono auto-replicarsi. Una bomba è fatta esplodere una volta sola - ma un bot può diventare molti e velocemente essere incontrollabile.

Molto del mio lavoro negli ultimi 25 anni è stato mirato al computer networking, dove il mandare e ricevere messaggi crea l’opportunità per la replicazione incontrollabile. Tuttavia mentre la replicazione in un computer o in una rete di computer può essere un danno, al peggio disabilita una macchina o la rete o un servizio di rete. L’incontrollata auto-replicazione in queste tecnologie più moderne incorre in un rischio maggiore: il rischio di un danno sostanziale nel mondo fisico.
Ciascuna di queste tecnologie offrono una promessa non detta: la visione di vicina immortalità che Kurzweil vede nei suoi sogni robotici ci porta avanti; l’ingegneria genetica presto potrebbe portare trattamenti, se non cure complete, per la maggioranza delle epidemie; e la nanotecnologia e la nanomedicina possono indirizzarsi ad ancora più malattie. Insieme potrebbero in maniera significativa aumentare la nostra soglia di vita e migliorare la qualità della nostra vita. Tuttavia, con ciascuna di queste tecnologie una sequenza di piccoli, individualmente sensibili passi in avanti portano ad un accumulo di enorme potere ed in concomitanza quindi ad un grande pericolo.
Qual’era la differenza nel 20’ secolo? Certamente le tecnologie dietro le armi per la distruzione di massa (Weapons of Mass Destruction, WMD) - nucleare, biologica e chimica (NBC) - erano potenti e le armi una minaccia enorme. Ma costruire armi nucleari richiedeva, almeno per un periodo, accesso a entrambi rari - ed in effetti non disponibili - materiali primari ed informazioni altamente protette; i programmi per armi biologiche e chimiche anche tendevano ad aver bisogno di attività su grande scala.

Le tecnologie del 21’ secolo - genetica, nanotecnologia, robotica (GNR) - sono così potenti che possono proliferare una intera nuova classe di incidenti e abusi. Ancora più pericoloso, per la prima volta, questi incidenti ed abusi sono largamente alla portata di individui o piccoli gruppi. Non richiederanno grosse infrastrutture o materiali primari. Il solo sapere ne permetterà l’uso.
Così abbiamo la possibilità non solo di armi per la distruzione di massa ma anche del saperèabilitato alla distruzione di massa (Knowledge-enabled Mass Destruction, KMD), e questa distruttività enormemente amplificata dal potere della auto-replicazione.
Credo non sia affatto un’esagerazione l’affermare che siamo sulla soglia per l’ulteriore perfezionamento del male, un male le quali possibilità si aprono ben al di là delle armi di distruzione di massa lasciate alle nazioni-stato, verso un sorprendente e terribile conferimento di potere di individualità estreme.

Niente nel modo in cui sono stato coinvolto con i computer faceva presagire che avrei dovuto confrontarmi con tali questioni.
La mia vita è stata guidata da una profonda necessità di fare domande e trovare risposte. Quando avevo 3 anni, già leggevo, quindi mio padre mi portò alle scuole elementari, dove sedevo sulle gambe del preside e gli leggevo una storia. Ho incominciato scuola presto, più tardi ho saltato un anno, e mi sono rifugiato nei libri - ero incredibilmente motivato ad imparare. Facevo molte domande, spesso conducendo gli adulti a distrarsi.
Da adolescente ero molto interessato alla scienza ed alla tecnologia. Volevo diventare un operatore di “baracchini” ma non avevo i soldi per le attrezzature. I baracchini erano l’internet dell’epoca: assuefazione e vita solitaria. Ma tralasciando l’aspetto monetario, mia madre si impuntò perchè io non lo diventassi, ero già abbastanza asociale. Forse non ho avuto delle strette amicizie, ma ero pieno di idee. Per le superiori avevo già scoperto i grandi scrittori di Fantascienza. Ricordo specialmente il libro di Heinlein Have Spacesuit Will Travel e I, Robot di Asimov con le sue tre leggi della robotica. Ero incantato dalle descrizioni dei viaggi spaziali e desideravo avere un telescopio per osservare le stelle; visto che non avevo i soldi per comprarne o costruirne uno, presi dei libri dalla biblioteca per almeno leggere come costrurli. Mi confortavo con la mia immaginazione.
I giovedì sera i miei andavano al bowling, e noi ragazzi rimanevamo a casa. Era la notte di Star Strek, l’originale di Gene Roddenberry, mi meravigliava tanto. Accettai la nozione che gli esseri umani avevano un futuro nello spazio, tipo West, con grandi eroi ed avventure. La visione di Roddenberry riguardo al futuro era di un forte senso morale, impersonificato nel Direttivo Primario: non interferire nello svilluppo di civilizzazioni tecnologicamente inferiori. Questo mi affascinava, “etici” esseri umani, e non robot, dominavano il futuro, ed ho fatto del sogno di Roddenberry parte del mio.
Ho brillato in matematica alle superiori, e quando sono andato all’università del Michigan come studente undergraduate di ingegneria, ho preso la carriera di matematica avanzata. Risolvere problemi matematici era un tipo di confronto eccitante, ma quando ho scoperto i computer, ho trovato qualcosa di molto più interessante: una macchina in cui potevi immettere un programma che tentasse di risolvere un problema, per il quale, dopo, la macchina ti avrebbe dato una soluzione. Il computer aveva una chiara nozione di corretto ed incorretto, di vero e falso. Le mie idee erano giuste ? La macchina me lo poteva dire. Questo era molto seduttivo.
Ero stato abbastanza fortunato di trovare lavoro programmando i primi supercomputer e scoprire la sorprendente capacità di queste grandi macchine di simulare numericamente progetti complessi.
Quando frequentavo la graduate school alla Università di Berkeley, incominciai a rimanere alzato fino a tardi, spesso tutta la notte, inventando nuovi mondi dentro le macchine, risolvendo problemi, scrivendo il codice che lottava per non essere scritto.

Nel romanzo biografico di Irving Stone su Michelangelo, The Agony and the Ecstasy, Stone descrive vividamente come Michelangelo liberava le statue dalla pietra, “rompendo l’incantesimo di marmo”, modellando dalle immagini della sua mente.⁴ Nei miei momenti di maggiore estasi, il software nel computer emergeva nello stesso modo. Una volta che l’avevo immaginato, sentivo che era tutto già nella macchina, in attesa di essere liberato. Rimanere in piedi tutta la notte sembrava un prezzo veramente modico per liberarlo - per rendere concrete le idee.
Dopo qualche anno alla Berkeley, incominciai a distribuire alcuni dei software di mia creazione - un sistema istruzionale in Pascal, utilità Unix ed un editor di testo chiamato “VI” (che è, con mio stupore, ancora largamente usato dopo 20 anni) - da altri che avevano simili PDP-11 e VAX minicomputers. Queste avventure software ad un certo punto confluirono nel sistema Unix della Berkeley, che divenne un mio personale “disastroso successo” - talmente tanta gente lo voleva, che non ho finito la mia laurea. Invece ottenni un lavoro per la Darpa mettendo il Berkeley Unix in Internet aggiustandolo per essere solido ed inoltre in modo che potesse far girare grosse applicazioni di ricerca. Questo è stato tutto un gran divertimento e soddisfazione, e francamente non vedevo alcun robot né qui né ovunque vicino.
Ancora, agli inizi degli anni 80, stavo in alto mare. Le distribuzioni di Unix avevano molto successo ed il mio piccolo progetto presto aveva denaro e collaboratori, ma il problema alla Berkeley non erano i soldi ma lo spazio, non c’era posto per l’aiuto di cui il progetto aveva bisogno, per cui, quando gli altri fondatori della Sun Microsystems apparvero, mi fiondai per unirmi a loro. Alla Sun, le lunghe ore si protrassero fino ai primi giorni delle worksations e dei personal computers, ed avevo gioito della partecipazione nella crezione di processori avanzati e di tecnologie per Internet quali Java e Jini.
Da tutto ciò, confido che sia chiaro che non sono un luddista. Il mio lavoro ha avuto molto più impatto di quello sperato ed è stato utilizzato molto di più di quanto ragionevolmente mi aspettavo. Ho ancora passato gli ultimi 20 anni a capire come rendere i computer affidabili quanto io mi aspetto che essi lo siano (e non sono ancora così) e a come renderli semplici da usare (un obiettivo ancora relativamente meno raggiunto).
Nonostante un po’ di progresso, i problemi che rimangono sembrano ancora più scoraggianti.
Tuttavia mentre ero consapevole dei dilemmi morali riguardo alle consequenze tecnologiche in campi come la ricerca sulle armi, non mi aspettavo di dover confrontare tali dilemmi nel mio campo, o almeno non così presto.
Forse è sempre difficile vedere l’impatto grande quando sei coinvolto nel vortice più piccolo proprio del cambiamento. Sembra una comune colpa di scienziati e tecnologicisti di non capire le consequenze delle proprie invenzioni mentre siamo rapiti dalla scoperta; siamo stati guidati per molto tempo dall’ estremo desiderio di sapere, che è la natura della ricerca scientifica, non fermandoci a notare che tecnologie più nuove e potenti possono prendere vita propria.

è da molto che ho realizzato che la information technology non fa i suoi passi più grandi grazie agli scienziati di computer, agli architetti di computer o agli ingegneri elettronici, ma ai fisici. I fisici Stephen Wolfram e Brosl Hasslacher mi introdussero, nei primi anni 80, alla teoria del caos ed ai sistemi non lineari. Negli anni 90, ho appreso dei sistemi complessi dalle conversazioni con Danny Hill, il biologo Stuart Kauffman, il nobel per la fisica Murray Gell-Mann, ed altri. Recentemente, Hasslacher e l’ingegnere elettronico e fisico Mark Reed mi hanno introdotto alle incredibili possibilità dell’elettronica molecolare.
Nel mio lavoro, come co-disegnatore di 3 architetture di microprocessori - SPARC, picoJava e MAJC - e come disegnatore delle successive implementazioni, ho avuto modo di avere una profonda dimestichezza ed in prima persona della legge di Moore. Per decine di anni, la legge di Moore ha correttamente previsto il tasso di miglioramento della tecnologia a semiconduzione. Fino all’anno scorso, ho pensato che il raggio di avanzamenti previsto dalla legge di Moore potesse continuare fino al 2010 circa, quando alcuni limiti fisici saranno stati raggiunti. Non mi era affato ovvio che una nuova tecnologia sarebbe arrivata per permettere il tranquillo progresso dei risultati.
Ma dato il recente rapido e radicale progresso nell’elettronica molecolare - dove atomi e molecole individuali rimpiazzano transistor disegnati litograficamente - e nelle relazionate tecnologie nanoscalari, dovremmo essere in grado di arrivare o di superare il tasso di progresso della legge di Moore per altri 30 anni.
è verosimile che per il 2030 saremo in grado di costruire, in quantità, macchine un milione di volte più potenti dei personal computer di oggi - sufficiente per implementare i sogni di Kurzweil o Moravec.

Visto che questo enorme potere computeristico si combina con il progresso della fisica sulla manipolazione e il profondo sapere sulla genetica, si sta liberando un potere immenso di trasformazione. Queste combinazioni danno la possibilità di ridisegnare il mondo, in meglio o in peggio: i processi di replicazione e di evoluzione che fino adesso erano confinati al mondo naturale stanno per diventare dominio degli sforzi umani.
Nel progettare i software e i microprocessori, non ho mai avuto la sensazione che stavo disegnando una macchina intelligente. Il software sono l’hardware sono così fragili e le capacità per una macchina di “pensare” sono così chiaramente assente che, anche come possibilità, questo è sempre sembrato molto lontano nel futuro.
Ma ora, calcolando il livello del potere computeristico umano, in una prospettiva di circa 30 anni, una nuova idea si propone: che io stia lavorando per creare strumenti che permetteranno la costruzione di tecnologie che possono sostituire la nostra specie. Come mi sento per questo? Molto a disagio. Avendo faticato per tutta la carriera a costruire sistemi e software affidabili, mi sembra più che probabile che il futuro non si risolverà così bene come alcune persone possono immaginare. La mia personale esperienza mi suggerisce che tendiamo a sopravvalutare le nostre abilità di progettazione.
Dato l’incredibile potere di queste nuove tecnologie, non dovremmo chiederci come coesistere al meglio con loro? E se la nostra stessa estinzione è un probabilmente o anche possibile, effetto del nostro sviluppo tecnologico, non dovremmo procedere con grande prudenza?

Il sogno della robotica è, prima di tutto, che macchine intelligenti possano lavorare al posto nostro, permettendoci vite lussuose, ridandoci l’Eden. Tuttavia, George Dyson nella sua storia concernente tali idee, Darwin Among the machine, ci avverte: “Nel gioco della vita e l’evoluzione ci sono tre giocatori: gli esseri umani, la natura, e le macchine. Sono fermamente dalla parte della natura. Ma la natura, sospetto, è dalla parte delle macchine”. Come abbiamo visto, Moravec concorda, nel credere che sia probabile che non sopravviveremo allo scontro con la specie superiore dei robots.
Quanto presto potrebbe essere costruito un robot intelligente? Stando agli sviluppi tecnologici sembra che questo sia possibile entro il 2030. E una volta creato il robot intelligente, il passo per la specie Robot è breve, perchè un robot intelligente possa fare copie evolute di se stesso.
Un secondo sogno di robotica è che gradualmente ci rimpiazzeremo con la nostra tecnologia robotica, e scaricando le nostre coscienze raggiungendo quasi l’immortalità; è questo processo a cui Danny Hillis pensa che gradualmente ci abitueremo e che Ray Kurzweil elegantemente descrive nel suo libro The Age of Spiritual Machines. (Stiamo cominciando a vedere intimazioni di questo nell’impianto di apparecchi computerizzati nel corpo umano, come illustrato nella copertina di Wired 8.02).

Ma se noi siamo scaricati nella nostra tecnologia, quali sono le possibilità che da li in poi rimarremo noi stessi o addirittura umani? A me sembra molto più probabile che l’esistenza robotica non possa essere in nessun senso come quella umana a noi comprensibile, che i robot non sarebbero in nessun senso i nostri figli, e che su questo percorso la nostra umanità possa essere perduta.
L’ingegneria genetica promette di rivoluzionare l’agricoltura incrementando la produzione del raccolto riducendo l’uso dei pesticidi; creando decine di migliaia di nuove specie di batteri ,piante, virus, e animali; sostituendo la procreazione o complementandola, con la clonazione; producendo cure per molte malattie, aumentando la nostra longevità e qualità della vita; e molto, molto di più. Adesso sappiamo con certezza che questi profondi cambiamenti nelle scienze biologiche sono imminenti e contrasteranno tutte le nostre nozioni sul senso della vita.
Tecnologie come la clonazione umana hanno alzato in particolare la nostra coscienza dei profondi problemi etici e morali. Se, per esempio, dovessimo ricostruire noi stessi in alcune specie separate e ineguali usando il potere dell’ingegneria genetica, allora potrebbe essere minacciata l’idea di uguaglianza che è la vera pietra miliare della nostra democrazia.
Dato il potere incredibile dell’ingegneria genetica, non ci sorprende che ci siano problemi di sicurezza significativi nel suo uso. Il mio amico Amory Lovins ha recentemente coscritto, insieme con Hunter Lovins, un editoriale che fornisce una visione ecologica di alcuni di questi pericoli.

Tra le preoccupazioni: “che la nuova botanica allinea lo sviluppo delle piante con il loro successo economico e non evolutivo”.
(vedi “A Tale of Two Botanies,” page 247.)
La lunga carriera di Amory è stata focalizzata su l’efficacia dell’energia e risorse accettando una visione di “sistema-intero” per sistemi di fattura umana; tale visione a “sistema-intero” spesso trova semplici e perspicaci soluzioni per problemi altrimenti apparentemente difficili, ed è applicato anche qui utilmente.
Dopo aver letto gli editoriali di Lovins, ho visto un articolo (op-ed) di Gregg Easterbrook sul New York Times (19 novembre 1999) dei raccolti manipolati geneticamente, titolato: " Cibo per il futuro: Un giorno il riso avrà in se la vitamina A. A meno che non vincano i luddisti".

Sono luddisti Amory e Hunter Lovins? Certamente no, credo che saremmo tutti d’accordo che il riso, con la suainnata vitamina A, è probabilmente una buona cosa, se sviluppato con la dovuta cura e rispetto per i probabili pericoli nel muovere i geni attraverso le barriere delle specie.
La coscienza dei pericoli inerenti all’ingegneria genetica sta cominciando a crescere, come riflette l’editoriale di Lovins. L’opinione pubblica è cosciente e preoccupata sul cibo geneticamente modificato, e sembra che respingere la nozione che a tali cibi possa essere permesso di essere non etichettati.

Ma la tecnologia dell’ingegneria genetica è già molto avanti. Come fanno notare Lovins, l’USDA ha già approvato circa 50 raccolte geneticamente modificate per distribuzione illimitata; più di metà dei semi di soia del mondo e un terzo del granturco ora contiene geni provenienti da altre forme di vita.
Mentre ci sono importanti questioni qui, la mia principale preoccupazione riguardo l’ingegneria genetica è ristretta: che da il potere - o militare, accidentale, o in un deliberato atto terroristico - a creare un “Piaga Bianca”.

Le molte meraviglie della nanotecnologia furono per la prima volta immaginata dal fisico nobel Richard Feyman in un discorso che dette nel 1959, successivamente pubblicato sotto il titolo “Therès Plenty of Room at the Bottom.”
Il libro che mi colpì molto, verso la metà degli anni ‘80, fu Engines of Creation di Eric Drexler, dove descrive magnificamente come la manipolazione a livello atomico possa creare un futuro utopico di abbondanza, dove quasi ogni cosa possa essere prodotta a basso costo, e quasi ogni tipo di immaginabile infezione o problema fisico possa essere risolto usando la nanotecnologia e l’intelligenza artificiale.

Un libro successivo, Unbounding the Future: The Nanotechnology Revolution, che Drexler coscrissse, immagina alcuni dei cambiamenti che potrebbero avvenire in un mondo dove avremmo “assemblatori” a livello molecolare. Gli assemblatori potrebbero rendere possibile a un incredibile basso-costo cure per il cancro a energia solare e cure per un comune raffreddore attraverso l’ampliamento del sistema immunitario umano, essenzialmente completare la pulizia dell’ambiente, creare incredibili economici supercomputer tascabili - infatti, qualsiasi prodotto potrebbe essere fabbricato dagli assemblatori ad un costo non maggiore di quello del legno - rendere viaggi spaziali più accessibili che i viaggi transoceanici di oggi, e ripristinare le specie estinte.

Ricordo di aver avuto una buona impressione della nanotecnologia dopo aver letto “Engines of Creation”. Da tecnologico, mi ha dato un senso di calma - ovvero, la nanotecnologia ci dimostrava che incredibili progressi erano possibili, e di fatto forse inevitabili. Se la nanotecnologia era il nostro futuro, allora non mi sentivo costretto a risolvere così tanti problemi nel presente. Avrei raggiunto in tempo il futuro utopico di Dexler; a quel punto potevo godere al meglio la vita “qui e ora”. Non aveva senso, data la sua visione, di rimanere in piedi tutta la notte, tutto il tempo.

La visione di Drexler portava anche molto divertimento. Occasionalmente mi ritrovavo a descrivere le meravigle della nanotecnologia ad altri che non ne avevano sentito parlare. Dopo averli stuzzicati con tutte le cose che aveva descritto Drexler, gli assegnavo di mio dei compiti per casa: “Usate la nanotecnologia per creare un vampiro; per punti extra, create anche l’antitodo”.
Con queste meraviglie divennero chiari anche i pericoli, di cui io ero acutamente cosciente. Come dissi alla conferenza di nanotecnologie nel 1989, “Non possiamo solamente fare la nostra scienza e non preoccuparci dei problemi etici”.⁵ Ma la mia seguente conversazione con i fisici mi convinse che la nanotecnologia non poteva nemmeno funzionare - o, perlomeno non avrebbe funzionato in tempi brevi. Di li a poco, mi trasferii in Colorado, per uno lavoraccio che avevo iniziato, e il centro del mio lavoro si spostò sul software per Internet, specificatamente su le idee che divennero Java e Jini. Poi, la scorsa estate, Brosl Hasslacher mi disse che l’elettronica molecolare nanoscala era ora realizzabile. Questa fu una nuova notizia, almeno per me, e penso anche per molte altre persone - e ha cambiato radicalmente la mia opinione sulla nanotecnologia. Mi portò indietro alla “Engines of Creation”. Rileggendo il lavoro di Drexler dopo più di 10 anni, fui sconcertato nel rendermi conto come fosse piccolo il ricordo della sua lunga sezione chiamata “Dangers and Hopes”, “pericoli e speranze” inclusa una discussione di come le nanotecnologie possono diventare “macchine per la distruzione”. Infatti, nella mia rilettura di questo materiale oggi, sono stupito di quanto naive sembrassero alcune proposte di difesa di Drexler, e di quanto più grandi giudico adesso essere i pericoli piuttosto di come li giudicava allora. (Avendo anticipato e descritto molti problemi tecnici e politici della nanotecnologia, Drexler iniziò al Foresight Institute negli anni ‘80 per “aiutare a preparare la società per anticipate tecnologie avanzate” - più importante, la nanotecnologia).
Rendere possibile un rapido progresso di assemblare sembra abbastanza probabile entro i prossimi 20 anni. L’elettronica molecolare - il nuovo sotto campo delle nanotecnologia dove molecole singole sono elementi di circuito - potrebbero maturare rapidamente e diventare enormemente lucrative entro questa decade, causando ampi incrementi di investimento in tutte le nanotecnologie.

Sfortunatamente, come con le tecnologie nucleari, è di gran lunga più facile creare utilizzi distruttivi che costruttivi per le nanotecnologie. Le nanotecnologie hanno chiari usi militari e terrorostici, e non c’è bisogno di essere suicidi per utilizzare un apparecchio nanotecnologicamente di massima distruzione - tali apparecchi possono essere costruiti per essere selettivamente distruttivi, colpendo, per esempio, solamente una certa area geografica o un gruppo di persone che sono geneticamente distinti.

Un’immediata conseguenza del Faustiano affare nell’ottenere il grande potere della nanotecnologia è che corriamo un grave rischio - il rischio che potremmo distruggere la biosfera dalla quale tutta la vita dipende.

Come spiegava Drexler:

“Piante” con “foglie” non più efficienti delle cellule solari attuali potrebbero competere con piante reali, affollando la biosfera con un fogliame non commestibile. Un resistente “batterio “onnivoro potrebbe sopraffare con reali batteri: potrebbero disperdersi come polline soffiato, replicarsi rapidamente, e ridurre la biosfera in polvere in pochi giorni. Pericolosi replicanti potrebbero facilmente essere troppo forti, minuti e rapidamente sparsi per essere fermati - a meno che non siamo preparati. Abbiamo già abbastanza problemi per controllare i virus e i pidocchi della frutti.

Tra intenditori di nanotecnologie, queste minacce sono diventate note come “gray goo problem”. Sebbene masse di replicatori incontrollati non debbano essere ne grigi o appiccicosi, il termine “gray goo” enfatizza che i replicatori capaci di cancellare la vita potrebbero essere meno coinvolgenti che una singola specie di erbacce. Potrebbero essere superiori in un senso evolutivo, ma questo non vuol dire che siano preziosi.
La minaccia “gray goo” rende perfettamente chiara una cosa: non possiamo permetterci certi tipi i di incidenti con assemblatori replicanti. “Gray goo” potrebbe sicuramente essere una fine deprimente della nostra avventura umana sulla terra, molto peggio del fuoco o del ghiaccio, o di un arginabile semplice incidente di laboratorio.⁶ oops

è sopratutto il potere di autoreplicazione distruttiva in genetica, nonotecnologia e robotica (GNR) che dovrebbero fermarci. L’auto-replicazione è il Modus Operandi dell’ingegneria genetica, che usa il meccanismo delle cellule per replicare le proprie architetture, e il primario pericolo sottostante al “gray goo” in nanotecnologia. Storie di robots “run-amuk” (che corrono qua e la presi da una pazzia sanguinaria) come i Borg, replicando o mutando per sfuggire alle limitazioni etiche imposte dai loro creatori, sono ben affermate nei nostri libri e film di fantascienza. è anche possibile che l’auto-replicazione possa essere più necessaria di quanto pensiamo, e quindi più difficile - o anche impossibile - da controllare. Un recente articolo di Stuart Kauffman in “Nature”, titolato “Self-Replication: Even Peptides Do It” trattava la scoperta che 32-peptidi-amino-acidi possono “autocatalizzare la propria sintesi”. Non sappiamo come questa abilità possa diffondersi, ma Kauffman nota che ciò può far supporre “un percorso verso sistemi molecolari di auto-riproduzione sulla base molto più estesa del principio di accoppiamento di Watson-Crick.⁷

In verità, abbiamo avuto nelle mani per anni chiare ammonizioni dei pericoli inerenti alle vaste conoscenze delle tecnologie GNR - delle possibilità di conoscenza che permettessero da sole distruzioni di massa. Ma questi ammonimenti non sono stati ampiamente pubblicizzati; le discussioni pubbliche sono state chiaramente inadeguate. Non c’è alcun profitto nella pubblicizzazione dei pericoli.

Le tecnologie nucleari, biologiche e chimiche (NBC) usate nelle armi di distruzione di massa del 20esimo secolo furono e sono in gran parte militari, sviluppate e costruite nei laboratori statali. In netto contrasto le tecnologie GNR del 21° secolo hanno un chiaro utilizzo commerciale e le stanno sviluppando quasi esclusivamente le imprese private. In questa epoca della trionfante commercializzazione, la tecnologia - con la scienza come sua aiutante sta consegnando una serie di invenzioni quasi magiche che sono le più fenomenalmente lucrative mai viste. Siamo aggressivamente inseguiti dalle promesse di queste nuove tecnologie dentro l’attuale indiscusso sistema del capitalismo globale e dei suoi numerosi incentivi finanziari e pressioni competitive.
Questo è il primo momento nella storia del nostro pianeta in cui qualsiasi specie, a causa della propria azione volontaria, è diventata pericolosa per se stessa - tanto quanto ad un grande numero di altri.

Potrebbe essere una progressione familiare, trapelata in molti mondi - un pianeta, di nuova formazione, che placidamente si evolve intorno alla sua stella; la vita si forma lentamente; una processione caleidoscopica di creature si evolve; l’intelligenza emerge e, almeno fino ad un certo punto, conferisce un enorme valore di sopravvivenza; e allora la tecnologia è inventata.
Viene in mente che ci sono cose come leggi della natura, le quali possono essere svelate dagli esperimenti, e che la conoscenza di queste leggi può essere fatta sia per salvare e per prendere vita, sia su scale sconosciute. La scienza, lo riconoscono, concede immensi poteri. In un attimo essi creano dispositivi per l’alterazione del mondo. Alcune civiltà planetarie vedono il loro percorso, pongono limiti su ciò che si può e non si deve fare, e passano con sicurezza tempi pericolosi. Altri, non così fortunati o prudenti, periscono.

Questi era Carl Sagan, scrivendo nel 1994, in “Pale Blue Dot”, un libro che descrive la sua visione del futuro umano nello spazio. Solo adesso mi sto rendendo conto come fosse profonda la sua intuizione, e come dolorosamente sento e sentirò la mancanza, della sua voce. Per tutta la sua eloquenza, il contributo di Sagan non fu meno di un semplice buon senso - un attributo che, assieme all’umiltà, sembrano mancare in molti dei difensori principali delle tecnologie del 21esimo secolo.

Ricordo durante la mia infanzia che mia nonna era fortemente contro l’abuso degli antibiotici. Aveva lavorato fino a prima della I Guerra Mondiale come infermiera e aveva il buon senso di pensare che prendere gli antibiotici, a meno che non fosse stato assolutamente necessario, facesse male.
Non che fosse una nemica del progresso. Aveva visto talmente tanto progresso in quasi 70 anni di carriera infermieristica; mio nonno, un diabetico, ha beneficiato moltissimo delle cure avanzate che diventavano disponibili durante la sua vita. Ma lei, così come molte altre persone equilibrate, penserebbe che sia di grande arroganza, ora, progettare una “specie di rimpiazzo” robotico, mentre abbiamo così tanti problemi a far funzionare cose relativamente semplici, e abbiamo così tante difficoltà a gestire - o addirittura a capire - noi stessi.

Ho realizzato ora che lei aveva una consapevolezza sulla natura dell’ordine della vita, e sulla necessità di vivere e convivere con questo ordine. Con questo rispetto diviene necessario un’umiltà che siamo manchevoli, al nostro pericolo. La visione “di buon senso”, impregnata in questo rispetto, è spesso giusta, in anticipo alla dimostrazione scientifica. La chiara fragilità ed inefficienza dei sistemi umani che abbiamo costruito dovrebbe dare a tutti noi una pausa; la fragilità dei sistemi sui quali ho lavorato certamente mi rende umile.

Avremmo dovuto imparare una lezione dalla fabbricazione della prima bomba atomica e dal risultato della corsa agli armamenti. Non facemmo bene allora, e il parallelismo della situazione corrente è preoccupante.

Lo sforzo per costruire la prima bomba atomica fu condotta dal brillante fisico J. Robert Oppenheimer. Oppenheimer non era evidentemente interessato nella politica ma diventò dolorosamente consapevole di ciò che egli percepiva come una minaccia grave alla civiltà occidentale a partire dal Terzo Reich, una minaccia sicuramente grave a causa della possibilità che Hitler potesse ottenere armamenti nucleari. Stimolato da questa preoccupazione, portò le sue caratteristiche di forte intelletto, passione per la fisica, e di leadership carismatica a Los Alamos e condusse un rapido e fruttuoso sforzo con l’incredibile unione di grandi menti per inventare velocemente la bomba.

Ciò che sorprende è come questi sforzi siano continuati così naturalmente dopo che era stato rimosso l’iniziale impeto.
In una riunione poco dopo il V-E Day con alcuni fisici che sentivano che forse gli sforzi dovevano essere finiti, Oppenheimer insistette per continuare. La sua dichiarata ragione sembrava un po’ strana: non era per la paura di molte vittime dovute ad una invasione del Giappone, ma perché le Nazioni Unite, che da li a poco sarebbero state costituite, dovevano avere una pre-conoscenza delle armi atomiche. Una ragione più probabile per cui il progetto continuò è dovuta al momentum che lo costituì - il primo test atomico, Trinity, era quasi a portata di mano.

Sappiamo che preparando questo primo test atomico i fisici procedettero nonostante un gran numero di possibili pericoli. Inizialmente erano preoccupati, basandosi su un calcolo di Edward Teller, che un’esplosione atomica poteva incendiare l’atmosfera. Un calcolo rivisto, ridusse il pericolo di distruzione del mondo ad un terzo di un milione di possibilità. (Teller dice che più tardi era in grado di smentire completamente la prospettiva di combustione atmosferica). Oppenheimer, benchè fosse abbastanza preoccupato per i risultati di Trinity dispose per una possibile evacuazione della parte Sudovest dello Stato del New Mexico. E, naturalmente, c’era il chiaro pericolo di un inizio alla corsa di armi nucleari.
Entro un mese dal primo test di successo, 2 bombe atomiche distrussero Hiroshima e Nagasaki. Alcuni scienziati suggerirono che le bombe dovevano essere semplicemente dimostrate, piuttosto che buttate sulle città giapponesi - dicendo che questo avrebbe migliorato la possibilità di controllo delle armi dopo la guerra - ma senza alcun esito.
Con la tragedia di Pearl Harbor ancora fresco nelle menti americane, sarebbe stato molto difficile per il presidente Truman di ordinare una dimostrazione di armi piuttosto che usarle come ha fatto - il desiderio di finire velocemente la guerra e salvare le vite che sarebbero state perse in un’invasione del Giappone era molto forte. Ma, la sovrastante verità venuta era probabilmente molto semplice: Come disse il fisico Freeman Dyson più tardi: “La ragione per cui è stata buttata fu che nessuno ebbe il coraggio o la previsione di dire no”.
è importante rendersi conto come erano attoniti i fisici in seguito al bombardamento di Hiroshima, il 6 Agosto del 1945. Essi descrissero una serie di onde di emozioni: prima un senso di soddisfazione che la bomba aveva funzionato, poi l’orrore per tutta la gente che era stata uccisa, e ancora un convincente sentimento che per nessuna ragione un’altra bomba doveva essere buttata. Ma naturalmente un’altra bomba fu lanciata, su Nagasaky, solo tre giorni dopo il bombardamento di Hiroshima.
Nel novembre del 1945, tre mesi dopo il bombardamento atomico, Oppenheimer si pose fermamente dietro la posizione scientifica, dicendo: “Non è possibile essere uno scienziato senza credere che il sapere del mondo, e il potere che gli conferisce, è cosa di intrinseco valore per l’umanità, e che lo stai usando per aiutare l’espansione della conoscenza e sei disposto ad accettarne le conseguenze”.

Oppenheimer cominciò a lavorare, con altri, al rapporto Acheson-Lilienthal, il quale, come disse Richard Rhodes in un suo recente libro, Visions of Technology - “Trovata una via per prevenire la corsa all’armamento nucleare clandestino senza risultare ai governi armati mondiali”; il loro suggerimento era di rinuncia del lavoro sulle armi nucleari per gli stati - nazione ad una agenzia Internazionale.
Questa proposta condusse al Progetto Baruch, il quale fu sottomesso alle Nazioni Unite nel giugno del 1946 ma mai adottato (forse perché, come suggeriva Rhodes, Bernard Baruch aveva “insistito nel seppellire il progetto di sanzioni convenzionali”, per cui inevitabilmente rovinandolo, anche se sarebbe stato “quasi certamente rigettato in ogni caso dalla Russia Stalinista”). Altri sforzi per favorire passi intelligenti verso l’internazionalizzazione del potere nucleare per prevenire una corsa agli armamenti si condussero in contrasto sia con la politica statunitense e l’interna diffidenza, o sospetto dei Sovietici. L’opportunità di sfuggire alla corsa alle armi fu persa, e molto velocemente.
Due anni più tardi, nel 1948, Oppenheimer sembrava aver raggiunto un altro stato nel suo pensiero, dicendo: “In uno strano crudo senso che nessuna volgarità, nessun humor, nessuna dichiarazione può estinguere, i fisici hanno conosciuto il peccato; e questo è un sapere che non possono perdere”.

Nel 1949, i Sovietici esplosero una bomba atomica. Dal 1955, sia gli USA che Unione Sovietica, testarono bombe all’idrogeno adatte al rifornimento aereo. E così iniziò la corsa alle armi nucleari.
Circa 20 anni fa, nel documentario The Day After Trinity, Freeman Dyson riassunse le posizioni scientifiche che ci portarono al precipizio nucleare.
“Io stesso l’ho sentito. Lo splendore delle armi nucleari. è irresistibile, se vieni a loro come scienziato. Sentirlo che è li, nelle tue mani, sentire questa energia che irrora le stelle, lasciandogli fare la tua preghiera.
Di fare questi miracoli, di alzare milioni di tonnellate di pietre verso il cielo. E qualcosa che da alla gente un’illusione di un illimitato potere, ed è, in alcun modo, responsabile di tutti i nostri guai - questo, che potreste chiamare arroganza tecnicistica, che soggioga le persone quando realizzano cosa possono fare con le loro menti.⁸

Oggi, come allora, siamo creatori di nuove tecnologie e stelle del futuro immaginato, guidati - questa volta da grandi ricompense finanziarie e competizioni globali - nonostante i chiari pericoli, difficilmente valutando come possa essere provare a vivere in un mondo che è il realistico risultato di ciò che stiamo creando e immaginando.

Nel 1947, The Bulletin of the Atomic Scientists cominciò a mettere il Doomsday Clock (l’orologio del giorno del giudizio) sulla sua copertina.
Per oltre 50 anni, ha dimostrato una valutazione dei pericoli relativi al nucleare che abbiamo di fronte, riflettendo le mutevoli condizioni internazionali. Le lancette dell’orologio sono state mosse 15 volte e oggi, a nove minuti a mezzanotte, riflettono il continuo e reale pericolo delle armi nucleari. La recente aggiunta dell’India e del Pakistan alla lista dei detentori del potere nucleare ha aumentato la minaccia di fallimento dell’obiettivo di nonproliferazione, e questo pericolo era apparso muovendo le lancette più vicino alla mezzanotte nel 1998.
Ai giorni nostri, quanti pericoli abbiamo di fronte, non solo dagli armamenti nucleari, ma da tutte queste tecnologie? Quanto è alto il rischio di estinzione?

Il filosofo Jhon Leslie ha studiato queste domande e ha concluso che il rischio di estinzione umana è almeno il 30%⁹, mentre Ray Kurzweil crede che abbiamo “una migliore opportunità di farcela, con l’obiezione per cui è sempre stato accusato di essere ottimista. Non solo queste previsioni non sono incoraggianti ma non includono neanche la possibilità di alcuni orrendi risultati vicini all’estinzione.

Confrontati con tali asserzioni alcune persone serie suggeriscono di andarsene dalla terra al più presto possibile. Colonizzeremo la galassia utilizzando le sonde? di Von Neumann che passano da sistema stellare a sistema stellare. Per questo passo saranno necessari 5 miliardi di anni da ora (o al più presto se il nostro sistema solare sarà disastrosamente colpito dall’imminente collisione della nostra galassia con la galassia di Andromeda nei prossimi 3 miliardi di anni. Ma se prendiamo per buona la parola di Kurzweil e Moravec ciò potrebbe essere necessario per la metà di questo secolo.
Quali sono qui le implicazioni morali?
Se dobbiamo andarcene dalla terra così presto affinchè sopravviva la nostra specie, chi accetterà la responsabilità per il destino di coloro (alla fine quasi tutti noi) che saranno lasciati indietro?
Anche se ci sparpagliamo nelle stelle, non è probabile che ci porteremo i nostri problemi con noi o che più tardi ci raggiungeranno? Il destino della nostra specie sulla terra o il destino sulle galassie sembrano inestricabilmente congiunti.
Un’altra idea è di innalzare una serie di scudi per difendersi contro ciascuna delle tecnologie pericolose. L’Iniziativa di Difesa Strategica, proposta dall’Amministrazione Reagan, fu un tentativo di progettare uno scudo contro la minaccia di un attacco nucleare da parte dell’Unione Sovietica. Ma come osservò Arthur C. Clarke, interessato a trattare sul progetto: “Benchè fosse possibile, una immensa spesa per costruire sistemi di difesa locale che avrebbero lasciato passare “solo” una piccola percentuale di missili balistici, la più sollecitata idea di un ombrello nazionale era assurda-senza-senso.
Luis Alvarez, forse il più grande fisico sperimentale di questo secolo, mi fece notare che i difensori di questi schemi erano “tipi molto chiari con un senso non comune”.
Clarke continuava: “Guardando dentro la mia sfera di cristallo spesso nebulosa, sospetto che una totale difesa potrebbe infatti essere possibile tra più o meno un secolo. Ma la tecnologia in questione produrrebbe, come un effetto collaterale, armi così terribili che nessuno perderebbe tempo con qualcosa come missili balistici primitivi”.¹⁰

In Engines of Creation, Eric Drexler propose che noi avremmo costruito uno scudo di difesa attivo nanotecnologico - una forma di sistema immunitario per la biosfera - per difendersi contro i pericolosi replicatori di ogni tipo che possono sfuggire dai laboratori o essere creati con malintenzione. Ma lo stesso scudo proposto sarebbe estremamente pericoloso - niente potrebbe impedirgli sviluppare problema autoimmuni e di attaccare la stessa biosfera.¹¹

Simili difficoltà concernono la costruzione di scudi contro l’ingegneria genetica e la robotica. Queste tecnologie sono troppo potenti per crearsi uno scudo in tempo necessario.
Anche se fosse possibile implementare scudi di difesa, gli effetti collaterali del loro sviluppo sarebbero tanto pericolosi quanto le tecnologie da cui ci vogliamo difendere.
Tutte queste possibilità sono indesiderabili o irrealizzabili o entrambi. L’unica alternativa realistica che io vedo è la rinuncia: limitare lo sviluppo delle tecnologie che sono troppo pericolose, limitando la nostra aspirazione a certi tipi di conoscenza.
Si, lo so, il sapere è buono, visto che è la ricerca di nuove verità. Noi stiamo cercando la conoscenza da tempi antichi. Aristotele apriva la sua “Metafisica” con una semplice espressione: “Tutti gli uomini per loro natura desiderano sapere”. Abbiamo come principio fondamentale nella nostra società, concordato a lungo sul valore dell’accesso libero all’informazione e riconosciuto quali problemi sorgono col tentativo di limitare l’accesso alla conoscenza ed il suo sviluppo.
Negli ultimi tempi, siamo arrivati ad onorare il sapere scientifico.
Ma nonostante i forti precedenti storici, se l’accesso allo sviluppo illimitato della conoscenza d’ora in avanti ci pone tutti in serio pericolo di estinzione, allora il buon senso richiede che rivediamo di nuovo le nostre basi, convinzioni a lungo sostenute.

Era Nietzsche ad ammonirci, alla fine del 19esimo secolo, non solo che Dio era morto ma che “la fiducia nella scienza, che tuttavia esiste innegabilmente, non può avere le sue origini da un calcolo di utilità; deve essere stata originata a prescindere dal fatto che l’inutilità e la pericolosità della volonta di “verità” “verità ad ogni prezzo” gli sia provata costantemente”. Questo successivo pericolo con cui adesso ci imbattiamo completamente - le conseguenze della nostra ricerca di verità. La verità che la scienza ricerca può certamente essere considerata un sostituto pericoloso di Dio se è possibile che ci conduca alla nostra estinzione.
Se potessimo concordare, come specie, che cosa volessimo, dove vogliamo arrivare, e perché, allora il nostro futuro sarebbe molto meno pericoloso - allora potremmo capire che cosa possiamo e vorremmo abbandonare. Altrimenti possiamo facilmente immaginare la corsa agli armamenti sulle tecnologie GNR, così come è successo con le tecnologie NBC nel 20esimo secolo. Questo è forse il rischio più grande, una volta iniziata tale corsa, è molto difficile terminarla.
Questa volta - a differenza del Progetto di Manhattan - non siamo in guerra, di fronte ad un implacabile nemico che minaccia la nostra civiltà; siamo guidati, invece, dalle nostre abitudini, i nostri desideri, il nostro sistema economico, e la nostra necessità competitiva di sapere.
Credo che tutti desideriamo che il nostro destino sia determinato dai nostri valori collettivi, etici e morali. Se avessimo acquistato più saggezza collettiva nelle passate migliaia di anni, allora un dialogo verso questo fine sarebbe molto più pratico, e l’incredibile potere che stiamo per scatenare non sarebbe poi così preoccupante.

Uno tenderebbe a pensare che tale dialogo sarebbe condotto dal nostro istinto di auto conservazione.
Gli individui chiaramente hanno questo desiderio, però come specie il nostro comportamento sembra non essere a nostro favore. Confrontandoci con la minaccia nucleare, spesso abbiamo parlato in modo disonesto-sleale incrementando enormemente i rischi. Se questo era politicamente motivato, o perche abbiamo preferito non pensarci, o perché quando di fronte a tali minacce abbiamo agito irrazionalmente per la paura, io non lo so, comunque non è un buon presagio.
Il nuovo vaso di Pandora di genetica, nanotecnologia, e robotica è quasi aperto, però non lo abbiamo notato. Le idee non possono essere ricacciate nel vaso; a differenza dell’uranio o il plutonio, non devono essere minate o raffinate, e possono essere liberamente copiati. Una volta fuori, sono fuori. Churchill fece notare, in un suo famoso complimento “di sinistra”, che il popolo americano e i loro leaders “invariabilmente fanno la cosa giusta, dopo che hanno esaminato ogni altra alternativa”. In questo caso tuttavia, dobbiamo agire previdentemente, visto che fare la cosa giusta in ultima istanza potrebbe significare perdere la possibilità di fare qualsiasi cosa.

Come ha detto Thoreau, “Non viaggiamo sulle rotaie; sono le rotaie che viaggiano su di noi;” e questo è ciò che dobbiamo combattere, nel nostro tempo. La questione invece è:
Chi deve essere il dominatore? Sopravviveremo alle nostre tecnologie?

Siamo spinti avanti in questo nuovo secolo senza nessun piano, nessun controllo, senza freni. Siamo già andati troppo in la’ per cambiare direzione?
Io non credo, ma non stiamo ancora provando, e l’ultima possibilità per affermare il controllo - il punto di infallibilità - si avvicina velocemente. Abbiamo i nostri primi robot domestici, come pure tecniche di ingegneria genetica commercialmente disponibile, e le nostre tecniche nanoscale stanno progredendo rapidamente.

Mentre lo sviluppo di queste tecnologie procede attraverso un grande numero di passi, non è dovuto che - come è successo nel Progetto Manhattan e nel Test Trinity - l’ultimo passo nel dimostrare la validità di una tecnologia sia grande e difficile. La rottura verso l’auto-replicazione selvaggia della robotica, l’ingegneria genetica, o la nanotecnologia potrebbe arrivare all’improvviso, ravvivando la sorpresa che sentimmo quando venimmo a conoscenza per la prima volta della clonazione dei mammiferi.
E ancora credo che non abbiamo una base forte e solida per sperare. I nostri tentativi di trattare con le armi di distruzione di massa nell’ultimo secolo sono un brillante esempio di rinuncia che ci fa riflettere: l’abbandono unilaterale statunitense, incondizionato, di sviluppo di armi biologiche.
Questa rinuncia emerse una volta realizzato, che mentre sarebbe stato un sforzo enorme creare queste terribili armi, avrebbero potuto da li in poi facilmente essere duplicate e cadere nelle mani di nazioni nemiche o gruppi terroristici.
La chiara conclusione fu che avremmo creato ulteriori minacce comprando queste armi, e che sarebbe stato più sicuro non comprarle. Abbiamo sussunto il nostro abbandono delle armi chimiche e biologiche nel 1972 con la Convenzione delle Armi Biologiche (BWC) e nel 1993 con la Convenzione delle Armi Chimiche (CWC).¹²

Per quanto riguarda la continua minaccia delle armi nucleari, con cui abbiamo vissuto ormai per circa più di 50 anni, il rifiuto del senato Statunitense del Comprehensive Test Ban Treaty chiarisce che l’abbandono delle armi nucleari non sarà politicamente facile. Ma abbiamo solo una opportunità, con la fine della guerra fredda, di contrastare una corsa alle armi multipolare.
In base agli abbandoni della BWC e CWC, il successo dell’abolizione di armi nucleari potrebbe aiutarci a costruire l’abitudine ad abbandonare tecnologie pericolose. (Attualmente, disfacendosi di tutte, tranne 100 armi nucleari, mondialmente - all’incirca l’intero potere distruttivo della II Guerra Mondiale - potremmo eliminare il pericolo di estinzione).¹³

Verificarne l’abbandono sarebbe un problema difficile, ma non irrisolvibile. Siamo fortunati ad aver già fatto parecchio lavoro importante nel contesto di BWC ed altri accordi. Il nostro principale compito sarà di applicare questo alle tecnologie che sono naturlamente molto più commerciali che militari. Il bisogno sostanziale è della trasparenza giacchè la difficoltà di verifica è direttamente proporzionale alla difficoltà di distinzione tra attività legittime e le restanti.

Francamente credo che la situazione nel 1945 era più facile di quella con cui ci confrontiamo ora: le tecnologie nucleari erano ragionevolmente separabili tra uso commerciale e militare, e il monitoraggio era facilitato dalla stessa natura dei test atomici e dalla facilità con cui poteva essere misurata la radio-attività.
La ricerca su applicativi militari poteva essere condotta in laboratori nazionali come Los Alamos, con i risultati mantenuti segreti al più lungo possibile.
Le tecnologie GNR non si dividono chiaramente in utilizzo commerciale o militare; dato il ,loro potenziale nel mercato è difficile immaginarne l’acquisto nei soli laboratori statali. Con la loro diffusa richiesta commerciale, costringere alla rinuncia richiederà un regime di verifica simile a quello per le armi biologiche ma ad una livello senza precedenti. Questo inevitabilmente aumenterà la tensione tra la nostra privacy ed il desiderio di informazioni proprietarie, e la necessità di verifica per proteggerci tutti.
Senza dubbio incontreremo una forte resistenza a questa perdita di privacy e libertà di azione.

La verifica della rinuncia di certe tecnologie GNR dovrà avvenire nel cyberspazio quanto nel mondo fisico. Il punto critico sarà di creare la necessaria trasparenza in mondo di informazioni di proprietà, presumibilmente provvedendo a nuove forme di protezione sulla proprietà intellettuale.
Verificare la messa a norma richiederà che gli scienziati e gli ingegneri, adottino un forte codice di condotta etica, richiamando il giuramento di Ippocrate, avranno il coraggio imporsi quando necessario anche ad un alto rischio personale.
Questo risponderebbe alla chiamata - 50 anni dopo Hiroshima - del Premio Nobel Hans Bethe, uno dei più anziani membri viventi del Manhattan Project, che dice “cessate il lavoro, desistete dal creare, sviluppare, migliorare e produrre armi nucleari o altre armi con la potenzialità di distruzione di massa”.
Nel 21° secolo ciò richiede vigilanza, responsabilità personale da parte di coloro che lavorerebbero sia con tecnologie NBC e GNR per evitare l’imlementazione di armi di distruzione di massa e la distruzione di massa abilitata dal sapere.

Thoreau diceva anche che saremmo “ricchi in proporzione al numero di cose di cui possiamo fare a meno” Ognuno di noi cerca la felicità, ma sembrerebbe opportuno chiederci se dobbiamo rischiare così tanto, la totale distruzione, per acquisire ancora più sapere e più cose; il buon senso dice che c’è un limite alle nostre necessità materiali e che alcuni saperi sono troppo pericolosi quindi meglio dimenticati.
Non dovremmo nemmeno ricercare una vicina immortalità senza considerarne i costi, senza considerare il commisurato incremento del rischio di estinzione . L’immortalità, mentre forse è originale, non è certamente il solo possibile sogno utopico.
Recentemente ho avuto la fortuna di incontrare lo stimato autore Jacques Attali, di cui il libro Lignes d’horizons (Millennium, nella traduzione in inglese) ha aiutato a ispirare l’approccio Java e Jini dell’arrivo dei computer pervasivi, come descritti precedentemente in questa rivista. Nel suo nuovo libro Fraternités, Attali descrive come i nostri sogni di utopia siano cambiati nel tempo:

“All’alba delle società, gli uomini videro il loro passaggio sulla terra come niente di più che un labirinto di dolore, alla fine della quale vi è posta una porta che conduce, attraverso la loro morte, alla compagnia degli Dei e dell’Eternità. Con i giudei e poi con i greci, alcuni uomini osarono liberarsi dai comandamenti teologici e sognarono di una Città ideale dove sarebbe prosperata la Libertà. Altri, notando lo sviluppo della società mercato, capirono che la libertà di qualcuno avrebbe potuto recare l’alienazione di altri, e cercarono l’Eguaglianza”.

Jacques mi aiutò a capire come questi tre diversi obiettivi utopici esistono con molta tensione nelle nostre società di oggi. Poi prosegue descrivendo la quarta utopia, Fraternità, di cui il fondamento è l’altruismo. Fraternità da sola è associata a felicità individuale con la felicità di altri, fornendo la promessa di autosostentamento.
Questo ha cristallizzato il mio problema con il sogno di Kurzweil. Un approccio tecnologico all’eternità - una vicina immortalità attraverso la robotica - potrebbe non essere l’utopia più desiderabile, e la sua aspirazione porta chiari pericoli. Forse dovremmo riconsiderare le nostre scelte utopiche.
Dove possiamo cercare una nuova etica di base per situare il nostro percorso? Ho trovato le idee incluse nel libro Ethics for the new Millenium, del Dalai Lama, molto utili. Mentre è molto conosciuto, ma poco ascoltato, il Dalai Lama dice che la cosa più importante è per noi condurre la nostra vita con amore e compassione per gli altri, e che le nostre società hanno bisogno di sviluppare una nozione più forte di responsabilità universale e della nostra interdipendenza; egli propone uno standard di condotta eticamente positiva per individui e società che sembrano consonanti con l’utopia di Fraternità di Attali.
Il Dalai Lama continua argomentando che dobbiamo capire cos’è che fa felice la gente, e ammette la forte evidenza che né il progresso materiale nè l’aspirazione del potere di conoscenza è la chiave - che ci sono limiti a quello che la scienza e l’aspirazione scentifica da sola può fare.
La nostra nozione occidentale di felicità sembra provenire dai Greci, che la definiscono come “l’esercizio del potere vitale lungo binari di eccellenza in una vita che comprenda il loro scopo”.¹⁴

Chiaramente, dobbiamo trovare significative sfide e sufficienti scopi nella nostra vita se vogliamo essere felici nonostante ciò che verrà. Ma credo che dobbiamo trovare sbocchi alternativi per le nostre forze creative, al di la della cultura di crescita economica eterna; questa crescita è stata certamente una benedizione per centinaia di anni, ma non ci ha portato pura felicità e ora dobbiamo scegliere tra aspirazioni di libretà e sviluppo indiretto attraverso scienza e tecnologia con i pericoli che lo accompagna.¹⁰

è passato più di un anno dal mio primo incontro con Ray Kurzweil e John Searle. Vedo intorno a me un motivo per avere la speranza nelle voci per la cautela e nella rinuncia e in quelle persone che ho scoperto preoccupate come me sulla nostra attuale condizione. Provo, anch’io, un profondo senso di responsabilità personale - non per il lavoro che ho già fatto, ma per il lavoro che dovrò ancora fare, al punto di confluenza delle scienze.
Ma molte altre persone che conoscono i pericoli tuttavia sembrano stranamente silenziose. Se sollecitate , se ne escono con “non c’è niente di nuovo” - come se la consapevolezza di ciò che potrebbe accadere fosse una risposta sufficiente. Mi dicono, ci sono università piene di bioetici che studiano questo, tutto il giorno. Dicono, “tutto questo è stato scritto da prima, e da esperti”. Si lamentano, le tue preoccupazioni e i tuoi argomenti sono scarpe vecchie.

Non so dove questa gente nasconde la paura. Come architetto di sistemi complessi entro in questa arena come un generico. Ma questo dovrebbe diminuire le mie preoccupazioni? Sono consapevole di quanto sia stato scritto, detto e letto su questo in modo così autorevole. Ma questo significa che ha raggiunto persone? Questo significa che possiamo sminuire i pericoli che abbiamo davanti?
Il sapere non è un movente per non agire. Possiamo dubitare che il sapere sia diventata un’arma che maneggiamo contro noi stessi?
Le esperienze degli scienziati atomici dimostrano chiaramente la necessità di prendere responsabilità personali, il pericolo che le cose si muoveranno troppo velocemente, e il modo in cui un processo può prendere vita propria. Noi possiamo, come loro, creare problemi insormontabili in pochissimo tempo. Dobbiamo pensare di più in anticipo se non vogliamo essere sorpresi e colpiti dalle conseguenze delle nostre invenzioni.
Il mio continuo lavoro professionale è migliorare la affidabilità del software. Il software è uno strumento, e come progettista di tali strumenti devo sforzarmi a controllare gli utilizzi degli strumenti che faccio. Ho sempre creduto che facendo i software più affidabili, dati i suoi utilizzi, avrebbero reso il mondo più sicuro e un posto migliore; se dovessimo arrivare a pensare al contrario, allora sarei moralmente obbligato a fermare il mio lavoro. Posso immaginare che tale giorno arriverà.

Tutto questo non mi lascia arrabbiato ma un po’ malinconico. D’ora in poi, per me, il progresso sarà alquanto agrodolce.
Vi ricordate la penultima e bellissima scena in “Manhattan”, dove Woody Allen sta sdraiato sul suo lettino parlando al registratore? Sta scrivendo una piccola storia sulla gente che sta creando inutili neurotici problemi a se stessa, perché li trattiene dal confrontarsi con i più irrisolvibili e terrificanti problemi sull’universo.
Guida se stesso a chiedersi: “Perché la vita merita di essere vissuta?” e considera cosa vale la pena per loro: Groucho Marx, Willie Mays, il secondo movimento della Jupiter Symphony, la registrazione di Louis Armstrong di “Potato Head Blues”, i film svedesi, l’educazione sentimentale di Flaubert, Marlon Brando, Frank Sinatra, le mele e le pere di Cezanne, i granchi a Sam Wo’s, e, alla fine, il pezzo forte: la faccia del suo amore Tracy.

Ciascuno di noi ha le proprie cose preziose, e come le curiamo, localizziamo l’essenza della nostra umanità. Alla fine, è per la nostra grande capacità di avere cura che rimango ottimista nel credere che affronteremo i pericoli prodotti.
La mia immediata speranza è partecipare in una discussione molto più ampia sui problemi qui sollevati, con persone provenienti da diversi passati, modo non predisposto all’ansia o favorire tecnologie per il suo proprio interesse.
Come inizio ho doppiamente portato molti di questi problemi ad eventi sponsorizzati da l’Aspen Institute e ho separatamente proposto che l’Accademia Americana delle Arti e delle Scienze li prendesse come estensione del proprio lavoro con le Conferenze Pugwash. (Queste si tengono dal 1957 per discutere il controllo delle armi, specialmente delle armi nucleari, e per formulare regole fattibili).

è una sfortuna che i meetings di Pugwash cominciati solo dopo il genio nucleare era uscito dalla lampada - all’incirca 15 anni dopo. Stiamo avendo anche un ritardo nell’ indirizzare seriamente i problemi delle tecnologie del 21° secolo - la prevenzione del sapere abilitato alla distruzione di massa - e ulteriori ritardi sembrano inaccettabili.

Quindi sto ancora ricercando; ci sono ancora molte cose da imparare. Se siamo destinati ad aver successo o a fallire, sopravvivere o cadere vittime di queste tecnologie, non è ancora deciso.
Ed un altra volta rimango in piedi fino a tardi, sono circa le sei del mattino. Sto cercando di immaginare risposte migliori, per rompere l’incantesimo e liberarle dalla pietra.

Aprile 2000
Bill Joy
cofondatore e caposcienziato di Sun Microsystems, è stato dirigente della commissione presidenziale sul futuro della ricerca IT, ed è coautore delle specifiche del liguaggio Java.

Traduzione italiana di TMCrew e rivista da me dell’articolo pubblicato su Wired - aprile 2000

The passage Kurzweil quotes is from Kaczynski’s Unabomber Manifesto, which was published jointly, under duress, by The New York Times and The Washington Post to attempt to bring his campaign of terror to an end. I agree with David Gelernter, who said about their decision:
“It was a tough call for the newspapers. To say yes would be giving in to terrorism, and for all they knew he was lying anyway. On the other hand, to say yes might stop the killing. There was also a chance that someone would read the tract and get a hunch about the author; and that is exactly what happened. The suspect’s brother read it, and it rang a bell.
“I would have told them not to publish. I’m glad they didn’t ask me. I guess.”
(Drawing Life: Surviving the Unabomber. Free Press, 1997: 120.) ↩︎
Garrett, Laurie. The Coming Plague: Newly Emerging Diseases in a World Out of Balance. Penguin, 1994: 47-52, 414, 419, 452. ↩︎
Isaac Asimov described what became the most famous view of ethical rules for robot behavior in his book I, Robot in 1950, in his Three Laws of Robotics:
1: A robot may not injure a human being, or, through inaction, allow a human being to come to harm.
2: A robot must obey the orders given it by human beings, except where such orders would conflict with the First Law.
3: A robot must protect its own existence, as long as such protection does not conflict with the First or Second Law.
Isaac Asimov descrisse ciò che divenne il più famoso punto di vista dei ruoli etici per il comportamento umano nel suo libro “IO, robot nel 1950”, nelle sue tre leggi della Robotica: 1. Un robot non può arrecare nessun danno agli esseri umani, o attraverso inattività. ↩︎
Michelangelo wrote a sonnet that begins:
Michelangelo scrisse un sonetto che inizia: Non ha l’ ottimo artista alcun concetto Ch’ un marmo solo in se non circonscriva Col suo soverchio; e solo a quello arriva La man che ubbidisce all’ intelleto.
Stone translates this as:
The best of artists hath no thought to show which the rough stone in its superfluous shell doth not include; to break the marble spell is all the hand that serves the brain can do.
Stone describes the process: “He was not working from his drawings or clay models; they had all been put away. He was carving from the images in his mind. His eyes and hands knew where every line, curve, mass must emerge, and at what depth in the heart of the stone to create the low relief.”
(The Agony and the Ecstasy. Doubleday, 1961: 6, 144.) ↩︎
First Foresight Conference on Nanotechnology in October 1989, a talk titled “The Future of Computation.” Published in Crandall, B. C. and James Lewis, editors. Nanotechnology: Research and Perspectives. MIT Press, 1992: 269. See also www.foresight.org/Conferences/MNT01/Nano1.html . ↩︎
In his 1963 novel Cat’s Cradle, Kurt Vonnegut imagined a gray-goo-like accident where a form of ice called ice-nine, which becomes solid at a much higher temperature, freezes the oceans. ↩︎
Kauffman, Stuart. “Self-replication: Even Peptides Do It.” Nature, 382, August 8, 1996: 496. See www.santafe.edu/sfi/People/kauffman/sak-peptides.html . ↩︎
Else, Jon. The Day After Trinity: J. Robert Oppenheimer and The Atomic Bomb (available at www.pyramiddirect.com ). ↩︎
This estimate is in Lesliès book The End of the World: The Science and Ethics of Human Extinction, where he notes that the probability of extinction is substantially higher if we accept Brandon Carter’s Doomsday Argument, which is, briefly, that “we ought to have some reluctance to believe that we are very exceptionally early, for instance in the earliest 0.001 percent, among all humans who will ever have lived. This would be some reason for thinking that humankind will not survive for many more centuries, let alone colonize the galaxy. Carter’s doomsday argument doesn’t generate any risk estimates just by itself. It is an argument for revising the estimates which we generate when we consider various possible dangers.” (Routledge, 1996: 1, 3, 145.) ↩︎
Clarke, Arthur C. “Presidents, Experts, and Asteroids.” Science, June 5, 1998. Reprinted as “Science and Society” in Greetings, Carbon-Based Bipeds! Collected Essays, 1934-1998. St. Martin’s Press, 1999: 526. ↩︎ ↩︎
And, as David Forrest suggests in his paper “Regulating Nanotechnology Development,” available at www.foresight.org/NanoRev/Forrest1989.html , “If we used strict liability as an alternative to regulation it would be impossible for any developer to internalize the cost of the risk (destruction of the biosphere), so theoretically the activity of developing nanotechnology should never be undertaken.” Forrest’s analysis leaves us with only government regulation to protect us - not a comforting thought. ↩︎
Meselson, Matthew. “The Problem of Biological Weapons.” Presentation to the 1,818th Stated Meeting of the American Academy of Arts and Sciences, January 13, 1999.
(minerva.amacad.org/archive/bulletin4.htm) ↩︎
Doty, Paul. “The Forgotten Menace: Nuclear Weapons Stockpiles Still Represent the Biggest Threat to Civilization.” Nature, 402, December 9, 1999: 583. ↩︎
Hamilton, Edith. The Greek Way. W. W. Norton & Co., 1942: 35. ↩︎