" Pourquoi l'avenir n'a pas besoin de nous ". Par Bill Joy

Nos techniques les plus puissantes du 21ème siècle - la robotique, le génie génétique et les nanotechnologies - menacent de faire de l'homme une espèce en dange

Par Bill Joy, co-fondateur et Directeur Scientifique de Sun Microsystems, et coauteur de La Spécification du Langage Java.

" Admettons d'abord que les informaticiens réussissent à développer des machines intelligentes qui peuvent tout faire mieux que les humains. Dans ce cas tout le travail sera vraisemblablement fait par d'énormes systèmes fortement organisés de machines et aucun effort humain ne sera nécessaire. Deux cas seulement pourraient se produire. On pourrait permettre aux machines de prendre toutes leurs décisions sans intervention humaine, ou bien le contrôle humain des machines pourrait être conservé. ( ... )

Bien sûr, la vie sera à ce point sans but que les gens devront être biologiquement ou psychologiquement modifiés soit pour supprimer leur pulsion de dominance ou pour leur faire "sublimer" leur pulsion de dominance dans un passe-temps inoffensif. Ces êtres humains modifiés peuvent être heureux dans une telle société, mais ils ne seront très certainement pas libres. Ils auront été réduits au statut d'animaux domestiques. "

Dans le livre, on ne découvre qu'en tournant la page que l'auteur de ce passage est Théodore Kaczynski - Unabomber. Je ne suis aucunement un apologiste de Kaczynski. Ses bombes ont tué trois personnes pendant une campagne de terreur de 17 ans et ont blessé plusieurs autres. Une de ses bombes a gravement blessé mon ami David Gelernter, un des informaticiens les plus brillants et les plus visionnaires de notre temps. Comme beaucoup de mes collègues, j'ai senti que j'aurais facilement pu être la cible suivante d' Unabomber.

Les actions de Kaczynski étaient meurtrières et, à mon avis, d'un fou criminel. Il est clairement un Luddite, mais se limiter à cette affirmation n'écarte pas son argument; aussi difficile qu'il soit pour moi de le reconnaître, il y a un certain mérite dans le raisonnement de ce passage. Je me suis senti contraint d'y faire face. ( ... )

Habitués à vivre avec des percées scientifiques presque de routine, il nous reste à nous habituer au fait que les techniques les plus captivantes du 21ème siècle - la robotique, le génie génétique et les nanotechnologies - posent une menace différente de celle des techniques qui sont apparues auparavant. Spécifiquement, les robots, les organismes génétiquement modifiés et les nanorobots partagent un facteur d'amplification dangereux : Ils peuvent s'auto-reproduire. Une bombe explose seulement une fois - mais un robot peut en devenir plusieurs et on peut en perdre rapidement le contrôle. ( ... )

Les techniques du 21ème siècle - génétique, nanotechnologie et robotique (GNR) - sont si puissantes qu'elles peuvent couvrir des nouvelles classes entières d'accidents et d'abus. D'une façon particulièrement dangereuse, pour la première fois, ces accidents et abus sont largement à la portée d'individus ou de petits groupes. Ils n'exigeront pas de grands équipements ou des matières premières rares. Le savoir seul suffira à leur utilisation. ( ... )

Étant donné le pouvoir incroyable de ces nouvelles techniques, ne devrions nous pas demander comment nous pouvons au mieux coexister avec elles ? Et si notre propre extinction est un résultat probable, ou même possible, de notre développement technique, ne devrions nous pas procéder avec beaucoup de précautions ? ( ... )

Pourquoi l'avenir n'a pas besoin de nous.

piecesetmaindoeuvre