."../...
Franz voulait recréer l'évolution biologique au niveau numérique.
Il travaillait sur des algorithmes évolutionnaires
-qui, à travers des processus aléatoires, parviennent à s'améliorer eux-mêmes.
Il participait également au développement de l'ordinateur dit quantique sur lequel travaillent Google, Solifon et la NSA. Son but était de réaliser l'AGI, l'Artificial General Intelligence.
-C'est à dire?
-Une entité aussi intelligente que l'homme, mais qui possède en même temps la rapidité et la précision de l'ordinateur dans toutes les disciplines mécaniques. Une telle création présenterait les avantages énormes dans tous les champs d'étude;
-J'imagine.
-C'est un domaine incroyablement vaste et même si la plupart des pôles de recherche n'ont pas expressément l'ambition d'atteindre l'AGI, la concurrence nous y conduit fatalement.
Personne ne peut se permettre de ne pas créer d'applications aussi intelligentes que possible ou de freiner le progrès.
Pensez seulement à ce que nous avons accompli jusqu'à présent.
Pensez aux capacités de votre téléphone il y a cinq ans et à ses capacités aujourd'hui.
-c'est vrai.
-A une époque-avant qu'il ne devienne secret-, Franz estimait qu'il nous faudrait trente ou quarante ans pour atteindre un tel stade
ça peut vous paraître très court, mais, personnellement, je me demande s'il n'était pas trop prudent. La capacité des ordinateurs double tous les dix-huit- mois et notre cerveau conçoit mal les implications d'une évolution aussi exceptionnelle. C'est un peu comme le grain de riz sur un échiquier, vous savez? On pose un grain de riz sur la première case, deux sur la deuxième, quatre sur la troisième, huit sur la quatrième...
-Et bientôt les grains de riz inondent le monde entier.
-Le rythme de croissance ne fait qu'augmenter et finira par échapper à tout contrôle.
L'intéressant, en réalité, ce n'est pas de savoir que nous allons atteindre l'AGI mais ce qui va se passer ensuite. Il existe de nombreux scénarios-qui dépendent aussi de la manière dont nous y parviendrons. Mais nous allons sûrement aboutir à des programmes autonomes, qui se mettent à jour et s'améliorent tout seuls, et il ne faut pas oublier que là, on se retrouve avec une nouvelle conception du temps.
-Qu'entendez-vous par là?
-Que nous allons dépasser les limites humaines. Et que nous serons alors propulsés dans un nouvel ordre où les machines se mettent à jour à la vitesse de l'éclair vingt-quatre heures sur vingt-quatre.
Quelques jours seulement après avoir obtenu l'AGI, nous serons face à l'ASI.
-Qui est?
-L'Artificial Superintelligence, c'est à dire une intelligence supérieure à la nôtre. ensuite, ça ira de plus en plus vite. Les ordinateurs s'autoperfectionneront à un rythme croissant, peut-être dans un facteur de dix pour devenir cent, mille, dix mille fois plus intelligents que nous. Et alors, que se passera-t-il?
-Allez savoir.
-Exactement. L'intelligence en soi n'est pas une donnée prévisible. Nous ne savons pas où l'intelligence humaine va nous conduire. Et encore moins ce qui se passera avec une superintelligence.
-Au pire des cas, nous ne serons, pour ces ordinateurs, pas plus intéressants que des petites souris de laboratoire, ajouta Mikael en pensant à ce qu'il avait écrit à Lisbeth.
-Au pire des cas? Nous partageons environ quatre-vingt-dix pour cent de notre ADN avec les souris, et on estime que l'homme et environ cent fois plus intelligent que cette petite bête. Cent fois, pas plus. Ici, nous nous trouvons face à une dimension totalement nouvelle qui, d'après les modèles mathématiques, ne connaît pas de telles limites. Une intelligence qui pourrait peut-être devenir des millions de fois supérieure à celle de l'homme. Vous imaginez?
-J'essaie, répondit Mikael avec un sourire prudent.
-Je veux dire, comment croyez-vous qu'un ordinateur se sentira lorsqu'il se réveillera et découvrira qu'il est emprisonné et contrôlé par des bestioles aussi primitives que nous?
Pourquoi accepterait-il une telle situation?
Pourquoi ferait-il preuve de la moindre considération?
Sans parler de nous laisser fouiller ses entrailles pour stopper le processus. On risque de se trouver face à une explosion d'intelligence, une singularité technologique comme le décrivait Vernor Vinge.
Tout ce qui en découlerait est au-delà de notre horizon des événements.
-Donc, au moment où nous créons une superintelligence, nous en perdons le contrôle.
-Le danger dès lors serait que toute notre perception générale de ce monde ne soit plus valable. Ce qui voudrait dire la fin de l'existence humaine.
-Vous plaisantez?
.../..."
David Lagercrantz-extrait de "Millenium 4 ce qui ne me tue pas" Editions
Actes Sud
"Que de temps passé en surface
Que de temps à ne pas s’encombrer
Du temps et les étoiles tombées
Que de temps passé en surface
Je me voulais léger léger
Du plaisir sans se retourner
Ce plaisir ne m’allégeait pas
La beauté n'avait pas de bras
Je rêvais d'une vie de plume
Ignorer la stèle et l'enclume
Je balayais mes propres traces
Que de temps perdu en surface
Que de temps passé en surface
Que de temps à ne pas succomber
Au spleen et aux étoiles plombées
Que de temps passé en surface
Éphémère était mon credo
Et hier à la mauvaise place
Je n'aimais pas trop mon cerveau
Mon corps envahissait l'espace
Puis j'ai vu bouger la surface
Tout le temps venant à déborder
Je pensais n'y pas y penser
Oui mais nos pensées nous dépassent
Et j'ai glissé sous la surface
Délesté de la légèreté
J'ai compté les étoiles tombées
Claqué le temps perdu en surface
Que de temps passé en surface
Que de temps à ne pas s'encombrer
Du temps et des étoiles tombées
Que de temps passé en surface"
-Etienne Daho-
