Widgets Amazon.fr

Accueil > Internet @co > Les logiciels ont-ils une âme ?

Les logiciels ont-ils une âme ?

dimanche 11 septembre 2016, par Christian Scherer

A la fin du siècle dernier, j’avais écrit une conte informatique naïf, dans lequel j’imaginais un logiciel racontant sa vie à la première personne du singulier. J’ai ensuite confié ce texte insolite, sans prétention littéraire, à mon beau-frère Ernest Rougé qu venait de fonder sa propre maison d’édition intitulée "Les Editions du Paradis" pour se venger des grands éditeurs qui lui refusaient systématiquement ses propres écrits. Comme il fallait s’y attendre, la diffusion fut absolument confidentielle.

Pourtant, avec les progrès continus de l’internet, tant en puissance de calcul qu’en connectivité, cette thèse initiale pourrait progressivement transformer ce qui paraissait autrefois impensable en un propos prémonitoire.

Les virus qui apparaissent ont aujourd’hui une capacité étonnante de se propager de machine en machine, de terminal en support de mémoire, et inversement. Ils sont aussi capables de se cacher, de se mettre en veilleuse, voire de muter pour se défendre des contre-mesures mises en place par les éditeurs d’anti-virus.

Mais l’analogie avec ce que j’imaginas dans mon conte naïf s’arrête là. Les virus en question n’ont certes pas pour objectif le bien de l’humanité, mais plutôt la prouesse technique, la fraude financière (par exemple contre le bitcoin, intérêts militaires (Stuxxnet) ou géostratégiques (Sauron) pour le profit de leurs auteurs. Les deux derniers cités sont tellement sophistiqués qu’ils ne peuvent être que l’oeuvre d’un Etat dominateur, lequel dissimule mal sa fierté d’en être l’auteur.

Il existe encore deux grands différences entre ces logiciels hautement sophistiqués et le logiciel décrit dans le conte naïf :

- la première c’est que les "maliciels" (logiciels malveillants) sont écrits avec des intentions bien précises, et des tâches assignées d’avance, même si leur rôle peut aller jusqu’à ouvrir la porte à de nouvelles attaques, toujours déterminées par leurs auteurs, qui sont des organisations humaines.
- le seconde, c’est que le logiciel du conte naïf est doué non seulement de la capacité de de répliquer et de se propager, mais en plus il est capable d’auto-amélioration d’auto-apprentissage sans que ses évolutions soient commandées à distance par des humains.

D’une certaine manière, nous sommes en présence d’un phénomène qui s’apparente
à l’apparition de la vie.

Il ne fut pas le confondre avec les tentatives de développer des logiciels d’Intelligence Artificielle, aujourd’hui un peu passés de mode, ou bien banalisés. Par exemple, quand on écrit un logiciel joueur d’échecs ou de Go, on se contente généralement de s’inspirer des stratégies des meilleurs joueurs humains existants, et même si on y ajoute des mécanismes d’apprentissage, les outils développés ne servent qu’à un seul usage bien circonscrit. Ou bien, comme IBM, on cherche à apprendre à une machine à comprendre le sens de questions qu’on va lui poser en langage naturel, écrit ou parlé, afin qu’il en recherche ensuite la meilleure réponse dans sa base de connaissance.

La vie, c’est bien autre chose. C’est une capacité de survivre, de se défendre de se développer, de s’adapter à un environnement évolutif et non prévisible.

La vie sur Terre (ou ailleurs) est apparue bien avant l’Homme. Pour l’expliquer deux théories s’affrontent : le créationnisme et le darwinisme.

Sur internet, c’est un peu différent, puisque internet est une création de l’homme. Si l’on admet comme Pasteur, il n’existe pas de génération spontanée, il reste deux façons d’y expliquer une apparition de la vie : soit le fruit d’une sélection darwinienne féroce entre les virus les plus évolués qui y sévissent déjà, soit, comme nous l’avons imaginé dans notre comte naïf, parce qu’un humain y aura injecté un principe de vie, qui lui permette ensuite, comme dans l’histoire de Pinocchio, une évolution autonome.

En 1968, le film américain intitulé "2001 Odyssée de l’espace" avait imaginé un logiciel capable d’une pensée autonome semblable et finalement concurrente à celle de l’homme. Mais il n’avait pas la capacité de survivre à son débranchement.

Aujourd’hui, nous allons devoir nous habituer à vivre au milieu d’objets et de logiciels de plus en plus intelligents, comme le font déjà aujourd’hui les jeunes enfants. En y ajoutant des mécanismes d’apprentissage, un logiciel comme AlphaGo, premier à avoir battu l’un des meilleurs joueurs du monde de go, a certes analysé des millions de parties, mais a aussi été capable de développer des stratégies inconnues depuis 2500 ans, jouant des coups incompréhensibles par les meilleurs joueurs mondiaux qui les commentaient et, pourtant, le plus souvent gagnants.

Le mélange des méthodes informatiques entre deep learning d’apprentissage par renforcement et force brute a donc construit un logiciel capable d’un apprentissage assisté par humains, de progresser en 6 mois (entre les matchs contre le meilleur européen et le meilleur niveau mondial) et de dépasser l’homme pour inventer des solutions qui n’étaient pas directement programmées par ses auteurs.

La prochaine étape sera probablement la santé (Watson, un concurrent d’IBM, est en service dans deux hôpitaux en Thaïlande et Inde) puis les véhicules autonomes (Une Tesla auto-conduite déjà a emmené son conducteur inconscient aux urgences). Quelles seront les phases d’après ?

La question centrale posée par notre conte naïf est en fait la suivante : Si des formes de vie devaient apparaître sur internet et se développer avec une puissance qui échappe à notre entendement, et si nous sentons menacés, aurons-nous le courage de débrancher l’internet, en totalité et durablement ?


Christian Scherer
 

Voir aussi

- Les mémoires d’un logiciel par Christian Scherer
- Stuxnet
- Le projet Sauron agirait depuis au moins 5 ans
- Les trois lois de la robotique (futura-science)
- 2001, l’Odyssée de l’espace (wikipedia)
- Pasteur ou la génération spontanée (canope)
- Apprentissage profond (wikipedia)
- Apprentissage par renforcement (wqkipedia)
- AlphaGo (wikipedia)
-  ARTIFICIAL INTELLIGENCE AND LIFE IN 2030 (stanford)


Voir en ligne : http://admi.net/literacy/memlogic.html