L'automatisation des machines dont les automobiles n'est pas un sujet nouveau. Il s'inscrit dans une tendance de fond des Techniques, au sens large. Les opportunités ont déjà été identifiées dans plusieurs articles. Les risques issus de l'intelligence des machines sont tout aussi essentiels à connaître.
Dans une œuvre Le système technicien, Jacques ELLUL décrivait en 1977 les principales tendances majeures de notre société en plaçant la Technique au centre, en étudiant le système des relations entre les techniques. Pour J.ELLUL, la Technique était en train de devenir un système autonome vis-à-vis de l’homme ; nous devenons obligés non plus uniquement de l’utiliser mais de vivre avec et à travers, modifiant à la fois notre « milieu », mais également l’organisation humaine et notre société en général. « La Technique est milieu de vie non seulement par le fait qu’elle exclut le rapport direct avec les éléments naturels ou qu’elle modifie ceux qui subsistent (l’eau, l’air) ou que l’environnement de l’homme n’est plus fait que d’objets techniques, mais encore par le fait qu’elle intervient directement sur la vie de l’homme et lui demande des adaptations comparables à celles qu’avait exigées primitivement le milieu ».
J.ELLUL différenciait la science de la technique : « pour la Science : pour celle-ci il est important de chercher par exemple la date de la découverte scientifique elle-même, le contexte intellectuel dans lequel elle se situe, etc. Mais pour la technique, ce qui compte ce n’est ni l’invention elle-même ni l’application en laboratoire : c’est la diffusion, c’est l’application adressée à la grande consommation. »
Aujourd’hui il apparaît évident que la théorie de J.ELLUL s’applique parfaitement. Le numérique est en train de tisser de nouveaux liens dans ce système technique. J.ELLUL avait identifié « l’ordinateur » comme futur pièce maîtresse. Peu écouté en France, sa théorie a surtout été étudiée aux Etats-Unis. En reprenant ci-dessous plusieurs extraits de son œuvre, une passerelle sera proposée avec le concept de Singularité Technologique forgée dans les années 1960 et venu de l’Intelligence Artificielle. D’autres citations sont disponibles sur ce lien.
En effet, si J.ELLUL démontrait les nombreux risques du système Technicien, il gardait un espoir : que l’Homme arrive à garder une certaine distance, voire une maîtrise des techniques de ce système qu’il a créé au départ mais qui maintenant se développe sans but. Et il avait identifié le principal danger : que le système devienne clôt, bouclé sur lui-même en trouvant lui-même une finalité sans intervention de l’Homme, et en utilisant des nouvelles techniques lui permettant de se développer. Récemment Ray Kurzweil, un des pionniers de l’Intelligence Artificielle aux Etats-Unis, vient de fonder une Université pour former des ingénieurs au concept de la Singularité Technologique. Pour R.Kurweil, les Techniques vont d’ici quelques dizaines d’années fusionner (nano-bio-numérique), faire système intégré, et se répliquer. J.ELLUL l’avait prévu comme la possibilité « dangereuse et aliénante ».
J.ELLUL anticipait notamment le rôle majeur des communications et de l’ordinateur en tant que chef d’orchestre du système technique : « la véritable réalité de notre société, c’est le système des relations entre les diverses techniques et les répercussions réciproques des unes sur les autres, qui s’étendent en ramifications si complexes que l’on finit par avoir des conséquences généralisées. Ce qu’il convient donc d’étudier, c’est le système des relations entre les techniques. […] En unifiant tous les sous-systèmes (ferroviaire, postal, aérien, téléphonique, de production d’énergie, militaire, etc.), l’ordinateur a permis l’émergence d’un Tout organisé qui modèle la société, la transforme, l’arraisonne, et tend peu à peu à se confondre avec elle. Désormais tous les secteurs sont interconnectés, réagissent l’un sur l’autre, conditionnent et sont conditionnés par les autres. Banques de données, traitement d’énormes flux d’informations, réseaux de communications immédiats : l’informatique permet la croissance illimitée des organisations économiques et administratives. »
« En réalité c’est l’ordinateur qui permet au système technicien de s’instituer définitivement en système : c’est d’abord grâce à lui que les grands sous-systèmes s’organisent : par exemple le système urbain ne peut se conclure que grâce aux banques de données urbaines (résultats de recensements, permis de construire accordés, logements terminés et en cours, invention des réseaux d’eaux, de téléphone, d’électricité, de transports, etc.) de même le système de communications aériennes ne peut fonctionner que grâce aux ordinateurs étant donné la complexité, le nombre croissant très rapidement des problèmes provenant de la multiplication des transports combinée avec le progrès technique dans ces domaines (ce n’est pas seulement la réservation des places, souvent évoquée, mais par exemple la relation permanente de chaque avion, à chaque instant avec un grand nombre de centres de contrôle au sol) c’est grâce à lui que les grandes unités comptables peuvent apparaître, c’est-à-dire l’infrastructure pour une croissance illimitée des organisations économiques et même administrative. »
J.ELLUL avait également pensé la possibilité offerte par le numérique pour des approches décentralisées, bottom-up : « Avec les progrès techniques les plus récents, d’automatisation d’une part et de l’informatique d’autre part, on pourrait accéder à un autre modèle institutionnel, des institutions auto-adaptables, où se combineraient l’initiative décentralisée et la synthèse centralisée. Ces institutions, munies d’une régulation d’adaptation, impliquant décentralisation, caractérisées par la souplesse opérationnelle, stratégique et structurelle, seraient « idéales », et rendues possibles par le plus récent progrès technique. Mais ici nous sommes en présence d’une question fondamentale : elles sont seulement possibles. Elles ne semblent pas directement conditionnées et nécessairement produites. Elles impliquent décision et choix. Mais comment ceci se produirait-il dans un système qui jusqu’ici a éliminé décision et choix ? ».
Puis il identifie le principal risque : « Tant que celle-ci est système de moyens, il y a encore, comme nous le verrons à la fin, une relative autonomie de l’homme et une possibilité de prendre ses distances, sinon une maîtrise. En revanche, si une fin s’impose, apparaît comme certaine et évidente pour tous, alors à ce moment, le système se clôt entièrement étant devenu complet. L’espoir de trouver une finalité à la technique est donc, ou bien inopérant parce que les fins proposées n’ont aucune commune mesure avec le phénomène technicien, ou bien le facteur décisivement aliénant et dangereux. »
Une de ces « fins » possibles est sans doute la capacité prochaine que pourrait avoir les machines à s’auto-organiser, à s’auto-concevoir, à se répliquer sans plus aucune intervention humaine. Le domaine Technique de l’Intelligence Artificielle y travaille. Le système technicien serait effectivement alors clôt et complet. Nous retrouvons là le concept de la Singularité Technologique proposé dès les années 1960.
La singularité Technologique décrit le moment où les machines auront atteint un certain niveau leur permettant de répliquer, d’apprendre à apprendre en autonomie, et d’inventer elles-mêmes de nouvelles machines. L’intervention humaine ne sera plus nécessaire. Nous ne sommes dès lors pas capable de penser au-delà de ce moment, puisque les techniques échapperont à la plupart des humains. Seuls les créateurs, les programmeurs et les spécialistes de l’IA auront une certaine maîtrise.
Ray Kurweil vient d’être embauché par Google il y a 2 mois pour devenir Director of Machine Learning. L’Intelligence Artificielle peut désormais passer de la science à la Technique et se diffuser. Décidemment M.ELLUL vous aviez prévu, dans le système technicien, les principaux rapports de force à venir.
