{"id":193,"date":"2012-12-26T12:05:47","date_gmt":"2012-12-26T12:05:47","guid":{"rendered":"http:\/\/transportsdufutur.ademe.fr\/?p=193"},"modified":"2015-07-21T16:35:46","modified_gmt":"2015-07-21T16:35:46","slug":"de-jacques-ellul-a-ray-kurzweil-les-techniques-visant-a-rendre-les-machines-autonomes-vont-se-diffus","status":"publish","type":"post","link":"https:\/\/transportsdufutur.ademe.fr\/2012\/12\/de-jacques-ellul-a-ray-kurzweil-les-techniques-visant-a-rendre-les-machines-autonomes-vont-se-diffus.html","title":{"rendered":"De Jacques Ellul \u00e0 Ray Kurzweil, les techniques visant \u00e0 rendre les machines autonomes vont se diffuser"},"content":{"rendered":"

L'automatisation des machines dont les automobiles n'est pas un sujet nouveau. Il s'inscrit dans une tendance de fond des Techniques, au sens large. Les opportunit\u00e9s ont d\u00e9j\u00e0 \u00e9t\u00e9 identifi\u00e9es dans plusieurs articles<\/a><\/strong>. Les risques issus de l'intelligence des machines sont tout aussi essentiels \u00e0 conna\u00eetre.<\/p>\n

Dans une \u0153uvre Le syst\u00e8me technicien<\/em>, Jacques ELLUL d\u00e9crivait en 1977 les principales tendances majeures de notre soci\u00e9t\u00e9 en pla\u00e7ant la Technique au centre, en \u00e9tudiant le syst\u00e8me des relations entre les techniques. Pour J.ELLUL, la Technique  \u00e9tait en train de devenir un syst\u00e8me autonome vis-\u00e0-vis de l\u2019homme ; nous devenons oblig\u00e9s non plus uniquement de l\u2019utiliser mais de vivre avec et \u00e0 travers, modifiant \u00e0 la fois notre \u00ab milieu \u00bb, mais \u00e9galement l\u2019organisation humaine et notre soci\u00e9t\u00e9 en g\u00e9n\u00e9ral. \u00ab La Technique est milieu de vie non seulement par le fait qu\u2019elle exclut le rapport direct avec les \u00e9l\u00e9ments naturels ou qu\u2019elle modifie ceux qui subsistent (l\u2019eau, l\u2019air) ou que l\u2019environnement de l\u2019homme n\u2019est plus fait que d\u2019objets techniques, mais encore par le fait qu\u2019elle intervient directement sur la vie de l\u2019homme et lui demande des adaptations comparables \u00e0 celles qu\u2019avait exig\u00e9es primitivement le milieu<\/em> \u00bb.<\/p>\n

J.ELLUL diff\u00e9renciait la science de la technique : \u00ab pour la Science : pour celle-ci il est important de chercher par exemple la date de la d\u00e9couverte scientifique elle-m\u00eame, le contexte intellectuel dans lequel elle se situe, etc. Mais pour la technique, ce qui compte ce n\u2019est ni l\u2019invention elle-m\u00eame ni l\u2019application en laboratoire : c\u2019est la diffusion, c\u2019est l\u2019application adress\u00e9e \u00e0 la grande consommation.<\/em> \u00bb<\/p>\n

Aujourd\u2019hui il appara\u00eet \u00e9vident que la th\u00e9orie de J.ELLUL s\u2019applique parfaitement. Le num\u00e9rique est en train de tisser de nouveaux liens dans ce syst\u00e8me technique. J.ELLUL avait identifi\u00e9 \u00ab l\u2019ordinateur \u00bb comme futur pi\u00e8ce ma\u00eetresse. Peu \u00e9cout\u00e9 en France, sa th\u00e9orie a surtout \u00e9t\u00e9 \u00e9tudi\u00e9e aux Etats-Unis. En reprenant ci-dessous plusieurs extraits de son \u0153uvre, une passerelle sera propos\u00e9e avec le concept de Singularit\u00e9 Technologique forg\u00e9e dans les ann\u00e9es 1960 et venu de l\u2019Intelligence Artificielle. D\u2019autres citations sont disponibles sur ce lien<\/strong><\/a>.<\/p>\n

En effet, si J.ELLUL d\u00e9montrait les nombreux risques du syst\u00e8me Technicien, il gardait un espoir : que l\u2019Homme arrive \u00e0 garder une certaine distance, voire une ma\u00eetrise des techniques de ce syst\u00e8me qu\u2019il a cr\u00e9\u00e9 au d\u00e9part mais qui maintenant se d\u00e9veloppe sans but. Et il avait identifi\u00e9 le principal danger : que le syst\u00e8me devienne cl\u00f4t, boucl\u00e9 sur lui-m\u00eame en trouvant lui-m\u00eame une finalit\u00e9 sans intervention de l\u2019Homme, et en utilisant des nouvelles techniques lui permettant de se d\u00e9velopper. R\u00e9cemment Ray Kurzweil<\/strong><\/a>, un des pionniers de l\u2019Intelligence Artificielle aux Etats-Unis, vient de fonder une Universit\u00e9<\/strong><\/a> pour former des ing\u00e9nieurs au concept de la Singularit\u00e9 Technologique. Pour R.Kurweil, les Techniques vont d\u2019ici quelques dizaines d\u2019ann\u00e9es fusionner (nano-bio-num\u00e9rique), faire syst\u00e8me int\u00e9gr\u00e9, et se r\u00e9pliquer. J.ELLUL l\u2019avait pr\u00e9vu comme la possibilit\u00e9 \u00ab dangereuse et ali\u00e9nante<\/em> \u00bb. <\/p>\n

<\/p>\n

J.ELLUL anticipait notamment le r\u00f4le majeur des communications et de l\u2019ordinateur en tant que chef d\u2019orchestre du syst\u00e8me technique : \u00ab la v\u00e9ritable r\u00e9alit\u00e9 de notre soci\u00e9t\u00e9, c\u2019est le syst\u00e8me des relations entre les diverses techniques et les r\u00e9percussions r\u00e9ciproques des unes sur les autres, qui s\u2019\u00e9tendent en ramifications si complexes que l\u2019on finit par avoir des cons\u00e9quences g\u00e9n\u00e9ralis\u00e9es. Ce qu\u2019il convient donc d\u2019\u00e9tudier, c\u2019est le syst\u00e8me des relations entre les techniques<\/em>. [\u2026] En unifiant tous les sous-syst\u00e8mes (ferroviaire, postal, a\u00e9rien, t\u00e9l\u00e9phonique, de production d\u2019\u00e9nergie, militaire, etc.), l\u2019ordinateur a permis l\u2019\u00e9mergence d\u2019un Tout organis\u00e9 qui mod\u00e8le la soci\u00e9t\u00e9, la transforme, l\u2019arraisonne, et tend peu \u00e0 peu \u00e0 se confondre avec elle. D\u00e9sormais tous les secteurs sont interconnect\u00e9s, r\u00e9agissent l\u2019un sur l\u2019autre, conditionnent et sont conditionn\u00e9s par les autres. Banques de donn\u00e9es, traitement d\u2019\u00e9normes flux d\u2019informations, r\u00e9seaux de communications imm\u00e9diats : l\u2019informatique permet la croissance illimit\u00e9e des organisations \u00e9conomiques et administratives.<\/em> \u00bb<\/p>\n

 \u00ab En r\u00e9alit\u00e9 c\u2019est l\u2019ordinateur qui permet au syst\u00e8me technicien de s\u2019instituer d\u00e9finitivement en syst\u00e8me : c\u2019est d\u2019abord gr\u00e2ce \u00e0 lui que les grands sous-syst\u00e8mes s\u2019organisent : par exemple le syst\u00e8me urbain ne peut se conclure que gr\u00e2ce aux banques de donn\u00e9es urbaines (r\u00e9sultats de recensements, permis de construire accord\u00e9s, logements termin\u00e9s et en cours, invention des r\u00e9seaux d\u2019eaux, de t\u00e9l\u00e9phone, d\u2019\u00e9lectricit\u00e9, de transports, etc.) de m\u00eame le syst\u00e8me de communications a\u00e9riennes ne peut fonctionner que gr\u00e2ce aux ordinateurs \u00e9tant donn\u00e9 la complexit\u00e9, le nombre croissant tr\u00e8s rapidement des probl\u00e8mes provenant de la multiplication des transports combin\u00e9e avec le progr\u00e8s technique dans ces domaines (ce n\u2019est pas seulement la r\u00e9servation des places, souvent \u00e9voqu\u00e9e, mais par exemple la relation permanente de chaque avion, \u00e0 chaque instant avec un grand nombre de centres de contr\u00f4le au sol) c\u2019est gr\u00e2ce \u00e0 lui que les grandes unit\u00e9s comptables peuvent appara\u00eetre, c\u2019est-\u00e0-dire l\u2019infrastructure pour une croissance illimit\u00e9e des organisations \u00e9conomiques et m\u00eame administrative.<\/em> \u00bb<\/p>\n

J.ELLUL avait \u00e9galement pens\u00e9 la possibilit\u00e9 offerte par le num\u00e9rique pour des approches d\u00e9centralis\u00e9es, bottom-up : \u00ab Avec les progr\u00e8s techniques les plus r\u00e9cents, d\u2019automatisation d\u2019une part et de l\u2019informatique d\u2019autre part, on pourrait acc\u00e9der \u00e0 un autre mod\u00e8le institutionnel, des institutions auto-adaptables, o\u00f9 se combineraient l\u2019initiative d\u00e9centralis\u00e9e et la synth\u00e8se centralis\u00e9e. Ces institutions, munies d\u2019une r\u00e9gulation d\u2019adaptation, impliquant d\u00e9centralisation, caract\u00e9ris\u00e9es par la souplesse op\u00e9rationnelle, strat\u00e9gique et structurelle, seraient \u00ab id\u00e9ales \u00bb, et rendues possibles par le plus r\u00e9cent progr\u00e8s technique. Mais ici nous sommes en pr\u00e9sence d\u2019une question fondamentale : elles sont seulement possibles. Elles ne semblent pas directement conditionn\u00e9es et n\u00e9cessairement produites. Elles impliquent d\u00e9cision et choix. Mais comment ceci se produirait-il dans un syst\u00e8me qui jusqu\u2019ici a \u00e9limin\u00e9 d\u00e9cision et choix ?<\/em> \u00bb.<\/p>\n

Puis il identifie le principal risque : \u00ab Tant que celle-ci est syst\u00e8me de moyens, il y a encore, comme nous le verrons \u00e0 la fin, une relative autonomie de l\u2019homme et une possibilit\u00e9 de prendre ses distances, sinon une ma\u00eetrise. En revanche, si une fin s\u2019impose, appara\u00eet comme certaine et \u00e9vidente pour tous, alors \u00e0 ce moment, le syst\u00e8me se cl\u00f4t enti\u00e8rement \u00e9tant devenu complet. L\u2019espoir de trouver une finalit\u00e9 \u00e0 la technique est donc, ou bien inop\u00e9rant parce que les fins propos\u00e9es n\u2019ont aucune commune mesure avec le ph\u00e9nom\u00e8ne technicien, ou bien le facteur d\u00e9cisivement ali\u00e9nant et dangereux.<\/em> \u00bb<\/p>\n

Une de ces \u00ab fins \u00bb possibles est sans doute la capacit\u00e9 prochaine que pourrait avoir les machines \u00e0 s\u2019auto-organiser, \u00e0 s\u2019auto-concevoir, \u00e0 se r\u00e9pliquer sans plus aucune intervention humaine. Le domaine Technique de l\u2019Intelligence Artificielle y travaille. Le syst\u00e8me technicien serait effectivement alors cl\u00f4t et complet<\/strong>. Nous retrouvons l\u00e0 le concept de la Singularit\u00e9 Technologique<\/strong><\/a> propos\u00e9 d\u00e8s les ann\u00e9es 1960. <\/p>\n

La singularit\u00e9 Technologique d\u00e9crit le moment o\u00f9 les machines auront atteint un certain niveau leur permettant de r\u00e9pliquer, d\u2019apprendre \u00e0 apprendre en autonomie, et d\u2019inventer elles-m\u00eames de nouvelles machines. L\u2019intervention humaine ne sera plus n\u00e9cessaire. Nous ne sommes d\u00e8s lors pas capable de penser au-del\u00e0 de ce moment, puisque les techniques \u00e9chapperont \u00e0 la plupart des humains. Seuls les cr\u00e9ateurs, les programmeurs et les sp\u00e9cialistes de l\u2019IA auront une certaine ma\u00eetrise.<\/p>\n

Ray Kurweil vient d\u2019\u00eatre <\/strong>embauch\u00e9<\/strong><\/a> par Google il y a 2 mois pour devenir Director of Machine Learning<\/em>. L\u2019Intelligence Artificielle peut d\u00e9sormais passer de la science \u00e0 la Technique et se diffuser. <\/strong>D\u00e9cidemment M.ELLUL vous aviez pr\u00e9vu, dans le syst\u00e8me technicien<\/em>, les principaux rapports de force \u00e0 venir.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":"

L'automatisation des machines dont les automobiles n'est pas un sujet nouveau. Il s'inscrit dans une…<\/p>\n","protected":false},"author":7,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_lmt_disableupdate":"","_lmt_disable":"","footnotes":""},"categories":[],"tags":[46,56,64,106,107,108,109,150],"class_list":["post-193","post","type-post","status-publish","format-standard","hentry","tag-citoyen","tag-cybercar","tag-donnees-reelles","tag-innovation","tag-intelligence-collective","tag-internet","tag-internet-des-objets","tag-pensee-complexe"],"acf":[],"_links":{"self":[{"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/posts\/193","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/comments?post=193"}],"version-history":[{"count":1,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/posts\/193\/revisions"}],"predecessor-version":[{"id":3648,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/posts\/193\/revisions\/3648"}],"wp:attachment":[{"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/media?parent=193"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/categories?post=193"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/transportsdufutur.ademe.fr\/wp-json\/wp\/v2\/tags?post=193"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}