On se gargarise volontiers de nos jours d’intelligence artificielle sans trop savoir à quelle sauce ladite intelligence pourrait à terme nous manger, même si cette crainte est de divers côtés relevée. Il n’est en effet guère engageant de se représenter un tel gargarisme saucé dont on imagine sans peine qu’il puisse rapidement conduire à un étouffement généralisé, ce qui ne serait pas très intelligent on en conviendra. Combien de temps aurons-nous encore le dessus, en tant qu’êtres humains, entend-on de toutes parts ? Essayons donc un instant de revenir – le contraire de « je n’en reviens pas ! » – au sens de tout cela, c’est-à-dire aux sources de l’intelligence en question. Il est sans doute utile de préciser que je ne parle pas ici de telle ou telle application, qui intéresse tel ingénieur ou tel utilisateur en particulier, mais d’une vision du monde et de sa finalité au niveau de chaque individu.
Pour arriver à la situation actuelle, dont les prémices datent d’à peine avant-hier (une paille dans l’histoire de l’humanité), il s’est tout d’abord agit de délimiter, ce qui peut se comprendre, mais aussi de restreindre à l’extrême ce que l’on appelle intelligence, suivant en cela la définition cognitiviste et psychométrique appliquée à l’homme depuis le fameux QI, le quotient intellectuel (Stern, puis Wechsler, avec quelques compléments depuis). Celui-ci est toujours plus ou moins basé sur la quincaillerie très « scientiste » d’il y a plus d’un siècle des fameux Binet et Simon. Le résultat (à l’origine seulement d’une division) se limite pour l’essentiel encore à mesurer, par une batterie de tests, une faculté de décision basée sur l’adaptation à différentes situations et environnements, comprenant plus ou moins d’itérations et de boucles de rétroaction, et cela par comparaison normative (distribution gaussienne) avec une population de référence. Voilà grosso modo pour la mesure de l’intelligence humaine sur laquelle on se repose aujourd’hui.
On voit qu’une telle conception, basée sur le primat d’une dépendance adaptative au monde environnant, fait volontairement l’impasse sur le fait que l’homme puisse précisément faire des choix délibérés dans son existence, avec lui-même et avec autrui, et qu’il l’ait largement fait à d’autres époques et dans d’autres formes de société, se référant à des conceptions différentes de l’existence humaine. De tels choix délibérés, ou raisonnés, peuvent être, aujourd’hui encore, originaux et non « standardisés » par les contraintes inter-relationnelles normatives, et témoignent d’une créativité à laquelle il serait difficile de soustraire la notion d’intelligence. Il est alors question de celle qui comprend, lit et choisit une situation en toute liberté, mais on se heurte là à une autre question, celle du rejet de la liberté dans le référentiel sociologique et scientifique actuel, dont je développe largement les raisons par ailleurs.
Ces autres conceptions sont non seulement basées sur la cognition, mais aussi sur l’affectif et traversées par les sentiments, ceux que la psychologie des profondeurs a choisi de sonder plutôt que de les ignorer comme l’ont fait les psychologues scientistes, délaissant au passage le primat du sujet et de l’intersubjectivité (ou jetant le bébé avec l’eau du bain). Elles ramènent en particulier à celle que la philosophie antique, en suivant Socrate, met au service et à la recherche de la connaissance du bien, de ce qui est bien pour l’homme plutôt que de ce qui est mauvais pour lui et qu’il choisit sans le savoir, participant ainsi d’un état de conscience, de science tout simplement, qui doit très souvent être dégagé de préconceptions, préjugés et idées reçues. Retrouver et comprendre un tel savoir ou une telle sagesse suppose évidemment un complet renversement non seulement de regard, mais d’état d’esprit soutenant ce regard. Ne résultant pas de mesures sur des grandeurs et de modélisations algorithmiques, cette conception ne peut par définition être indépendante de l’homme qui les éprouve puisque les sentiments sont toujours attachés à un sujet et ne peuvent être projetés dans un objet ou sur le monde extérieur que par fantasme, et donc de façon chimérique.
Pour être en mesure de développer une intelligence dite artificielle, l’homme réduit donc sa part de liberté, choisit une définition de ladite intelligence qui ne se rapporte qu’à des mesures adaptatives et limitées, et projette une telle restriction sur des objets extérieurs qui deviennent le support de sa propre vision manichéenne du pouvoir qu’il croit s’être donné en leur attribuant une abusive autonomie. Cette volonté de puissance, renversant tout sur son passage, n’est en général pas au service d’une nouvelle confraternité mais d’une omniprésente violence (partant d’un constat réaliste qu’on peut lui concéder), ce que les films d’anticipation et d’action types « blockbusters » illustrent à merveille dans leur rayon d’action et avec leur symbolique propre.
N’hésitons pas à en faire le constat, l’on cherche par là à nous introduire dans un terrorisant train fantôme qu’on nous présente comme incontournable, nous conduisant tout droit à un musée des horreurs dont on ne pourrait échapper à l’exposition permanente. Une telle trajectoire résume à elle seule les choix individuels et de société qui constituent notre environnement actuel, nous engloutissant nous-mêmes par nos démiurgiques délires de toute-puissance consciencieusement et systématiquement organisés, comme le sont toujours les délires les plus accomplis. Il suffit encore, pour s’en convaincre, de penser à la façon de traiter notre environnement, c’est-à-dire aussi nous-mêmes, dans la perspective d’une destruction finale qui en est la caractéristique la plus marquante. Quand on y réfléchit, est-ce bien cela que nous voulons ?
Your words have a way of touching hearts and inspiring minds Thank you for using your platform to spread love and positivity
Thanks for your welcoming appreciation
Evidemment, vu que vous partez d’un postulat psychanalytique, votre pensée ne peut que difficilement exprimer autre chose que ce que je lis dans votre article. Je pars plutôt d’un postulat spinoziste, et j’aboutis à des conclusions que je trouve bien plus inquiétantes que vous, et que vous rejetterez probablement.
Mais à tout hasard, je vous les présente succinctement.
https://www.pauljorion.com/blog/2019/06/10/universite-catholique-de-lille-declarer-letat-durgence-pour-le-genre-humain-1-de-6-quel-scenario-pour-les-annees-qui-viennent-retranscription/#comment-707079
Je vous invite à lire la discussion que j’ai eu avec Jacqueline Subias.
Mais je vous cite: « Pour être en mesure de développer une intelligence dite artificielle, l’homme réduit donc sa part de liberté, choisit une définition de ladite intelligence qui ne se rapporte qu’à des mesures adaptatives et limitées, et projette une telle restriction sur des objets extérieurs qui deviennent le support de sa propre vision manichéenne du pouvoir qu’il croit s’être donné en leur attribuant une abusive autonomie. »
Je vais juste commenter le point suivant: « définition de ladite intelligence qui ne se rapporte qu’à des mesures adaptatives et limitées ».
Malheureusement, l’intelligence artificielle moderne ne part pas d’une approche top down où on définirait ce qu’est l’intelligence et où on lui collerait comme contrainte des mesures adaptives et limitées. C’est l’inverse qui se produit: on colle des mesures, qu’on cherche les plus générales possibles (donc pas vraiment « adaptives » ou « limitées ») et on cherche à générer des comportements émergents. Qu’on baptise « intelligence » très abusivement.
Cela n’a pas grand chose à voir avec Binet ou les tests psychométriques.
Et c’est bien plus inquiétant que même le terme dérogatoire de « scientisme » ne le laisse supposer: Je ne crois pas que notre volonté sera en mesure de refermer la boîte de Pandore qu’on a d’ores et déjà ouverte.
Dans mon dernier commentaire à Mme Subias, je mentionne le jeu Hanabi. Et si vous réfléchissez réellement à ce que signifier l’IA quand elle arrivera à casser le problème du jeu Hanabi, à mon avis, vous devriez commencer logiquement à avoir un petit peu peur… Mais pas pour des raisons de type psychanalytiques. Bien pour des raisons très scientistes.
Merci de votre contribution, Madame ou Monsieur.
Juste une précision concernant « les mesures adaptatives et limitées » sur lesquelles vous vous arrêtez.
Elles le sont en rapport et en opposition avec les choix délibérés – avec soi et autrui – que revendique notamment la philosophie et la psychanalyse dont il est question par ailleurs. Dans ce contexte, toute définition de l’intelligence qui part de la notion d’adaptation s’oppose à celle de libre-arbitre et c’est à ce titre qu’elle est forcément limitée. Limitée dans sa conception même et pour pouvoir être « mesurée », précisément.
Toute construction inductive (ou bottom up) se fait par ailleurs toujours sur une base hypothéticodéductive (il n’y a pas de mathématiques et même d’expérimentations sans définitions préalables). Ou, autrement dit, il n’y a pas dans ce contexte de comportements émergents, comme vous dites, qui n’aient d’abord été recherchés et donc inscrits dans un contexte adaptatif, d’où ma référence à l’origine du quotient intellectuel, qui ne mesure que ça. Avec l’intelligence artificielle, on se situe bien dans un monde empirique et non rationnel.
Quant à savoir si on veut refermer la boîte de Pandore, à chacun de voir.
« Elles le sont en rapport et en opposition avec les choix délibérés – avec soi et autrui – que revendique notamment la philosophie et la psychanalyse dont il est question par ailleurs. Dans ce contexte, toute définition de l’intelligence qui part de la notion d’adaptation s’oppose à celle de libre-arbitre et c’est à ce titre qu’elle est forcément limitée. »
Je ne vois pas ce que le libre-arbitre vient faire dans cette histoire. (De plus, je ne vois pas en quoi on pourrait croire au libre-arbitre, ce qui est consistant avec certains pans de la philosophie.)
« Limitée dans sa conception même et pour pouvoir être « mesurée », précisément. »
Avec les techniques modernes, on commence à sérieusement s’affranchir du concept de conception. Je peine à percevoir la « conception » dans les algorithmes de Deepmind. Quant à la mesure, on ne mesure plus grand chose non plus. Concevoir l’entraînement d’un réseau de neurones comme une mesure me semble faire l’impasse sur le fait qu’on a quasiment laisser la bride libre au réseau de neurones de s’entraîner tout seul.
« Toute construction inductive (ou bottom up) se fait par ailleurs toujours sur une base hypothéticodéductive (il n’y a pas de mathématiques et même d’expérimentations sans définitions préalables). »
Bien sûr qu’il y a des mathématiques sans définitions préalables. On ne vous l’apprend pas à l’école, je le conçois. Mais par exemple, l’idée qu’il y a une définition du concept même des entiers naturels est fallacieuse. Tout au plus y a-t’il des caractérisations imparfaites. Cela peut nous entraîner assez loin comme discussion, alors restons-en peut-être là, mais je maintiens fermement cette position.
« Ou, autrement dit, il n’y a pas dans ce contexte de comportements émergents, comme vous dites, qui n’aient d’abord été recherchés et donc inscrits dans un contexte adaptatif, d’où ma référence à l’origine du quotient intellectuel, qui ne mesure que ça. »
Les comportements émergents peuvent parfaitement être non-recherchés. On en a par exemple eu l’exemple (pour autant que j’en sache) quand deux bots de Facebook se sont mis à communiquer avec un protocole de communication créé entre eux de manière absolument non-recherchée. On a aussi eu des comportements émergents d’agressivité qui n’ont pas été recherchés non plus, mais qu’on n’a pas cherché à éviter non plus.
https://www.sciencealert.com/google-deep-mind-has-learned-to-become-highly-aggressive-in-stressful-situations
Je ne vois toujours pas le lien avec le QI. Le QI est une mesure relativement arbitraire, qui possède certaines propriétés intéressantes, mais qu’on n’a absolument pas utilisée pour diriger l’humanité vers une plus grande adaptivité. Il est sujet à divers délires, dont des délires hypocondriaques, des délires eugénistes et des délires racistes, mais pour l’instant il reste avant tout une mesure imparfaite du réel et nettement moins un objectif quantifiable dirigeant les politiques publiques.
« Avec l’intelligence artificielle, on se situe bien dans un monde empirique et non rationnel. »
Je ne vois pas comment discuter de ces points sans savoir précisément ce qu’empirique et rationnel signifie dans ce contexte. Je peux trouver des arguments qualifiant l’AI d’empirique, de non-empirique, de rationnelle ou de non-rationnelle selon la teneur précise de l’assertion. Pour moi, c’est surtout une construction intellectuelle de nature statistique, ce qui chevauche la distinction usuelle entre rationnel et empirique.
« Quant à savoir si on veut refermer la boîte de Pandore, à chacun de voir. »
C’est là que je pense que nous n’avons pas réellement de libre-arbitre. Je ne vois pas la chaîne de causalité qui pourrait aboutir à refermer la boîte de Pandore dans le monde tel qu’il est. Et cela ne me plaît que très peu.
La séduction que l’AI exerce est, en effet, en un sens légitime. Mais il me semble très probable qu’on ne puisse pas s’empêcher d’aller trop loin avec cet outil. À mon avis, la recherche qui est actuellement faite avec le jeu Hanabi va déjà trop loin, car je ne pense pas qu’on arrive à en évaluer spéculativement les conséquences à l’heure actuelle.
Cher F68.10,
Si vous ne voyez pas ce que le libre-arbitre vient faire dans cette histoire, pensez que les techniques permettent de s’affranchir des conceptions, ou encore considérez que les comportements agressifs d’une machine sont indépendants de ceux qui les ont conçues, je crois que la messe est dite.
L’écart entre nos propos repose précisément sur le fait que renoncer au libre-arbitre résulte encore d’un choix, et donc du libre-arbitre. Libre à vous de vous soumettre à ce que vous semblez considérer comme une réalité extérieure qui s’impose à vous, ainsi qu’il en va avec l’IA. Je vous concède très volontiers que c’est là une position des plus courantes.
Comme vous le constatez vous-même, nos points de départ sont absolument différents. Au point que poursuivre la discussion consisterait en monologues juxtaposés dont certains blogs semblent s’être fait une spécialité, ce pour quoi je reconnais volontiers aussi n’avoir ni temps ni intérêt.
Bonne continuation donc dans vos pérégrinations blogistiques et merci encore de votre contribution.
PS. je vous dois une précision: rationnel se référait à la philosophie rationaliste ou inéiste platonicienne – la théorie de l’idée – par opposition à l’empirisme anglo-saxon qui prévaut dans la science moderne. Dans le premier cas la philosophie est in fine spiritualiste, dans le second matérialiste (dans son existence, chacun choisit l’une ou l’autre, qu’il s’en rende compte ou pas).
Je me permets de vous répondre une dernière fois pour clarifier ma position, et je vous invite à me répondre à la suite, et nous pourrons alors clore cette discussion.
« Si vous ne voyez pas ce que le libre-arbitre vient faire dans cette histoire, pensez que les techniques permettent de s’affranchir des conceptions, ou encore considérez que les comportements agressifs d’une machine sont indépendants de ceux qui les ont conçues, je crois que la messe est dite. »
C’est une façon de voir les choses. Je pourrais discuter chaque point, mais je pense que ce n’est pas particulièrement bienvenu.
« L’écart entre nos propos repose précisément sur le fait que renoncer au libre-arbitre résulte encore d’un choix, et donc du libre-arbitre. »
Une autre façon de voir les choses, c’est la blague de Christopher Hitchens: « Bien sûr que j’ai un libre-arbitre: je n’ai pas le choix! ». Plus sérieusement, ma position est résumée ici (en anglais):
https://www.youtube.com/watch?v=VQxJi0COTBo
Il n’y a pas à mon sens de « renoncement » au libre-arbitre. Juste une reconnaissance du caractère contraignant de la loi de la causalité y compris sur nous même. Pas plus.
« Libre à vous de vous soumettre à ce que vous semblez considérer comme une réalité extérieure qui s’impose à vous, ainsi qu’il en va avec l’IA. Je vous concède très volontiers que c’est là une position des plus courantes. »
Je ne vois pas en quoi il y a une quelconque « soumission » dans mes propos. Au contraire, je pense que pour pouvoir maîtriser correctement notre futur au sujet de l’IA, il faut commencer à en comprendre la réalité des possibilités. Sans cela, tout choix de société que nous ferons sera non-informé, et je pense que nous nous dirigeons vers de très mauvais choix que je ne vois pas comment nous allons pouvoir éviter.
« Comme vous le constatez vous-même, nos points de départ sont absolument différents. »
Ils sont différents. Mais cela me semble sans importance. Ou plutôt, j’y vois la conjonction de deux risques: 1. D’un côté, vous avez les techno-scientistes fondamentalistes qui vont tout faire pour mettre en place une IA quelque soit la maturité de la compréhension de la société humaine à ce sujet. 2. De l’autre côté, de nombreux négateurs des capacités intrinsèques de l’IA qui la réduisent à une vulgaire machine, sans réelle intelligence, soit par simple mépris, soit par qu’elle serait condamnée à ne pas être dotée de libre-arbitre, de capacité pour l’art, d’imagination, d’émotions ou toute autre concept qu’on imagine intrinsèquement humain.
De mon point de vue, la deuxième catégorie me semble pêcher par insouciance si ce n’est par naïveté, et offre de fait un boulevard à la première catégorie pour implémenter son projet.
J’ai tendance à rejeter ces deux points de vue, et c’est pour cela que je m' »inquiète ».
« Au point que poursuivre la discussion consisterait en monologues juxtaposés dont certains blogs semblent s’être fait une spécialité, ce pour quoi je reconnais volontiers aussi n’avoir ni temps ni intérêt. »
Effectivement. Ces monologues juxtaposés tournent à l’obsession. C’est justement ce que je voulais dire dans mon paragraphe précédent: Cela paralyse l’analyse.
Emmanuel Levinas était talmudiste, et, semble-t’il, croyant. Pourtant, dans son oeuvre philosophique et non religieuse, il est parti, pour s’adresser à une audience large, de l’idée implicite de développer son argumentation à partir d’un point de vue athée. Ce qui lui a permis de reconstruire certaines de ses idées religieuses dans un contexte ne présupposant pas le théisme.
Je pense qu’il est possible de discuter de l’intelligence artificielle en ne prenant pas parti, méthodologiquement, sur la question du libre-arbitre. Il me semble en effet que spéculer sur ses développements futurs, techniques et sociaux, peut se faire dans un cadre agnostique par rapport à la question du libre-arbitre.
« Bonne continuation donc dans vos pérégrinations blogistiques et merci encore de votre contribution. »
Je vais continuer mes pérégrinations blogistiques, et je vous remercie de votre remerciement.
« PS. je vous dois une précision: rationnel se référait à la philosophie rationaliste ou inéiste platonicienne – la théorie de l’idée – par opposition à l’empirisme anglo-saxon qui prévaut dans la science moderne. »
Ce qui contient un certain paradoxe, puisque le platonisme est quand même un héritier d’une vision parménidienne de la réalité, dans laquelle le temps est une illusion et le libre-arbitre semble particulièrement absent. L’empirisme « anglo-saxon », lui, hérite quand même d’une vision très héraclitienne des choses, plus compatible avec le concept du libre-arbitre. À mon avis, la distinction ne se situe pas vraiment là, mais entre une vision transcendantaliste de la métaphysique et entre une vision immanentiste de la métaphysique.
« Dans le premier cas la philosophie est in fine spiritualiste, dans le second matérialiste (dans son existence, chacun choisit l’une ou l’autre, qu’il s’en rende compte ou pas). »
Je ne vois pas les choses ainsi. Certaines doctrines hindoues, ou même le spinozisme, sont manifestement « spirituelles » (« spiritualistes », je ne sais pas…) et entièrement compatibles avec une vision parfaitement déterministe du monde réel. Il ne me semble qu’il n’existe pas de ligne de démarcation dure telle que vous le suggérez.