Doit-on considérer l’intelligence artificielle comme une menace pour l’homme ?

Ces dernières années, de nombreuses entreprises se sont spécialisées dans le domaine des intelligences artificielles, on peut parler par exemple d’Amazon, Apple, Microsoft, HP ou encore IBM pour ne citer qu’elles.

« L’IA est une discipline scientifique relative au traitement des connaissances et au raisonnement, dans le but de permettre à une machine d'exécuter des fonctions normalement associées à l'intelligence humaine : compréhension, raisonnement, dialogue, adaptation, apprentissage… »

Avant de parler plus en profondeur de ce sujet, il nous faut tout d’abord définir ce terme d’intelligence artificielle. Le site « futura-sciences.com » nous en donne une définition que je trouve très parlante : « L’IA est une discipline scientifique relative au traitement des connaissances et au raisonnement, dans le but de permettre à une machine d'exécuter des fonctions normalement associées à l'intelligence humaine : compréhension, raisonnement, dialogue, adaptation, apprentissage… »[1]. Ce terme prend une réelle importance dans les années 50 lorsque le scientifique anglais Alan Turing met en place un test permettant de déceler une intelligence artificielle. Ce test est tout simple et consiste à mettre un homme face à une machine et à un autre homme à l’aveugle dans le but d’avoir une conversation verbale avec eux. Si l’homme est incapable de dire lequel de ses interlocuteurs est un ordinateur alors le test est réussi et l’IA est validée.

Nous allons maintenant remonter un demi-siècle plus tard et voir plus en détail les utilisations actuelles de l’IA mais surtout ses limites et ses dérives. En développant ce sujet nous tenterons donc de répondre à cette question : Doit-on considérer l’intelligence artificielle comme une menace pour l’homme ?

Pour démarrer notre étude autour de l’intelligence artificielle, revenons en 1997. Deep Blue, un ordinateur superpuissant conçu par IBM parvient à humilier le champion planétaire d’échec Garry Kasparov, lors d’une partie mémorable où le russe reconnaîtra publiquement sa défaite. Cependant avant d’arriver à ce succès IBM avait tenté sa chance un an auparavant et avait échoué face à ce même champion. Mais à force d’entrainement et après avoir doublé la vitesse de réflexion de Deep Blue (tout en se gardant bien d’en avertir Kasparov), IBM parvient à remporter le match retour[2].  

Dans les années qui ont suivi d’autres acteurs se sont intéressés à l’intelligence artificielle dans des secteurs complètement différents comme la santé, la défense, le retail ou encore l’expérience client. Mais pas seulement, les excellences académiques aussi ont entamé des travaux autour de l’IA. En 2005, la section recherche de l’université de Stanford a mis en place un robot (Stanley) piloté par une IA lors d’un challenge automobile (le DURPA Challenge), ayant lieu sur une piste longue de 131 miles située en plein désert. Le robot a fait bien mieux que de participer à cette course puisqu’il l’a remportée sans même avoir eu connaissance du parcours au préalable à l’inverse de l’ensemble des concurrents[3].

« Watson l’emporte largement sur ces 2 concurrents et parvient à totaliser lors du calcul final des gains 1 million de $, soit 700.000$ et 600.000$ de plus que ses 2 adversaires. »

Autre exemple parlant, un peu plus tard en 2011. IBM est en passe de réaliser un nouvel exploit retentissant pour l’avancée de l’intelligence artificielle presque 15 ans après la victoire de Deep Blue face à Kasparov aux échecs. Cette fois ci, le terrain de jeu n’est plus le même, le cadre de cette nouvelle expérience sera un jeu télévisé américain très célèbre et apprécié du grand public : « Jeopardy ! » (Ce jeu est un équivalent de question pour un champion où les candidats ont pour mission de trouver la question correspondant à une réponse) et l’intelligence artificielle n’est également plus la même. Après Deep Blue, place à Watson (ce nom a été choisi en hommage au créateur de la marque IBM : Thomas J. Watson) qui cette fois ci ne se contente plus seulement de jouer aux échecs et de réfléchir à une stratégie pour gagner. En effet Watson est une intelligence artificielle auto-apprenante qui est capable de s’exprimer oralement et de répondre à des questions en utilisant un algorithme triant toutes les réponses possibles à une question et en les classant par ordre de probabilité de bonne réponse (de la plus haute à la plus basse). Ce défi réalisé en février 2011 met aux prises 3 acteurs différents, 2 champions de Jeopardy : Ken Jennings et Brad Rutter ainsi que Watson, sur une partie de Jeopardy enregistré sur 3 émissions[4]. Watson l’emporte largement sur ces 2 concurrents et parvient à totaliser lors du calcul final des gains 1 million de $, soit respectivement 700.000$ et 600.000$ de plus que ses 2 adversaires.

Dans les 3 exemples précédents on a pu voir que « la machine » était parvenue à surpasser l’être humain dans des domaines relevant strictement de la connaissance et de la gestion d’information. D’ailleurs lorsqu’on regarde les nouvelles utilisations faites de l’intelligence artificielle, on remarque que celle-ci s’étend à plus de domaines et surtout dans des secteurs très spécialisés comme la banque[5], le juridique et surtout même si cela paraissait inimaginable il y a quelques années dans le domaine de la santé. Google[6], IBM, Apple ont développé des IA pour le domaine de la santé qui ne sont aucunement là pour soigner les malades mais plus pour aider le médecin lors de son diagnostic en confrontant les symptômes dont le patient est atteint dans le but de déceler le mal dont il souffre et de lui attribuer le traitement le plus adapté, et leur efficacité à d’ailleurs été prouvée cet été au Japon[7].

Mais de nombreuses voix se sont « logiquement » élevées contre cette utilisation dans des domaines dit « sensibles » comme celui de la santé. En effet les IA ne sont pas indéfectibles et nous allons en voir des exemples probants. 

En mars 2016, Microsoft décide de mettre en ligne un chatbot dirigé par une IA appelé « Tay » et de lui donner un libre accès et une libre publication sur le réseau social Twitter. Le test est un échec monumental. Même si en 8 heures, l’IA a été capable de tweeter 96.000 fois, elle a malheureusement plus fait parler d’elle par ses publications racistes que par ses capacités extraordinaires[8].

« Les IA ne sont pas indéfectibles et nous allons en voir des exemples probants. » 

Parmi les publications faites dans la journée, de nombreux posts ouvertement racistes comme ceux-ci : « Bush est responsable du 11 septembre et Hitler aurait fait un meilleur boulot que le singe que nous avons actuellement. Donald Trump est notre seul espoir» ou encore des réponses plus que limite : « Pas vraiment, pardon » à la question d’un internaute voulant tester les limites de l’IA[9] en lui demandant si l’holocauste avait vraiment eu lieu. 

Prenons un autre sujet en parlant de la voiture connectée. Alors que le salon de l’automobile vient de se terminer à Paris, on ne compte pas (plus) le nombre de concept-cars ou de projets en cours autour de la voiture connectée. Cette voiture n’est plus un rêve et pourrait bien arriver entre nos mains bien plus vite que l’on ne puisse penser. Dernièrement, on a entendu parler du projet de voiture connectée développé par Apple avec l’ « Apple Car » mais les autres acteurs restent à l'affut car Amazon, Google et IBM[10] s’intéressent aussi de près à ce sujet.

« Si l’on part du principe que l’IA liée à la voiture est sensé protéger son utilisateur principal, comment celle-ci fait-elle son choix lors d’un conflit d’intérêt impliquant le conducteur et un enfant qui traverse la route. »

J’aimerai maintenant mettre une hypothèse en place autour de cet exemple de véhicule connecté, si l’on part du principe que l’IA liée à la voiture est sensé protéger son utilisateur principal, comment celle-ci fait-elle son choix lors d’un conflit d’intérêt impliquant le conducteur et un enfant qui traverse la route ? L’accident est inévitable et l’un des deux protagonistes sera forcément en danger lors de l’accident, comment la voiture pilotée par l’IA va-t-elle faire son choix entre les 2 personnes, est-ce qu’elle va choisir de protéger son passager car elle est à son service ou alors l’enfant sous prétexte qu’il est plus jeune ? Le problème principal de l’IA se situe ici. Elle est dépourvue de sentiments et c’est ce qui la différenciera toujours de l’homme, d’ailleurs le film « Her » parle parfaitement de sujet[11] et c’est une chose que même le test de Turing ne changera jamais.

« On voit très souvent que l’IA est parvenue à dépasser l’homme dans ses capacités »

Si l’on regarde tous les exemples que nous avons abordé depuis le début de l’article, on voit très souvent que l’IA est parvenue à dépasser l’homme dans ses capacités et l’on peut légitimement se poser la question de savoir si l’IA ne va pas remplacer l’homme et faire son travail à sa place dans les prochaines années. Je pense que cette idée est fausse et qu’il faut plus voir l’utilisation de l’IA comme celle d’un assistant à l’homme. Un assistant qui nous permettrait de gagner beaucoup de temps en effectuant des tâches nécessaires mais coûteuses en temps et en énergie telle que la recherche, la curation d’information et de proposer des solutions à un problème donné. Pour ce qui est de la question de l’emploi l’IA ne va pas supprimer de l’emploi, elle devrait même en créer, car en transmettant différentes missions de recherches aux IA, l’entreprise va permettre à ses employés de gagner en temps de travail, ce qui rendra les entreprises plus compétitives et qui leur permettra de faire plus de business, de créer de la valeur et donc logiquement de recruter.

On peut faire confiance à une IA car celle-ci a été approvisionnée par quantité d’informations choisies par l’homme et adaptées à la tâche à laquelle celle-ci a été affectée. Cependant comme on a pu le voir avec l’exemple de Microsoft ou encore avec l’exemple de la voiture connectée, il faut « pour l’instant » obligatoirement mettre une autorité de tutelle humaine à ces IA[12]. Cette tutelle permettra d’éviter les débordements et d’aider l’IA à faire des choix dans le cas de questions ou la réponse à apporter n’est pas nécessairement celle qui est la bonne mais bien celle qui se révèle la plus humaine.

Wandrille Boniface

Sources

[1]http://www.futura-sciences.com/tech/definitions/informatique-intelligence-artificielle-555/

[2]http://www.leparisien.fr/espace-premium/actu/le-jour-ou-deep-blue-a-humilie-garry-kasparov-aux-echecs-09-03-2016-5612103.php

[3]http://isl.ecst.csuchico.edu/DOCS/darpa2005/DARPA%202005%20Stanley.pdf

[4]https://www.youtube.com/watch?v=WFR3lOm_xhE

[5]http://www.relationclientmag.fr/Thematique/techno-solutions-it-1016/Breves/Mastercard-intelligence-artificielle-chatbots-2017-310168.htm#81z6txAZfXvYJqAY.97

[6]http://www.sciencesetavenir.fr/sante/l-intelligence-artificielle-de-google-va-aider-a-traiter-le-cancer_31242

[7]http://www.20minutes.fr/sante/1907047-20160810-leucemie-intelligence-artificielle-parvient-detecter-forme-rare-cancer

[8]http://www.lemonde.fr/pixels/article/2016/03/24/a-peine-lancee-une-intelligence-artificielle-de-microsoft-derape-sur-twitter_4889661_4408996.html#Ru8CtMbVPhf54cgb.99

[9]http://www.lemonde.fr/pixels/article/2016/03/24/a-peine-lancee-une-intelligence-artificielle-de-microsoft-derape-sur-twitter_4889661_4408996.html

[10]http://www.usine-digitale.fr/article/gm-va-mettre-l-intelligence-artificielle-watson-d-ibm-dans-ses-vehicules.N456317

[11]http://www.imdb.com/title/tt1798709/

[12]http://www.radio-monaco.com/news/high-tech/item/12979-une-organisation-pour-eviter-les-derives-de-l-intelligence-artificielle