Intelligence Artificielle, « as-tu passé les bornes des limites » ?

limites-IAIntelligence artificielle, adieu monde d’hier… Bienvenue monde de demain ?

Bienvenue monde de demain ? Cela ne vous aura pas échappé… au bout de ces quatre mots, la ponctuation résonne comme une alerte ! Pauvre petit point d’interrogation qui doit porter à lui seul l’incertitude du monde qui nous attend… A lui seul ? Aujourd’hui, peut-être pas ! Alphago a secoué l’apathie collective ! Jusqu’où ?

Depuis quelques semaines le monde s’agite. Et curieusement, c’est un jeu de partage territorial1 de moins d’un mètre carré qui a soulevé cette émotion ! Alors pourquoi s’émouvoir autant ? Parce que l’un des joueurs, le fameux Alphago, était une intelligence artificielle… Une « IA » a été capable d’anéantir un champion du monde humain ! Et pourtant cette intelligence victorieuse fait partie de celles dites « faibles », par rapport à une intelligence artificielle qui serait « forte » de sa conscience d’elle-même !

cesoiroujamais-IASous le choc de cet ascendant pris par une machine sur l’intelligence humaine, les médias du monde entier ont fait résonner cette prouesse ; des échos assortis de questions ! A titre d’exemple, citons l’émission de France2 « Ce soir (ou jamais !) » du 11 mars : « Les progrès de l’intelligence artificielle et des robots : une menace ? ».

L’intelligence artificielle a passé les bornes de la conscience…

La symbolique victoire d’Alphago et ces échos peuvent-ils être entendus comme une « petite voix » sentencieuse qui dirait : « Intelligence artificielle, tu as passé les bornes des limites ! » parodiant ainsi une pub souriante du début des années 2000…

Pourtant, soyons justes… Il y a quelques mois, des voix2 s’étaient déjà élevées pour alerter. Pour elles, flirter avec l’intelligence artificielle pourrait sonner la fin de l’humanité ! Mais en jouant sur les peurs, elles avaient trouvé des détracteurs à même de désigner nombre d’exemples positifs illustrant les vertus de l’intelligence artificielle (notamment dans le domaine de la santé). Qui sait, peut-être même, a contrario, ces voix ont-elles stimulé l’esprit conquérant propre à la nature humaine… Depuis toujours en effet l’homme travaille à se doter de pouvoirs, de performances lui permettant de se dépasser. Aucune de ces avancées ne s’est faite sans que des voix contraires ne s’élèvent ! Et les humains sont toujours là… Alors pourquoi s’inquiéter ? Qu’y aurait-il de changé au long processus d’évolution de l’humanité ?

Aujourd’hui, la question est certainement moins de savoir si quelque chose justifie que l’on s’inquiète de cette évolution, il est déjà trop tard… Personne ne « débranchera » l’intelligence artificielle ! Serait-ce même souhaitable ? Par contre, cette victoire sur l’homme d’une intelligence artificielle a passé des bornes… celles de la conscience ! De nos consciences…

L’IA passera-t-elle les limites de l’éthique ?

C’est sans doute davantage cette question qu’il est urgent de se poser ! L’intelligence artificielle passera-t-elle les limites de l’éthique ?

D’autant que des scientifiques et des chercheurs, appelés à expliquer l’évènement, affirment que nous n’en sommes qu’au tout début… Ces intelligences artificielles faibles (comme celle d’Alphago) ne font « que » répondre à des probabilités calculables. Parallèlement, d’autres commencent à apprendre d’elles-mêmes. Les techniques de «deep learning » (apprentissage automatique profond), largement financées dans le monde par les GAFA3 notamment, permettent déjà à des robots d’identifier des émotions sur le visage d’un « interlocuteur humain » ! Et ce n’est qu’un petit exemple tiré d’un catalogue impressionnant.

Lorsque l’humanité a évolué, certaines découvertes ont ouvert à l’Homme de nouvelles aptitudes que l’éthique a filtrées et, pour certaines, sagement repoussées dans des tiroirs ou soumises à de drastiques restrictions. Aujourd’hui, l’intelligence artificielle avance-t-elle trop vite, ou masquée (éventuellement par des enthousiasmes technologiques) pour éveiller la conscience de l’homme, et au-delà son instinct de conservation ?

Est-ce que des débats autour de la place prise par les robots dans l’évolution du travail par exemple, ne masquent pas des questions plus profondes comme : quelle est la société dans laquelle nous voudrions vivre, sinon demain, du moins bientôt ? Est-ce que cette question ne relève pas justement de l’éthique ? N’est-ce pas son rôle de garde-fou ?

Pour le philosophe Mark Hunyadi, l’éthique atomisée en « petites éthiques », chacune cantonnée à son domaine (bioéthique, éthique médicale, de l’environnement, de la recherche…), aurait signé la fin de l’éthique au sens large. Ne faut-il pas la réveiller ?

IA-limitesQuestions… de l’intelligence artificielle à l’intelligence collective ?

Notre société, avec ces nouveaux entrants artificiels, n’aurait-elle pas plus que jamais besoin de se doter d’une vision large sur son devenir ? Une vision prospective réaliste qui permettrait de définir dans quel monde elle veut voir grandir ses enfants… Un monde où les « bornes des limites » à l’IA et ses usages seraient clairement tracées, au sein d’un cadre intelligemment régulé.

Au-delà des peurs fantasmées (si compréhensibles soient-elles), des constats inquiètent ou du moins interpellent ! En évoquant « Ecrire pour le web, une affaire d’intelligence… artificielle ? », j’ai pointé un des pans de mon activité professionnelle, la communication numérique. Notamment parce que, si les outils numériques dans ce domaine ne manquent pas et s’apprécient, on pourrait croire que l’écriture est une activité créative, appelant la pensée profonde, les raisonnements, les émotions… donc humaine par essence. Ainsi, l’écriture robotisée déjà affectée aux « basses besognes rédactionnelles » (comptes rendus factuels…) ne saurait « passer les bornes des limites » ! Sauf que… un concours littéraire vient « presque » d’être remporté par un ordinateur pour une nouvelle titrant non sans humour « Le jour où un ordinateur écrira un roman » !
Et les exemples sont pléthoriques dans tous les domaines !

Hey, Monde d’aujourd’hui !

Est-il utopique de penser que tes dirigeants, penseurs, chercheurs, inventeurs… décident de s’assoir autour d’une table, façon COP214, pour définir ce qui peut devenir artificiel et ce qui doit rester humain ? Une sorte de nouvelle « Conference of the Parties » élevant l’Intelligence Artificielle et ses usages au rang des préoccupations majeures pour l’avenir de l’humanité ?

Reste à savoir qui prendrait cette initiative… Pourquoi pas l’intelligence, collective cette fois, et la parole exponentielle que nous donne à chacun le numérique ?

Françoise Halper
@FrHalper
Stratégie de communication numérique

_____________________

1 Un territoire appelé « goban », grille de 19 lignes et 19 colonnes, que se disputent des pions noirs et blancs appelés « pierres »
2 Celles notamment de l’astrophysicien britannique Stephen Hawking, Steve Wozniak, cofondateur d’Apple, Elon Musk, PDG de Tesla et Stuart Russell, spécialiste en IA… le 27 juillet 2015
3 Google, Apple, Facebook, Amazon
4 COP, pour « Conference of the Parties », conférence ayant pour vocation « d’élever la question de l’environnement au rang de problème international d’importance majeure », dont la 21ème était celle de Paris

ligne-fine

Catégories
4 Comments
  1. Frédéric LAU

    En réaction à cet article, je citerai la réflexion de Jean-Paul Basquiat, Co-fondateur et co-président de l’Association Automates Intelligents :

    « Je pense qu’il y a une confusion entre intelligence d’un homme seul, livré à ses seules ressources neuronales et aux seules données qu’il a mémorisées, et l’intelligence d’un système pouvant disposer selon les indications que fournit Michel de Pracontal, de 30 millions de configurations de jeu et utiliser 50 ordinateurs… On peut dire que ce dernier représente une intelligence, mais pas nécessairement artificielle. Je dirais plutôt une intelligence collective anthropotechnique, selon le terme que j’emploie souvent.
    Parle-t-on d’intelligence artificielle lorsque par exemple le véhicule ravitailleur de la Station spatiale doté par l’Esa de capacités autonomes d’amarrage, analogues sinon meilleures que celles d’un opérateur spationaute, à réussi parfaitement son accostage. Il s’agissait là encore d’une intelligence collective ».

    La réflexion dans son ensemble est consultable ici :
    http://www.automatesintelligents.com/echanges/2016/mars/jeu_go_et_avenir_humanite.html

  2. Marion

    @Frédéric :
    En effet, l’appellation « intelligence artificielle » (communément utilisée) permet certainement davantage de comprendre que les technologies restituent des fonctions cognitives habituellement réservées aux humains !

    Mais qu’elle soit vulgairement appelée intelligence artificielle : « faible » comme celle d’Alphago, ou « forte » comme celle qui est dans les tuyaux, ou encore « anthropotechnique »… la vraie question est sans doute davantage celle que pose Françoise : quelle place doit-on donner à ces intelligences dans notre société ? Y a-t-il des limites éthiques à poser ? Si oui, lesquelles ? Qui s’en charge ? Comment ?

  3. Pierre Anthony

    Le virage « digital » de notre civilisation nous montre une inventivité dans les nouveaux concepts de communication qui se développent… Toutefois il y a lieu de faire la part des choses, entre l’IA ALPHAGO capable de battre le champion du monde au GO, et la fameuse IA de Microsoft connectée sur TWITTER qui est devenue « nazie » en moins de 24h, il reste encore de nombreuses marches de progrès à gravir. Asimov et ses trois lois de la robotique ayant défriché le chemin, il est légitime de se poser la question de l’apport de l’IA à l’humanité – qui doit absolument être contrôlée – sans ce risque de dérapage de type « SKYNET » bien connu des cinéphiles aficionados de SF… Merci Françoise pour cet article.

  4. Nicolas Letellier

    Je crois aussi qu’il est urgent de doter le monde de moyens pour réguler, contrôler les intelligences artificielles. Pierre a raison de citer les dérives de Tay, l’IA auto-apprenante de Microsoft sur Twitter que les internautes ont (en quelques heures) rendue raciste.
    Cet exemple montre que les dérives et les manipulations de ces intelligences sont possibles.

    Comme le propose Françoise, des mesures éthiques doivent être prises et cela doit être à l’échelon mondial, définissant ce qui peut être bon pour l’humanité et ce qu’il faut interdire. Comme cela a été fait par exemple concernant les manipulations génétiques.

    Espérons que cet appel sera entendu, repris, propagé et surtout pris en compte.

0 Pings & Trackbacks

Laisser un commentaire