Apres nous etre interesses au fonctionnement de l’intelligence artificielle, nous avons voulu nous pencher i  propos des questions et les craintes que soulevait celle-ci.

Apres nous etre interesses au fonctionnement de l’intelligence artificielle, nous avons voulu nous pencher i  propos des questions et les craintes que soulevait celle-ci.

Depuis des annees, nos ?uvres de fiction abordent ce thi?me et l’integralite des derives possibles, mais ces questions se posent egalement serieusement dans la vraie vie. L’IA signerait-elle vraiment la fin de l’humanite ?

En fevrier dernier, nous nous sommes penches sur l’intelligence artificielle afin de mieux comprendre comment celle-ci fonctionnait. Cette plongee dans un ocean de concepts ainsi que termes aussi divers que complexes, entre reseaux de neurones et machine learning, a souleve de multiples questions.

Nous sommes persuades que bon nombre de ingenieurs et scientifiques qui travaillent via l’intelligence artificielle ont nos meilleures intentions et aspirent a un monde meilleur. Neanmoins, claque de se dire qu’une machine est capable d’apprendre de nouvelles choses toute seule, sans l’aide de personne, n’est pas toujours tres rassurant.

Et si les machines, une fois qu’elles nous auront surpassees, deviennent malveillantes ? Puisqu’elles seront destinees a etre clairement autonomes et intelligentes, De quelle fai§on peut-on s’assurer qu’elles restent dans « le droit chemin » ?

L’intelligence artificielle est 1 vaste sujet, aussi passionnant que complexe a apprehender. On en entend nombre parler, aussi bien dans la presse specialisee que generaliste et les grandes entreprises de l’informatique ne jurent plus que…Lire J’ai suite

L’IA dans la pop culture

Ce sentiment de crainte reste d’ailleurs largement partage dans l’imaginaire collectif. On doit penser que ce dernier reste nourri avec de nombreuses ?uvres de fiction generalement pessimistes dans lesquelles les schemas narratifs sont assez simples a saisir : quand une machine intelligente creee par des hommes fera partie des protagonistes principaux de l’histoire, on voit de grandes chances que ca finisse en baston pour la sauvegarde de l’humanite.

Des lors, on associe tres facilement l’intelligence artificielle a une entite froide, impitoyable et intransigeante. Celle-ci est assez eveillee concernant mener des raisonnements logiques, mais reste denuee de toute estime pour l’espece humaine. Ainsi, si elle considere que des etres humains sont la cause d’un probleme — c’est d’ailleurs souvent la situation, dans la fiction comme dans la vraie vie —, elle deduira qu’il faut purement et simplement eradiquer l’humanite.

Certes, l’ensemble des histoires paraissent differentes, mais ils font toujours la meme idee sous-jacente que l’on pourrait resumer ainsi :

Petit tour d’horizon — non exhaustif — Afin de s’en persuader (avec de tres legers spoilers) :

Les trois lois d’Asimov

Dans toute la bibliographie d’Isaac Asimov, genial pionnier une science-fiction, nos trois fameuses lois d’Asimov censees regir le comportement des robots (afin de les empecher de s’en prendre aux humains) ont ete etablies par l’auteur limite uniquement dans le but d’etre enfreintes (et donc de i?tre capable de rediger une histoire).

HAL 9 000 dans 2001, l’Odyssee de l’espace

HAL 9 000 dans 2001, l’Odyssee de l’espace https://datingmentor.org/fr/colombian-cupid-review/, creee dans un laboratoire scientifique de l’Illinois, represente l’ennemi principal des protagonistes. Di?s lors, ce seront des dysfonctionnements de l’intelligence artificielle qui convainc les astronautes d’une debrancher. Mais HAL 9 000 reussit a des empecher apres avoir intercepte leur conversation en lisant sur leurs levres. Petit bonus Afin de flipper : dans la vraie vie, Google Deepmind maitrise egalement tres bien la lecture labiale.

VIKI dans I,Robot

Au film I,Robot avec Will Smith, les robots font partie de la vie quotidienne et obeissent aux memes trois lois d’Asimov. Mais un superordinateur du nom de VIKI, apres moult observations, estime que les etres humains ne sont gui?re capables de s’autogerer. Dans le but de prevenir la planete contre davantage de guerres ainsi que pollution, l’IA conclut qu’elle devra prendre le controle de l’humanite.

LoveMachine dans Summer Wars

La soiree d’animation Summer War suit les aventures d’un jeune garcon tres doue Afin de nos mathematiques qui fait face a une intelligence artificielle malveillante infectant le plus grand reseau social du monde — non ce n’est gui?re Facebook. Des milliards de precisions sont compromises et le logiciel ne tarde nullement a provoquer un chaos complet. Baptisee LoveMachine, l’IA en question est ici carrement representee sous la forme d’un dieu-monstre effrayant.

Salut, moi c’est LoveMachine.

On s’arretera ici, mais des fictions de cette categorie, il en existe plethore. Tant et si bien, qu’il pourrait etre impossible de toutes les lister. Leur objectif premier releve du divertissement, mais la problematique soulevee merite reflexion. Faut-il avoir peur de l’intelligence artificielle ?

La peur de l’IA

Le sujet a deja ete posee. Parmi les 2 000 individus interrogees dans le cadre d’une etude une British Science Association, 36 % estimaient que le developpement de l’intelligence artificielle est une menace pour la survie de l’humanite sur le long terme. Pragmatique, le celebre physicien Stephen Hawking a, quant a lui, declare en octobre 2016 que l’IA pourrait etre « soit la meilleure, soit ma pire chose qui ne soit jamais arrivee a l’humanite ». Cela va aussi jusqu’a penser qu’il s’agira du plus grand evenement de l’histoire de notre civilisation. De ce fera, si les intelligences artificielles nourrissent de mauvais desseins, nous sommes l’ensemble de dans le petrin.

Au fond, une telle inquietude reste due au fait que malgre une capacite cognitive egale — voire superieure — a toutes les hommes et aux jeunes femmes, une intelligence artificielle parait a priori depourvue d’une qualite indispensable que l’on prete trop volontiers a l’etre humain : l’empathie. Or, a l’instar de la totalite des sentiments, on a bien des difficultes a voir De quelle fai§on l’IA est en mesure de concevoir une telle emotion. Complique d’imaginer De quelle fai§on elle pourrait ressentir ce qui a l’aide d’une suite chiffres plutot que par l’experience d’une life. L’IA pourrait i?tre donc psychopathe. Pas tres rassurant, n’est-ce jamais ?

Neanmoins, l’histoire de l’humanite a prouve que la science pouvait sans cesse repousser ses limites et les IA sont deja pas loin d’apprendre le sens de l’humour. A terme, il ne serait donc pas si etonnant qu’elles se mettent a assimiler des notions propres a l’etre humain telles que l’empathie ou — soyons fous — le sentiment amoureux ou l’apprehension d’une fond. Encore plus loin dans l’avenir, les intelligences artificielles et les robots pourraient meme eventuellement developper leurs propres personnalites.