Intelligence artificielle : les risques d'une utilisation malveillante

La CNIL se prononce sur l'éthique des algorithmes et de l'intelligence artificielle Les algorithmes, des boîtes noires dont les enjeux nous dépassent ? La question se pose aujourd'hui au niveau national. Pas plus tard qu'en mai 2017, ils ont joué un rôle crucial dans l'élection présidentielle française, sous l'angle du big data et des réseaux sociaux. Ils interviennent aussi dans l'orientation de milliers de bacheliers, ainsi que l'a montré l'emblématique exemple d'Admission Post Bac (APB) en octobre 2016. « Sécurité et justice : le défi de l'intelligence artificielle » un colloque de l'INHESJ le 7 novembre 2019 Le 21e siècle connaît le développement sans précédent d’une nouvelle révolution scientifique et technique. L’essor de toutes les technologies numériques et l’avancée des recherches sur l’Intelligence artificielle en constituent le moteur. Big data, robotique, nanotechnologies, algorithmes… autant d’outils parmi d’autres qui vont bouleverser les organisations des sociétés et les modes de vie de leurs membres. Cette révolution fait sentir ses premiers effets sur le champ de la sécurité et de la justice. Anticipation, surveillance, cybersécurité, les nouveaux outils à l’œuvre ou en phase d’expérimentation dessinent d’ores et déjà le futur visage de la sécurité et de la justice.

Avec l'IA, la cybersécurité a une nouvelle alliée L'exfiltration de données sensibles réalisée par le lanceur d’alertes Edward Snowden au détriment de la CIA en 2013, les vols de cartes bancaires des clients du distributeur américain Target ou encore le piratage de films et de la messagerie de Sony Pictures en 2014… Autant de failles de sécurité informatique qui ont défrayé la chronique ces dernières années. Celles-ci auraient pu être évitées si les installations piratées avaient eu recours à une cybersécurité dopée à l’intelligence artificielle (IA) ! En se combinant avec ces technologies, la cybersécurité pourrait faire un bond en avant prodigieux. De quoi exaucer les rêves les plus fous des responsables de la sécurité des systèmes d’information : stopper des cyber­attaques élaborées et celles qui exploitent des vulnérabilités découvertes par des pirates, mais encore inconnues de la communauté informatique.

Un rapport européen épingle les risques de l’intelligence artificielle L'intelligence artificielle va être un bouleversement important pour les travailleurs explique le Comité économique et social européen. Dans un rapport, il dévoile ses recommandations sur le sujet, avec un accent mis sur le côté social évidemment. Emplois, éthique, influence sur nos décisions et éducation sont autant de points abordés. Depuis plusieurs années, l'intelligence artificielle – au sens large du terme – connait des progressions fulgurantes dans de nombreux domaines. Dernier exemple en date, la victoire sans appel 3 à 0 d'Alpha Go (créé par DeepMind, une filiale de Google) sur Ke Jie, qui est considéré comme le numéro un mondial au jeu de Go.

Au-delà des fantasmes, quels sont les problèmes concrets que pose l’intelligence artificielle ? « Je n’arrête pas de tirer la sonnette d’alarme, mais tant que les gens ne verront pas des robots descendre dans la rue pour tuer tout le monde, ils ne sauront pas comment réagir. » Ces propos inquiétants sont signés Elon Musk, le patron de Tesla et de Space X, et grand adepte des coups médiatiques. Une phrase qui a déclenché, le 24 juillet, un échange cinglant avec le patron de Facebook, Mark Zuckerberg, qui a qualifié ses propos d’« irresponsables », et a vanté les avancées que promettait l’intelligence artificielle (IA) dans le domaine de la santé ou de la sécurité routière. « J’ai discuté avec Mark [Zuckerberg] de tout cela, a répondu publiquement Elon Musk sur Twitter. Sa compréhension du sujet est limitée. »

Intelligence artificielle dans la cybersécurité – Capgemini France Paris, le 11 juillet 2019 – Selon une nouvelle étude du Capgemini Research Institute, les entreprises accélèrent le rythme des investissements dans les systèmes IA en vue de se protéger contre la prochaine génération de cyberattaques. Deux tiers d’entre elles (69%) estiment que, sans l’IA, elles ne seront pas en mesure de réagir en cas de cyberattaque majeure. Avec les avancées technologiques dans les domaines de cloud, de l’IoT[1], de la 5G et des interfaces conversationnelles, le nombre d’appareils connectés, de réseaux et d’interfaces utilisateur ne cesse d’augmenter. Dans ce contexte, les organisations doivent passer à la vitesse supérieure en matière de cybersécurité.

Cadre juridique appliqué à l’IA – blogintelligenceartificielle Comme évoqué dans la page précédente, l’intelligence artificielle va probablement égaler et même dépasser l’intelligence humaine, d’ici une trentaine d’années. Cette forme d’intelligence, qui serra présente sous forme de robots humanoïdes, entre autres, sera certaines autonome dans toutes ses activités comme un humain. Ces robots pourront donc se déplacer, agir et s’alimenter tout seul, et c’est là qu’intervient le droit.

Quels métiers sont menacés par l'intelligence artificielle ? Actualité de la recherche Mensuel N° 305 - Juillet 2018 Les progrès exponentiels réalisés par l’intelligence artificielle au cours des dernières années laissent entrevoir des bouleversements sur le marché du travail. Selon une étude menée sur 32 pays de l'OCDE, 14 % des métiers actuels ont une forte probabilité (plus de 70 %) d’être automatisables et 32 % supplémentaires vont connaître des changements majeurs avec la robotisation. Sans surprise, « les risques les plus importants se concentrent sur les postes routiniers demandant de faibles compétences et souvent rémunérés avec de bas salaires » comme « les femmes de ménage, les assistants, personnels de cantine et les ouvriers dans les mines, la construction et les transports ». Stefano Scarpetta, « Policy brief on the future of work.

En cybersécurité, l’intelligence artificielle se concentre sur le comportement L'intelligence artificielle et l'apprentissage automatique caracolent en tête de la liste des mots à la mode que les fournisseurs de sécurité utilisent aujourd'hui pour différencier leurs offres. Mais plus qu’une mode – qui ne serait dans ce cas plus si nouvelle –, ces termes représentent des technologies viables. L'apprentissage automatique apporte une réelle valeur ajoutée aux équipes de sécurité pour identifier les attaques, les maliciels et autres menaces. L'augmentation massive des attaques, d'instances de nouveaux logiciels malveillants et de variantes d'anciens maliciels est une raison suffisante pour utiliser l'apprentissage automatique dans la cybersécurité. Cette technique apporte aux systèmes de sécurité la capacité de traiter, détecter, identifier et éliminer toutes sortes de menaces en quelques millisecondes. La mentalité d'antan, qui consistait à « envoyer une alerte à l'informatique pour qu'elle puisse assurer le suivi », ne fonctionne tout simplement plus.

Intelligence artificielle : la complexe question de l'éthique Avec le développement des intelligences artificielles se posent de nombreuses questions sociétales. En particulier, comment définir une éthique de ce domaine ? Armen Khatchatourov, philosophe à Télécom École de Management et membre de la Chaire « Valeurs et politiques des informations personnelles » de l’IMT, observe et analyse avec attention les réponses proposées à cette question. L’une de ses principales préoccupations est de voir comment l’éthique tente d’être normée par un cadre législatif. Dans la course effrénée de l’intelligence artificielle menée par les GAFA, aux algorithmes toujours plus performants ou aux décisions automatisées toujours plus rapides, l’ingénierie est reine, car porteuse de la très convoitée innovation.

Des logiciels experts en diagnostic médical Imagerie cérébrale, aide à la décision clinique, dépistage de maladies oculaires… l'intelligence artificielle promet de bouleverser les tâches et les usages du diagnostic médical. Le point sur les progrès et les limites de ces nouvelles technologies appliquées à la santé. « La quasi-totalité des champs de l’intelligence artificielle dispose d’applications dans le domaine de la santé. » La conclusion du rapport Stratégie France IA remis en mars 2017 au gouvernement est éloquente. La médecine semble être entrée dans l’ère des données et l’intelligence artificielle (IA) se placera à l’avenir comme un outil précieux, notamment pour l’aide au diagnostic.