background preloader

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles

Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles
Des chercheurs de Google DeepMind Oxford ont prévu une manière de désactiver un programme d’IA, sans que celui-ci ne réussisse à la contourner. LE MONDE | • Mis à jour le | Par Morgane Tual Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive. Laurent Orseau travaille pour DeepMind, l’entreprise de Google spécialisée dans l’intelligence artificielle qui est notamment à l’origine d’AlphaGo, le programme ayant réalisé l’exploit, en mars, de battre l’humain au jeu de go. Avec Stuart Armstrong, du Futur of Humanity Institute de l’université d’Oxford, ils ont publié début juin les résultats de leurs recherches. Les deux chercheurs s’intéressent au cas de ces « agents » capables d’apprendre, qui fonctionnent avec un système de « récompenses », qui les pousse à atteindre un but. « Réfléchir à un certain futur » Ethique et communication

http://www.lemonde.fr/pixels/article/2016/06/07/pourquoi-google-a-concu-un-bouton-rouge-pour-desactiver-des-intelligences-artificielles_4941225_4408996.html

Related:  Intelligence artificielleLe mythe de l'I.A. surhumainefkiecken

Une I.A. remplace 34 employés d'une assurance au Japon - Tech Une assurance japonaise utilisera une I.A. pour remplacer 34 de ses employés. La machine devra effectuer des activités de vérification et des procédures d'analyse sur les dossiers des clients. Une I.A., la « IBM Watson Explorer », remplacera 34 employés d’une assurance vie japonaise, la Fukoku Mutual Life Insurance, dans les jours à venir. Notamment, l’I.A. devra analyser les certificats et les antécédents médicaux des clients, déterminer les paiements et facturer les dépenses médicales. Ainsi, elle devra gérer toutes les procédures d’élaboration d’un dossier jusqu’à le faire arriver dans les mains d’un superviseur humain qui s’occupera de l’approbation et du paiement final. L’entreprise a dépensé 200 millions de yen (1,7 million de dollars) sur ce nouveau système, qui nécessitera une maintenance annuelle d’un coût de 128 000 dollars.

Intelligence artificielle : les géants du Web lancent un partenariat sur l’éthique Google, Facebook, IiBM, Microsoft et Amazon comptent instaurer de « bonnes pratiques » dans le domaine, et mieux informer le grand public. LE MONDE | • Mis à jour le | Par Morgane Tual A l’heure où les technologies d’intelligence artificielle (IA) progressent à grands pas, soulevant quelques inquiétudes, les géants du secteur ont annoncé mercredi 28 septembre un partenariat pour définir de « bonnes pratiques », notamment en termes d’éthique. Google, Facebook, IBM, Microsoft et Amazon ont officialisé dans un communiqué commun la création du « Partnership on Artificial Intelligence to Benefit People and Society » (« partenariat pour l’intelligence artificielle au bénéfice des citoyens et de la société »). Ce partenariat prendra la forme d’une organisation à but non lucratif, qui « mènera des recherches, recommandera de bonnes pratiques, et publiera les résultats de ses recherches sous une licence ouverte ». Des technologies « qui ne font pas de mal »

Sophia, le robot de Hanson Robotics qui va vous faire peur INTERVIEW. Ah, quel chemin parcouru depuis Frankenstein ! En ce mois de mars 2016, le "créateur" a pour nom David Hanson - c'est un entrepreneur américain dont la société, "Hanson Robotics", s’est spécialisée dans la fabrication de robots anthropomorphes (Human-like, disent les anglo-saxons, voire même very human-like pour les plus ressemblants). Quant à la "créature", il s'agit de Sophia. Les objets connectés se marient à l’intelligence artificielle au CES, High tech La start-up Boltt est au CES pour lancer ses objets connectés de fitness renforcés par l'intelligence artificielle. Ce lancement est symptomatique du mariage qui s'opère à Las Vegas entre les objets connectés et l'intelligence artificielle. Les objets connectés sont en effet rois au CES depuis plusieurs années. Cependant, il ne suffit plus de capter des données (le nombre de pas effectués, le nombre de calories brûlées, etc.) : si les objets ne font qu'afficher des chiffres brutes, ils ne sont pas plus intelligents que d'autres. C'est pourquoi les start-up proposent désormais d'associer le pouvoir de l'intelligence artificielle aux objets connectés.

L’intelligence artificielle sans alternative « Ce que le moteur à vapeur a fait pour nos muscles, l’intelligence artificielle va le faire pour nos cerveaux », prédit Hannes Gassert en introduisant la session des conférences Lift consacrée à ce sujet. L’intelligence artificielle n’est plus un sujet de prospective. C’est un sujet d’aujourd’hui. Une intelligence artificielle de Google capable de discuter du sens de la vie Le Monde.fr | • Mis à jour le | Par Morgane Tual Humain — Quel est le but de la vie ? Machine — Etre au service du plus grand bien. Humain — Quel est le but des êtres vivants ? Machine — Vivre éternellement.

CES: le «big bang» de l'intelligence artificielle Fondée en 1993, Nvidia était surtout connue dans l'univers du jeu vidéo, où ses processeurs graphiques ont permis de faire exploser la qualité visuelle. C'était jusqu'à tout récemment, quand les chercheurs en apprentissage profond, la branche la plus en vue de l'intelligence artificielle présentement, ont découvert le potentiel des processeurs graphiques. « L'apprentissage profond avait un immense handicap, et c'était que la capacité de calcul nécessaire, la quantité de données qu'il était nécessaire de traiter, était absolument énorme », a raconté dans le discours d'ouverture officiel du CES le président et cofondateur de Nvidia, Jen-Hsun Huang. « Et un jour, un jour, les chercheurs ont croisé le processeur graphique, que nous avons inventé, et le big bang de l'intelligence artificielle moderne est survenu. » - Jen-Hsun Huang, président et cofondateur de Nvidia

Le mythe de l’IA surhumaine On ne présente plus Kevin Kelly (@kevin2kelly), qui fut le premier rédacteur en chef de Wired et auteur de nombreux ouvrages sur la technologie. Son dernier livre, The Inevitable: Understanding the 12 Technological Forces That Will Shape Our Future cherche à déterminer les technologies qui nous influenceront le plus au cours des 30 prochaines années. Kelly ne pouvait manquer d’intervenir dans le débat actuel sur l’avenir de l’IA et sur les inquiétudes que cette dernière suscite actuellement, notamment autour du thème de la « superintelligence » et la possibilité que nos créations technologiques dépassent leurs parents humains et précipitent dans le meilleur des cas, une Singularité nous entraînant vers un paradis technologique, ou, dans le pire, notre extinction. Ce que prouve son long texte dans Backchannel, c’est qu’on peut être enthousiaste de la technologie sans pour autant souscrire aux mythes les plus influents dans les milieux du numérique.

Lecture critique de « À quoi rêvent les algorithmes » À quoi rêvent les algorithmes, Nos vies à l’heure des big data, Dominique Cardon, La république des idées - Seuil, Octobre 2015. Le travail de Dominique Cardon apparaît à la fois d’une grande nécessité, et souffrant de plusieurs défauts. L’auteur focalise son discours et notre attention sur les algorithmes sans chercher à donner de définition de ce qu’il considère comme tel. Cette imprécision dans les concepts le conduit à faire des raccourcis qui fragilisent son argumentation. Ce livre ne parle pas des algorithmes mais d’outils informatiques. Il est vrai que les outils informatiques sont constitués de programmes, qui implémentent des algorithmes.

Related: