Intelligence artificielle : les géants du Web lancent un partenariat sur l’éthique
Google, Facebook, IiBM, Microsoft et Amazon comptent instaurer de « bonnes pratiques » dans le domaine, et mieux informer le grand public. LE MONDE | • Mis à jour le | Par Morgane Tual A l’heure où les technologies d’intelligence artificielle (IA) progressent à grands pas, soulevant quelques inquiétudes, les géants du secteur ont annoncé mercredi 28 septembre un partenariat pour définir de « bonnes pratiques », notamment en termes d’éthique. Ce partenariat prendra la forme d’une organisation à but non lucratif, qui « mènera des recherches, recommandera de bonnes pratiques, et publiera les résultats de ses recherches sous une licence ouverte ». Des technologies « qui ne font pas de mal » Ce projet a aussi pour objectif de communiquer auprès du grand public afin de « l’éduquer et de l’écouter » sur ces questions, en promouvant « la transparence ». Toutefois, promet l’organisation, elle « ne compte pas effectuer de lobbying auprès des gouvernements ». Questions urgentes Apple, le grand absent
Pourquoi Google a conçu un « bouton rouge » pour désactiver des intelligences artificielles
Des chercheurs de Google DeepMind Oxford ont prévu une manière de désactiver un programme d’IA, sans que celui-ci ne réussisse à la contourner. LE MONDE | • Mis à jour le | Par Morgane Tual Une intelligence artificielle (IA) est-elle capable d’empêcher un humain de la désactiver ? C’est de ce postulat que sont partis deux chercheurs pour réfléchir à une façon d’éviter que cela n’arrive. Les deux chercheurs s’intéressent au cas de ces « agents » capables d’apprendre, qui fonctionnent avec un système de « récompenses », qui les pousse à atteindre un but. « Il peut être nécessaire pour un opérateur humain d’appuyer sur le gros bouton rouge pour empêcher l’agent de poursuivre une séquence d’actions – dangereuse pour lui ou son environnement. (…) Néanmoins, si l’agent apprenant s’attend à recevoir une récompense à l’issue de cette séquence, il pourrait apprendre sur le long terme à éviter de telles interruptions, par exemple en désactivant le bouton rouge. » « Réfléchir à un certain futur »
Le mythe de l’IA surhumaine
On ne présente plus Kevin Kelly (@kevin2kelly), qui fut le premier rédacteur en chef de Wired et auteur de nombreux ouvrages sur la technologie. Son dernier livre, The Inevitable: Understanding the 12 Technological Forces That Will Shape Our Future cherche à déterminer les technologies qui nous influenceront le plus au cours des 30 prochaines années. Kelly ne pouvait manquer d’intervenir dans le débat actuel sur l’avenir de l’IA et sur les inquiétudes que cette dernière suscite actuellement, notamment autour du thème de la « superintelligence » et la possibilité que nos créations technologiques dépassent leurs parents humains et précipitent dans le meilleur des cas, une Singularité nous entraînant vers un paradis technologique, ou, dans le pire, notre extinction. Ce que prouve son long texte dans Backchannel, c’est qu’on peut être enthousiaste de la technologie sans pour autant souscrire aux mythes les plus influents dans les milieux du numérique. Voici, selon lui, ces cinq postulats :
Welcome, Robot Overlords. Please Don't Fire Us?
Illustrations by Roberto Parada This is a story about the future. Not the unhappy future, the one where climate change turns the planet into a cinder or we all die in a global nuclear war. This is the happy version. The result is paradise. Maybe you think I'm pulling your leg here. But they're not. What do we do over the next few decades as robots become steadily more capable and steadily begin taking away all our jobs? Suppose it's 1940 and Lake Michigan has (somehow) been emptied. By 1950, you have added around a gallon of water. At this point it's been 30 years, and even though 16,000 gallons is a fair amount of water, it's nothing compared to the size of Lake Michigan. So let's skip all the way ahead to 2000. But wait. IF YOU HAVE ANY KIND OF BACKGROUND in computers, you've already figured out that I didn't pick these numbers out of a hat. True artificial intelligence really is around the corner, and it really will make life easier. And that's exactly where we are.
