background preloader

Algorithmes, I.A.

Facebook Twitter

Cathy O'Neil : pour une éthique des algorithmes. UVDE | Les algorithmes peuvent-ils manipuler la société ? - Dominique Cardon - 10/05/17. LES ALGORITHMES PRÉDIRONT-ILS LE FUTUR ? Facebook : avec 230 likes, l'algorithme vous connaît mieux que votre conjoint. Influencer le résultat d'une élection grâce à des données siphonnées sur des comptes Facebook ? Non, ce n'est pas un film d'anticipation... Les données de 87 millions d'utilisateurs de Facebook ont été récupérées à leur insu par Cambridge Analytica, une firme qui a travaillé pour la campagne de Donald Trump, a révélé le réseau social.

Selon l'enquête du magazine "Envoyé spécial" (à voir le jeudi 12 avril), l'idée de Cambridge Analytica est de dresser un profil psychologique des citoyens et de le croiser avec les informations dont elle dispose sur eux, afin de savoir ce qui motive leur vote. Et le meilleur endroit pour établir ce profil psychologique, c'est Facebook. Un chercheur américain de l'université de Stanford, en Californie, l'avait compris avant tout le monde : ce que nous faisons sur Facebook permet de comprendre notre personnalité. Pour obtenir un maximum de données sur les utilisateurs, Michal Kosinski a créé en 2008 un test sur Facebook. Les Sépas 18 les algorithmes. Intelligence artificielle : un danger pour l'Homme ?

Les plus grands scientifiques et chefs d'entreprise du monde le répètent : méfions-nous de l'intelligence artificielle ! Que ce soit Frank Wilczek, prix Nobel de physique, ou encore des hommes d’affaire comme Bill Gates et Elon Musk, tous ont tiré la sonnette d'alarme ! Oui, mais contre quoi ? Qu’est-ce que l’intelligence artificielle ? Car donner une définition précise de ce qu'est l'intelligence artificielle n'est pas si facile... Pour ses détracteurs, c'est un danger : même Stephen Hawking, prestigieux astrophysicien, prévoyait le pire en 2014 : « Je pense que le développement d'une intelligence artificielle complète pourrait mettre fin à l'humanité ». L'intelligence artificielle, opportunité ou menace ? Quels sont les arguments de ces sonneurs d'alerte ? Autre problème de taille : l'IA est dépourvue d'éthique.

Cependant, réduire l'intelligence artificielle à ces menaces serait une erreur. Alors, l'IA : danger ou chance ? Big data : les algorithmes sont-ils les maîtres de notre futur ? Comment les algorithmes nous enferment ? : Décod'Actu, saison 2. C'est quoi un algorithme. L’information face à l’intelligence artificielle : promesses et dangers. Au-delà des questions de déontologie professionnelle, l’insertion croissante des algorithmes dans l’écosystème d’information requestionne les enjeux éthiques du rôle démocratique des médias. On en retiendra cinq principaux. Aller vers toujours plus de recommandation personnalisée de l’information a des vertus individuelles qui sont autant de poisons collectifs Aller vers toujours plus de recommandation personnalisée de l’information a des vertus individuelles qui sont autant de poisons collectifs.

Si je reçois une information toujours plus ciblée, je risque de me laisser enfermer peu à peu dans une zone de certitudes, et de ne plus découvrir des informations nouvelles à laquelle les médias généralistes me confrontaient peu ou prou. Le Conseil supérieur de l’audiovisuel (CSA) s’en inquiète dans un rapport de janvier 2017 sur « Le rôle des données et des algorithmes dans l’accès aux contenus ». « La structure des goûts d’un consommateur peut s’analyser comme un réseau abstrait, écrit-il. Les failles des algorithmes sont dangereuses pour nos sociétés.

Quand les algorithmes se trompent ou dévient de leur mission première, nous n’avons pas les outils nécessaires pour nous défendre et pour prouver qu’ils sont dans l’erreur. Voici la conclusion d’un nouveau rapport publié dans AI Now et réalisé par des chercheurs sur l’intelligence artificielle appartenant à un groupe de recherche regroupant des employés de Microsoft et Google, affilié à l’Université de New York.

Les algorithmes font leur apparition dans tous les domaines. On apprenait récemment que le monde du sport se dotait d’un outil d’intelligence artificielle pour un dépistage plus précis afin de lutter contre le dopage. Les chercheurs précisent que « le grand public n’a pas les outils nécessaires pour tenir ces systèmes responsables lorsqu’ils échouent ». Pour faire face à ces défis technologiques, les chercheurs ont formulé dix recommandations, dont une demande de réglementation gouvernementale de la reconnaissance faciale.

Antonio Casilli : l'intelligence artificielle est largement « faite à la main » L’essor de l’intelligence artificielle (IA) réactualise les peurs et fantasmes inhérents à tout processus d’automatisation : remplacement des hommes par les machines, fin du travail, chômage de masse. Pour Antonio Casilli, ces raccourcis occultent la spécificité de la « transformation digitale » que nous vivons. Loin de supprimer le travail, elle le déplace, le découpe et le parcellise. Avec son ouvrage En attendant les robots, enquête sur les travailleurs du clic, le sociologue nous fait changer de perspective : derrière les discours ronflants vantant les vertus d’une automatisation libératrice, une autre réalité couve, celle de millions de « travailleurs du clic », des petites mains mises à contribution pour entraîner et améliorer les services numériques du quotidien.

Un modèle qui pourrait bien préfigurer le (vrai) futur du travail. Ces dernières années, les thèses défendant une automatisation majeure des activités humaines ont défrayé la chronique. La fin (de la fin) du travail. Algorithmes partout, intelligence nulle part. A propos de Gillian Brockell. L'histoire est de celles qui font monter les larmes. En tout cas moi j'ai eu les yeux qui piquent en la lisant. C'est celle d'une femme qui à perdu son enfant à la naissance. Un enfant mort-né. Une femme qui écrit aux patrons des GAFA, aux patrons des "Tech Companies", pour leur demander d'arrêter de lui proposer des liens publicitaires sur une maternité dont elle doit faire le deuil.

Cette femme s'appelle Gillian Brockell. "Chères entreprises technologiques, Je sais que vous avez su que j'étais enceinte. Cette femme c'est le crapaud fou algorithmique, celle qui ne rentre pas dans les clous, dans les motifs, dans les "patterns" de prévisibilité et de prédictibilité de l'empreinte comportementale et navigationnelle qui fait de nous ce que nous sommes aux yeux des grandes plateformes : des documents comme les autres. Gillian a raison. A l'échelle qui est la leur, à l'échelle macro du ciblage comportemental, Gillian et son bébé ne comptent pas. Oh la catégorie existe. Cette intelligence artificielle a "triché" pour devenir meilleure que ses concepteurs !

Le titre de l’article peut paraître aguicheur, mais il n’en démontre pas moins la réalité du phénomène qui s’est déroulé à Stanford, durant des recherches que l’université a mises en place en partenariat avec… Google. L’objectif premier de l’étude qui nous intéresse était de transformer des photos aériennes en carte géographique.

Jusque là, rien d’exceptionnel, si tant est que l’on soit au courant de ce qui se fait en AI ces derniers temps. Mais l’opération se corse lorsqu’il s’agit de faire le calcul inverse, en dessinant une image vue du ciel depuis le premier résultat. Que s’est-il passé pour que ce soit si exceptionnel ? L’ordinateur utilisé par les chercheurs faisait appel à un réseau neuronal de type CycleGAN, dont la spécialité est justement de convertir une image d’un certain type vers un fichier comportant le même contenu, mais d’un autre type, à l’instar de ce qui se fait avec TensorFlow, un outil également inventé par Mountain View.

L’explication Source. L’Intelligence Artificielle Peut-Elle Être Discriminante. De l’imbrication algorithmique. On se souvient de la mort d’Elaine Herzberg, première humaine tuée par une voiture autonome en mars 2018 (voir l’enquête de l’écrivain Thierry Crouzet). Dans le Guardian, le journaliste Andrew Smith (@wiresmith) revient sur les hésitations de l’algorithme de la voiture à reconnaître ce qu’il se passait. Pour la programmeuse et essayiste Ellen Ullman, le problème est que la programmation est de plus en plus éloignée de la compréhension humaine du fait de l’intrication des programmes, algorithmes et données. Les gens pensent souvent que les algorithmes peuvent être modifiés, mais le plus souvent, ils s’exécutent et évoluent par eux-mêmes (cf. notre dossier, réinventer la programmation). Leurs concepteurs ne les contrôlent pas vraiment et ce d’autant plus qu’ils font appellent à des bases de données, à des bibliothèques de programmes distants, à d’autres algorithmes qui évoluent également.

Les machines elles-mêmes ne sont pas sans biais non plus. Hubert Guillaud. Cnil rapport garder la main web. Ethique et numérique : les algorithmes en débat. Comment les algorithmes entretiennent l'illusion de répondre à nos goûts musicaux. L’économie des plateformes ne se contente pas de brasser des données. Elle les véhicule, les oriente et les redirige dans la jungle des contenus en ligne grâce à ces recommandations nommées algorithmes. Face à la surabondance des flux, l’évidence semble s’imposer : le besoin de se repérer crée l’organe qui facilite le choix. Pourtant, loin de se limiter à l’accompagnement d’une décision, le règne des algorithmes n’est pas sans conséquence sur la diversité culturelle et la construction des goûts. Avant d’exercer son pouvoir, encore faut-il apprendre à le dominer, dit la morale de l’histoire. A fortiori quand le pouvoir en question consiste à se doter d’un prolongement de soi-même. Aussi fantomatiques et efficaces que mille balais porteurs de seaux, les algorithmes puisent dans la masse des produits en ligne pour les ajuster à nos données versées au vaste chaudron des plateformes.

Aux États-Unis, 99 % de l’écoute se mobilise sur 20 % du catalogue de la plateforme Spotify. Cathy O’Neil : « Les algorithmes exacerbent les inégalités » Prédiction des crimes : « Les algorithmes reflètent les discriminations » « Le futur est déjà dans le présent. » La promesse du narrateur du film Pre-crime n’est guère réjouissante. Car le futur évoqué ressemble à celui de Minority Report. Comme dans l’oeuvre de Spielberg, des logiciels essayent aujourd’hui de prédire les crimes avant qu’ils n’arrivent, se nourrissant pour cela d’énormes quantités de données. Ce qui s’accompagne de nombreux dangers éthiques liés entre autres à nos données personnelles, explique le documentaire, qui sera diffusé le 28 octobre lors du festival Pariscience dont Usbek & Rica est partenaire.

Nous avons posé quelques questions à l’un des intervenants du film, le sociologue Bilel Benbouzid. « Pourquoi suis-je considéré parmi les 400 personnes les plus dangereuses de Chicago juste pour avoir fumé de la marijuana et joué aux dés ? » Robert MacDaniel travaille dans une épicerie, dans la ville américaine détenant le triste record du nombre d’homicides en 2017. . « Les données reflètent les pratiques discriminantes » « Les algorithmes servent de palliatifs à l’empathie » L’algorithme : une notion info-documentaire à didactiser ?

Introduction Au cours d’un autre article1, nous avons présenté sous la forme d’une synthèse le contenu du dernier ouvrage de Dominique Cardon, sociologue spécialiste du numérique et d’Internet, publié en octobre 2015 et consacré aux algorithmes2. Cette lecture a amené le professeur documentaliste que nous sommes à s’interroger quant à la pertinence de considérer l’algorithme comme une notion info-documentaire et donc, par extension, de la didactiser. Le premier chapitre du livre intitulé « Quatre familles de calcul numérique », sur lequel s’appuient en grande partie les considérations qui vont suivre, offre beaucoup de matière abondant en ce sens.

C’est pourquoi nous souhaitons ouvrir le débat sur l’accueil de l’algorithme dans la famille des notions info-documentaires. 1. Considérer l’algorithme comme une notion info-documentaire peut sembler, de prime abord, un peu étrange. 2. Le tableau ci-dessous, élaboré par Dominique Cardon, offre une vision synthétique de ces quatre familles4. 3.

Comment enquêter sur les algorithmes ? C’est pourquoi, petit à petit, les enquêtes journalistiques s'attaquent aux nouvelles problématiques liées à la révolution numérique – et non plus seulement aux champs politique et financier. Les journalistes d'investigation s'intéressent en effet aux coulisses des différents pouvoirs, enquêtant pendant des mois voire des années pour dévoiler des scandales et demander des comptes aux puissants. Le code de nombreux algorithmes est protégé par le secret des affaires Enquêter sur les algorithmes, c'est aussi s’intéresser à un ingrédient clé de la réussite des nouveaux géants de l'économique mondiale, les fameux GAFA (Google, Amazon, Facebook, Apple. Là aussi, leur pouvoir est très largement opaque.

Le code de nombreux algorithmes est protégé par le secret des affaires. De plus, leur fonctionnement très complexe est souvent difficile à appréhender ou à remettre en question pour le grand public. De nombreux chercheurs en informatique travaillent déjà sur les biais possibles des algorithmes. Qu'est-ce qu'un algorithme et comment fonctionne-t-il ? C’est à travers plusieurs échanges avec des professionnels du marketing, des social media managers ainsi que des étudiants parmi mes interventions que j’ai remarqué que le terme et la notion liée à un algorithme n’étaient pas toujours compris ou appréhender.

Moi-même, j’ai mis du temps à cerner le sujet qui nous concerne tous. Que nous soyons utilisateurs, consommateurs des services comme les moteurs de recherche, les applications de streaming audio, de vidéo à la demande ou encore d’applications de rencontre. D’où cet article « guide » pour vulgariser au mieux la notion sans chercher à expliquer scientifiquement. Je laisse ça à d’autres spécialistes qui seront beaucoup plus compétents. Qu’est-ce qu’un algorithme ? Commençons par le b.a-ba avec une définition pragmatique du terme algorithme en se basant sur le dictionnaire Larousse. Les termes « règles opératoires », « problème énoncé » et « nombre fini d’opération » sont extrêmement importants à saisir pour comprendre la notion.

Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle. L’irruption dans nos vies quotidiennes des algorithmes et de l’intelligence artificielle fait l’objet d’une attention publique soutenue, depuis que quelques cas emblématiques (APB, rôle des réseaux sociaux dans les présidentielles américaines etc.) ont marqué les citoyens, ici en France ou à l’étranger.

A l’heure où se construisent les positions française et européenne sur l’intelligence artificielle, ce rapport a pour but de construire un panorama des enjeux éthiques qu’ils soulèvent. Un débat public innovant sur les algorithmes et l’intelligence artificielle Chargée par loi pour une République numérique de mener une réflexion sur les questions éthiques et de société posées par les nouvelles technologies, la CNIL s’est naturellement tournée vers le thème des algorithmes à l’heure de l’intelligence artificielle.

Pour Isabelle Falque-Pierrotin, Présidente de la CNIL : Quelles réponses éthiques au développement des algorithmes et de l’intelligence artificielle ? Algorithmes – Au cœur de la recherche – Google. Tests : de l'idée au lancement Généralement, une modification de l'algorithme part d'une idée de l'un de nos ingénieurs pour améliorer la recherche. À partir de là, nous adoptons une approche guidée par les données, et toutes les propositions de modification de l'algorithme sont soumises à un rigoureux processus de contrôle qualité avant d'être validées.

En général, les ingénieurs commencent par lancer une série de tests pour lesquels ils modifient certaines variables. Ils soumettent alors ces tests à l'examen de leurs collègues, rassemblent leurs commentaires et appliquent leurs éventuelles suggestions, jusqu'à ce qu'ils soient satisfaits du résultat et que le test puisse être appliqué à un public plus large. Consignes destinées aux évaluateurs de la qualité des recherches Ce document est une version de nos consignes destinées aux évaluateurs de la qualité des recherches.

Télécharger (en anglais) Évaluations de la précision Tests comparatifs Tests du trafic en situation réelle Lancements. Algorithmes: les maths discriminatoires. Emploi : le nouveau chasseur de têtes est un algorithme. Les algorithmes ont pris le contrôle de l’économie. L'économie des algorithmes devrait bouleverser notre société. O21 : « La transparence des algorithmes relève des droits civiques » De l’économie collaborative au gouvernement algorithmique des plateformes. Le « management par algorithme », entre liberté et aliénation. Les algorithmes, les médias et la culture : pouvoir, craintes et solutions. Algorithmes de prix, intelligence artificielle et équilibres collusifs. Algorithmes : l’heure de la grande régulation. Le ministère de l’économie s’intéresse aux algorithmes ! | Ethique et TAL.