Intelligence artificielle : les risques d'une utilisation malveillante

Un rapport européen épingle les risques de l’intelligence artificielle L'intelligence artificielle va être un bouleversement important pour les travailleurs explique le Comité économique et social européen. Dans un rapport, il dévoile ses recommandations sur le sujet, avec un accent mis sur le côté social évidemment. Emplois, éthique, influence sur nos décisions et éducation sont autant de points abordés. Depuis plusieurs années, l'intelligence artificielle – au sens large du terme – connait des progressions fulgurantes dans de nombreux domaines. Dernier exemple en date, la victoire sans appel 3 à 0 d'Alpha Go (créé par DeepMind, une filiale de Google) sur Ke Jie, qui est considéré comme le numéro un mondial au jeu de Go. En 2017, les institutions françaises découvrent-elles l'Intelligence artificielle ? L'année 2017 semble être synonyme de réveil pour la France sur ces sujets, enfin diront certains. Lire l'avis du CESE sur l'intelligence artificielle Le Comité économique et social européen fait le point sur ses avantages et... ses risques

Quand la Science-Fiction annonce les dangers de l’Intelligence Artificielle L’Homme conservera-t-il sa position en tant qu’intelligence supérieure sur Terre ? C’est la question soulevée actuellement face à la course à l’innovation technologique qui se produit outre-atlantique, à commencer chez Google. Et comme vous devez vous en douter, l’Intelligence Artificielle, quand elle n’est pas le gentil compagnon de voyageurs intergalactiques ou d’Iron Man, est très souvent vue comme une menace dans la littérature ou le cinéma de Science-Fiction. “Grâce à la science-fiction, nous savons que la première chose que l’I.A. fera sera de prendre le contrôle et de nous atomiser, tous autant que nous sommes.” Damien Walter – The Guardian Chez les anglophones, on parle d’« A.I. Alors quels sont les scénarios de cette prise de pouvoir de l’intelligence artificielle ? Skynet, le Réseau qui vise l’annihilation de l’Humanité dans Terminator Skynet, ça vous parle ? HAL 9000, le programme assassin dans 2001, L’Odyssée de l’Espace “Je suis désolé Dave, je ne crois pas pouvoir faire ça.”

Cadre juridique appliqué à l’IA – blogintelligenceartificielle Comme évoqué dans la page précédente, l’intelligence artificielle va probablement égaler et même dépasser l’intelligence humaine, d’ici une trentaine d’années. Cette forme d’intelligence, qui serra présente sous forme de robots humanoïdes, entre autres, sera certaines autonome dans toutes ses activités comme un humain. Ces robots pourront donc se déplacer, agir et s’alimenter tout seul, et c’est là qu’intervient le droit. Surviennent alors de multiples questions: un robots peut-il être responsables de ses actes? De plus, le transhumanisme se joindra aussi surement à ce nouvel ensemble. L’intelligence artificielle contrôlé par quelque grande société, prend actuellement de plus en plus d’ampleur et c’est pourquoi, les Etats-Unis et l’Asie réfléchissent sérieusement aux dispositions à prendre. Le droit relatif à l’intelligence artificielle est pour l’instant assez restreint. Isaac Asimov, écrivain de science fiction, à quant à lui définie 3 lois de la robotique qui sont les suivantes:

Intelligence artificielle : pourquoi il faut différencier la réalité de la fiction Tous les cinq ans une technologie s'impose dans l'opinion publique comme celle sur laquelle on doit tout miser. On l'a vu se produire avec le cloud et le big data. Aujourd'hui c'est indubitablement l'intelligence artificielle qui est sur toutes les lèvres et sur laquelle toutes les entreprises communiquent (souvent à tort et à travers). Des start-up se créent pour capitaliser sur l'effet de mode et des vieux produits font peau neuve en se "boostant" à grand coup de marketing. Mais il s'y ajoute aussi une polémique récurrente sur le danger que pourrait représenter cette technologie. S'y opposent deux visions : d’un côté l'informatique, de l’autre la science-fiction. Deux compréhensions opposées du terme "intelligence artificielle" Le problème fondamental est qu'il y a deux populations distinctes qui parlent de deux choses bien différentes. Une polémique qui dure et entretient la confusion Il ne faut pas éclipser les vrais risques Des progrès récents moins dramatiques qu'on ne le pense

Intelligence artificielle : la complexe question de l'éthique Avec le développement des intelligences artificielles se posent de nombreuses questions sociétales. En particulier, comment définir une éthique de ce domaine ? Armen Khatchatourov, philosophe à Télécom École de Management et membre de la Chaire « Valeurs et politiques des informations personnelles » de l’IMT, observe et analyse avec attention les réponses proposées à cette question. L’une de ses principales préoccupations est de voir comment l’éthique tente d’être normée par un cadre législatif. Dans la course effrénée de l’intelligence artificielle menée par les GAFA, aux algorithmes toujours plus performants ou aux décisions automatisées toujours plus rapides, l’ingénierie est reine, car porteuse de la très convoitée innovation. En particulier, il étudie les aspects problématiques de l’encadrement législatif des IA. « Le risque c’est de perdre tout esprit critique » Armen Khatchatourov Éthique by design : les mêmes limites que la privacy by design ? L’éthique n’est pas un produit

Norman, la première intelligence artificielle conçue pour être psychopathe Laissez-nous vous présenter Norman, un algorithme d'intelligence artificielle (IA) entraîné par le MIT Lab et inspiré par Norman Bates, personnage éponyme (et notoirement psychopathe), de Psychose d'Alfred Hitchcock... Mais même s'il est représenté sous les traits d'un inquiétant jeune homme (un montage approximatif à partir de la photo d'Anthony Perkins, interprète de Psychose), Norman n'est qu'un algorithme de reconnaissance visuelle on ne peut plus ordinaire, ayant appris à décrire une image à partir d'une large base d'images commentées, comme tous les systèmes basés sur le deep learning. La différence ? Norman n'a pas été entraîné à partir de données anodines pour lui apprendre à décrire son environnement, mais à partir d'images et de descriptions terribles. Montrer l'influence des données sur l'apprentissage de l'intelligence artificielle Les internautes sont encouragés à "aider Norman à se réparer" en répondant eux aussi à un questionnaire de Rorschach.

Intelligence artificielle : de l'importance des principes de vigilance et de loyauté des algorithmes pour "garder la main" La CNIL publie la synthèse du débat public organisé sur « les enjeux éthiques des algorithmes et de l’intelligence artificielle » . 3 000 personnes ont participé à 45 manifestations, avec pour objectif de donner des éléments de réponses à la question suivante : « comment permettre à l’Homme de garder la main ? ». La Présidente de la CNIL, Isabelle Falque-Pierrotin, a présenté ce rapport en présence du Secrétaire d’État chargé du Numérique, Mounir Mahjoubi, et du député chargé par le gouvernement d’une mission sur l’intelligence artificielle, Cédric Villani. Pourquoi ce rapport sur les enjeux éthiques des algorithmes Selon la Loi pour une République Numérique, la CNIL a pour mission de « mener une réflexion sur les questions éthiques et de société posées par les nouvelles technologies ». Les problématiques soulevées par l’intelligence artificielle 2 principes fondateurs pour réguler l’intelligence artificielle Un principe de loyauté des algorithmes Un principe de vigilance/réflexivité

Le deep learning Vous entendez parler du deep learning, mais vous n’en avez pas encore compris la profondeur ? Cette vidéo est faite pour vous ! Fidèle à mon habitude, voici la liste des choses essentielles, mais pourtant éliminées par manque de place et pour rester accessible au plus grand nombre. L’apprentissage non-supervisé Ma vidéo laisse penser que l’apprentissage automatique se limite aux cas où l’on cherche à prédire une sortie (Y) en fonction d’une ou plusieurs entrées (X). Il existe en réalité un autre grand domaine, l’apprentissage « non-supervisé », où d’une certaine manière toutes les variables sont mises sur un pied d’égalité au départ, et où la question n’est pas « peut-on prédire Y à partir de X ? Prenons un exemple simple, imaginons que je vous représente le diamètre et la hauteur d’une série d’arbres, et que j’observe la chose suivante. Réseaux de neurones vs SVM Autre grosse injustice de ma vidéo : je fais comme si l’apprentissage supervisé se limitait aux réseaux de neurones. Références

Intelligence artificielle Intelligence artificielle L'intelligence artificielle (IA) est l'ensemble des programmes ou algorithmes permettant aux machines d'effectuer des tâches typiquement associées à l'intelligence humaine, comme l'apprentissage, le raisonnement, la résolution de problème, la perception ou la prise de décision. L'intelligence artificielle est également le champ de recherche visant à développer de telles machines ainsi que les systèmes informatiques qui en résultent. Les applications de l'IA couvrent de nombreux domaines, notamment les moteurs de recherche, les systèmes de recommandation, l'aide au diagnostic médical, la compréhension du langage naturel, les voitures autonomes, les chatbots, les outils de génération d'images, les outils de prise de décision automatisée, les programmes compétitifs dans des jeux de stratégie et certains personnages non-joueurs de jeu vidéo[2]. Le champ de recherche, établi en 1956[3], a connu des périodes d'optimisme et de déception au cours du 20e siècle[4].

Renouveau de l'intelligence artificielle et de l'apprentissage automatique - Académie des technologies Dans un rapport voté en assemblée plénière le 14 mars, l’Académie des technologies estime nécessaire de construire un « plan IA » à l’échelle européenne et nationale qui permette de renforcer les investissements dans les moyens de calcul et la recherche technologique. L’Académie recommande de soutenir et encourager une approche responsable de l’IA qui vise à développer simultanément les performances et l’acceptabilité éthique des algorithmes intelligents. Destiné à pénétrer la majorité des pratiques et des environnements, dans l’entreprise comme dans la société civile, l’IA représente un double enjeu — de compétitivité pour nos entreprises et de souveraineté nationale. L’IA et l’apprentissage automatique utilisent un large ensemble de méthodes et le premier mérite de ce rapport, qui s’adresse particulièrement aux entreprises, est d’expliquer comment celles-ci se complètent et peuvent s'enrichir mutuellement : quel est l’éventail des solutions possibles ?

Intelligence artificielle et bots : les dircoms sont-ils voué à bientôt disparaître Robots conversationnels, service client virtuel, assistants personnels vocaux, moteurs de recherche sont désormais tous dopés à l’intelligence artificielle (IA). Ils s’immiscent dans la conversation des marques et des entreprises avec leurs différents publics et remplacent même dans certains cas la classique communication générée par un humain. L’an passé, l’institut Forrester prédisait 300% d’augmentation des investissements mondiaux dans l’IA en 2017. Certes, le célèbre mathématicien et cryptologue britannique Alan Turing déclarait dans les années 50 que d’ici les cinq prochaines décennies, un humain serait incapable de discerner si son interlocuteur est une machine ou un homme et ceci sur n’importe quel sujet du fait des progrès de l’intelligence artificielle (IA). Il y a IA et IA En soi, le rêve d’automatiser les flux communicationnels d’une marque ou d’une entité est aussi vieux que les premiers pas de l’informatique et des ordinateurs. Et la communication dans tout ça ? Sources