background preloader

Google crée un comité d'éthique pour son intelligence artificielle

Google crée un comité d'éthique pour son intelligence artificielle
Google Deepmind, la filiale d'Alphabet dédiée à l'intelligence artificielle, crée une équipe de recherche pour travailler aux côtés des ingénieurs et s'assurer que les progrès technologiques n'entraînent pas des dérives. Des risques pour l‘emploi en passant par la menace des armes autonomes ou des biais discriminants, les sujets polémiques liés à l'intelligence artificielle (IA) ne manquent pas. Deepmind, la filiale d'Alphabet dédiée à ce domaine, crée une unité consacrée aux questions éthiques et sociétales soulevées par l'intelligence artificielle, baptisée Deepmind Ethics and Society (DMES). Sa mission: «aider les ingénieurs à mettre en pratique l'éthique et à aider la société à anticiper et à diriger l'impact de l'IA afin qu'elle fonctionne au bénéfice de tous», explique la société sur son blog. Huit employés y seront dédiés à plein-temps, et 6 conseillers externes du milieu universitaire et du secteur caritatif apporteront leurs expertises bénévolement. Un questionnement mondial Related:  1 c google nous veut du bien (ou pas)

Tech Titans Join Forces to Stop AI from Behaving Badly When it comes to policing artificial intelligence, technology leaders think there is safety in numbers. A new organization called the Partnership on Artificial Intelligence to Benefit People and Society will seek to foster public dialogue and create guidelines for developing AI so that systems do not misbehave. The companies involved include Google and its subsidiary DeepMind, Facebook, Amazon, Microsoft, and IBM. The partnership is founded on eight tenets or principles, including the idea that AI should benefit as many people as possible; that the public should be involved in its development; that research should be conducted in an open way; and that AI systems should be able to explain their reasoning. That such fierce rivals would come together in this way shows how important the companies feel it is to head off public concern and speculation over the potential impacts of AI. It’s unclear precisely how the organization will engage with the public or those developing AI.

Be Evil: Google accusé d'abuser de son pouvoir pour faire taire ses critiques « Don’t be evil. » Cette promesse faite par Google en l’an 2000, de gagner de l’argent sans vendre son âme au diable, a été depuis mise à rude épreuve. Valorisée à 650 milliards de dollars, l’entreprise californienne est aujourd’hui l’une des plus puissantes du monde. Et ces dernières semaines, plusieurs personnes l’accusent d’avoir utilisé son pouvoir pour faire taire des voix critiques. >> A lire aussi : L'inquiétante guerre des géants du Web contre les sites néonazis Un article retiré par Forbes La journaliste de Gizmodo Kashmir Hill accuse Google d’avoir fait pression sur Forbes, en 2011, pour faire retirer un article critique. Le coup de fil ne se fait pas attendre. Un membre d’un think tank financé par Google écarté Le think tank New America Foundation a reçu plus de 21 millions de dollars de la part de Google, du président du conseil d’administration de sa maison-mère Alphabet, Eric Schmidt, et de sa fondation familiale. Un employé auteur d’un mémo controversé licencié

Un algorithme plus fiable que l'humain pour deviner l'orientation sexuelle des gens, vraiment DISCRIMINATION. La connotation péjorative du mot n'est plus l'apanage des seuls humains : les machines apprenantes, celles-mêmes à qui nous montrons l'exemple, peuvent aussi apprendre à reproduire les préjugés, ce qui soulève d'épineuses questions éthiques. Une étude à paraître dans le Journal of Personality and Social Psychology en apporte la preuve. Machine learning : des machines biaisées... comme leurs créateurs L'algorithme des deux chercheurs, qui officient au département business de l'université de Stanford, a d'abord ainsi appris à distinguer les images de personnes homosexuelles et hétérosexuelles, le tout avec un taux de réussite de respectivement 81 % pour les hommes et 74% pour les femmes. BIAIS. Le risque “d’outing” algorithmique en question Visage "homo" et "hétéros" moyens, tels que prédits par l'algorithme / Kosinski et al. MACHINES. Un positionnement éthique contestable POLÉMIQUE SCIENTIFIQUE. DISCRIMINATION. BIAIS. Le risque “d’outing” algorithmique en question MACHINES.

Ethique et morale en Intelligence Artificielle : Un chantier d'avenir Faut-il interdir les robots tueurs, ces armes autonomes capables de fonctionner sans intervention humaine ? Les programmes militaires (en tout premier lieu la DARPA aux USA) se sont évidemment intéressés très tôt aux armes capables de fonctionner seules et dans un but originellement assez louable d’ailleurs : protéger du feux ses propres soldats. Ce sont ces organisations qui ont, les premières, développé ces nouveaux outils pour leur propre compte (on peut également penser, en vrac, au GPS, à internet, etc…). Aussi, dans les années 60, de vastes programmes gouvernementaux ont été des investisseurs phares (avant certaines désillusions) et ce, dès les premières heures de l’IA. Des projets de défense militaire couplés à l’IA fourmillent partout dans le monde avec les dérapages que cela peut engendrer sur l’humanité. L’US Army développe en ce moment une multitude d’exo-squelettes, de robots et de drones dont certains pourraient être équipés d’armes létales.

Quelle liberté à l'ère Google ? L'histoire du jour En économie, le libéralisme est une doctrine qui défend la libre entreprise et la liberté du marché. Au sens politique, le libéralisme défend la démocratie politique et les libertés individuelles. A l’échelle planétaire, le moteur de recherche américain traite chaque jour trois milliards de requêtes. Il existe au moins six moteurs de recherche alternatifs, avec des modèles éthiques. Mais Google a plusieurs cordes à son arc. Il va donc peut-être alors un petit coup de pouce de l’Etat pour aider le consommateur à entrer en cure de désintoxication.

L’intelligence artificielle reproduit aussi le sexisme et le racisme des humains Une nouvelle étude montre qu’un programme d’analyse de texte se montre aussi biaisé que les humains qui lui ont servi de modèle. Un problème bien connu des spécialistes de l’IA. Le Monde | • Mis à jour le | Par Morgane Tual Les femmes associées aux arts et au foyer, les hommes aux professions scientifiques… Ces stéréotypes ont tellement la vie dure qu’ils se retrouvent reproduits dans des programmes d’intelligence artificielle (IA). La technologie sur laquelle ces scientifiques ont basé leurs travaux s’appelle GloVe. Pour corréler des mots entre eux, GloVe doit se baser sur des exemples. Reproduction de stéréotypes Le résultat est efficace. Mais l’efficacité de cette technologie reflète aussi des associations bien plus problématiques. Ces résultats correspondent à ceux d’une expérimentation célèbre en psychologie, le test d’association implicite, qui étudie les associations d’idées des humains. Et le problème ne se situe pas seulement au niveau du langage. Un « droit à l’explication »

CERNA Contenus haineux et fake news : Google fait le ménage dans son algo - ZDNet En décembre dernier, la presse britannique avait épinglé Google pour des résultats douteux. Ainsi, lors d'une requête en anglais "l'holocauste a-t-il eu lieu ?", c'est un site violemment négationniste, donc puni par la loi, qui remonte au premier rang sur pas moins 14 millions de réponses. Malaise voire scandale. Google met régulièrement en avant la pertinence de ses résultats et de fait, avec ce type de question, les seules réponses qui ont vocation à bien remonter sont celles des négationnistes ... Pour autant, face à cette situation (et à d'autres : la même requête en français fait remonter en premier résultat le site de Robert Faurisson, négationniste français), Google consent aujourd'hui à quelques efforts. Google annonce ainsi aujourd'hui avoir retouché son algorithme afin d'écarter les résultats "qui ne font pas autorité". "Nous avons ajusté ces signaux pour promouvoir les pages fiables dans notre classement et rétrograder les contenus de mauvaise qualité.

Je suis d'accord avec Alix (Degalbert_groupec), ces comités d'éthique sont assez paradoxale, comment être objectif quand on est le créateur de l'algorithme ou de l'intelligence artificielle et avoir un aspect éthique, c'est trop facile, on met le niveau de l'éthique à son bon vouloir. by julien_groupec Mar 19

Bonjour,
Ce qui serait intéressant, c'est que cela aboutissent à des rapports publiés et libre d’accès.
Houria Meddas by meddas_groupec Mar 19

Je me demande toujours ce que valent ces comités d'éthique qui sont juges et parties... Démarche intéressante en tout cas! by degalbert_groupec Mar 15

Related: