Quand les intelligences artificielles deviennent psychopathes

LE DEBRIEF

L’édito de la semaine par Eric Dupin

Le sujet était déjà d’actualité il y a une dizaine d’années. Il l’est encore : qui n’a jamais pesté contre le système de navigation embarqué de sa voiture ? A l’heure où les technologies numériques connaissent une accélération foudroyante de leurs performances, nombre d’autos proposent encore des systèmes GPS d’un autre âge, comme si leur évolution s’était définitivement figée dans les années 2000-2010. Est-il encore concevable, en 2018, d’avoir des interfaces aussi peu intuitives et aussi compliquées à utiliser, alors que les clients ont tous dans leur poche des applications ultra performantes et boostées à l’intelligence artificielle comme Waze ou Google Maps Navigation, de surcroit gratuites ?
Même les constructeurs premium qui prétendent cultiver une image high-tech n’y arrivent pas. Ce qui ne les empêche d’ailleurs pas de facturer l’option navigation plusieurs milliers d’Euros.
Un signe qui ne trompe pas : avez-vous déjà vu un chauffeur de VTC (Uber ou autres) utiliser le système de navigation intégré de son véhicule pour se repérer lors de ses courses ?

LA GROSSE INFO

Siri s’incruste dans les applications des autres

C’est certainement une preuve qu’Apple a quelque peu loupé le coche des assistants vocaux nourris à l’intelligence artificielle. Un « ratage » d’autant plus étonnant qu’Apple était plutôt en position de pionnier avec Siri. Lors de sa grande conférence annuelle WWDC qui s’est tenue cette semaine, la firme de Cupertino a annoncé le lancement de « Shortcuts », une nouvelle fonctionnalité qui fera son apparition au sein de la version 12 d’iOS, destinée à s’intégrer dans diverses applications afin de rendre celles-ci opérables à la voix avec Siri.

LES RESTES DE L’INFO

• 44 % des séries piratées sont disponibles sur des chaînes gratuites
• Les filles seraient plus susceptibles (que les garçons) d’être accro aux smartphones
• Le Très Haut Débit ne représente que 26 % des abonnements en France
• Amazon Music devient gratuit en France pour les abonnés Prime

GRAND FORMAT

Quand les intelligences artificielles deviennent psychopathes

Par Louise Millon

Hier, le MIT présentait Norman, une nouvelle intelligence artificielle sur laquelle il planche actuellement. Au vu de la quantité de travaux sur lesquels se penche l’Institut, cette dernière aurait pu ne pas se faire remarquer, si ce n’est cette petite différence non négligeable. Norman a été présentée comme la première intelligence artificielle psychopathe au monde. Norman, le prénom peut sembler banal, mais il fait référence au personnage de Norman Bates incarné par Anthony Perkins dans le film Psychose, réalisé par Alfred Hitchcock. Destiné à la description d’images, le réseau neuronal de l’intelligence artificielle a été entraîné en se basant sur les images issues de quelques recoins sombres d’Internet. À l’aide de photos violentes présentes sur certains groupes de discussion de Reddit, Norman a appris à reconnaître les images avant d’être soumis au test de Rorschach, autrement appelé test des taches d’encre. Comme un être humain peut le faire, l’intelligence artificielle a observé ces dernières puis mis des mots sur les formes sombres ou colorées. Par la suite, les résultats ont été comparés avec ceux d’une intelligence artificielle formée de façon plus classique, avec des images d’animaux ou de personnes. Là où une IA classique évoque un couple se tenant côte à côte, Norman voit un homme qui saute d’une fenêtre.

De l’importance des données utilisées

Si le MIT a conçu une intelligence artificielle aussi dérangée que Norman l’est actuellement, c’est principalement pour démontrer l’importance des données qui servent à former une technologie de ce type. L’Institut explique : « Norman est né du fait que les données utilisées pour enseigner un algorithme d’apprentissage automatisé peuvent influencer de manière significative son comportement. Ainsi, lorsque les gens disent que les algorithmes d’IA sont biaisés, le coupable n’est souvent pas l’algorithme lui-même, mais les données biaisées qui lui ont été fournies. Cette méthode permet de faire immerger plusieurs interprétations d’une même image, y compris des choses inquiétantes, si elle est formée sur le mauvais (ou, le bon !) ensemble de données ».

En 2016, Microsoft avait présenté Tay, un chatbot social capable d’interagir avec les internautes sur Twitter. Si l’objectif était de se pencher sur « la compréhension du langage », Microsoft avait finalement désactivé Tay huit heures après ses débuts en ligne. Testée par les internautes, l’IA a viré au racisme, au sexisme et aux théories du complot en moins de 24 heures. En puisant dans les données accessibles publiquement, elle s’est finalement retrouvée à mentionner le fait que Georges Bush était à l’origine de l’attentat du 11 septembre, que Donald Trump était notre seul espoir et que l’Holocauste n’avait pas vraiment existé.

En somme, des avis que l’on retrouve de façon récurrente dans les discussions des internautes humains sur le web. De façon générale, l’expérience tend à prouver que le MIT a été capable d’entraîner une intelligence artificielle à s’orienter vers le mal en lui fournissant des photos foncièrement violentes. D’une part, cela signifie qu’il est possible, logiquement, de déterminer les réponses de la machine puisque celle-ci ne se base que sur les données préalablement fournies par les êtres humains. De fait, cela démontre aussi que l’IA n’est pas (encore) capable de s’émanciper des données originelles, donc de l’être humain et de son développement personnel. Néanmoins, Norman alerte aussi sur les potentielles dérives qui pourraient surgir si des personnes mal intentionnées fournissaient de mauvaises données aux machines.

Pour ce qui est de l’intelligence artificielle du MIT, ce dernier invite les internautes à le réparer. En indiquant eux aussi ce qu’ils voient dans les fameuses taches d’encre, les traits psychopathes de l’IA pourraient disparaître au profit d’une compréhension des images plus nuancée. Comme quoi Norman a encore un peu d’espoir.

LE TIERCE DANS LE DESORDRE

24
En heures, le temps pour atteindre la rupture de stock du OnePlus 6 blanc

699
En euros, le prix du nouveau drone Parrot Anafi

550000
Le nombre de podcasts dans son catalogue, selon Apple

TUTO

Prendre des photos en mode portrait, même sans dual camera

Par Setra

Si vous n’avez pas de dual camera sur votre smartphone, cette application vous permet quand même de prendre des photos en mode portrait.

Si vous avez un iPhone 8, un iPhone 7 ou un modèle plus ancien, vous n’avez pas droit au mode portrait dont bénéficient les iPhone 7 Plus, iPhone 8 Plus et iPhone X. Il s’agit d’un mode qui, grâce aux doubles capteurs à l’arrière de certains modèles, permet de prendre des photos avec le fond flouté. La bonne nouvelle, c’est que même si vous n’avez pas le mode portrait d’Apple sur votre smartphone, il est toujours possible de prendre ce type de photo par le biais d’une application qui est peut-être déjà installée sur votre smartphone : Instagram. Alors qu’Apple utilise deux appareils photo pour créer cet effet, Instagram (comme Google) utilise des algorithmes.

Et pour prendre des photos en mode portrait, il suffit d’ouvrir l’application, d’ouvrir la caméra sur l’appli, puis de choisir le mode « portrait » qui se trouve entre « boomerang » et « superzoom ». L’inconvénient, c’est que ce mode requiert un visage pour fonctionner. Sinon, il fonctionne aussi bien sur la caméra frontale, que sur l’APN à l’arrière. Normalement, le mode portrait est compatible avec l’iPhone SE, 6S, 6S+, 7, 7+, 8, 8+ et X, ainsi qu’avec certains smartphones sous Android. Les photos que vous prenez peuvent être partagées sur Instagram, ou simplement enregistrées sur votre smartphone.

L’APPLICATION

SportEasy

Sport Easy est une application qui facilite l’organisation et la gestion d’une équipe de sport collectif (football, basket-ball, rugby, hockey…). À la fois simple d’utilisation et ultra-complète sur les fonctionnalités proposées, l’application SportEasy est le joueur qui manquait à votre équipe. Parfait avant la Coupe du Monde de la FIFA !

L’OBJET DE CURIOSITE

Atari VCS, la console collector Hommage appuyé à l’Atari 2600, machine sortie en 1977, l’Atari VCS est une console de jeu collector. Sous l’influence de milliers de fans et de la tendance des consoles de jeux « rétro » au format mini, la marque Atari a décidé de ressortir sur le marché son modèle phare en juillet 2019. Il faudra donc faire encore preuve d’un peu de patience pour espérer mettre les mains dessus… En savoir plus

LE BON TUYAU

Accédez à toute la bibliothèque d’émoticônes avec ce raccourci clavier sur MacOS Sierra. À tout moment il vous suffit d’appuyer simultanément sur les touches « ctrl + cmd + space » pour faire apparaître la fenêtre « Visualisateur de caractères ». Vous y retrouverez toute la bibliothèque d’émoticônes ainsi que les caractères spéciaux comme les pictogrammes, les symboles de devises…

LIRE

Une lecture qui fait plaisir Un Insta, un film, une fiction, un site et le reste

LIRE

Michel-Lévy Provencal est ingénieur de formation et le fondateur de TEDx Paris. Habitué des discours en public et rompu à l’exercice de la scène, Michel-Lévy a développé sa propre « méthode » de prise de parole : BRIGHTNESS. Dans son dernier livre « Les secrets des meilleurs orateurs », il détaille sa méthode et nous confie les secrets d’une prise de parole réussie.

VOIR
Un Insta, un film, une fiction, un site et le reste

Quelques jours avant l’application du RGPD, Mark Zuckerberg est revenu sur les lacunes de Facebook en matière de protection des données personnelles devant le Parlement Européen. Voir sur Arte

LA PUB
Une publicité qui cartonne sur le net

Le meilleur de la pub anti-tabac en quelques illustrations géniales. Le 31 mai dernier, « Santé publique France », l’agence nationale de santé publique, s’est félicitée de la baisse record du nombre de fumeurs en 2017. En effet, selon les chiffres de l’organisme de santé, un million de français ont arrêté leur consommation de tabac. Bonne nouvelle donc pour les pouvoirs public qui y voient là les résultats des multiples campagnes de sensibilisation sur les dangers du tabagisme. Si on n’ôtera pas de l’équation la hausse spectaculaire des prix du tabac en France et son rôle dans la diminution du tabagisme, force est de reconnaitre que les créatifs derrière les différentes campagnes de communication ont rivalisé d’ingéniosité pour proposer des visuels étonnants. Découvrir les meilleurs visuels de cette campagne

CLASH
La polémique de la semaine

Norman politiquement incorrect Le célèbre youtubeur a provoqué un tollé comme seul Twitter peut en connaitre près avoir publié une vidéo tournant en dérision le communautarisme sur les réseaux sociaux. « Religions, ethnies, homosexualité, féminisme, politique, ces sujets sont très sensibles, vaut mieux ne pas s’y aventurer », lance-t-il dans sa vidéo. Et bien sûr, c’est le drame… En savoir plus

TRAFIC D’INFLUENCE

Chaque semaine, nous tentons de vous influencer

Les Micro-Influenceurs, nouvel Eldorado du Marketing d’influence ?

Ils rassemblent de quelques milliers à plusieurs dizaines de milliers de followers, sont généralement spécialisés dans une ou deux thématiques et ont des taux d’engagements supérieurs aux plus grandes stars telles que Katie Perry ou Lionel Messi. Les micro-influenceurs sont la nouvelle coqueluche des professionnels de la communication et du Marketing. Mais au-delà de l’effet de mode, se cache un univers particulier dans lequel il est parfois dur de s’y retrouver. « Les micro-influenceur ont un taux d’engagement 60% supérieur à celui des célébrités, le tout pour un rapport coût/efficacité 6,7 fois supérieur » montre l’étude réalisée en 2017 par Hello Society. Ainsi, les marques ne s’y sont pas trompées et n’hésitent pas et multiplient les collaborations. La création d’agences et plateformes d’influenceurs se sont multipliées ces derniers mois, Reech, Octoly, Way2up… Beaucoup promettent d’augmenter la notoriété d’une marque ou encore de booster le lancement d’un produit.

Guerre des chiffres, influence et manipulation

Mais la réalité est moins reluisante. Certains micros-influenceurs ont flairé le bon filon et ont commencé à manipuler leurs statistiques : achat de faux followers et de likes, mise en place de robots ou encore, groupes de commentaires pour simuler l’interaction. Les techniques pour augmenter artificiellement son engagement sont nombreuses et difficile à détecter remettant en question la légitimité et la réelle « portée » de certains micros-influenceurs. Au-delà du nombre de followers et de likes, faites attention à leur provenance : il est exceptionnel qu’un influenceur écrivant en français ait une communauté au Brésil ou en Russie… Vous êtes prévenus.

JEUNE POUSSE

Le chiffre

SoftBank entre au capital de General Motors pour 2,5 milliards de dollars. Après Uber et Boston Dynamics, SoftBank a décidé de placer ses billes dans la succursale GM Cruise du géant américain responsable du développement de logiciel de navigation autonome.

Le pied sur l’accélérateur

Do You Dream Up, éditeur de logiciel français spécialisé dans les chatbots, a reçu la distinction du Pass French Tech, le dispositif français d’accompagnement des entreprises innovantes en hyper-croissance. Cette récompense valide les performances de la startup au cours des années précédentes, avec une croissance exceptionnelle de 130% sur l’année 2017.

Un podcast à découvrir

Le StuffiCast c’est un concentré de l’actualité es objets connectés en moins de 10 minutes animé par le rédacteur en chef de stuffi.fr. En savoir plus sur ce podcast

Un évènement à ne pas manquer

L’Intelligence Artificielle est dans toutes les bouches et ambitionne d’être dans le quotidien de tous d’ici quelques années. Voici un évènement de réflexion autour de l’IA à Lyon. Tout savoir sur cet évènement

Nominations, fusions, rachats… et séparations

Nitot rejoint Qwant ! Qwant, le moteur de recherche européen, vient d’annoncer l’arrivée de Tristan Nitot à ses côtés. Militant bien connu du logiciel libre et des libertés numériques, entrepreneur, auteur et conférencier de 51 ans, Tristan rejoint les équipes du premier moteur de recherche européen qui protège les données de ses utilisateurs. Il y exercera la fonction de Vicepresident Advocacy.

En direct de l’écosystème

Swiss Life collabore avec Quantmetry pour le lancement d’ AIDA, voicebot B to B basé sur l’intelligence artificielle. L’assureur Swiss Life lance AIDA – un assistant vocal B to B basé sur l’intelligence artificielle – en partenariat avec Quantmetry, cabinet expert en data science et en technologies cognitives. Conçu avec les futurs utilisateurs selon l’approche de design thinking, AIDA permet d’améliorer l’efficacité commerciale des forces de vente en mettant l’intelligence artificielle au service de l’intelligence humaine grâce à une interface pensée en complémentarité avec les autres outils existants.

La grosse levée

Klaxoon lève 50 millions de dollars Levée de fonds record pour une start-up française. La société rennaise Klaxoon, spécialisée dans les solutions de travail en équipe, annonce une nouvelle levée de fonds de 50 millions de dollars auprès d’IDInvest, BPI, Sofiouest et le fonds nord-américain White Star Capital.

À LA LOUPE

L’étude

Selon une étude de TechSmith, une communication qui ne serait pas basée sur des supports visuels n’a aucune chance de toucher la génération Y. De plus en plus importante dans le milieu professionnel, la génération post « baby-boom » force les entreprises à revoir leur façon de communiquer. Plus réceptive aux contenus visuels, la génération Y est réticente aux vieilles habitudes de communication des entreprises jugées désuètes et dépassées. En savoir plus