Avertir le modérateur

04/04/2018

FranceWebAsso@PoissyWebCitoyen, Par nature, l’IA pourrait devenir super-violente pour atteindre ses objectifs, Guerre totale...

Par nature, l’IA pourrait devenir super-violente pour atteindre ses objectifs

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Nous nous souvenons tous de cette fameuse partiez de Go où l’IA Deepmind de Google a battu à plates coutures le champion du monde en titre. Le système de Google démontrait aux yeux du monde sa capacité à apprendre tout seul, en s’appuyant sur son expérience personnelle plutôt que sur des lignes de codes informatiques. Plus récemment, nous apprenions que cette IA était capable d’apprendre toute seule à imiter la voix humaine. Quasiment à la perfection.
Ce que nous révèlent les équipes de chercheurs de Deepmind de Google c’est aujourd’hui une dimension plus terrifiante des capacités de l’IA. Quand elle est sur le point de perdre, c'est-à-dire de ne pas atteindre ses objectifs assignés, elle opte pour des stratégies hyper-agressives pour s’assurer de vaincre.

Cueillette de pommes

Les chercheurs ont fait tourner quarante millions de fois un jeu d’une simplicité enfantine : deux joueurs –en l’occurrence deux agents IA– doivent s’affronter pour récolter des pommes virtuelles. Celui qui gagne est celui qui prend le plus de pommes à son adversaire. Les joueurs ont aussi à leur disposition des rayons lasers.
 
Au début, tout se passe bien. Tant qu’il y a assez de pommes, le jeu se déroule normalement. Les deux joueurs gagnant ou perdant alternativement. Mais dès que le stock de pommes commence à diminuer, les agents IA se mettent à devenir agressifs. Ils utilisent les rayons lasers pour détruire l’adversaire et lui voler le maximum de pommes.
 
La vidéo ci-dessous montre cette scène, en quelque sorte, la première guerre entre IA. Les agents Deepmind sont en bleu et en rouge, les pommes virtuelles en vert et les rayons laser en jaune
Ce que l’on observe c’est une grande bataille à coup de lasers plutôt qu’une tranquille cueillette de pommes. Ce qu’il est intéressant de noter c’est que si un agent réussit à « tuer » son adversaire d’un coup de rayon laser, il n’obtient aucune récompense particulière. Si l’agent tueur le fait, c’est simplement pour éliminer l’adversaire et récupérer plus de pommes. Notons aussi que si les agents ne disposent pas d’armes, le jeu devrait normalement se terminer avec un nombre de pommes égal entre les deux adversaires. Notons enfin que le non usage des lasers est observé mais pour des agents IA moins intelligents. Dès qu’on augmente le niveau d’intelligence, les agents se livrent alors à des stratégies de sabotage, d’avidité et d’agressivité l’un envers l’autre.
 
Les chercheurs suggèrent ainsi que plus un agent est intelligent, plus il est capable d'apprendre de son environnement, ce qui lui permet d'utiliser des tactiques très agressives pour s'imposer. « Ce modèle... montre que certains aspects du comportement humain émergent comme un produit de l'environnement et de l'apprentissage », a déclaré Joel Z Leibo, l'un des membres de l'équipe à Wired. « Des politiques moins agressives émergent de l'apprentissage dans des environnements relativement abondants avec moins de possibilités d'actions coûteuses. La motivation de l'avidité reflète la tentation d'éliminer un rival et de ramasser toutes les pommes soi-même ».

Guerre totale

Ainsi, bien qu'il ne s'agisse que de simples petits jeux informatiques, le message est clair. Si l’on met différents systèmes d'IA en charge d'intérêts concurrents dans des situations réelles, le résultat pourrait être une guerre totale.  
 
Connaissant cette réalité, il suffit de penser avec un brin qu’inquiétude aux feux de circulation qui essaient de ralentir le trafic et aux voitures sans conducteur qui essaient de trouver le chemin le plus rapide. Le résultat pourrait vite ressembler à un film catastrophe.  Le seul moyen de l’éviter est de concevoir des IA coopératives, capables de tenir compte des objectifs de l'autre pour obtenir le résultat le plus sûr et le plus efficace pour la société. Mais est-ce possible ? L’étude sur les petits jeux informatique démontre que l’intérêts général – en l’occurrence celui des humains– n’est pas la préoccupation principale. Ce qui compte pour l’IA c’est de gagner, passer en force pour réussir son objectif. Peu importe les dégâts et les stratégies coopératives qu’on voudra lui donner.
Souvenons-nous de ce que disaient les fondateurs d'OpenAI, l'initiative de recherche d'Elon Musk dédiée à l'éthique de l'intelligence artificielle, en 2015 : « Les systèmes d'IA d'aujourd'hui ont des capacités impressionnantes mais étroites. Il semble que nous continuerons à réduire leurs contraintes, et dans le cas extrême, ils atteindront la performance humaine sur pratiquement toutes les tâches intellectuelles.
Il est difficile d'imaginer à quel point l'IA à l'échelle humaine pourrait être bénéfique pour la société, et il est tout aussi difficile d'imaginer à quel point elle pourrait nuire à la société si elle était construite ou utilisée de façon incorrecte ».
Au moment où l’on met l’IA à toutes les sauces, où elle apparaît comme la clé de notre croissance et de notre avenir économique, on devrait garder en tête cette prophétie et observer d’un peu plus près ce qui se passe dans les labos avancés.
 
 

 

07/03/2018

FranceWebSharing ,la promesse d’un autre web, portail universel:à vous d'inventer la vie qui va avec.NewsCenter for everyone,N'hésitez pas à faire appel à ses lumières !Imaginez ce que nous pouvons faire ensemble. C'est Moi, C'est Vous, C'est Nous !

La voiture individuelle est chassée des villes — voici comment 17 startups se bagarrent pour profiter du mouvement
 Si l'on vous dit que cette journée va favoriser les rencontres de toutes sortes vous seriez satisfait ? Et si en plus on vous dit qu'une ambiance particulièrement joyeuse, presque magique, émanera des groupes, qu'est-ce que vous diriez ? Cette journée va vous plaire cher ! Alors n'hésitez pas aujourd'hui à être le meneur, vous ne serez pas déçu...
Lire cet article →
 Si vous cherchez des réponses aujourd'hui, ne perdez pas votre temps à aller en bibliothèque pour feuilleter de vieux grimoires. Envisagez plutôt de faire usage de la parole et d'engager une conversation avec une personne plus âgée que vous. Sa maturité vous permettra d'envisager le problème sous un angle nouveau et son expérience vous apaisera. N'hésitez pas à faire appel à ses lumières !

20150119_111926.jpgNewsCenter for everyone

SRU-Electronics

Stefan V. Raducanu, Président FranceWebAsso

vous livre tous les mercredis une sélection  à découvrir. Au menu cette semaine....

TECH
SpaceX a réussi à envoyer en orbite à plus de 35.000 km au-dessus de la Terre un satellite de la taille d'un bus
 
Lire cet article →
 
TECH
Snap serait sur le point de lancer 2 nouvelles paires de lunettes connectées — la première version des Spectacles avait fait un flop
 
Lire cet article →
 
ECONOMIE
Il y a beaucoup plus de chances qu'un bitcoin vaille 100$ que 100.000$ dans 10 ans, selon un économiste de Harvard
 
Lire cet article →
 
TECH
Le PDG de Thales explique pourquoi l'Europe et la France ne devraient pas être obnubilées par les exploits de SpaceX
 
Lire cet article →
 
POLITIQUE
Bruxelles a 7 arguments pour attirer les entreprises de la finance effrayées par le Brexit — les voici
 
Lire cet article →
 
ECONOMIE
Credit Suisse relance une enquête vieille de 8 ans après que la victime d'une agression sexuelle a écrit au DG
 
Lire cet article →
 
TECH
La Banque de France donne 3 raisons pour lesquelles le bitcoin n'est pas une monnaie
 
 Making a better World 

Le blog pour Réussir

Toute réussite commence par un premier pas

 POUR VOUS ET AVEC VOUS ! Parlez-nous de vous! Créer et partager... La méthode FranceWebAsso, La nouvelle société du Savoir comme le support des connaissances humaines et des communications dans les domaines techniques, économiques et sociaux ».

Si l'on vous dit que cette journée va favoriser les rencontres de toutes sortes vous seriez satisfait ? Et si en plus on vous dit qu'une ambiance particulièrement joyeuse, presque magique, émanera des groupes, qu'est-ce que vous diriez ? Cette journée va vous plaire cher ! Alors n'hésitez pas aujourd'hui à être le meneur, vous ne serez pas déçu...

Pour innover, puisez dans les connaissances

« Le pouvoir de l’imagination nous rend éternel »

FRANCE WEB MEDIA DIGITAL

 C'est Moi, C'est Vous, C'est Nous !

La méthode FranceWebAsso consiste à faire découvrir et acquérir à une personne la compréhension des enjeux, des opportunités et des solutions à travers une attentive observation des faits au lieu de l’abreuver de concepts savants ou de théories préconçues.

Imaginez ce que nous pouvons faire ensemble.

Forum Bien-être Association

Lire la suite

02/03/2018

PoissyWebCitoyen & FranceWebSharing,La «facebookisation» rampante,L’utilisateur, lui, se trouve dans un paradoxe complet : jamais il n’a eu accès à une offre aussi pléthorique.A quand une nourriture un peu plus variée ?

 1500x500.jpegStefan et Lucy.jpg3smartphones.jpeg

BUSINESS STORY / CULTURE / STYLE / ... ET MOI

C'est la vie !

C'est un véritable workshop sous forme de livre..

Je partage donc j’existe

Des connaissances partagées sur le Web ouvert

Imaginez un monde dans lequel chaque être humain peut librement obtenir et partager des connaissances.

                          Ceci est notre engagement.

FranceWebAsso : C'est Moi, C'est Vous, C'est Nous !

 

C'est notre capital !

Encourager le partage de savoirs, une nouvelle manière d'être au monde et de le voir.

20160312_135457.jpgDO YOU SPEAK MILLENIAL   20160420_171905.jpg

La génération des 15-35 ans sera bientôt plus nombreuse que celle des baby-boomers. La séduire est un enjeu vital.

Aux Etats-Unis, où ils sont en passe de dépasser les baby-boomers, on les appelle  les "millenials". En France, gération Y où Z, son existance entière a baigné dans le numérique. Pour le moment, discerner ce que cette caractéristique aura comme influence sur leur comportement de citoyens, de travailleurs ou de consommateurs relève plus du pari que de la prévision.

SRU-Electronics,> FranceWebSharing,> MyNewsCenterNavigator> Stefan V.Raducanu et son temps -> «Google a perdu sa capacité à innover»> Devinez la dernière invention de Google:les Stories>Des géants de la tech devenus de gigantesques machines à photocopier.

MyWorldNewsCenter,>MyNewsCenterNavigator,>Quand l’innovation ne peut plus s’exprimer,>FranceWebSharing,>Des géants de la tech devenus de gigantesques machines à photocopier.Copier… ou racheter

Des géants de la tech devenus de gigantesques machines à photocopier.

Pourquoi se fatiguer à inventer quand il suffit de piquer aux autres les recettes gagnantes ?

Devinez la dernière invention de Google : les Stories. Une super idée inspirée de Facebook, elle-même copiée d’Instagram, qui l’avait reprise de Snapchat. On ne peut pas dire que les GAFA font preuve d’une débauche d’imagination ces derniers temps. Derrière les annonces quasi quotidiennes de «nouveautés» se cache un cruel vide d’inventivité.

Les hashtags et les «trending topics» de Facebook ? Directement piochés dans le registre de Twitter. Les vidéos éphémères d’Instagram ? La signature de Snapchat. Les autocollants pour agrémenter les photos sur WhatsApp ? Encore puisés chez Snapchat. Les emojis intégrés dans les messages de Google Allo ? Chipés chez Messenger Et les exemples se multiplient à l’infini. Twitter a troqué ses étoiles pour des cœurs façon Instagram en 2015. Facebook s’est lancé sur les traces de LinkedIn en 2017 avec un service d’offres d’emploi. Avec «Discovery Mix», Apple Music a imité les playlists personnalisées de Spotify.

Comme un air de ressemblance © DR

C’est la stratégie du mouton. Quand quelque chose semble marcher, tout le monde se jette tête baissée à grand renfort de rachats et de surenchères d’investissements. Pour «rattraper Netflix», Amazon a ainsi investi 4,5 milliards de dollars dans son service vidéo Prime et vient d’acheter les droits télévisés pour décliner en série «Le Seigneur des Anneaux». Une référence directe à «Games of Thrones» (HBO) et «Stranger Things» (Netflix). Flairant le bon filon, Apple et Facebook ont à leur tour signé un chèque d’un milliard de dollars pour produire leurs propres contenus exclusifs. Mark Zuckerberg est d’ailleurs en train de faire le tour des studios à Hollywood pour obtenir des scénarios.

Apple, longtemps considéré comme précurseur, arrive aujourd’hui largement derrière tous les autres lorsqu’il lance un nouveau produit. Le déverrouillage par empreinte digitale, inauguré sur l’iPhone 5S en 2013, était une invention de Motorola deux ans plus tôt. Et lorsqu’il lancera son HomePod au printemps, cela fera déjà trois ans qu’Amazon inonde le marché avec son enceinte connectée Echo.

Copier… ou racheter

D’accord, ça ne marche pas à tous les coups. Avant de cloner Snapchat sur Instagram, Facebook avait déjà tenté de l’imiter avec les applications Pole et Slingshot, qui se sont soldées par des échecs retentissants. Mais généralement, la ficelle fonctionne très bien. Si bien que l’on commence maintenant à se copier soi-même. Les «Stories» ont ainsi été successivement implémentés dans Instagram, Messenger et WhatsApp. En mars 2017, Google a copié chez Waze (qu’il a racheté en 2013) le partage de sa position avec ses contacts pour l’intégrer dans Maps.

Et quand le petit concurrent a déjà trop grossi pour être rattrapé, on le rachète à coups de milliards. A l’instar de WhatsApp, avalé par Facebook en 2014, ou de LinkedIn, croqué par Microsoft en 2016. Et même ceux qui semblent aujourd’hui intouchables ont du souci à se faire. Apple, qui a bien conscience d’avoir beaucoup de retard dans la vidéo, aurait «40% de chance de racheter Netflix» dans les prochains temps, selon les analystes de Citigroup.

Quand les inventeurs se font siphonner par leurs imitateurs

Certes, le petit jeu du copier-coller n’a rien de nouveau. Apple a bien «emprunté» l’idée de la souris à Xerox en 1984. Mais aujourd’hui, le syndrome «The Winner takes all» (le vainqueur remporte tout) a décuplé la tendance. Pourquoi télécharger cinq applis différentes si je peux avoir tous mes services regroupés sur la même ? Quel intérêt pour les médias d’investir dans des formats spécialement adaptés à Snapchat s’il peuvent passer par l’interface Facebook qu’ils connaissent déjà ?

Pas de taille à lutter contre les géants du secteur, les pionniers se font tout simplement siphonner leurs utilisateurs. Selon une étude des analystes de Cowen, 96% des annonceurs préfèrent maintenant Instagram à Snapchat pour leurs publicités. En 2017, ce dernier a péniblement gagné 21 millions de nouveaux adeptes contre 200 millions pour Instagram. Au rythme de croissance actuelle, le nombre d’utilisateurs payants d’Apple Music dépassera celui de Spotify aux Etats-Unis, selon le Wall Street Journal. Avec au bout du compte une mort à petit feu. L’application de vidéos courtes Vine a survécu à peine trois ans après le lancement de séquences vidéos sur Instagram.

La «facebookisation» rampante

L’ennui avec tous ces copier-coller, c’est qu’on ne saisit plus bien ce qui fait l’identité de chacun. Le designer Walter Rosada s’inquiète ainsi de la «facebookisation» de LinkedIn, qui dérive selon lui dangereusement vers un banal réseau social plutôt que de garder sa vocation professionnelle. Dans sa dernière version, LinkedIn a ainsi ajouté une fenêtre de messagerie et un fil d’actu étrangement semblables à ceux de Facebook. Mais pour le responsable du design de Linkedin, Amy Parnell, tout cela est parfaitement normal. «Facebook est un réseau social. Les types d’interaction sur les deux plateformes se ressemblent forcément un peu», justifie-t-il. «Si quelqu’un veut créer une nouvelle application d’email, l’internaute s’attend à retrouver quelque chose qui ressemble à l’email qu’il utilise déjà». L’argument peut en effet se justifier. Mais il encourage aussi à une standardisation toujours plus avancée du web.

Google est-il encore un laboratoire à idées ? © Google

«Google a perdu sa capacité à innover»

L’autre problème, c’est que cette tendance rend les grands groupes paresseux. Dans un article sur Medium intitulé «Pourquoi j’ai quitté Google», Steve Yegge explique que le géant américain a «perdu sa capacité à innover». «Google est aujourd’hui 100% focalisé sur la concurrence plutôt que sur ses clients», déplore-t-il. «Sur tous les produits lancés ces dernières années, la quasi totalité sont des copies», détaille-il : Google+ (Facebook), Google Cloud (Amazon), Google Home (Amazon Echo), Allo (WhatsApp), Android Instant Apps (WeChat), Google Assistant (Siri), etc, etc. Et d’expliquer pourquoi il rejoint Grab, une startup asiatique en pleine expansion.

Quand l’innovation ne peut plus s’exprimer

Car si les ingénieurs de Google et consorts ont officiellement carte blanche pour plancher sur des idées «révolutionnaires», bien peu sont destinées à sortir réellement un jour et ne font office que de coup de com. Le nouveau magasin «sans caisse» d’Amazon, qui a fait le buzz partout dans le monde, n’a pour l’instant pas de petit frère de prévu. Et pour cause : vu la débauche de technologie nécessaire, on a du mal à imaginer que le concept soit réellement démocratisé. Le risque, c’est que les vrais talents n’y trouvent plus leur compte, à l’instar de Steve Yegge. Travailler dans une bulle végétale géante ou profiter de séances de yoga gratuites ne suffira pas à retenir ces inventeurs géniaux capables de développer une nouvelle appli en une nuit.

L’utilisateur, lui, se trouve dans un paradoxe complet : jamais il n’a eu accès à une offre aussi pléthorique. Et jamais il n’a eu aussi peu de choix. Un peu comme si dix marques de fast-food se refilaient la même recette de burger en changeant juste la sauce du steak. A quand une nourriture un peu plus variée ?

Les 11 startups sélectionnées pour la 1ère promotion 2018 d’Impact USA sont…

Business France et Bpifrance veulent permettre aux startups de la French Tech de concrétiser leurs premiers rendez-vous d’affaire dès le 1er jour à New York ou San Francisco et de s’implanter aux Etats-Unis dans les 6 mois suivant leur immersion. Les onze startups de la première promotion d’Impact USA 2018 qui partiront au coeur de la Silicon Valley du 16 avril au 22 juin sont : 360 LearningSimplifieldSplioSyntonyVize SoftwareWoleetAllure SystemsDatasoluceNablRiminder et Sparted.

Mounir Mahjoubi et Henri Verdier, directeur interministériel du numérique, lancent « demarches-simplifiees.fr »

D’après le premier ministre Édouard Philippe, d’ici 2022, la totalité des démarches administratives seront accessibles en ligne. Pour atteindre cet objectif, Mounir Mahjoubi, secrétaire d’État auprès du Premier ministre chargé du numérique et Henri Verdier, directeur interministériel du numérique viennent de lancer un kit de développement rapide de services en ligne : « demarches-simplifiees.fr ». Les administrations pourront dorénavant, grâce à ce service en ligne, créer leurs procédures en toute simplicité et en quelques minutes.

 
Toute l'info avec 20minutes.fr, l'actualité en temps réel Toute l'info avec 20minutes.fr : l'actualité en temps réel | tout le sport : analyses, résultats et matchs en direct
high-tech | arts & stars : toute l'actu people | l'actu en images | La une des lecteurs : votre blog fait l'actu