google-site-verification: googlecefa9497ae54ff6a.html

Avertir le modérateur

04/04/2018

FranceWebAsso@PoissyWebCitoyen, Par nature, l’IA pourrait devenir super-violente pour atteindre ses objectifs, Guerre totale...

Par nature, l’IA pourrait devenir super-violente pour atteindre ses objectifs

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Nous nous souvenons tous de cette fameuse partiez de Go où l’IA Deepmind de Google a battu à plates coutures le champion du monde en titre. Le système de Google démontrait aux yeux du monde sa capacité à apprendre tout seul, en s’appuyant sur son expérience personnelle plutôt que sur des lignes de codes informatiques. Plus récemment, nous apprenions que cette IA était capable d’apprendre toute seule à imiter la voix humaine. Quasiment à la perfection.
Ce que nous révèlent les équipes de chercheurs de Deepmind de Google c’est aujourd’hui une dimension plus terrifiante des capacités de l’IA. Quand elle est sur le point de perdre, c'est-à-dire de ne pas atteindre ses objectifs assignés, elle opte pour des stratégies hyper-agressives pour s’assurer de vaincre.

Cueillette de pommes

Les chercheurs ont fait tourner quarante millions de fois un jeu d’une simplicité enfantine : deux joueurs –en l’occurrence deux agents IA– doivent s’affronter pour récolter des pommes virtuelles. Celui qui gagne est celui qui prend le plus de pommes à son adversaire. Les joueurs ont aussi à leur disposition des rayons lasers.
 
Au début, tout se passe bien. Tant qu’il y a assez de pommes, le jeu se déroule normalement. Les deux joueurs gagnant ou perdant alternativement. Mais dès que le stock de pommes commence à diminuer, les agents IA se mettent à devenir agressifs. Ils utilisent les rayons lasers pour détruire l’adversaire et lui voler le maximum de pommes.
 
La vidéo ci-dessous montre cette scène, en quelque sorte, la première guerre entre IA. Les agents Deepmind sont en bleu et en rouge, les pommes virtuelles en vert et les rayons laser en jaune
Ce que l’on observe c’est une grande bataille à coup de lasers plutôt qu’une tranquille cueillette de pommes. Ce qu’il est intéressant de noter c’est que si un agent réussit à « tuer » son adversaire d’un coup de rayon laser, il n’obtient aucune récompense particulière. Si l’agent tueur le fait, c’est simplement pour éliminer l’adversaire et récupérer plus de pommes. Notons aussi que si les agents ne disposent pas d’armes, le jeu devrait normalement se terminer avec un nombre de pommes égal entre les deux adversaires. Notons enfin que le non usage des lasers est observé mais pour des agents IA moins intelligents. Dès qu’on augmente le niveau d’intelligence, les agents se livrent alors à des stratégies de sabotage, d’avidité et d’agressivité l’un envers l’autre.
 
Les chercheurs suggèrent ainsi que plus un agent est intelligent, plus il est capable d'apprendre de son environnement, ce qui lui permet d'utiliser des tactiques très agressives pour s'imposer. « Ce modèle... montre que certains aspects du comportement humain émergent comme un produit de l'environnement et de l'apprentissage », a déclaré Joel Z Leibo, l'un des membres de l'équipe à Wired. « Des politiques moins agressives émergent de l'apprentissage dans des environnements relativement abondants avec moins de possibilités d'actions coûteuses. La motivation de l'avidité reflète la tentation d'éliminer un rival et de ramasser toutes les pommes soi-même ».

Guerre totale

Ainsi, bien qu'il ne s'agisse que de simples petits jeux informatiques, le message est clair. Si l’on met différents systèmes d'IA en charge d'intérêts concurrents dans des situations réelles, le résultat pourrait être une guerre totale.  
 
Connaissant cette réalité, il suffit de penser avec un brin qu’inquiétude aux feux de circulation qui essaient de ralentir le trafic et aux voitures sans conducteur qui essaient de trouver le chemin le plus rapide. Le résultat pourrait vite ressembler à un film catastrophe.  Le seul moyen de l’éviter est de concevoir des IA coopératives, capables de tenir compte des objectifs de l'autre pour obtenir le résultat le plus sûr et le plus efficace pour la société. Mais est-ce possible ? L’étude sur les petits jeux informatique démontre que l’intérêts général – en l’occurrence celui des humains– n’est pas la préoccupation principale. Ce qui compte pour l’IA c’est de gagner, passer en force pour réussir son objectif. Peu importe les dégâts et les stratégies coopératives qu’on voudra lui donner.
Souvenons-nous de ce que disaient les fondateurs d'OpenAI, l'initiative de recherche d'Elon Musk dédiée à l'éthique de l'intelligence artificielle, en 2015 : « Les systèmes d'IA d'aujourd'hui ont des capacités impressionnantes mais étroites. Il semble que nous continuerons à réduire leurs contraintes, et dans le cas extrême, ils atteindront la performance humaine sur pratiquement toutes les tâches intellectuelles.
Il est difficile d'imaginer à quel point l'IA à l'échelle humaine pourrait être bénéfique pour la société, et il est tout aussi difficile d'imaginer à quel point elle pourrait nuire à la société si elle était construite ou utilisée de façon incorrecte ».
Au moment où l’on met l’IA à toutes les sauces, où elle apparaît comme la clé de notre croissance et de notre avenir économique, on devrait garder en tête cette prophétie et observer d’un peu plus près ce qui se passe dans les labos avancés.
 
 

 

Stratégie numérique : penser aux clients d’abord, Goliath cherche des David,Intelligence artificielle, blockchain, infonuagique, Internet des objets… Oui, il s’agit là d’avancées extraordinaires. Mais il faut éviter de tomber en amour avec la technologie

Stratégie numérique : penser aux clients d’abord

Intelligence artificielle, blockchain, infonuagique, Internet des objets… Oui, il s’agit là d’avancées extraordinaires. Mais il faut éviter de tomber en amour avec la technologie sans commencer par se pencher sur les besoins des clients.

Comment peut-on déployer la technologie pour mieux servir nos membres et nos clients ? Cette question est la trame de fond de l’utilisation du numérique par le Mouvement Desjardins. « Il y a beaucoup de frénésie autour des technologies numériques et on nous demande parfois de décrire notre stratégie à cet égard, dit Chadi Habib, premier vice-président Technologies de l’information. La réponse, c’est que nous n’en avons pas. Notre stratégie, c’est d’être premier dans le cœur des gens en leur offrant des solutions qui leur apportent une réelle valeur. »

Et pour cela, la technologie est bien sûr à l’avant-plan. Chadi Habib donne l’exemple d’Ajusto, un programme qui permet aux assurés de Desjardins Assurances d’obtenir un score pour chaque trajet effectué au volant de leur automobile. S’ils ont des habitudes de conduites prudentes, ils peuvent obtenir un rabais sur leur prime. « Grâce à des algorithmes avancés, nous pouvons analyser 1800 kilomètres de conduite à la minute », indique celui qui prononcera une conférence lors du salon Connexion, le 18 avril à Montréal.

Autre exemple, cette fois avec la technologie des objets connectés. Desjardins Assurances a lancé l’an dernier Alerte, un programme de prévention des dommages liés à l’eau. Un détecteur d’eau, de gel et d’humidité déclenche une alerte sur le téléphone intelligent de l’assuré en cas de problème, ce qui peut permettre à ce dernier de réagir rapidement et de limiter les dégâts.

Goliath cherche des David

Les solutions Ajusto et Alerte ont été toutes deux développées en collaboration avec des startups, tout comme d’autres produits de Desjardins. « Travailler avec des startups fait partie de notre stratégie, souligne Chadi Habib. Elles ont l’agilité et la rapidité de développement et nous, la masse critique de clientèle. »

D’ailleurs, la coopérative financière a lancé en 2015 à Montréal et en 2017 à Lévis ses laboratoires d’innovation Desjardins Lab qui visent à réinventer la manière d’offrir ses services en misant notamment sur des partenariats avec de jeunes pousses.

Connexion, le salon de la transformation numérique

« Auparavant, c’était presque impossible de voir une grande institution financière travailler avec de petites entreprises, dit le conférencier. Maintenant, c’est nécessaire pour bien servir les clients. Nous travaillons aussi avec les géants du Web, Microsoft, Google et les autres. Il faut cependant s’assurer de gérer de façon responsable les données des gens. C’est un aspect qui nous préoccupe beaucoup et pour lequel nous aimerions voir le Canada démontrer plus de leadership. »

Qui rêve d’avoir une hypothèque ?

Traditionnellement, les institutions financières poussaient leurs produits vers les consommateurs. Desjardins veut s’éloigner de ce modèle.

« Faisons abstraction des produits financiers et commençons par les besoins des membres, dit Chadi Habib. Personne ne rêve d’avoir une hypothèque ni de lire une police d’assurance de 14 pages. Par contre, les gens rêvent d’avoir une maison ou de voyager. Avec le numérique, on peut aller plus loin que de leur offrir seulement un produit financier. On peut les accompagner dans leurs projets de vie et dans leurs activités quotidiennes en déployant des solutions qui combinent plusieurs éléments. » Desjardins travaille notamment sur un programme qui réunit plusieurs services reliés à l’habitation.

Toujours dans l’optique de se centrer sur les besoins du client, la coopérative financière a lancé en février dernier l’alerte « Insuffisance de fonds lors d’un retrait préautorisé ». L’utilisateur de son application mobile peut ainsi recevoir une notification si un retrait préautorisé est prélevé alors qu’il n’y a pas assez d’argent dans son compte. Il dispose alors d’un délai pour renflouer son compte avant que des frais pour découvert ne lui soient facturés. Après un mois à peine, plus de 355 000 personnes s’étaient inscrites au service et 18 000 notifications avaient été envoyées.

« Sur le plan financier, il n’y a pas d’avantages pour nous de faire ça, indique M. Habib. Mais nous nous sommes mis à la place du membre qui n’est certainement pas heureux de payer des frais pour manque de fonds. »

megaphone-clip-art-9cp4KXRcE.jpegVENEZ VIVRE AU RYTHME DU NUMÉRIQUE

Merci pour cet article: très informatif. Effectivement, l’IA va entraîner un bouleversement à tous les niveaux.
UTILISATEURS, FOURNISSEURS, BUSINESS, TECHNOLOGIES, UNIVERSITAIRES, RÉSEAUX, SOCIÉTAL,.. Rencontrer, découvrir, entreprendre, communiquer, réunir, conseiller, agir, préparer l'avenir...

« La meilleure façon de prédire l’avenir, c’est de le créer »
Pour une république de l’innovation Comme toutes les grandes nations, la France est engagée dans une course à l’intelligence et à l’innovation. Le 21e siècle s’annonce comme un siècle de haute précision. Au cours des 150 dernières années, l’humanité a réalisé des progrès considérables dans les domaines de la santé et de l’environnement. Partout dans le monde, des forces sont à l’oeuvre pour faire avancer la connaissance. Il faut être plus efficace avec moins de ressources. Dans ce contexte, le principe de précaution, d’abord conçu comme une arme défensive est régulièrement brandi comme une arme de dissuasion. En son nom, ce n’est plus le résultat de la recherche qui est jugé mais le principe même de recherche qui est interdit. Son utilisation irrationnelle rappelle l’épisode des sorcières de Salem. Des procès en sorcellerie sont conduits sous l’égide de pseudos experts qui jugent en lieu et place de la communauté scientifique!Notre vision de la science est dynamique. Dans notre esprit, la recherche poursuit l’objectif du bien commun. C’est pourquoi notre démarche s’adosse à un principe de précaution rendu à sa vocation de départ : écarter du domaine public tout ce qui est scientifiquement avéré comme dangereux pour la vie. A cette démarche défensive, il convient selon nous d’en ajouter une autre, positive et plus enthousiaste. Pour stimuler la recherche pour sortir de la société des peurs, nous souhaitons que le principe d’innovation soit placé à égalité avec le principe de précaution dans la constitution française. L’innovation produit du progrès. Elle stimule la concurrence, elle est à l’origine des grands progrès enregistrés dans nos sociétés.
Encourager le partage de savoir, d'être au monde et de le voir.
FranceWeb, des espaces numériques ouverts à tous. Un cyberspace international. Un nouveau défi pour notre pays européen. Un instrument d'intelligence collective. Vers une économie des qualités humaines. C’est l’inspiration qui nous fait grandir, Venez nous rejoindre. C’est encore plus facile ensemble, la société en réseau ne se fera pas sans vous,
Nous désirons nous faire connaître en nous adressant, prioritairement aux personnalités économiques, sociales, politiques, médiatiques, responsables et compétentes, intéressées par cette initiative. Pour Vous et avec Vous ! 
Au plaisir de vous rencontrer pour vous présenter notre projet Vision 21 FranceWebAsso>Société du Savoir..
Contact: Ing.Stefan Raducanu, Data Scientist
Tél: 0139655034
Mail: franceweb@gmail.com

These Tech Giants Are Talking The Most About AI

« Le principal point de blocage de la transformation de notre organisation est que notre direction générale n’a pas articulé de vision claire » me disait récemment un participant dans un séminaire de formation, avec un air d’évidence des sentences qui paraissent logiques mais ne marchent pas. Eh bien non, votre organisation n’a pas besoin de vision claire pour se transformer. Au contraire, on peut même défendre l’idée qu’avoir une vision est contre-productif et entravera la transformation.»

« Nous répétons la révolution, mais les plébéiens sont en retard. »  —Günter Grass

IA et éthique: le contresens navrant de Cédric Villani

Ainsi donc avec le rapport Villani sur l’intelligence artificielle, la France a renoué avec une vieille tradition: demander à quelqu’un d’intelligent d’écrire un rapport idiot. Enfin idiot, on se comprendra: le rapport que notre Médaille Fields vient de rédiger n’est pas tant idiot que convenu. Nous sommes en retard sur l’IA, vite un plan national. Des subventions, des initiatives, une agence, tout plein de petits fours et de pique-assiettes, la routine française quoi. La montagne a accouché d’une souris, les chinois se marrent bien. Mais les faiblesses de ce rapport ont été soulignées avec talent par d’autres, inutile d’y revenir. Ce qui me semble important cependant, c’est le lien que le rapport fait avec l’éthique.

Le titre-même du rapport « Donner un sens à l’IA » est problématique. Quand on regarde l’histoire de l’innovation, le sens a toujours été donné a posteriori. Et ce pour une raison très simple: les ruptures technologiques présentent toujours des situations inédites sur le plan légal, social et éthique. Il est très difficile, voire impossible, de penser ces ruptures avant qu’elles ne se produisent, et avant que les effets ne soient visibles. On risque de penser dans le vide. Lorsque McKinsey conduit une étude de marché pour AT&T en 1989 pour évaluer le potentiel de la téléphonie mobile, les résultats sont désastreux: personne ne voit l’intérêt d’avoir un téléphone mobile. Personne ne peut simplement imaginer ce qu’on ferait avec. Seule l’utilisation effective a révélé les possibilités de la technologie, de même qu’aujourd’hui seule l’utilisation de Facebook en révèle les dangers pour la vie privée.

Sans compter que comme souvent dans ces cas-là, le sens que l’on donne à éthique est bien restreint. Il peut être éthique de ne pas vouloir développer une IA aux conséquences négatives, mais il peut être également éthique d’essayer pour voir, car ce n’est qu’en agissant que nous saurons. Les entrepreneurs savent cela depuis longtemps, nos savants intelligents et ceux qui nous gouvernement l’ignorent, et se condamnent peu à peu à la paralysie par excès de prudence et, au fond, par peur du futur. Nous devenons un vieux pays, et laissons progressivement les autres développer l’avenir. Au fond, le rapport Villani est un rapport de vieux, la hype de notre ami Cédric en plus.

A chaque fois que la puissance publique produit un rapport sur un secteur donné du numérique avec l’ambition de faire de la France un leader mondial, avec ou sans l’Europe, les acteurs de l’écosystème correspondant sont tout feu tout flammes parce que leur sujet intéresse les plus hautes autorités. Les élites et corps constitués du pays sont mis à contribution et caressés dans le sens du poil. Des rapports et des plans avec des dizaines de mesures sont publiés. Le plan est présenté devant le Premier Ministre ou le Président de la République. Des conférences sont organisées. Au bout du compte et avec le recul, la France n’atteint jamais l’objectif assigné et entre temps, les gouvernements ont changé.

Le Rapport Villani qui vient tout juste d’être publié peut-il échapper à cette fatalité ? En l’état, j’ai bien peur que non. Sa lecture laisse encore une impression désagréable que l’on loupe quelque chose, que l’on n’a pas posé les bonnes questions ni creusé toutes les pistes. Bref, une certaine déception est au rendez-vous malgré un volontarisme affiché de bon aloi et bon nombre de propositions intéressantes.

Pour une bonne analyse critique du rapport Villani, voir l’article d’Olivier Ezratty ici: Ce que révèle le Rapport Villani.

 

La communication interne pour faire rayonner votre entreprise

La communication interne pour faire rayonner votre entreprise

Les meilleures campagnes de communication ne s’adressent pas uniquement au grand public. Elles s’adressent aussi aux employés des entreprises et organisations qu’elles font rayonner.

C’est le message que soutient Marie-Pierre Grenier, chef de services des communications internes et externes du Centre intégré de santé et services sociaux de la Montérégie-Ouest (CISSSMO). Plongée dans le domaine des communications depuis au moins 20 ans, Mme Grenier animera la conférence Communication interne, présentée par les Événements Les Affaires, le 29 mai prochain, à Québec.


« Depuis l’avènement d’Internet et des médias sociaux, il n’y a presque plus de frontière entre les communications présentées à l’interne et l’externe des organisations. Les messages diffusés à l’interne peuvent se retrouver à l’extérieur de l’organisation en un claquement de doigts. Et vice-versa. Ce qui force les entreprises à devoir s’adapter à ces nouveaux auditoires », explique Mme Grenier.


Il va de soi que les employés doivent connaître le contenu des communications d’une organisation d’abord à l’interne plutôt qu’en regardant un bulletin de nouvelles, insiste l’animatrice. Autrement, la mobilisation du personnel au sein de l’entreprise risque d’en souffrir.


Communication interne


Faites de votre communication interne un outil d’attraction et de rétention de personnel


La façon de communiquer les messages a, elle aussi, changé, ajoute-t-elle. « Finie l’époque où les organisations utilisaient un mode de communication plutôt traditionnel pour l’interne et un autre plus percutant pour l’externe.  Aujourd’hui, dans un contexte de surcharge d’informations, il faut que le message (incluant son contenu et son contenant) soit aussi dynamique et surprenant à l’interne que le sera celui qui est destiné au grand public » indique Marie-Pierre Grenier.


La communication doit être mature et personnalisée, poursuit Mme Grenier. « Les organisations doivent aussi prendre le temps de réfléchir et multiplier les bons outils, tel l’usage de l’Intranet. Elles doivent s’assurer que leurs communications à l’interne sont diffusées adéquatement à tous leurs employés, et ce, qu’ils travaillent en collégialité, sur la route ou à la maison. Les organisations doivent s’adapter aux réalités de 2018 », soulève Mme Grenier.


Pensez campagne de pub


Et autre petit conseil de Marie-Pierre Grenier : si votre entreprise s’apprête à lancer un nouveau produit ou un nouveau service à l’aide d’une campagne grande échelle, assurez-vous que les employés de la boîte puissent bénéficier d’une présentation percutante et accrocheuse avant tout le monde. « Plus les employés seront interpellés par vos projets, meilleurs ambassadeurs pour l’organisation ils seront », dit-elle.


Et ces entreprises qui vont faire les efforts d’instaurer une bonne communication à l’interne,  vont en général mieux se débrouiller en matière de recrutement de personnel, observe Mme Grenier. « Une communication organisationnelle efficace constitue désormais un outil indispensable pour l’adhésion et la rétention des employés. Un pensez-y-bien, dit-elle, pour les entreprises et organisations qui éprouvent de plus en plus des problèmes de pénurie de main-d’œuvre. »


 
Toute l'info avec 20minutes.fr, l'actualité en temps réel Toute l'info avec 20minutes.fr : l'actualité en temps réel | tout le sport : analyses, résultats et matchs en direct
high-tech | arts & stars : toute l'actu people | l'actu en images | La une des lecteurs : votre blog fait l'actu