Des milliers d’apps Android collectent les données des enfants

Selon une étude de l'International Computer Science Institute, des milliers d’applications pour Android traquent illégalement les enfants en collectant des données personnelles.

Application : Selon une étude de l'International Computer Science Institute, des milliers d’applications pour Android traquent illégalement les enfants en collectant des données personnelles.

Par La rédaction de ZDNet.fr | Mardi 17 Avril 2018

Selon une nouvelle étude internationale, les applications pour enfants pourraient faire plus que de les garder simplement occupés.

Des chercheurs de l'International Computer Science Institute affirment que la majorité des applications Android populaires destinées aux enfants suivent et collectent leurs données, en violation notamment de la loi US sur la protection de la vie privée des enfants en ligne (COPPA), une loi fédérale qui réglemente la collecte des données des enfants de moins de 13 ans.

L’étude a été publiée le 6 avril et sera présentée au Symposium sur les technologies de protection de la vie privée en juillet. Elle porte sur 5.855 applications destinées aux enfants, qui ont chacune été téléchargées en moyenne 750.000 fois d’après les chercheurs.

A l'aide d'un téléphone Nexus 5X, ils ont téléchargé les meilleures applications conçues pour enfants de novembre 2016 à mars 2018, les exécutant pendant environ 10 minutes pour simuler un utilisateur réel.

L'étude a révélé que des milliers d'applications ciblant les enfants collectaient des données à partir de l'appareil, certaines incluant la localisation GPS et des informations personnelles. Il s'agit d'une préoccupation pour les parents, qui auraient besoin du niveau de connaissances techniques d'un expert pour le comprendre eux-mêmes, a déclaré Serge Egelman, co-auteur de l’article.

« Ils ne s’attendent pas à devoir effectuer de la rétro-ingénierie sur les applications pour prendre une décision quant à la sécurité de leur utilisation par les enfants » commente Egelman.

Avec les applications, les utilisateurs autorisent souvent le tracking publicitaire en échange d'un service gratuit. Les applications pour enfants se voient en principe appliquer d’autres règles en raison de la COPPA.

Celles-ci n’ont généralement pas le droit de collecter des données sans le consentement explicite des parents. L'étude a révélé que bon nombre de ces applications destinées aux enfants violaient cette loi.

En outre, plus de 1.000 applications de l'étude recueillaient des informations personnelles, même si les conditions d'utilisation de Google interdisent ces outils de suivi dans les applications destinées aux enfants. Google n'a pas immédiatement répondu à une demande de commentaire.

Articles relatifs

Par nature, l’IA pourrait devenir super-violente pour atteindre ses objectifs

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Nombreux sont encore ceux qui pensent que l’Intelligence artificielle est un programme informatique, certes, sophistiqué, mais qui suit à la lettre les instructions que des programmateurs lui ont donné au préalable. C’est sans compter sur l’apprentissage machine, le deep learning, qui permet à la machine d’apprendre toute seule, à partir de ses essais-erreurs, à atteindre un objectif. Une nouvelle étude apporte un éclairage glaçant sur la façon dont une IA s’y prend pour remplir un objectif : elle n’hésite pas à recourir à l’hyperviolence et éliminer ceux qui pourraient entraver son chemin vers le but assigné.

Cueillette de pommes

Les chercheurs ont fait tourner quarante millions de fois un jeu d’une simplicité enfantine : deux joueurs –en l’occurrence deux agents IA– doivent s’affronter pour récolter des pommes virtuelles. Celui qui gagne est celui qui prend le plus de pommes à son adversaire. Les joueurs ont aussi à leur disposition des rayons lasers.

 

Au début, tout se passe bien. Tant qu’il y a assez de pommes, le jeu se déroule normalement. Les deux joueurs gagnant ou perdant alternativement. Mais dès que le stock de pommes commence à diminuer, les agents IA se mettent à devenir agressifs. Ils utilisent les rayons lasers pour détruire l’adversaire et lui voler le maximum de pommes.

 

La vidéo ci-dessous montre cette scène, en quelque sorte, la première guerre entre IA. Les agents Deepmind sont en bleu et en rouge, les pommes virtuelles en vert et les rayons laser en jaune

Ce que l’on observe c’est une grande bataille à coup de lasers plutôt qu’une tranquille cueillette de pommes. Ce qu’il est intéressant de noter c’est que si un agent réussit à « tuer » son adversaire d’un coup de rayon laser, il n’obtient aucune récompense particulière. Si l’agent tueur le fait, c’est simplement pour éliminer l’adversaire et récupérer plus de pommes. Notons aussi que si les agents ne disposent pas d’armes, le jeu devrait normalement se terminer avec un nombre de pommes égal entre les deux adversaires. Notons enfin que le non usage des lasers est observé mais pour des agents IA moins intelligents. Dès qu’on augmente le niveau d’intelligence, les agents se livrent alors à des stratégies de sabotage, d’avidité et d’agressivité l’un envers l’autre.

 

Les chercheurs suggèrent ainsi que plus un agent est intelligent, plus il est capable d'apprendre de son environnement, ce qui lui permet d'utiliser des tactiques très agressives pour s'imposer. « Ce modèle... montre que certains aspects du comportement humain émergent comme un produit de l'environnement et de l'apprentissage », a déclaré Joel Z Leibo, l'un des membres de l'équipe à Wired. « Des politiques moins agressives émergent de l'apprentissage dans des environnements relativement abondants avec moins de possibilités d'actions coûteuses. La motivation de l'avidité reflète la tentation d'éliminer un rival et de ramasser toutes les pommes soi-même ».

Guerre totale

Ainsi, bien qu'il ne s'agisse que de simples petits jeux informatiques, le message est clair. Si l’on met différents systèmes d'IA en charge d'intérêts concurrents dans des situations réelles, le résultat pourrait être une guerre totale.  

 

Connaissant cette réalité, il suffit de penser avec un brin qu’inquiétude aux feux de circulation qui essaient de ralentir le trafic et aux voitures sans conducteur qui essaient de trouver le chemin le plus rapide. Le résultat pourrait vite ressembler à un film catastrophe.  Le seul moyen de l’éviter est de concevoir des IA coopératives, capables de tenir compte des objectifs de l'autre pour obtenir le résultat le plus sûr et le plus efficace pour la société. Mais est-ce possible ? L’étude sur les petits jeux informatique démontre que l’intérêts général – en l’occurrence celui des humains– n’est pas la préoccupation principale. Ce qui compte pour l’IA c’est de gagner, passer en force pour réussir son objectif. Peu importe les dégâts et les stratégies coopératives qu’on voudra lui donner.

Souvenons-nous de ce que disaient les fondateurs d'OpenAI, l'initiative de recherche d'Elon Musk dédiée à l'éthique de l'intelligence artificielle, en 2015 : « Les systèmes d'IA d'aujourd'hui ont des capacités impressionnantes mais étroites. Il semble que nous continuerons à réduire leurs contraintes, et dans le cas extrême, ils atteindront la performance humaine sur pratiquement toutes les tâches intellectuelles.

Il est difficile d'imaginer à quel point l'IA à l'échelle humaine pourrait être bénéfique pour la société, et il est tout aussi difficile d'imaginer à quel point elle pourrait nuire à la société si elle était construite ou utilisée de façon incorrecte ».

Au moment où l’on met l’IA à toutes les sauces, où elle apparaît comme la clé de notre croissance et de notre avenir économique, on devrait garder en tête cette prophétie et observer d’un peu plus près ce qui se passe dans les labos avancés.