Note
Résumé:La secrétaire d’Etat chargée du numérique a confié au Conseil général de l’économie une mission d’analyse et de...
0non évalué

La secrétaire d’Etat chargée du numérique a confié au Conseil général de l’économie une mission d’analyse et de propositions relative aux modalités de régulation des algorithmes de traitement des contenus. Il s’agit des algorithmes utilisés sur le web pour filtrer des contenus, ordonner des réponses à une recherche, sélectionner les informations pertinentes, faire des recommandations, calculer un score, prédire un évènement ou un risque.

Ces algorithmes peuvent être très complexes, composés de multiples briques logicielles : Google indique que les algorithmes de son moteur de recherche prennent en compte 200 critères, Netflix décompose son moteur de recommandation en 12 algorithmes différents. Parmi ces briques logicielles, l’apprentissage machine connaît depuis quelques années un développement fulgurant, lié à l’augmentation de la puissance de calcul (utilisation de cartes graphiques pour réaliser un très grand nombre d’opérations en parallèle) et à la disponibilité de grandes quantités de données permettant l’apprentissage : on fait croître de tels algorithmes, plus qu’on ne les écrit.

Par la nature de leur architecture et de leur fonctionnement, il est très difficile de comprendre le processus de raisonnement interne des algorithmes d’apprentissage machine, et donc d’expliquer un résultat particulier. Ces algorithmes posent donc des problèmes de transparence et de contrôle originaux. Les algorithmes sont inséparables des données qu’ils traitent et des plateformes qui les utilisent pour proposer un service. L’originalité du point de vue de ce rapport est cependant de s’intéresser aux algorithmes eux-mêmes et de faire des propositions pour de meilleures pratiques concernant leur développement, leur utilisation et leur contrôle, tout en préservant l’innovation.

Trois scénarios de développement de « l’économie des algorithmes » sont en cours de déploiement en parallèle et poseront des questions de régulation différentes. Selon le 1er scénario, les algorithmes se banalisent au sein de l’économie du logiciel, en large partie en open source. Cette fragmentation pose des problèmes de contrôle du traitement des données et de la performance des algorithmes, auxquels il faudra apporter des réponses par la certification des composants logiciels. Selon le 2nd scénario, des leaders de l’intelligence artificielle conservent une longueur d’avance et agrègent des écosystèmes dédiés autour d’algorithmes propriétaires aux performances inégalées. Ces grands systèmes posent des problèmes de concurrence, de position dominante sur certains marchés et d’opacité pour les acteurs extérieurs, à commencer par les régulateurs eux-mêmes. Selon le 3ème scénario, des producteurs de données et des spécialistes du traitement algorithmique s’organisent en silos indépendants pour acquérir une taille critique, tant en termes de masse de données que de compétences en traitement. Cette organisation en silo pose des problèmes de conditions d’accès pour les nouveaux entrants, ainsi que de propriété et de portabilité des données.

Ce rapport ne propose pas une nouvelle régulation sectorielle qui s’appliquerait aux algorithmes. En revanche, il souligne qu’il faut développer la capacité à tester et contrôler les algorithmes eux-mêmes. Pour y parvenir la mission propose cinq pistes d’action :

– Créer une plateforme collaborative scientifique de développement d’outils logiciels et de méthodes de test d’algorithmes ;

– Créer un « bureau des technologies de contrôle de l’économie numérique » au sein de la DGCCRF ;

– Pour les entreprises, communiquer sur le fonctionnement des algorithmes visibles pour l’utilisateur et identifier l’équipe où la personne responsable (« chief algorithm officer ») ;

– Développer, dans les domaines de l’emploi, de la santé, de la finance et de l’assurance, les réflexions sur les bonnes pratiques pour de nouveaux services utilisant des algorithmes de traitement des contenus ;

-Former au respect des obligations de transparence inscrites dans la loi République numérique, les agents opérant un service public utilisant un algorithme.

La régulation peut contribuer à préserver une image positive des progrès et des performances des technologies d’intelligence artificielle, et donc des femmes et des hommes qui travaillent dans ce domaine. C’est essentiel pour continuer à attirer les jeunes générations dans les filières de formation correspondantes (mathématiques, ingénieurs ou « data scientists ») et pour créer des emplois. Trouver des solutions aux problèmes émergents posés par les progrès de l’intelligence artificielle est une dimension de la confiance dans l’économie numérique.

Rapport sur la régulation des algorithmes

Recommandez à vos amis
  • gplus
  • pinterest

À propos de l'auteur