Les systèmes de reconnaissance automatique ont d’étonnantes faiblesses. Exploiter ces failles permet de s’amuser, mais aussi d’améliorer les procédures d’apprentissage… ou de concevoir de nouvelles attaques malveillantes.
L’apprentissage automatique à l’aide de réseaux neuronaux « profonds » est à la mode. Comme souvent quand il s’agit d’intelligence artificielle, il y a ceux qui perçoivent raisonnablement les capacités des nouvelles idées et il y a ceux qui imaginent bien plus. Cet enthousiasme excessif s’est produit avec les premiers succès des méthodes d’apprentissage automatique dans la décennie 1950 ; cela a recommencé avec les systèmes experts dans les années 1980 ; puis quelque temps après avec les réseaux de neurones ; et maintenant, c’est une forme de ces réseaux qui fait croire que nous sommes sur le point de mettre dans nos ordinateurs une intelligence générale susceptible de nous surpasser.
Le présent article n’a pas pour objectif de dénigrer une remarquable technique qui a récemment triomphé au jeu de go, qui aide à concevoir des véhicules autonomes, qui améliore la traduction automatique et qu’on maîtrise de mieux en mieux ; les livres d’Aurélien Géron (voir la bibliographie) vous initieront à cette science nouvelle. Nous cherchons ici à remettre les pieds sur terre à ceux qui l’imaginent comme une panacée informatique.
LIRE L’ARTICLE
