Une limite de la surveillance automatisée des contenus web

http://www.ouvaton.coop/raphael/cla…

Une limite de la surveillance automatisée des contenus web

Exposé d’une difficulté conceptuelle qui gênerait gravement la mise en place d’un système de surveillance automatisée des contenus : la dépendance des moyens de surveillance automatisée sur une coopération minimale des créateurs de contenus. Introduction

Le rapporteur de la Loi sur la Confiance dans l’Économie Numérique (LcEN), Jean Dionnis du Séjour, a indiqué à plusieurs reprises, devant les parlementaires et dans les média, que les systèmes de reconnaissance textuelle sont au point, et que leur taux de « réussite » les rend apte à permettre l’application pratique d’une obligation de surveillance par les hébergeurs des contenus hébergés. Il a cité un certain nombre de fournisseurs d’outils aptes, selon lui, à opérer cette surveillance de manière satisfaisante.

En dehors de leur coût prohibitif (ces solutions commencent chez Verity à une centaine de milliers d’euros), une limite conceptuelle mine l’utilité de ces outils pour le but recherché : ils reposent sur la coopération du créateur du contenu à l’effort de reconnaissance. En effet, des manipulations triviales des contenus peuvent rendre un texte inaccessible et strictement incompréhensible pour un programme informatique, sans en gêner significativement l’accès ou la compréhension par des visiteurs.

<…>

Conclusion

Ces exemples très simples montrent qu’avant même que soit mis en place un un système de surveillance automatisée, il existe des moyens de le circonvenir. D’une certaine façon, c’est heureux : cela montre que le comportement des ordinateurs est encore très loin de ressembler à l’intelligence et la compréhension humaines. Mais une modification mineure d’un système de publication web au moyen de techniques similaires à celles indiquées ci-dessus peut rendre le stockage et l’affichage de contenu chiffré tout à fait transparent non seulement pour le visiteur, mais aussi pour le créateur de contenu.

Dans l’ensemble, tout système de surveillance automatique est appelé à échouer, car l’automatisme est fondé sur un certain nombre de règles. Notre nature humaine fait que nous sommes aptes à imaginer des manières de contourner ces règles. La course entre les règles et les moyens de les contourner peut tourner à l’avantage de l’une ou de l’autre partie, mais en général, plus les règles sont compliquées et dépendent de systèmes sophistiqués, plus elles sont faciles à contourner.

Cet exposé ne tient pas compte des difficultés rencontrées par les outils eux-mêmes, que l’on peut supposer énormes à l’heure actuelle (risques élevés de « faux positifs » et « faux négatifs »), car les notions litigieuses sont complexes et les outils informatiques très peu adaptés à la compréhension de contenus. Il n’entre pas non plus dans les ambitions de ce document de s’élever (comme il convient de le faire) contre l’idée que la surveillance automatique d’activités humaines puisse avoir le moindre aspect positif et être le moins du monde souhaitable.

Le seul objectif était de montrer, exemples à l’appui, que si les éditeurs de contenus illégaux cherchent activement à éviter la détection, ils y arriveront très facilement. C’est une des nombreuses raisons pour lesquelles une éventuelle obligation de surveillance a priori par les fournisseurs d’accès à internet ou d’hébergement est conceptuellement vouée à l’échec.