Le projet d’application de recherche de contacts de Mila crée tout un émoi

A6d7e1c1e47640458a58c5aa61925ac5

La privatisation totale du logiciel de traçage pose des problèmes éthiques


Le projet d’application de recherche de contacts liée à la COVID-19 que l’Institut québécois d’intelligence artificielle (Mila) cherche à vendre aux gouvernements canadiens, dont Québec, se prépare à privatiser les données publiques et personnelles récoltées auprès des citoyens pour en assurer la gestion dans une structure opaque, a découvert Le Devoir.


Cette manière de faire vise à prévenir un excès de surveillance des individus par l’État, prétend Mila, mais elle éveille la suspicion chez plusieurs observateurs du monde de la technologie et du droit qui estiment qu’un débat public est nécessaire sur cette mécanique de privatisation de données publiques délicates, puisque liées à la santé.


Ces voix mettent également en doute l’urgence exprimée par les autorités et les tenants du tout technologique pour cette application dont d’autres versions n’ont toujours pas fait leurs preuves en matière de lutte contre la pandémie, ailleurs que dans des régimes totalitaires comme la Chine.


« Il est primordial d’avoir un débat sur les enjeux technologiques entourant cette application afin de déterminer si l’outil est effectivement efficace, dit Hugo Cyr, professeur au Département des sciences juridiques de l’Université du Québec à Montréal (UQAM). Si les données récoltées sont considérées comme une ressource publique [amassées à des fins de santé publique], il devrait également y avoir un débat public sur le partage de ce bien commun. »


Selon le « livre blanc » — un document de 60 pages publié en anglais seulement — dévoilé le 18 mai dernier par l’Institut québécois d’intelligence artificielle pour faire mousser son application baptisée COVI, Mila envisage en effet de soustraire à l’autorité de l’État les données centralisées récoltées par son outil de lutte contre la pandémie. Il en donnerait la gestion à un organisme créé le 9 avril dernier en vertu de la loi canadienne sur les organisations à but non lucratif (OBNL).


COVI Canada, c’est son nom, est administré par les trois principales têtes de Mila Yoshua Bengio, Valérie Pisano et Benjamin Prud’homme, et son adresse postale est la même que celle de l’Institut, selon le registre des sociétés du Canada. Les recherches de Mila intéressent les grands acteurs de l’industrie du numérique et même pharmaceutique. L’Institut est financé en partie par Novartis, Google, IBM, mais également Facebook, champion dans le suivi des comportements humains à des fins commerciales.



Si tant est que ces données puissent servir des intérêts publics, on peut s’interroger sur le bien-fondé d’une gestion hors de la sphère publique




 

Dans le cas du suivi envisagé au nom de la santé publique, les informations ciblées sont hautement confidentielles, puisqu’elles s’apparentent au dossier médical d’un individu. L’application permettrait notamment d’avertir les personnes à risque, soit celles d’âge avancé ou ayant une condition médicale accentuant les effets de la COVID-19 (diabète, maladies cardiaques, etc.), de la présence d’individus contaminés à la COVID-19 dans leur environnement immédiat.


Détails techniques : ces données ne seraient pas anonymisées, mais plutôt « pseudonymisées », donc liées à un pseudonyme, ce qui rend plus facile l’identification des personnes par croisement de données, explique M. Cyr.


« Très peu d’information est disponible sur cet OBNL, dit Marie-Jean Meurs, professeure au Département d’informatique de l’UQAM. Une telle structure permet essentiellement de solliciter des investisseurs variés, mais également de séparer les responsabilités », particulièrement celle de l’État, des données récoltées. « Or, les OBNL augmentent aussi l’opacité, car même si elles sont souvent financées par les gouvernements, leur statut rend la reddition de compte difficile. » Et elle ajoute : « Si tant est que ces données puissent servir des intérêts publics, on peut en effet s’interroger sur le bien-fondé d’une gestion hors de la sphère publique. »


« Il serait possible d’ailleurs d’envisager qu’une agence gouvernementale indépendante soit responsable de ces données centralisées », ajoute M. Cyr.


Mila explique qu’il a « envisagé plusieurs scénarios » et favorisé celui de l’OBNL, qui répondrait aux « craintes exprimées par le public […] sur la surveillance et la remise des données directement à l’État », a indiqué Vincent Martineau, responsable des communications de l’Institut, joint par Le Devoir. Mila assure qu’il va permettre aux « représentants des institutions publiques », comme le ministère de la Santé et des Services sociaux, « de participer à la structure de gouvernance » de l’OBNL, et ce, par l’entremise d’« une table de concertation avec les organismes publics » et d’un « poste d’observateur sur le conseil d’administration ».


N’empêche, la précipitation avec laquelle les gouvernements du Canada cherchent à adopter une application de recherche des cas de COVID-19 pour faciliter la lutte contre la pandémie détonne dans le contexte mondial, où l’utilisation de ces outils n’a toujours pas fait ses preuves.


« En Islande, malgré un taux de pénétration de l’application parmi les plus élevés au monde [presque 40 % des personnes l’ont téléchargée], le responsable de sa mise en place a souligné que le traçage manuel était encore une méthode nettement supérieure, fait remarquer Mme Meurs. Il précise aussi que l’impact potentiel du traçage automatique est exagéré par les promoteurs du solutionnisme technologique. »


Depuis le début de la crise sanitaire, les géants de la Silicon Valley, dont Google et Apple, se rapprochent en effet des gouvernements et des grandes organisations publiques pour développer ce type d’applications. La stratégie vise à les présenter comme des citoyens voulant « bien faire » en temps de crise, tout en « renforçant leur pouvoir d’influence et augmenter leurs perspectives de financements publics de grande envergure, en matière de recherche en Intelligence artificielle ou pour des infrastructures qui bénéficient directement à ces compagnies », explique Mme Meurs.


Pour Hugo Cyr, l’adoption d’un tel outil de surveillance et la gestion de sa fiducie de données par un OBNL ne peuvent se faire dans l’urgence, étant donné ses implications sociales et politiques à moyen et à long terme. « Il n’y a rien de plus permanent que le temporaire, dit-il. Il y a un risque de normalisation de mesures adoptées de manière exceptionnelle. » Il mentionne entre autres les cadres de protection de la vie privée amoindris par la lutte contre le terrorisme après les attentats du 11 septembre 2001 aux États-Unis. « Ça va faire partie du nouveau normal. Une fois que le système est en place, il va être plus difficile à défaire. On va pouvoir aussi en faire d’autres usages. »


Le projet de Mila est par ailleurs très critiqué, puisque les personnes les plus à risque, comme les personnes âgées ou celles vivant dans des quartiers défavorisés, sont moins susceptibles de posséder des téléphones dits intelligents, pourtant nécessaires à la bonne marche de cette surveillance.


« Je ne condamne pas cette fiducie, qui, si elle est bien faite, pourrait être une solution intéressante à l’agrégation des données telle que réalisée par les Google, Apple, Facebook et Amazon (GAFA), dit M. Cyr. Mais elle ne peut faire l’économie d’un débat qui, dans les circonstances, est criant. »



À voir en vidéo