Avis 130

Résumé

Poursuivant une réflexion antérieure sur les questions que posent le recueil de données personnelles et les nouvelles possibilités de leur utilisation dans le domaine des sciences de la vie et de la santé, et à la suite des États généraux de la bioéthique ^[1]Voir l’Avis 129 « contribution à la révision de la loi de bioéthique », ainsi que le rapport « numérique et santé. Quels enjeux éthiques pour quelles régulations ? » commandé par le CCNE et consacré à l’intelligence artificielle, le CCNE consacre son Avis 130 aux enjeux éthiques que soulève l’utilisation des « données massives » ^[2]Par « données massives », on désigne la disponibilité, soit d’un nombre important de données, soit de données de taille importante, que seuls les outils du numérique alliant l’algorithmique à la puissance de calcul des ordinateurs permettent de traiter efficacement. Outre le changement d’échelle, qui fait que seule la machine – et non plus l’humain – est capable d’assurer la collecte, la conservation et l’analyse des données, celles-ci se caractérisent principalement par trois propriétés : leur pérennité (elles peuvent être copiées et réutilisées indéfiniment) ; leur diffusion dans le temps et l’espace, qui permet leur partage rapide et sans distinction de frontières ; la génération de données secondaires, nouvelles informations obtenues par le traitement et le croisement des données initiales avec d’autres sources, qui fait de ces données un matériel exploitable bien au-delà des finalités du recueil initial. (Big Data). Dans le contexte de mutations technologiques et culturelles accélérées liées au traitement de ces « données massives », le CCNE souligne combien l’accumulation massive de données issues de personnes, comme la capacité accrue qu’a le traitement de ces données de produire de la valeur, nécessitent débat et réflexions éthiques.

Cet avis :

– énonce des principes éthiques communs à tous les contextes d’utilisation des données massives dans le champ de la santé (chapitre 2) ;

– identifie des enjeux éthiques spécifiques aux situations de soin, de recherche, de gestion des soins, ou de vie personnelle qui utilisent les données massives (chapitre 3) ;

– propose 12 recommandations indispensables au respect des principes éthiques fondamentaux permettant, sans les freiner, le développement des technologies fondées sur les données massives.

Les mutations induites par les données massives

Le CCNE estime qu’on ne saurait adopter une position hostile à ces nouvelles technologies numériques à raison des risques dont elles sont porteuses, car il serait contraire à l’éthique de ne pas favoriser leur développement si elles peuvent bénéficier à la santé de tous et aider à la rationalisation des coûts. Mais le CCNE rappelle que les grands principes qui fondent l’éthique médicale – respect de la personne (incluant le respect de son autonomie), justice, pertinence et bienfaisance (incluant ici l’obligation de non-nuisance) – ne doivent pas être affaiblis par le développement des technologies numériques.

Les mutations induites par les données massives modifient notre façon de formuler des hypothèses de recherche, d’acquérir des savoirs et de les utiliser pour une prise de décision intéressant l’individu et la collectivité. Elles induisent des changements dans nos représentations et bouleversent notre façon de considérer la mesure de nos paramètres de santé et de bien-être. Ces données personnelles tendent à devenir un outil relationnel dynamique et un instrument d’autonomie visant à un meilleur contrôle personnel de notre état de santé.

Le CCNE appelle à la vigilance pour que les personnes qui n’ont pas aisément accès aux technologies du numérique bénéficient aussi des avancées dans le domaine de la santé et ne subissent ni stigmatisation ni discrimination dans leur accès aux soins. (Recommandation 9).

De ces mutations, le CCNE tire deux constats :

• Le premier est que toute donnée primaire issue d’une activité humaine – même sans lien apparent avec la santé – peut contribuer – par son croisement avec d’autres données qui ne lui sont pas liées – à la création d’une information nouvelle relative à la santé d’une personne. Une donnée de santé ne peut plus se limiter aux seules données personnelles recueillies dans le cadre d’une prise en charge médicale (mesures biologiques, caractéristiques génomiques, données cliniques, etc.).
• Le second est que les questionnements éthiques se développent dans un contexte instable en raison d’innovations technologiques extrêmement rapides et rendu complexe par la diversité des situations dans lesquelles les données relatives à la santé sont recueillies et traitées, ce qui nécessite une vigilance continue et une évaluation périodique de la mise en œuvre effective des dispositifs de protection (recommandation 2) ; la réflexion éthique doit prendre en compte le fait que certaines innovations peuvent ne pas avoir pour finalité le soin, mais l’exploitation d’un marché se présentant comme relevant du bien-être.

Une perception nouvelle des enjeux éthiques et des propositions de réponses adaptées

Le CCNE montre qu’une des caractéristiques des données massives relatives à la santé est d’effacer les distinctions sur lesquelles repose la mise en œuvre des principes éthiques qui fondent la protection des droits individuels dans le champ de la santé. Ainsi, la séparation s’estompe entre vie privée et vie publique par la possibilité de croiser des données sans lien les unes avec les autres, mais aussi parce que notre représentation de l’intime change. Le rapport entre l’individuel et le collectif évolue : l’autonomie de chacun s’accroit, mais la connaissance très précise des personnes et de leur état de santé induit le risque d’un profilage ; celui-ci met en cause la protection de la vie privée et peut aboutir à la stigmatisation de personnes ou de groupes. Celle-ci menace la vie privée, mais aussi les principes de solidarité et d’équité qui fondent notre système de santé ; soin et commerce deviennent plus difficiles à distinguer, conséquence de la transformation du soin et du marché de la santé.

Le CCNE remarque, en outre, que la notion même de consentement libre et éclairé, exigé a priori comme assurant la protection d’une personne face à une décision la concernant, es remise en cause par les conditions mêmes d’exploitation des données massives (finalités incertaines et incompréhension, voire inaccessibilité, du processus d’analyse). La nécessité d’une protection de la personne doit être réaffirmée et ses modalités doivent être redéfinies, afin d’éloigner la menace d’une société de surveillance et de contrôle par de multiples opérateurs agissant à des fins diverses. Même si le consentement reste l’un des fondements majeurs de licéité du traitement des données personnelles, le RGPD ^[3]Règlement général sur la protection des données, règlement européen entré en vigueur dans les États de l’Union européenne le 25 mai 2018., qui se veut ferme sur ses principes mais pragmatique, prend acte de ce que cette exigence n’est pas réalisable dans tous les cas, notamment dans l’hypothèse d’une réutilisation des données ; il reconnaît comme licites d’autres modalités de protection lorsque sont poursuivies des finalités d’intérêt général. Le CCNE prend acte de ce passage progressif d’une volonté de contrôle exhaustif a priori par l’individu à une logique d’intervention et de contrôle a posteriori fondée sur une recherche d’intelligibilité et de responsabilisation. Cette logique exige une loyauté de comportement des responsables du traitement, une transparence de leurs processus, et la possibilité de contrôler leurs possibilités d’accès aux données et leur démarche déontologique. Le CCNE réaffirme l’importance d’une gouvernance identifiée et d’engagements qui doivent pouvoir être vérifiés. L’information précise et loyale, adaptée aux différents contextes d’utilisation, devient un critère éthique majeur. (Recommandations 1 à 3).

Le CCNE estime qu’une garantie humaine des différentes étapes du processus de l’analyse des données est fondamentale. Elles sont, en effet, la « matière première » nécessaire à la conception d’algorithmes d’aide à la décision, qui prennent une part toujours plus importante dans l’exercice médical et la définition des politiques de santé. Une « garantie humaine » est donc essentielle pour répondre de la rigueur méthodologique des différentes étapes du processus de recueil et de traitement des données que sont : (i) la qualité et l’adéquation des données sélectionnées pour entrainer les algorithmes ; (ii) l’adéquation du choix des traitements algorithmiques à la question posée ; (iii) la vérification sur un jeu de données indépendantes de la robustesse et de l’exactitude du résultat donné par l’algorithme. Sa mise en œuvre exige des actions fortes dans trois domaines : la formation, une évaluation qualitative des sites, applications et objets connectés, une recherche scientifique de haut niveau. (Recommandations 4, 5, 6, 8).

Une spécificité des questionnements éthiques selon les contextes

À la diversité des sources de données primaires correspond une diversité tout aussi importante des champs de leur utilisation dans le domaine de la santé (soin, conception de nouveaux médicaments ou dispositifs médicaux, amélioration des connaissances, gestion des essais cliniques, meilleure performance économique, amélioration de la santé publique, objectif commercial). Quelques enjeux éthiques spécifiques à trois de ces situations sont explicités :

• Le CCNE rappelle que la relation de soin se fonde sur une relation humaine directe, basée sur la confiance et un ensemble de décisions véritablement partagées entre le médecin et le patient, même si l’informatisation des systèmes de soin est maintenant généralisée. Trois principes éthiques peuvent être fragilisés par l’utilisation des données massives : le secret médical, par la multiplication des informations partagées et échangées entre divers acteurs, dont certains ne relèvent pas du milieu médical ; la responsabilité de la décision médicale, par le risque d’automatisation que crée la multiplication des logiciels algorithmiques ; la relation personnelle entre le médecin et son patient, qui est menacée d’appauvrissement avec les innovations attendues du traitement des données massives, le patient risquant d’être réduit à un ensemble de données à interpréter, semblant rendre inutile son écoute. Le CCNE rappelle que les technologies du numérique doivent rester une aide à la décision et estime que le temps ainsi gagné devrait être mis à profit pour libérer du temps d’écoute, d’échange, de prise en compte personnelle du patient. (Recommandation 7).
• Dans le cadre des protocoles de recherche, le CCNE rappelle que l’enjeu éthique principal est de trouver le bon équilibre entre le risque d’une sous-exploitation des données limitant des recherches menées dans l‘intérêt général et celui d’un partage des données trop large et insuffisamment contrôlé mettant en cause les droits fondamentaux de la personne. Le CCNE souligne que chacun des acteurs intervenant dans ce champ appréhende différemment les questionnements éthiques auxquels il est confronté. Le titulaire des données, par exemple, ne disposera que de peu d’informations précises sur ces recherches au moment du recueil et ne tirera pas nécessairement de bénéfice pour lui-même des résultats ; la confiance accordée repose, dans ce contexte, avant tout sur le processus de gouvernance et la manière dont l’accès aux données est contrôlé. La qualité d’information délivrée au titulaire des données est un critère majeur de cette qualité de la gouvernance. (Recommandations 11, 12).

Le CCNE analyse plus spécifiquement le cas des données génomiques – qui se distinguent entre autres par les caractères identifiant et, pour partie, prédictif, de la séquence génomique pour l’individu et ses apparentés – ainsi que par les questionnements liés à la constitution de grandes banques de données génomiques et à leur partage dans le cadre de la recherche. Si leur exploitation a permis de spectaculaires avancées des connaissances et une notable amélioration de la prise en charge des patients, elles illustrent également les risques induits par l’exploitation des données massives : diffusion incontrôlée, possibilité d’identification, de perte de confidentialité, et donc de sécurité. Le CCNE recommande le maintien de la réglementation spécifique et, en particulier, la nécessité d’un consentement exprès et la prise en compte de la parentèle ; il relève le risque accru de découvertes incidentes, qui pose un problème éthique spécifique, et incite à la vigilance quant aux biais possibles de sélection des populations étudiées (Recommandation 4).

• Les réseaux sociaux, les applications et objets connectés, les plateformes internet de partage d’informations de santé destinées aux patients, sont devenus une source très importante de données, précieuse notamment pour le suivi médical, la pharmacovigilance, mais aussi pour la recherche ou les politiques de prévention ou de veille sanitaire. Toutefois, quand elles sont recueillies hors parcours de soin, la diffusion et l’utilisation de ces données portant sur des événements de leur vie réelle fragilisent la protection des patients, notamment leur droit au respect, tant d’une information loyale que des limites de leur consentement à la diffusion, à l’hébergement et à la réutilisation de ces données potentiellement relatives à la santé.

Le CCNE note enfin que les technologies reposant sur la numérisation mettent en évidence la nécessité – pour qu’un pays garde la maîtrise de sa politique de santé et de sa capacité à l’innovation scientifique et médicale– d’affronter les défis technologiques du stockage et de la sécurité, ainsi que d’assurer un haut niveau scientifique et technologique pour l’exploitation des données. (Recommandation 10)