En el año 2020, organizamos en el barrio de La Noue en Bagnolet una serie de debates colectivos en torno a los datos internos. Aunque el tema puede ser técnico, muchos habitantes están interesados en estos debates. Estamos convencidos de que las cuestiones y los problemas relacionados con la recogida y la utilización de los datos personales están lejos de ser resueltos, como lo demuestra la propuesta de incluir a la sociedad civil en una autoridad de regulación específica. Por lo tanto, estas cuestiones deben seguir debatiéndose y compartiéndose.
Merci infiniment aux chercheurs Paola Tubaro (CNRS), Fabien Granjon (Paris 8) et Eric Guichard (ENSSIB) de nous avoir conseillés et soutenus dans cette initiative. Merci également au collectif BAM de nous avoir prêté main forte sur la conception et l'animation des discussions.
Vous avez dit données intimes ?
L’expression “données personnelles” est aujourd’hui consacrée dans le débat public pour se référer à toute information se rapportant à une personne physique identifiée ou identifiable (CNIL). Plutôt que de “données personnelles”, nous préférons parler de données intimes. Pourquoi ? Parce que cette expression nous semble mieux refléter le caractère potentiellement intrusif de ces données. Nous pensons par exemple aux données de géolocalisation et a fortiori aux données biométriques. Le journaliste Olivier Tesquet parle ainsi d' "informations intimes". Nous considérons également l'adjectif "personnel" comme trompeur car nous ne créons pas ces données - elles sont le fruit du travail de différentes machines et personnes - et avons relativement peu de droits personnels sur celles-ci : nous ne les possédons pas, par exemple. La chercheuse Antoinette Rouvroy réfute elle aussi le terme de "données personnelles".
Aujourd’hui, les données intimes sont utilisées dans leur grande majorité à des fins de surveillance, qu’elle soit commerciale (ciblage publicitaire) ou étatique (maintien de l’ordre public, lutte contre la fraude...). La question de l’opportunité d’utiliser les données intimes pour contribuer au bien commun n’est pas traitée. Cela est-il possible et souhaitable ? A quelles conditions et dans quel périmètre ? Ces questions ont trouvé une résonance certaine lors des débats autour de l’opportunité de déployer StopCovid : dans quelle mesure les motifs de santé publique justifient-ils l'utilisation de données personnelles sensibles (géolocalisation, activité du téléphone, etc.) ? C’est à ces questions que nous voulons répondre avec le dispositif de recherche-action Data, ouvre-toi. Comment ? En initiant des discussions, questionnements et propositions citoyennes à ce sujet.
Les données intimes en bref
Dans quels cas sont-elles utilisées et à quelles fins ?
A Nice, un dispositif de reconnaissance faciale est testé lors d’une manifestation. Au Royaume-Uni, la reconnaissance émotionnelle est utilisée lors d’entretiens d’embauche. En Chine, la récolte de données contribue à alimenter un système de crédit social. Aux Etats-Unis, un algorithme prédictif est utilisé pour faciliter le travail des juges. Les capacités de collecte, de croisement et d’analyse des données se multiplient et se banalisent.
Quels enjeux éthiques ?
Des chercheurs dénoncent l’enfermement induit par le profilage et les algorithmes prédictifs, ainsi que les logiques d’individualisation qui ne permettent pas de réflexivité critique. D’autres révèlent les biais discriminatoires imbriqués dans la collecte des données et leur utilisation algorithmique.
Quelle prise en compte dans le débat public ?
Les débats relatifs aux enjeux éthiques des données sont majoritairement techniques ou juridiques, laissant peu de place pour des discussions véritablement citoyennes. La dimension politique de ce sujet est souvent éludée : la question des modalités de collecte et d’utilisation des données intimes est davantage abordée que celle des finalités et de l’utilité mêmes de celles-ci. Quand il s’agit de données intimes, l’horizon du faisable semble se substituer à l’horizon du souhaitable, et semble constituer l’une des seules boussoles valables.
Expérimenter une démarche participative et citoyenne
Afin de tester nos premières hypothèses, nous avons réalisé un premier prototype de cette recherche-action Data, ouvre-toi. L’objectif ? Evaluer d’une part l’intérêt des habitants d’un quartier pour la question des données intimes - sujet a priori technique - et, d’autre part, le potentiel politique de ces questions, c’est-à-dire leur capacité à dépasser le statut de choix individuel et devenir l’objet de discussions collectives et politiques.
Nous avons testé ce premier prototype en juillet 2020 au centre socioculturel Guy Toffoletti à Bagnolet. Au total, nous avons animé deux discussions avec un groupe de jeunes et quatre discussions auprès de différents adultes. Pour ces discussions, nous avons toujours suivi le même principe :
- Un premier temps d’explications et de sensibilisations aux données intimes : que sont-elles ? qui les collecte ? pour quoi faire ?
- Un second temps de discussion sur les utilisations possibles et souhaitables (et non souhaitables) de ces données intimes.
Pour le premier temps d’explication et de sensibilisation nous avons privilégié une approche :
- partant du quotidien de nos interlocuteurs, et notamment des sites ou applications qu’ils consultent fréquemment : Youtube et recherches Google pour les jeunes, Facebook pour les adultes. Nous nous sommes ainsi focalisés sur trois types de données : données de géolocalisation, likes et photos.
- qui rende tangible les données intimes. Pour cela, nous nous sommes inspirés d’un atelier mis au point par Nothing to Hide permettant de voir concrètement les données de géolocalisation ou de navigation collectées par Google ou Facebook sur soi-même, sous la forme de cartes ou de tableaux de bord.
Pour le second temps de discussion collective, nous avons élaboré, en collaboration avec le collectif BAM, une méthode originale :
- Inspirée du design fiction, elle permet d’élaborer des scénarios concrets d’utilisation des données intimes dans différents contextes (santé, éducation, ville…) et mobilisant différents acteurs (administration, police, élus, voisins, parents…)
- Participative, donnant l’opportunité à chaque personne de se prononcer sur tel ou tel scénario, de façon à susciter une discussion collective
Les données intimes, un champ à investiguer
Cette première expérimentation fut riche d'enseignements.
- Beaucoup de curieux.ses, et notamment des mères
Il n’a pas été facile de mobiliser sur les temps de discussion que nous avons proposés. Malgré une campagne d'envoi de mails et des affiches, ainsi que le bouche à oreille des équipes du centre socioculturel, nous avons discuté avec une seule personne le premier jour.
Le deuxième jour, nous décidons de nous mettre en plein milieu du Centre social au lieu d'une salle plus calme à l'écart. Nous prenons le risque d'être dérangés par le bruit, mais nous misons sur le fait d'être beaucoup plus visibles des mères de famille qui venaient inscrire leurs enfants à une sortie à la mer. Et en effet, nous avons réussi à attirer l'attention d'une quinzaine de personnes (principalement des mamans). Une fois prises dans les échanges, ces mamans se sont révélées très intéressées et curieuses. Les questions fusaient: “Mon téléphone écoute-t-il mes conversations ?”, "Quels réels contre pouvoirs ?", "Que sont les cookies ; qui prend nos données ?". Preuve de l’intérêt de ces femmes et de ces hommes, une fois inscrites à la sortie mer, elles reviennent discuter des données intimes avec nous… jusqu’à 21h ! Mieux, elles reviennent le troisième et le quatrième jour, pour toujours mieux comprendre ce que sont le cookies et les données, qui les collecte à quelles fins.
- Une marche à franchir entre acculturation et discussion politique
L’intérêt des personnes avec qui nous avons discuté était unanime. Pourtant, nous avons eu du mal à amener les participant.e.s à avoir des discussions plus collectives et politiques sur le sujet. Nous avons compris que les besoins en formation et acculturation étaient grands, et qu’il fallait du temps avant de pouvoir prendre de la hauteur sur ces questions de collecte et d’utilisation des données intimes. Nous en ressortons convaincus qu’il s’agit d’amener les personnes à bien comprendre ce qui se joue aujourd’hui avec leurs données intimes, avant de discuter de l’horizon du souhaitable quant aux pratiques de collecte et d’utilisation de celles-ci.
- Des sensiblités politiques à explorer
Cela dit, nous avons aussi entendu certaines remarques, ici et là, qui nous confortent dans l’idée que le sujet des données intimes est un sujet hautement citoyen et politique. Oui, la majeure partie des citoyens peut en discuter et émettre des avis quant au caractère (non) souhaitable de leur collecte et utilisation. De ces jeunes qui disent que leurs professeurs ont droit à une vie privée à cette maman qui refuse l’éventualité de tracer son enfant, en passant par ces deux sœurs qui voient pour chaque utilisation des données une alternative non invasive - une enquête sur les pratiques de mobilité en porte à porte plutôt que le traçage systématique de nos déplacements, par exemple. Deux propositions ont même émergé : "Et si à l'échelle du quartier, on pouvait avoir un serveur et un cloud ?", "Il faudrait une autorité de régulation avec la société civile !"**
En réalisant ce prototype à Bagnolet, nous avons pu objectiver l’intérêt et la curiosité des personnes pour ce sujet des données intimes. Nous avons également senti, par endroits, le potentiel politique de ce sujet. Nous voulons donc poursuivre notre démarche pour étayer davantage nos observations. Notre objectif reste le même : initier des discussions, questionnements et propositions citoyennes sur la collecte et l’utilisation des données intimes - et montrer que cela fonctionne !
Si vous êtes intéressé par cette démarche, ou si vous souhaitez y contribuer, n’hésitez pas à contacter Solène.
Lire la note d'enjeux "Données et surveillance"
Découvrir le livret des discussions réalisées à Bagnolet