Avec les smartphones dans nos poches et les caméras de sonnette disponibles à bas prix, notre rapport à la vidéo comme forme de preuve évolue. Nous disons souvent « des photos ou cela ne s’est pas produit ! » – mais entre-temps, il y a eu une augmentation des images problématiques, notamment les deepfakes et les systèmes de surveillance, qui renforcent souvent les préjugés sexistes et raciaux bien ancrés. Alors, que révèle réellement l’augmentation de la documentation sur nos vies ? Et qu’est-ce qui est perdu lorsque la vie privée est diminuée ?
Dans cet épisode de Comment savoir ce qui est réel, la rédactrice Megan Garber s'entretient avec Deborah Raji, une boursière de Mozilla, dont le travail est axé sur l'audit et l'évaluation algorithmiques. Dans le passé, Raji a travaillé en étroite collaboration avec l’initiative Algorithmic Justice League pour mettre en évidence les préjugés dans les produits d’IA déployés.
Écoutez l'épisode ici :
Écoutez et abonnez-vous ici : Apple Podcasts | Spotify | YouTube | Moulages de poche
Ce qui suit est une transcription de l'épisode :
Andrea Valdez : Vous savez, j'ai grandi en tant que catholique et je me souviens que l'ange gardien était une chose dont j'adorais vraiment le concept quand j'étais enfant. Mais quand je dois l’être, je ne sais pas, peut-être vers sept ou huit heures, comme si ton ange gardien te surveillait toujours. Au début, c'était un réconfort, puis cela s'est transformé en une sorte de question : est-ce qu'ils me surveillent si je me cure le nez ? Est-ce qu'ils me surveillent ?
Megan Garber : Et est-ce qu'ils veillent sur moi, ou est-ce qu'ils me surveillent juste ?
Valdez : Exactement. Genre, sont-ils mon ange gardien ou mon ange de surveillance ? Ange de surveillance.
Valdez : Je m'appelle Andrea Valdez. Je suis rédacteur chez The Atlantic.
Garber : Et je suis Megan Garber, écrivaine à The Atlantic. Et voici comment savoir ce qui est réel.
Garber : Je viens de recevoir la petite alerte la plus embarrassante de ma montre. Et cela me dit qu’il est, je cite, « il est temps de se lever ».
Valdez : Pourquoi ne nous dit-il jamais qu’il est temps de s’allonger ?
Garber : C’est vrai. Ou il est temps d'aller à la plage ou quelque chose comme ça ? Et c’est bizarre, parce que je réalise que j’éprouve des émotions extrêmement contradictoires à ce sujet. Parce que d’une certaine manière, j’apprécie ce rappel. Je suis resté assis trop longtemps ; Je devrais probablement me lever. Mais je n’aime pas non plus le sentiment d’être jugé avec désinvolture par un élément technologique.
Valdez : Non, je comprends. Je reçois également ces alertes. Je le sais très bien. Et vous savez, cela vous dit : « Lève-toi ; bougez pendant une minute. Tu peux le faire." Euh, vous savez, vous pouvez presque l'entendre dire, du genre « Bénis ton cœur ».
Garber : « Bénis ton petit cœur paresseux. » Ce qui est drôle aussi, c’est que je me trouve ennuyé, mais je reconnais aussi pleinement que je n’ai pas vraiment le droit d’être ennuyé, parce que je leur ai demandé de juger.
Valdez : Oui, définitivement. Je comprends parfaitement. Je veux dire, je suis très obsédé par les données produites par ma montre intelligente : mes pas, mes habitudes de sommeil, ma fréquence cardiaque. Vous savez, tout à ce sujet. Je suis juste obsédé par ça. Et cela me fait réfléchir : eh bien, je veux dire, avez-vous déjà entendu parler du mouvement du soi quantifié ?
Garber : Oh, ouais.
Valdez : Ouais, donc moi quantifié. C’est un terme qui a été inventé par les rédacteurs du magazine Wired vers 2007. Et l’idée était que c’était ce mouvement qui aspirait à être, entre guillemets, « la connaissance de soi à travers les chiffres ». Et je veux dire, cela vaut la peine de se rappeler ce qui s’est passé en 2007, 2008. Vous savez, je sais que cela ne semble pas il y a si longtemps, mais la technologie portable en était vraiment à ses balbutiements. Et en très peu de temps, nous sommes passés de, vous savez, notre Fitbit à, comme vous l'avez dit, Megan, cet appareil qui non seulement vous gronde de ne pas vous lever toutes les heures, mais qui suit également vos calories, les décibels. de votre environnement. Vous pouvez même faire un ECG avec. Et, vous savez, quand j’ai ma montre intelligente allumée, je suis constamment sur mes gardes. Ai-je assez marché ? Est-ce que je suis resté suffisamment debout ? Ai-je suffisamment dormi ? Et je suppose que c’est un peu une question de responsabilité, et c’est bien, mais à l’extrême, j’ai l’impression d’avoir en quelque sorte opté pour l’autosurveillance.
Garber : Oui, et j'aime cette idée en partie parce que nous pensons généralement à la surveillance du côté opposé, n'est-ce pas ? Quelque chose qui nous est fait, plutôt que quelque chose que nous faisons à nous-mêmes et pour nous-mêmes. Les montres ne sont qu’un exemple ici, n’est-ce pas ? Il y a aussi les smartphones, et il y a cet environnement technologique plus large, et tout ça. Tout cet écosystème pose en quelque sorte cette question : « Qui est vraiment surveillé ? Et puis aussi, qui regarde vraiment ?
Valdez : Mm hmm. J'ai donc parlé avec Deb Raji, informaticienne et membre de la Fondation Mozilla. Et elle est experte sur les questions liées au côté humain de la surveillance et réfléchit beaucoup à la façon dont le fait d’être surveillé affecte notre réalité.
Garber : J’aimerais commencer par l’état général de la surveillance aux États-Unis. À quoi ressemble actuellement l’infrastructure de surveillance ?...
[Courte citation de 8% de l'article original]