De l’automatisation des inégalités. Des enjeux de nos données de santé (1/2) : le risque d’un changement radical de notre système de santé. Les enjeux des données de santé sont devenus très visibles avec la crise sanitaire, expliquent Audrey Boulard (@audrey_boulard), Eugène Favier-Baron (@BaronFavier) et Simon Woillet (@SimonWoillet) dans leur livre Le business de nos données médicales : enquête sur un scandale d’État (Fyp édition, 2021).
Pour les trois coordinateurs des questions numériques du média en ligne Le vent se lève (@lvslmedia), les mobilisations récentes autour du passe sanitaire sont aussi révélatrices d’une crise de confiance à l’égard des politiques numériques de santé. Now You See It. Now You See It Anti-surveillance makeup is an individualistic fashion statement masquerading as effectual tech resistance.
L’automatisation, une idéologie ? En 2018, McKinsey a publié un épais rapport sur la révolution de l’automatisation, prédisant que les robots et l’IA allaient rendre obsolètes la plupart des travailleurs.
Mais ce n’est pas la tendance qu’on lisait dans les statistiques publiées par le ministère américain du Travail, explique l’historien Jason Resnikoff, dans les bonnes feuilles d’un livre à paraître La fin du travail : comment la promesse de l’automatisation a dégradé le travail (Labor’s End : How the Promise of Automation Degraded Work, University of Illinois Press, 2021) publiées par le magazine en ligne Zocalo. Les statistiques montraient qu’entre 2005 et 2018, alors que nous étions « à l’aube d’une nouvelle ère d’automatisation », les États-Unis ont connu une chute remarquable de la productivité du travail, avec une croissance moyenne inférieure de 60 % à la période précédente, 1998-2004. Qu’est-ce que l’informatique optimise ? En 2019, pour le magazine Commune, l’ingénieur et membre de la coalition des travailleurs de la tech (@techworkersco – voir également Collective Action In Tech et @tech_actions) Jimmy Wu (@jimmywu) revenait sur la question de l’optimisation.
Qu’est-ce que le numérique optimise ? Alors que la tech rencontre une contestation inédite, l’éthique de la technologie bénéficie d’un vif regain d’intérêt, explique Wu. Le but : apporter aux professionnels de la technologie une conscience sociale… pour redresser la crédibilité du secteur ! Une politique numérique de gauche est-elle possible ? -
Une politique du numérique « de gauche », luttant contre les inégalités sociales, la destruction des écosystèmes et évidemment contre la primauté des GAFAM est-elle possible ?
Est-ce que ça pourrait se réaliser par exemple dans un soutien public massif aux outils et services dits « libres » ? Je ne sais pas ce que serait une politique publique du numérique « libre, ouverte, juste, équitable, contributive et éthique » (pour tenter de la qualifier). Je ne sais pas non plus comment on la fait, concrètement. Je ne suis même pas sûr que ces qualificatifs soient suffisants pour changer quelque chose. Le logiciel libre et l’accès ouvert ont changé l’économie de l’informatique, mais dans quel sens ? La diffusion du logiciel libre et ouvert, n’a pas fait passer le monde de droite à gauche. Appliqué à n’importe quelle politique publique, il a pour enjeu de produire une réponse industrielle via des produits et services numériques. Oui ! Le calcul de risque, cette « révolution industrielle » de l’administration publique produite à notre insu. Avec Contrôler les assistés, genèses et usages d’un mot d’ordre (Raisons d’agir, 2021), le sociologue Vincent Dubois (@vduboisluv) signe une somme très complète et très riche de sciences sociales.Exigeante, cette longue enquête décortique les transformations du contrôle à l’égard des bénéficiaires de l’aide sociale des Caisses d’allocations familiales (CAF).
Le livre permet de prendre la mesure de l’évolution des politiques publiques et notamment, pour nous qui nous intéressons aux transformations numériques, souligne le rôle fondamental de l’intégration de la fouille de données, du croisement des fichiers et d’une rationalisation numérique qui produisent une répression plus sévère et plus forte des assistés. Vincent Dubois montre comment, depuis 2000, nous sommes passés, très progressivement, avec le numérique, à « l’âge industriel » du contrôle par un changement de méthode et de finalités. En médecine, l’IA est en plein essor, mais pas sa crédibilité. Du soin à la surveillance… Data & Society. Le “CookieWall”, solution pour continuer à tracer malgré le RGPD. Un article proposé par Karl Pineau (@KarlPineau), doctorant en sciences de l’information et de la communication et membre du collectif Les Designers Éthiques, un collectif qui promeut la conception de services numériques responsables et durables.
Vers un renouveau militant des questions technologiques ? Les chercheurs et praticiens de l’intelligence artificielle ont tendance à penser que l’IA est neutre ou bénéfique et que les problèmes qu’elle rencontre sont essentiellement liés aux données biaisées qu’elle utilise.
Ils ont du mal à prendre la mesure des inégalités que leurs travaux exploitent et reproduisent explique l’artiste et chercheuse en IA Pratyusha Kalluri (@radical_ai), dans une tribune pour Nature (@nature), fondatrice du Radical AI Network, un réseau de chercheurs qui s’intéresse à ceux qui sont marginalisés par l’IA. Définancer la technologie ? Celia Izoard: Changer de métier – Blog d'Alain Giffard. Grâce à l’association Ping, et à sa Radio Contre Temps « Contre histoire des technologies », j’ai eu le plaisir de m’entretenir avec Celia Izoard à propos de son livre « Merci de changer de métier.
Lettres aux humains qui robotisent le monde ». Il s’agissait d’un entretien téléphonique, retransmis d’abord par la radio Π Node, le 17 décembre 2020, et accessible aujourd’hui sur le site de Ping. Comment les systèmes complexes échouent-ils ? De l’automatisation des inégalités. Books – Virginia Eubanks. Automating Inequality:How High-Tech Tools Profile, Police, and Punish the Poor Available January 16, 2018.
Since the dawn of the digital age, decision-making in finance, employment, politics, health and human services has undergone revolutionary change. Today, automated systems—rather than humans—control which neighborhoods get policed, which families attain needed resources, and who is investigated for fraud. Weapons of Math Destruction. Weapons of Math Destruction is a 2016 American book about the societal impact of algorithms, written by Cathy O'Neil. It explores how some big data algorithms are increasingly used in ways that reinforce preexisting inequality.
Algorithms of Oppression. 2018 book by Safiya Umoja Noble Algorithms of Oppression: How Search Engines Reinforce Racism is a 2018 book by Safiya Umoja Noble in the fields of information science, machine learning, and human-computer interaction.[1][2][3][4] Une vidéosurveillance peut en cacher une autre. Ce serait enfoncer une porte ouverte que de dire que la vidéosurveillance est partout.
Alors que la Cour des comptes critique l’absence totale d’efficacité de ces dispositifs, celle-ci est sans cesse promue comme une solution magique à des problèmes que l’on ne veut pas regarder en face. Pourtant, derrière l’effrayante banalité de la vidéosurveillance peut se cacher l’effarante illégalité de la vidéosurveillance automatisée, ou algorithmique.
C’est l’histoire d’une banale histoire de vidéosurveillance. Internet est en nous... Mensuel N° 304 - Juin 2018 Article mis à jour le 09/05/2018 L’observation (toujours plus intrusive) des internautes est au cœur du business model des géants du Web. Il est utile de connaître quelques mécanismes de surveillance pour en déjouer quelques-uns. Dé-surveiller : peut-on contrer l’accélération technologique ? La critique de l’accélération numérique suite à la pandémie est nourrie. La crise sanitaire a certainement accéléré les inégalités. La fortune des plus riches a été accélérée par les marchés financiers, alors que de l’autre côté du spectre, la crise sanitaire a fait basculer des millions de gens dans la pauvreté. Mais ce que la crise sanitaire a plus accéléré encore, c’est bien la transformation numérique de nos existences.
Non seulement elle a rendu les technologies numériques plus fortes et puissantes que jamais, mais elle a aussi précipité toutes nos pratiques, tous nos usages dans des formes toujours plus numérisées. Depuis la crise épidémique, nous avons été sommés de télétravailler pour ceux pour lesquels cela était possible… mais également, partout, de substituer à notre présence des rapports distants, donc à utiliser des services numériques partout où cela était possible.
Le numérique pour produire une économie de la distanciation sociale ? L’illusion de l’innovation… et l’illusion de sa critique. Plus de gens semblent écrire sur les problèmes réels et potentiels des technologies, constate l’iconoclaste professeur de sciences et technologie de la Virginia Tech Lee Vinsel (@sts_news) sur son blog. Reste que parmi ces critiques, beaucoup se révèlent plus parasitaires qu’autre chose. Notamment, souligne le chercheur, ceux qui supposent que la technologie procède d’un changement extraordinaire, mais dénoncent les risques et les problèmes en appelant à les dépasser. Pour Vinsel, les trolls professionnels de la technoculture sont devenus nombreux. Une part importante de la critique technologique nourrit et se nourrit du battage médiatique. Lois souples vs algorithmes rigides. Veille M3/Collapsologie : De l’effondrisme au brutalisme, le numérique en mode dégradé. Dans Brutalisme, Achille Mbembe n’utilise pas les termes de « collapsologie », ou d’effondrement.
Les implications de ce qu’il qualifie de « combustion du monde » y sont pourtant abondamment développées. Automatisation & design - Veille Février 2021 - Les Designers Éthiques. Retrouvez chaque mois la synthèse éditorialisée de la veille collaborative de l'association Les Designers Ethiques. Cette synthèse est issue du Slack de l'association où nous partageons les informations relatives à la responsabilité dans les domaines du design, de la conception et du numérique. Ce mois-ci, nous souhaitions parler d'automatisation avec Kevin Richard, rédacteur en chef de ce numéro. Code is Law – Traduction française du célèbre article de Lawrence Lessig. Le 5 mars dernier, Tristan Nitot se pose la question suivante sur Identi.ca : « Je me demande s’il existe une version française de Code is Law, ce texte sublime de Lessig ». Études critiques du code. Un article de Wikipédia, l'encyclopédie libre. Race, intersectionnalité et études critiques du code informatique.
J’ai déjà eu l’occasion en 2015 de faire un point sur les études numériques et notamment sur plusieurs courants émergents : Software Studies, Platform Studies et Critical Studies. Chacun, à leur manière, prête une attention à la matérialité des phénomènes numériques, saisis dans leurs dimensions sociales, sémiotiques, corporelles, historiques, en posant un certain nombre de questions : comment sont élaborés les logiciels ? Comment organisent-ils les pratiques à l’écran ? La société de la prédiction en ses limites. La société des boîtes noires s’étend. Un Anti-Smartphone conçu et construit par Justine Haupt. Le téléphone rotatif numérique électronique sans fil et portable, alias « Rotary Cellphone » n’a pas d’écran tactile, de menu ou d’autres fonctionnalités superflues, tient dans la poche, reçoit et passe des appels. Au fur et à mesure que le projet avançait, Justine Haupt a trouvé un moyen de le rendre compact, de visualiser les appels manqués sur un petit écran et de s’assurer que l’appareil pouvait être démonté et réparé si nécessaire.
La société automatisée au risque de l’opacité. Lettre aux ingénieurs du véhicule autonome : « Je vous écris parce que c’est de nos vies à tous qu’il s’agit » Datassemblee. Numérique frugal. F**k the algorithm : le désarroi de la Gen Z face à Parcoursup - L'ADN. "Envoyé spécial". Ecrans : sommes-nous tous accros ? - France 2 - 10 septembre 2020 - En replay. Chine : l’intelligence artificielle, porte d’entrée de la dictature de surveillance ? Peut-on limiter l’extension de la « société de la notation » ? COVID, confinement et grande conversion numérique, avec Antonio Casilli. De l’automatisation de la précarité. La transparence a besoin de meilleurs chiens de garde. Furious blame game after 16,000 Covid cases are missed due to Excel glitch. Des effets des outils sur nos pratiques : pourquoi les médecins détestent-ils leurs ordinateurs ?
Peut-on limiter l’extension de la « société de la notation » ? Sans titre. Démanteler les infrastructures de surveillance et de discrimination massives ? Sans titre. Sans titre. Sans titre. Sans titre. De l’automatisation des inégalités. Le pylône qui valait 5 millions de dollars. Yuk Hui : « Produire des technologies alternatives » Qui est responsable quand l’automatisation défaille ?
Pourquoi la technologie ne nous a pas sauvé de la pandémie ? De la brutalité du monde : quand la technologie sert à rendre le pouvoir indestructible. Coronavirus : des robots dans les EHPAD d'Auvergne Rhône-Alpes maintiennent les liens familiaux. Le Hackacon à Paris. Datagueule saison 8 - épisode 5 en streaming sur France tv slash. Rétro-design de l’attention : c’est compliqué !
Attention et société. De l’alternumérisme : d’autres numériques sont-ils possibles ? Code is Outlaw. C'est la lutte digitale et la grève reconduc'stream. Code is Law – Traduction française du célèbre article de Lawrence Lessig. Techlash : et si le retour de bâton de la "tech" était l'occasion de formuler un projet de société en matière technologique ?
Technopolice – Villes et vies sous surveillance. Lettre commune de 80 organisations : Interdisez la reconnaissance faciale sécuritaire. Code is Outlaw. C'est la lutte digitale et la grève reconduc'stream. L'éducation de demain sera numérique: perspectives et risques. Peut-on encore vivre sans Internet ?, par Julien Brygo (Le Monde diplomatique, août 2019) Pour en finir avec le vrai-faux débat sur les "biais" de l'intelligence artificielle. La seconde vague de la responsabilité algorithmique. Espace public : Google a les moyens de tout gâcher — et pas qu’à Toronto. Peut-on modéliser la société ? Il est plus que temps que le Big data évalue ses impacts.
Poverty & Technology Lab - Stanford Center on Poverty and Inequality. De l’automatisation des inégalités. Ce que les catastrophes technologiques disent de la technologie. Design et Attention : perspectives critiques. Rétro-design de l’attention : c’est compliqué ! Le design de l’attention – Création et Automatisation.
« Years and Years » donne à voir le pire du futur pour mieux l’éviter. Sans titre. Vers des humanités numériques « critiques » [INVESTIR POUR TRANSFORMER] Découvrez les 17 lauréats du premier appel à projets du FTAP. Illectronisme: «Le nombre de personnes fragiles numériquement augmente chaque année» Classes populaires : les oubliés du numérique. It’s Time to Study AI on Its Own Terms. Révolution des transports et des communications, par Armand Mattelart (Le Monde diplomatique, 2010) EXPERIMENTA, la Biennale Arts Sciences 2018. Sans titre.
America’s Real Digital Divide. Quand la simulation numérique vient en aide aux agriculteurs. Amazon, l'Empire Invisible (2/2) - 15marches. Amazon, l'Empire Invisible (1/2) - 15marches. Automatiser les inégalités. Mediation And Information. Machines désirantes : des sexbots aux OS amoureux.