Cathy O'Neil

Catherine (« Cathy ») Helen O'Neil est une mathématicienne, « data scientist » et militante américaine, vivant à New York.
Elle est militante au sein du mouvement citoyen Occupy Wall Street.
Elle met en garde contre les dangers et les impacts des algorithmes comme outils de domination sociale, aussi bien par les pouvoirs publics, dans les domaines de la justice, l’éducation, l’accès à l’emploi ou au crédit, que par les géants du Net à travers la collecte, l'utilisation, voire le commerce des données personnelles.

Ancienne analyste à Wall Street devenue une figure majeure de la lutte contre les dérives des algorithmes, Cathy O’Neil dévoile ces « armes de destruction mathématiques » qui se développent grâce à l’ultra-connexion.

Cathy O'Neil, la mathématicienne qui a brisé le code du silence de la Silicon Valley pour révéler la face cachée et discriminatoire des algorithmes de notre quotidien.

Cathy O'Neil : La vigie des algorithmes et de la justice des données.

Cathy O’Neil est une mathématicienne, data scientist et autrice américaine. Diplômée de l'Université Harvard et ancienne chercheuse au MIT, elle a connu une trajectoire spectaculaire : d'abord universitaire d'élite, puis analyste quantitative (quant) dans un puissant fonds d'investissement à Wall Street, elle a démissionné pour devenir une militante citoyenne majeure. Elle est aujourd'hui la figure de proue mondiale de l'éthique des données et de la lutte contre les dérives du Big Data.

Ses Idées Fortes
Le travail de Cathy O'Neil est une entreprise de démystification de la tech. Elle dénonce l'utilisation des mathématiques comme une arme politique invisible.

Les "Armes de Destruction Mathématique" (WMD) : C'est son concept phare. Les algorithmes prédictifs utilisés pour le recrutement, l'octroi de crédits, l'évaluation des enseignants ou la justice ne sont ni neutres ni objectifs. Ce sont des formules opaques, secrètes et indiscutables qui évaluent les humains à grande échelle.

La reproduction et l'amplification des biais humains : O'Neil démontre qu'un algorithme ne prédit pas le futur, il codifie le passé. Si les données du passé contiennent des préjugés racistes, sexistes ou classistes, l'algorithme va les automatiser et les amplifier sous un vernis de "scientificité incontestable".

La boucle de rétroaction négative : Elle dénonce des systèmes qui punissent les pauvres et privilégient les riches. Par exemple, un algorithme de police prédictive envoie plus de patrouilles dans les quartiers pauvres, ce qui mène à plus d'arrestations, ce qui alimente à son tour l'algorithme pour dire que ce quartier est dangereux.

La manipulation de la honte : Plus récemment, elle a théorisé la manière dont les réseaux sociaux et l'économie de l'attention exploitent la honte industrielle (liée au corps, à la pauvreté, à l'échec) pour maximiser les profits des plateformes numériques.

Œuvres et Publications Majeures
Ses livres ont agi comme de véritables électrochocs dans le monde de la tech et de la politique.

Weapons of Math Destruction (2016) / Publié en français sous le titre Algorithmes : la bombe à retardement : Best-seller mondial nommé pour le National Book Award. Ce livre est le manifeste fondateur de la critique citoyenne des algorithmes. Il a redéfini le débat public autour de l'intelligence artificielle.

The Shame Machine: Who Profits in the New Age of Humiliation (2022) : Une analyse percutante sur la manière dont les algorithmes des réseaux sociaux industrialisent la honte et l'exclusion pour générer des clics et de l'argent.

Doing Data Science (2013) : Co-écrit avec Rachel Schutt, ce livre plus technique reste une référence académique sur la manière d'enseigner et de pratiquer la science des données de façon rigoureuse.

Son blog mathbabe.org : Lancé au début des années 2010, ce blog est devenu l'agora de référence pour les codeurs et citoyens souhaitant décortiquer l'éthique des systèmes de notation quantitatifs.

Réalisations et Impact Réel
Cathy O'Neil a réussi le pari de faire de l'éthique des données une pratique concrète et réglementée.

La création d'ORCAA : Constatant que personne ne contrôlait les algorithmes des multinationales, elle a fondé O'Neil Risk Consulting & Algorithmic Auditing (ORCAA). C'est l'une des toutes premières entreprises au monde spécialisée dans l'audit des algorithmes, forçant les entreprises et les gouvernements à vérifier si leurs outils respectent la loi et les droits humains.

L'engagement avec Occupy Wall Street : Dégoûtée par le cynisme de la crise financière de 2008, elle a mis ses compétences mathématiques au service du mouvement Occupy, notamment en animant le groupe de travail "Alternative Banking" pour imaginer un système financier plus juste.

Influence législative mondiale : Ses travaux ont directement inspiré les législateurs américains et européens (notamment lors des travaux sur l'AI Act en Europe) pour imposer une obligation de transparence et d'auditabilité sur les intelligences artificielles dites "à haut risque".