Vraiment pour moi, cet article est une merveille. J'y retrouve beaucoup des thèmes que j'ai évoqués ici au sujet de l'écomodernisme mais dans cette interview, on y trouve des exemples concrets, vécus par une personne qui y a cru et qui en est sorti. Qui en est sorti pour se servir de ces compétences dans une lutte indispensable. 

Remarquable. 

« Pour constater que l’Intelligence Artificielle est très dangereuse, il suffit de regarder dans le passé »

En 2019 et 2020, on a été amené à entrainer des modèles de détection d'occupation illégales des sols à partir d'images satellites pour des collectivités territoriales puis l’État. Ce qui pourrait typiquement servir à détecter et traquer par exemple des ZAD pour les évacuer... Entre la surveillance et la rationalisation j'ai perdu la foi dans l'utilisation de mes connaissances scientifiques pour l'amélioration des services publics. On peut penser que cela concerne des politiques récentes, la vérité c'est qu’on utilise rarement la technique pour faire plaisir au « bas peuple ».

7 avril 2021 - Matthieu Delaunay

Envie d’une vraie déconnexion ? Évadez-vous avec notre bande dessinée !

- Thème : effondrement de la société, abordé de manière douce et positive
- Format : 128 pages
- Impression : France
 

Commander

Après 3 ans de missions dans l’énergie et le secteur public, Romain Boucher, ingénieur, mathématicien et statisticien a démissionné de son poste très bien rémunéré de Data Scientist dans une entreprise de conseil, pour alerter sur les ravages écologiques et sociaux des nouvelles technologies et de l’intelligence artificielle. Diplômé de l’École des Mines et d’un master en maths appliquées et statistiques, il est devenu membre de la jeune association « Vous n’êtes pas seuls » afin d’accompagner les lanceurs d’alerte et prévenir la population sur la façon dont la technologie est utilisée pour traquer les citoyens et réduire les moyens du Service public. Aujourd’hui, il nous explique son parcours, de la fast Track du Consulting for good aux potagers corses. Propos recueillis par Matthieu Delaunay.

LR&LP : Qu’est-ce qui vous a amené à exercer le métier de data scientist, « job le plus sexy du 21ème siècle » d’après l’illustre Harvard Business Review ?

Comme j’étais bon étudiant en mathématiques, après une classe préparatoire à Louis le Grand, je suis rentré à l’école des Mines de Saint-Étienne où j’ai fait une spécialisation en maths appliquées et en statistiques et sciences des données. Toutes les branches de l’industrie sont de plus en plus demandeuses de data scientists pour implémenter des modèles statistiques et rationaliser.

J’étais emballé par cette possibilité d’utiliser les maths pour prévoir ce qui va se passer dans l’avenir, détecter automatiquement des évènements etc. Pour un étudiant qui a toujours vu les maths de façon abstraite, lui dire que son métier sera utile pour améliorer des choses dans le secteur public, servir l’intérêt général et autre, c’est séduisant.

Ce mythe était déjà bien installé à mon arrivée en école d’ingénieur et je n’avais pas le recul que j’ai aujourd’hui sur la publicité qui est faite autour de la réappropriation de la technique. Après un Master pour approfondir le côté maths et statistiques dont je suis sorti en 2017, j’ai foncé vers le métier de consultant, comme beaucoup d’autres étudiants avec moi.

Romain Boucher

LR&LP : Qui recrute des ingénieurs mathématiciens et statisticiens ?

Je ne voulais pas m’enfermer dans un secteur en particulier, ni aller dans un grand groupe, ni faire de l’argent dans la finance ou l’assurance qui proposent des salaires exorbitants en 3-4 ans.

Je voulais faire des choses techniquement satisfaisantes et qui amélioraient les transports, la santé, le monde de l’énergie via les smart grids (réseau électrique intelligent pour améliorer la consommation et la production électrique, ndlr) …

Je suis donc allé chez Sia Partners, un cabinet de conseil à l’organisation matricielle comprenant différentes unités de compétences avec parmi elles des consultants data scientists. Après 18 mois dans l’énergie et la distribution d’électricité, je me suis tourné vers l’administration publique qui commençait à lancer des appels d’offres très techniques pour mettre en place des modèles écologiques, de transport, de détection des fraudes, etc.

En quelques mois, je suis devenu un des responsables pour répondre aux appels d’offres de data sciences dans le secteur public et mener à bien les missions gagnées. Techniquement, c’était à la pointe, donc c’était très satisfaisant. Nous travaillions à « l’état de l’art », c’est-à-dire qu’on utilisait les modèles les plus performants d’après le consensus scientifique.

LR&LP : Qui vous fournit ces modèles ? Pouvez-vous nous dire un mot sur votre métier ?

Un consultant data scientist passe 50 % de son temps à « mettre les mains » dans le code et l’autre 50 % à l’expliquer au client. Pour résumer : tous les mois, un nouveau modèle est mis au point par la recherche, publique ou privée.

Le data scientist a pour rôle de faire de la veille sur ces nouveaux modèles établis par la recherche, notamment par les GAFAM (Google, Apple, Facebook, Apple, Microsoft, ndlr). Ensuite, il décortique ces modèles dont il utilise le canevas.

Une fois le modèle choisi et agencé, il récupère les données du client, les nettoie, les traite et les utilise pour ré-entrainer le modèle. Si le modèle du client est de détecter des chats siamois en France alors que le modèle de Google que le consultant a identifié a été entrainé pour détecter des rottweilers aux États-Unis, il va falloir le refaçonner.

LR&LP : Donc vous voilà un ingénieur heureux, qui fait des choses très gratifiantes intellectuellement, mais aussi financièrement. Quels sont les salaires dans ce milieu ?

C’est très bien payé. Je suis rentré à 44 000 € la première année et au bout de trois ans je gagnais 60 000 €. Dans la finance, au bout de trois ou quatre ans, un analyste quantitatif peut même toucher jusqu’à 200 000 € par an.

LR&LP : Que s’est-il passé ensuite ?

J’ai réalisé différentes missions passionnantes intellectuellement. Pour le compte de la DGCCRF (Direction générale de la Concurrence, de la Consommation et de la Répression des fraudes, NDLR). Nous avons élaboré un modèle de détection des faux avis sur le web.

Je pensais que la DGCCRF avait l’objectif de montrer que les GAFAM ne faisaient pas bien leur travail de surveillance afin de leur infliger une amende, mais non : c’était simplement pour dire qu’ils faisaient de la détection de fraude.

Au bout d’un moment on se rend compte que les types de mission qui reviennent sont des missions de surveillance et de rationalisation d’effectifs.

Pour l’Agence française de la biodiversité, dont une des fonctions est de contrôler les cours d’eaux, 2 000 agents sont sur le terrain pour faire des contrôles. Comme l’Agence trouvait que, 2 000, c’était trop, elle a lancé un appel d’offre pour un modèle statistique destiné à mieux cibler ces contrôles.

Le modèle n’était pas là pour dépolluer plus ou éviter des pollutions, il avait juste vocation à rationaliser l’effectif ! L’objectif n’était pas de trouver plus de pollution, mais autant, avec moins d’inspections !

Ma conscience commençait à s’éveiller. Même quand on pense mettre la technique au profit de ce qui nous tient à cœur, on voit que, derrière, se cache souvent quelque chose d’ignoble. Et ça se répète. La moitié des missions sont à l’avenant.

La plus technique que j’ai faite était pour un organisme de la Sécurité sociale qui a des téléconseillers qui répondent tous les jours au téléphone à des associations. La Sécurité sociale souhaitait qu’on entraine leur propre modèle de reconnaissance vocale et de compréhension des intentions au téléphone.

En d’autres termes, concevoir un robot qui répondra aux questions de bénévoles, souvent âgés, qui appellent pour demander une aide ou un renseignement. On nous a demandé de tout faire en open source, donc c’était très technique et intéressant.

On a réussi, et avons créé ce robot répondant aux questions les plus récurrentes pour soulager les pics d’appels de janvier et septembre pendant lesquels la Sécurité sociale faisait habituellement appel à des CDD de 3 mois.

LR&LP : Est-ce que vos missions coûtent cher ?

De façon générale, un consultant coûte environ 1000 € la journée. Pour le secteur public, les missions sont peu chères, mais pour les cabinets qui les réalisent, c’est une image de marque incroyable. Donc indirectement c’est très rentable.

Nous ne sommes pas dans les ordres de grandeurs scandaleux de missions comme celle de McKinsey qui a organisé la campagne de vaccination. Les enveloppes excédant rarement 100 000 €, c’est vite rentable pour l’Administration publique. La Direction de la Transformation Publique fait des appels à projets dans de nombreuses administrations, qui en retour proposent des idées, que la Direction sélectionne ou pas.

Globalement, ce sont souvent les projets de rationalisation qui sont retenus et financés, ce qui permet de préparer le terrain des coupes budgétaires. Techniquement, c’est passionnant, et j’étais bluffé de ce qu’on arrivait à faire, mais en voyant le résultat on se rend compte que ça supprime avant tout les moyens du Service public.

On nous demandait de réaliser de belles présentations pour montrer à la Transformation publique combien on économisait. La logique d’amélioration du service public n’existait plus.

Et puis, en 2019 et 2020, on a été amené à entrainer des modèles de détection d’occupation illégales des sols à partir d’images satellites pour des collectivités territoriales puis l’État. Ce qui pourrait typiquement servir à détecter et traquer par exemple des ZAD pour les évacuer… 

Entre la surveillance et la rationalisation j’ai perdu la foi dans l’utilisation de mes connaissances scientifiques pour l’amélioration des services publics. On peut penser que cela concerne des politiques récentes, la vérité c’est qu’on utilise rarement la technique pour faire plaisir au « bas peuple ».

LR&LP : Et puis vous vous retrouvez en septembre 2019, sur une île de Venise privatisée pour un séminaire qui regroupe tous les consultants du monde. Là on vous fait une annonce importante…

Ça a été la goutte de trop. Le PDG, Matthieu Courtecuisse, libéral jusqu’au bout des ongles, nous a annoncé qu’après avoir pensé uniquement au profit pendant 20 ans, l’heure était venue d’avoir un but et une nouvelle campagne marketing autour du concept du Consulting for good.

1 500 personnes sortent enthousiasmées de ce séminaire, ravis à l’idée de faire du green washing. Je me doute que ça va être du vent jusqu’à ce qu’on trouve de quoi remplir cette coquille vide, mais au bout de quatre mois, il n’y avait toujours rien. Pourtant les signatures, la charte graphique et les présentations avaient été modifiées pour valoriser cette nouvelle démarche. J’étais sidéré.

Des collègues commençaient à être convaincus eux même : « De l’argent va pouvoir se faire sur la transition écologique, il va nous falloir prendre une part du gâteau, autant que ce soit nous plutôt que les autres… »

À cette époque, je travaillais beaucoup avec le Directeur général adjoint, David Martineau, et ne manquais pas de lui parler de mes doutes. Il me répondait : « Je sais qu’il n’y a rien, mais on a besoin de gens comme toi, rebelles et proactifs, pour que cette démarche porte ses fruits. ».

Concrètement, Consulting for good, c’est faire des bilans carbones, pousser le chemin vers l’hydrogène et les voitures électriques, un point c’est tout. Donc rien de radical pour lutter contre la crise écologique ! Quelques-uns se sont fait avoir, la plupart sont partis en silence.

An open pit lithium mine – Credit: UNC Chapel Hill

Lire aussi : Le plus vieux désert du monde meurt pour les batteries de nos voitures « vertes »

LR&LP : Vous décidez de partir en alertant davantage, c’est d’ailleurs l’objet du rapport que vous rendez public.

Je ne voulais pas rester plus de trois ans, sinon la machine aurait été inarrêtable. Très vite on peut gagner 100 000 € et ne plus toucher le sol. J’avais beaucoup d’argent de côté et aucune raison d’en vouloir plus.

Je voulais écrire une longue lettre à tous les gens de Sia Partners pour qu’ils comprennent pourquoi ce départ, assez inopiné pour quelqu’un en fast track, sur la voie royale pour monter très haut, très vite.

Quand, en janvier 2020, j’ai annoncé ma démission à David Martineau, celui-ci a d’ailleurs cru à une plaisanterie, ne voulant pas y croire. Et puis, on a parlé de l’hypocrisie du consulting for good et du fait que je ne voulais plus être en désaccord avec mes valeurs.

Je n’ai finalement pas écrit cette lettre, car le temps m’a manqué avant de quitter mon poste en mars, mais me suis remis à lire beaucoup et ce projet de lettre est devenu un début de rapport.

J’en ai achevé la rédaction fin 2020, après avoir pris quelques mois de vacances et passé notamment plusieurs semaines en Corse dans une ferme pour mettre les mains dans la terre. J’ai découvert là un autre rythme de vie qui m’a fait beaucoup de bien.

LR&LP : Comment expliquez-vous la fascination qu’exerce vos métiers, la technique et la technologie sur le public en général ?

Qui est encore fasciné et qui commence à ne plus l’être ? Les gens d’une vingtaine d’années qui se posent des questions sur ce qui se passe sur le plan écologique commencent à comprendre que le confort ne va pas aller en s’augmentant.

Quant à ceux qui ne sont pas politisés, ils vont le devenir par la force des choses. Pour répondre à votre question, il y a ce matraquage depuis l’enfance, cette propagande qui nous dit que « le progrès, c’est bon parce que ça permet de lutter contre la mort ».

C’est l’argument numéro 1 qui ne remet jamais en question ce que le progrès technique génère comme syndromes, comme maladies de civilisation (cancer, stress et dépression, pollution). On dit toujours qu’avec le Progrès, on sauve plus de vies qu’on en supprime, comme Amazon qui est supposé créer plus d’emplois qu’il n’en détruit. Sauf qu’il faudrait commencer par mesurer tout ça !

Cette propagande marche bien, tout simplement parce qu’elle est au service des intérêts financiers. Même par rapport aux enjeux écologiques, on arrive à faire passer le message que c’est avec plus de technologie qu’on va résoudre le problème.

Les puissances d’argent n’ont donc aucun souci à se faire ! Sauf que cet horizon dessiné par la technique se fissure lentement. Les 15-20-25 ans commencent à le comprendre.

LR&LP : Vous semblez très optimiste sur cette politisation des masses.

Il faut qu’il y ait des conséquences concrètes sur la vie des gens pour que cette politisation accélérée se produise. Or, je pense que c’est ce qui va arriver. On le voit au niveau mondial : il y a rarement eu autant d’insurrections simultanément, je pense par exemple aux mouvements sociaux actuels en Inde, dont l’ampleur semble inégalée.

En France, beaucoup d’étudiant.es n’ont plus à manger, et ne peuvent pas retrouver de travail. Certain.es se jettent par les fenêtres… Ce qu’on vit est impensable ! Dès qu’il y aura de nouveau des espaces de régénérescence de la puissance collective, cette bouffée d’oxygène que le gouvernement fait en sorte de retarder au maximum, les gens vont se politiser.

La crise actuelle va laisser évidemment des séquelles. L’espoir, il n’y a guère de raisons d’en avoir sur quoi que ce soit. Je pense que nous sommes de plus en plus nombreux à avoir conscience que ce qui est arrivé avec le COVID-19 n’est pas grand-chose par rapport à ce qui aurait pu se passer, et ce qui risque de se passer dans un avenir proche.

La tournure que prennent les choses sur le plan sécuritaire et autoritaire n’est pas réjouissante. Et puis avec les élections qui vont arriver en 2022 en France, le gouvernement a tout intérêt à garder « ça » le plus calme possible, même si ça va être très difficile pour lui.

Pour revenir sur la politisation accélérée, l’exemple des Gilets Jaunes a été ahurissant. Voilà des centaines de milliers de personnes désabusées qui ont en quelques semaines, pris à bras-le corps leur destin politique.

LR&LP : Puisque vous parlez politique, pensez-vous que le monde politique et scientifique soit volontairement aveugle ?

Pour les scientifiques, je pense que c’est partagé car j’en ai vu de différentes sortes. Ce qui est sûr, c’est qu’on peut arriver à haut niveau sans nécessairement remettre les méfaits de la technique en question.

Des pontes de l’IA dans les instituts de recherches sont convaincus de l’intérêt qu’elle représente. Sont-ce des partisans du Trans humanisme ou du progrès technique à l’infini pour autant, je ne le pense pas. Ils ne prennent pas de recul car ils sont les meilleurs dans ce qu’ils font et donc n’ont pas besoin de remettre ça en question.

Pour les responsables politiques, je pense que cette cécité est volontaire. Ils savent ce qui se passe depuis des années.

Emmanuel Macron qui dit qu’on a besoin « de jeunes qui veulent devenir milliardaires », sert tout ce qui a de plus capitaliste dans l’État. C’est ce qui lui a permis d’arriver là où il est semble-t-il.

Est-ce que, quand il se couche, il se dit que le projet de croissance verte est une belle manœuvre ou en est-il convaincu ? Au fond, la différence importe peu puisque les faits, dramatiques, sont là.

LR&LP : Peut-on réellement changer le système de l’intérieur ?

Il y a ce discours récurrent, et que j’ai pu tenir un temps : « Si je n’y vais pas, quelqu’un d’autre va y aller, et je sais que je vais faire mieux car, moi, je suis de gauche ». Je me suis confronté aux limites du réel, et ce que j’essaie de dire dans ce rapport c’est que, malgré toute la bonne volonté qu’on y met, structurellement, ça ne changera pas.

Ce n’est ni un problème d’idées ni d’individus, puisqu’il y a des limites structurelles à ce qu’on peut faire à l’intérieur d’un système comme le capitalisme.

Je n’ai pas eu la démarche de faire monter le rapport en interne (contrairement à Jérémy Désir qui a démissionné de HSBC) parce que je voulais démissionner rapidement et aussi parce que Sia Partners n’est pas une entreprise d’importance systémique qu’il faut absolument pointer du doigt, même si elle grossit de plus en plus.

Ce que je montre, c’est l’envers du solutionnisme technologique et le fonctionnement des cabinets de conseil. Dans les deux cas, nous voulions montrer que ce n’est pas en restant indéfiniment à son poste qu’on peut faire changer les choses.

Lire aussi : « La démission publique d’un cadre d’HSBC expliquée dans une lettre ouverte à l’humanité »

LR&LP : Puisqu’on ne peut rester à l’intérieur pour avoir une vie décente et changer le système, et que dehors le chômage gronde, que fait-on ?

Il y a l’association VPNS, Vous n’êtes pas seul (rires, ndlr) ! Plus prosaïquement, on peut aussi trainer des pieds et garder son salaire sans travailler. Ce n’est pas facile à faire mais c’est possible. Un ami l’a fait dans une grande banque et a négocié finalement une rupture conventionnelle.

Chez VNPS nous souhaitons utiliser la situation professionnelle d’une personne, qui pensait pouvoir changer le système mais qui s’est heurtée à un plafond de verre, pour lui dire de faire imploser les choses par une démarche de lanceur d’alerte.

Pour l’heure, nous touchons des salariés de grands groupes, des consultants comme des personnes en ONG. Si demain quelqu’un nous contacte parce qu’il travaille dans une usine de LBD, on va réfléchir à ce qui peut être fait sans mettre la personne en danger.

Mais on ne va pas se battre qu’avec des idées, il nous faut passer à des stratégies structurelles plus importantes. Je ne crois pas non plus qu’il faille sortir du système pour le détruire. À mon sens, il faut rester dans l’adhérence pour attirer des éléments du système et construire des choses qui vont le corroder. 

La question qui se pose, c’est combien de personnes, et comment ? Nous poussons un mode d’organisation basé sur l’« archipélisation », comptant sur l’entraide pour faire avancer les luttes que nous portons avec nos proches. On réfléchit en faisant et on fait en réfléchissant. La question d’échelle sera fondamentale.

LR&LP : 1,4 milliards de smartphones sont vendus chaque année. Que dire à une personne qui pense, et je caricature volontairement, qu’on va planter des arbres grâce à des applis ?

Puisqu’on les gave avec la « décarbonation » et « la lutte contre le réchauffement », notions parfaitement intégrées dans la démarche néolibérale, les gens n’ont pas conscience que les ravages écologiques sont déjà derrière nous.

En intégrant ça, on comprend que ces catastrophes sont concomitantes avec l’essor des sociétés industrielles et la complexification des sociétés dites développées. On a beau dire que la technique nous fait vivre un peu plus longtemps en bonne santé, on ne se penche pas sur les conséquences que cette technique et cette technologie produisent au niveau écologique.

L’artificialisation des sols, l’extractivisme, l’exploitation du vivant et des populations humaines n’ont été possibles que par une chose : le développement et l’utilisation de la technique.

Nous avons construit des sociétés hiérarchisées, verticales et complexes techniquement. On n’a plus besoin de la prospective pour dire que la technologie, l’Intelligence Artificielle, tout cela est très dangereux : il suffit juste de regarder dans le passé. Tout simplement.

LR&LP : Comment démystifier les promesses technologiques, par exemple sur le volet médical, agricole et en termes de transport ?

On nous dit que la médecine nous permet de vivre un peu mieux, un peu plus longtemps. Mais vivons-nous plus heureux ? La question mérite d’être posée. Il y a 10 000 ans, il y avait certes beaucoup de mort-nés, mais ceux qui survivaient à la deuxième année vivaient au-delà de 60 ans d’après les récentes recherches anthropologiques.

Ils avaient sans doute moins de culture et de bijoux technologiques mais n’ont pas développé d’outils leur permettant de détruire le vivant comme nous le faisons. Je suis convaincu qu’il y a davantage d’entraide que de compétition pour la survie de l’espèce. C’est d’ailleurs tout l’objet du livre de Pierre Kropotkine.

Sur un plan agricole, avec l’IA, les OGM ou autre, le fantasme de faire émerger une technologie qui nous permettra de toujours trouver des moyens de nous alimenter, passe moins bien il me semble.

Alors bien sûr, une start up qui fait des steaks d’insectes, a levé 300 millions d’euros récemment. Les gens sont contents, puisque ça va rapporter beaucoup d’argent, mais ça ne me semble pas toucher la personne moyenne qui volontairement choisirait de s’alimenter avec des produits ultra transformés et technicisés plutôt que naturels.

Et puis il y a le forçage génétique, qui est le fait d’imposer des gênes dominantes chez certaines espèces de butineurs et autres, mais dont les gens ignorent tout, alors que cela me paraît effrayant.

Lire aussi : La technologie de l’extinction : le forçage génétique

On ne fera pas mieux que ce qui existe déjà. Le vivant a des centaines de millions d’années d’évolution. Un système ultra rationalisé balisé par l’être humain ne pourra le dépasser.

Quant à l’argument des 8 milliards d’humains qui ne peuvent être nourris que grâce aux OGM, à l’IA et au forçage génétique, même si nous sommes une espèce extrêmement invasive – avec quelques-uns plus destructeurs que d’autres -, il est aujourd’hui reconnu qu’une agriculture raisonnée permettrait de nourrir ces personnes.

On nous promet une agriculture 4.0 avec des drones pour nous dire où arroser, récolter ou soigner, mais la plus efficace, c’est la plus petite parcelle sans monoculture et qui se rapproche le plus du milieu naturel.

Lire aussi : « On n’arrivera pas à éradiquer la faim dans le monde si on ne prend pas la crise climatique au sérieux. »

Enfin, concernant le transports et l’énergie, quelle est la question ? Est-ce qu’on a envie de continuer à se déplacer autant ? D’avoir des avions, des TGV, d’aller à l’autre bout du monde en aussi peu de temps ?

Les gens vont sans doute dire oui, parce que ça aura fait partie du confort qu’on aura eu pendant une brève période de l’humanité, de la même façon qu’avoir accès à internet a été fabuleux.

Mais je crois qu’il faut se rendre compte que certaines choses ne sont pas durables et qu’il vaut mieux réagir maintenant. Sinon, je pense envisageable que cette prise de conscience se fasse suite à des drames humains indicibles.

La période me semble donc propice pour tirer à l’échelle locale les conséquences d’une fausse croyance : celle d’avoir cru pendant des siècles que le temps, c’était la technique.

Propos recueillis par Matthieu Delaunay. Journaliste, auteur, voyageur au long cours, Matthieu Delaunay contribue régulièrement à La Relève et La Peste à travers des entretiens passionnants, vous pourrez le retrouver ici.

7 avril 2021 - Matthieu Delaunay