L’IA et la restructuration du capital à l’échelle mondiale par Denis Collin

Le livre de Casalli est centré sur l’étude des « tâche­rons » du clic, tout ce tra­vail invi­si­ble qui fait fonc­tion­ner les pla­te­for­mes. « Cette dyna­mi­que tech­no­lo­gi­que et sociale pointe la méta­mor­phose du geste pro­duc­tif humain en micro-opé­ra­tions sous-payées ou non payées, afin d’ali­men­ter une économie infor­ma­tion­nelle qui se base prin­ci­pa­le­ment sur l’extrac­tion de don­nées et sur la délé­ga­tion à des opé­ra­teurs humains de tâches pro­duc­ti­ves cons­tam­ment déva­luées, parce que consi­dé­rées comme trop peti­tes, trop peu osten­si­bles, trop ludi­ques ou trop peu valo­ri­san­tes. » Le « digi­tal labor » pro­duit « l’exter­na­li­sa­tion du tra­vail et sa frag­men­ta­tion. » Les pla­te­for­mes sont l’orga­ni­sa­tion de cette nou­velle divi­sion du tra­vail qui pro­duit une nou­velle forme du « tra­vail en miet­tes » que dénon­çait jadis Georges Friedmann.

Casalli com­mence par mettre en ques­tion le grand récit de l’auto­ma­tion qui abou­ti­rait selon ses hérauts à la fin du tra­vail : ^[1]Sur ce même sujet, La fin du travail et la mondialisation. Idéologie et réalité sociale, Denis Collin, Harmattan, 1997. « Plutôt qu’à la dis­pa­ri­tion pro­gram­mée du tra­vail, on assiste à son dépla­ce­ment ou à sa dis­si­mu­la­tion hors du champ de vision des citoyens, mais aussi des ana­lys­tes et des déci­deurs poli­ti­ques, prompts à adhé­rer au sto­ry­tel­ling des capi­ta­lis­tes des pla­te­for­mes. » De manière pres­que pro­vo­ca­trice, il montre que les humains non seu­le­ment se met­tent au ser­vice des robots, mais sont même appe­lés à les rem­pla­cer – il retrouve ici les ana­ly­ses de Marx dans le livre I du Capital qui montre que les capi­ta­lis­tes n’ont aucune obses­sion pour l’auto­ma­tion dès lors que le « coût du tra­vail » est suf­fi­sam­ment bas. Bien au contraire, à cer­tains égards, ils pré­fè­rent les « auto­ma­tes humains » qui coû­tent fina­le­ment beau­coup moins cher. En outre, les machi­nes n’appren­nent pas toutes seules, il faut des humains pour leur appren­dre à penser. Des tra­vailleurs (payés au lance-pierre) et des usa­gers tra­vaillant gra­cieu­se­ment four­nis­sent aux machi­nes les éléments indis­pen­sa­bles au fonc­tion­ne­ment de la « machine lear­ning ». « les “machi­nes” ne peu­vent exis­ter sans le concours des humains prêts à leur ensei­gner com­ment penser. » Ainsi « l’arti­fi­cia­lité de l’intel­li­gence arti­fi­cielle réside jus­te­ment en cela : que, tout en ne néces­si­tant aucun dis­cer­ne­ment, ces tâches pro­dui­sent, pour autant, telle une pro­priété émergente, un sem­blant d’intel­li­gence. » Les exem­ples sont nom­breux : reconnais­sance de carac­tère par les clics sur le reCAPT­CHA, vali­da­tion des tra­duc­tions dites auto­ma­ti­ques, vali­da­tion de la reconnais­sance d’image, etc. : « Le pro­gramme scien­ti­fi­que de l’intel­li­gence arti­fi­cielle devient alors indis­so­cia­ble d’une cer­taine cyber­né­ti­que, c’est-à-dire d’un art de contrô­ler les êtres humains et de dis­ci­pli­ner l’exé­cu­tion de leurs acti­vi­tés. »

ll n’y a donc pas de « grand rem­pla­ce­ment » : « Les chif­fres, en effet, vont à l’encontre de la thèse défen­due par les tenants du “grand rem­pla­ce­ment auto­ma­ti­que”. Ce para­doxe est par­ti­cu­liè­re­ment visi­ble dans le sec­teur de la robo­ti­que. Une enquête por­tant sur dix-sept pays entre 1993 et 2007 ne trouve pas d’effets signi­fi­ca­tifs des robots indus­triels mul­ti­fonc­tions sur l’emploi global en termes de nombre total d’heures tra­vaillées. » Il faut évidemment faire entrer en ligne de compte la résis­tance… de la matière ! « Une étude com­pa­ra­tive de l’Organisation de coo­pé­ra­tion et de déve­lop­pe­ment économiques (OCDE) menée sur vingt et un pays en 2016 démon­tre la sures­ti­ma­tion de l’auto­ma­ti­sa­bi­lité des pro­fes­sions actuel­les. »

S’il y a un « grand rem­pla­ce­ment », c’est celui des sala­riés par les usa­gers : « Ce sont sur­tout les usa­gers, les consom­ma­teurs, les clients qui pren­nent la res­pon­sa­bi­lité de faire fonc­tion­ner les machi­nes. Désormais, ce sont eux, et non pas les gui­che­tiers, qui s’iden­ti­fient ; eux, et non pas les gui­che­tiers, qui réa­li­sent les tran­sac­tions ; eux, et non pas les gui­che­tiers, qui comp­tent l’argent. Il en va de même d’autres tech­no­lo­gies qui faci­li­tent le libre-ser­vice, telles les bornes d’autoen­re­gis­tre­ment ou les cais­ses auto­ma­ti­ques dans les gran­des sur­fa­ces. »

Ainsi, com­mence à affleu­rer la notion de « tra­vail du consom­ma­teur ». Il faut donc oublier la menace des robots et regar­der la véri­ta­ble menace, celle de « la frag­men­ta­tion des emplois en tâches exter­na­li­sées et le déman­tè­le­ment des salai­res par des micro­paie­ments. » De la même manière que le phi­lo­so­phe Markus Gabriel consi­dère l’IA comme une « mise en scène » ^[2]Voir Pourquoi la pensée humaine est inégalable. [« Der Sinn des Denkens »], JC Lattès, 2019, 350 p., Casilli affirme que « l’auto­ma­tion est avant tout un spec­ta­cle, une stra­té­gie de détour­ne­ment de l’atten­tion des­ti­née à occulter des déci­sions mana­gé­ria­les visant à réduire la part rela­tive des salai­res (et plus géné­ra­le­ment de la rému­né­ra­tion des fac­teurs pro­duc­tifs humains) par rap­port à la rému­né­ra­tion des inves­tis­seurs. » Idéologie et reli­gion (nou­velle théo­lo­gie), tel est l’essence du dis­cours sur l’IA, la puis­sance des « big data », etc. « Mais dans le cadre de la réflexion sur l’auto­ma­tion à l’heure du numé­ri­que, il est vrai­sem­bla­ble­ment pos­si­ble de retour­ner la méta­phore : c’est le maté­ria­lisme his­to­ri­que, l’atten­tion pour les condi­tions maté­riel­les d’exis­tence des pro­duc­teurs de valeur, qui est rabou­gri, réduit au rôle d’homun­cule “prié de ne pas se faire voir”, et qu’on enferme dans une croyance abs­traite en une intel­li­gence réel­le­ment arti­fi­cielle, dans la théo­lo­gie du machine lear­ning. »

Il ne faut pas croire que les employeurs ne rêvent que de machi­ni­ser la main-d’œuvre. L’homme chassé d’un endroit finit tou­jours par réap­pa­raî­tre ailleurs ! « Parfois, les pla­te­for­mes adop­tent des réflexes d’entre­pri­ses clas­si­ques quand elles “com­mu­ni­quent” au sujet de leur valeur économique, par exem­ple à l’occa­sion de leur entrée en bourse ou de leur ren­contre avec de poten­tiels inves­tis­seurs. Il leur arrive également d’insis­ter sur les fac­teurs tech­ni­ques de leur réus­site (le nombre de leurs ser­veurs, la qua­lité de leurs solu­tions algo­rith­mi­ques, la puis­sance de calcul de leurs pro­ces­seurs, etc.). Mais la source de leur valeur demeure quoi qu’il en soit la qua­lité et la quan­tité des don­nées per­son­nel­les qu’elles exploi­tent, le dyna­misme de leurs com­mu­nau­tés, la per­ti­nence des ser­vi­ces que celles-ci per­met­tent de déve­lop­per. »

Casilli pro­cède ensuite à une typo­lo­gie du « digi­tal labor ». Il ana­lyse en par­ti­cu­lier le micro­tra­vail tel qu’il a été façonné par Amazon Mechanical Turk qui montre à l’évidence qu’une intel­li­gence véri­ta­ble­ment et entiè­re­ment « arti­fi­cielle » n’est qu’un mirage. Si l’on prend le moteur de recher­che de Google qui est l’appli­ca­tion de l’IA la plus connue de tous (bien qu’en l’occur­rence elle ne se pré­sente pas sous ce nom), on remar­que : « chaque requête adres­sée à Google a deux effets : le pre­mier résul­tat visi­ble est que l’uti­li­sa­teur reçoit une série de “répon­ses” à sa requête, clas­sées par “per­ti­nence” ; le second effet, plus dis­cret, est que l’entrée d’une requête pro­duit essen­tiel­le­ment un vote attes­tant de la popu­la­rité de la chaîne de recher­che. » L’ima­gi­naire contem­po­rain est nourri de fan­tas­mes algo­rith­mi­ques – de ce point de vue le monde de l’infor­ma­ti­que fait un peu penser à celui des sch­troumpfs : quand un mot manque, on le rem­place par « sch­troumpf ». Les infor­ma­ti­ciens sem­bla­ble­ment uti­li­sent le mot « algo­rithme » à la place de tous les mots qui leur man­quent.

Autre fan­tasme que traque Casilli : celui de la gra­tuité qui fait du monde des pla­te­for­mes un véri­ta­ble Eden. En vérité, « Une énorme quan­tité de tra­vail rému­néré finit par inner­ver les usages soi-disant “gra­tuits”. L’ana­lyse de cer­tains pro­gram­mes d’IA des­ti­nés au dia­lo­gue homme-machine ^[3]Tous les programmes qui descendent de la fameuse Elyza, un programme de dialogue qui a une quarantaine d’années. montre que, lais­sée à elle-même, la “machine lear­ning” apprend sur­tout ce que les uti­li­sa­teurs lui appren­nent, tant est-il que l’IA est tou­jours animée par des humains. L’ana­lyse de ces expé­rien­ces montre aussi que, si ces pro­gram­mes ne sont pas sou­te­nus gra­cieu­se­ment par des humains, ils sont finan­ciè­re­ment insou­te­na­bles.

Il y a un autre aspect du tra­vail en réseau, celui des gens payés pour être “fol­lo­wers” ou “likeurs”. La vente de faux “fol­lo­wers” est un com­merce lucra­tif. Il existe, notam­ment en Chine, des “fermes à clics”. On sait l’impor­tance que toutes ces tech­ni­ques pren­nent pour influen­cer le corps électoral. Les “fake news” ne sont pas un pro­duit d’inter­net — elles sont aussi vieilles que le monde — mais le monde des réseaux et des pla­te­for­mes est bien l’empire du faux.

Les pla­te­for­mes pro­dui­sent donc deux effets. D’une part, elles restruc­tu­rent pro­fon­dé­ment le mode de pro­duc­tion capi­ta­liste puisqu’elles sont des mixtes unis­sant les fonc­tions de l’entre­prise et celles du marché et subor­don­nant les deux espa­ces tra­di­tion­nels du capi­tal à leurs pro­pres objec­tifs. Elles per­met­tent une par­cel­li­sa­tion accé­lé­rée du tra­vail autre­fois accom­pli par des cols blancs et sa délo­ca­li­sa­tion vir­tuelle notam­ment en Afrique et en Asie. Les pays les plus pau­vres comme Madagascar sont com­plè­te­ment inté­grés dans l’économie de pla­te­forme. D’autre part, elles pro­dui­sent en abon­dance l’idéo­lo­gie qui jus­ti­fie leur domi­na­tion sur nos vies.

La colo­ni­sa­tion du temps libre par le capi­tal, déjà lar­ge­ment abor­dée par Theodor Adorno dans sa cri­ti­que de “l’indus­trie cultu­relle” trouve ses pro­lon­ge­ments sans les hori­zons du “digi­tal labor” que Casilli explore. Le tra­vail passe main­te­nant hors du tra­vail. La “ludi­fi­ca­tion”, carac­té­ris­ti­que de notre monde mérite à elle seule un long déve­lop­pe­ment. Est apparu quel­que chose qu’on appelle le “play­bor”, le “jeu-tra­vail” : “L’impor­tance du play­bor dans le sec­teur numé­ri­que reflète d’ailleurs peut-être une ten­dance plus géné­rale que l’on observe dans les entre­pri­ses tra­di­tion­nel­les, dont l’orga­ni­sa­tion s’ins­pire depuis plu­sieurs décen­nies d’une phi­lo­so­phie mana­gé­riale fondée sur le déve­lop­pe­ment per­son­nel, l’émulation créa­trice, la convi­via­lité des espa­ces de tra­vail, l’hori­zon­ta­lité des rela­tions hié­rar­chi­ques, la col­la­bo­ra­tion par équipes, la conver­sion des objec­tifs en ‘défis’ et en dyna­mi­ques de jeu.. » Il s’agit d’une colo­ni­sa­tion totale de l’exis­tence : “D’après le cri­ti­que Jonathan Crary, le capi­ta­lisme à l’heure d’Internet ins­taure une exis­tence à flux tendu qui sonne la ‘fin du som­meil’.” En effet, “En don­nant une illu­sion de maî­trise, de vic­toire et d’appro­pria­tion, le jeu sti­mule des pul­sions et des appé­tits spé­ci­fi­ques qui inten­si­fient la pro­duc­tion d’infor­ma­tions 24 heures sur 24.” Le digi­tal labor » s’ins­crit ainsi dans un pro­ces­sus d’« asser­vis­se­ment machi­ni­que géné­ra­lisé » de l’homme. Le « digi­tal labor » fonc­tionne à la « sur­veillance douce », mais d’autant plus effi­cace : « La “sur­veillance douce”, auto-impo­sée et réa­li­sée de manière coo­pé­ra­tive, du digi­tal labor n’abolit pas la volonté de l’usager ; au contraire, elle puise à l’inté­rieur de celle-ci les res­sour­ces pour conduire les opé­ra­tions néces­sai­res à sa mise en œuvre. La sur­veillance par­ti­ci­pa­tive réin­vente ainsi entiè­re­ment l’archi­tec­ture panop­ti­que. Loin de libé­rer le tra­vail, le digi­tal labor s’impose en défi­ni­tive comme un “béné­vo­lat forcé” ou une “ser­vi­tude volon­taire”.

La pla­te­for­mi­sa­tion est une dimen­sion essen­tielle de la mon­dia­li­sa­tion dans la phase actuelle et, loin de répé­ter l’ancienne colo­ni­sa­tion, elle pro­cède pro­gres­si­ve­ment à un nivel­le­ment par le bas. Face aux contrain­tes du mode de pro­duc­tion capi­ta­liste d’hier, la pla­te­for­mi­sa­tion a repré­senté une issue en ins­tau­rant “une liberté de cir­cu­la­tion ‘vir­tuelle’ de la main-d’œuvre pla­né­taire. Il y a encore quel­ques décen­nies, une offre de tra­vail loca­li­sée et pro­fon­dé­ment enra­ci­née dans des lieux phy­si­ques fai­sait face à un capi­tal tou­jours mou­vant. Dans l’économie des pla­te­for­mes, l’offre de tra­vail est, au contraire, géo­gra­phi­que­ment dis­per­sée et répar­tie le long de chaî­nes logis­ti­ques numé­ri­ques en cons­tante reconfi­gu­ra­tion. À l’impor­ta­tion de main-d’œuvre des siè­cles passés suc­cè­dent aujourd’hui des trans­ferts non pré­sen­tiels de popu­la­tions, par l’entre­mise de ser­vi­ces d’inter­mé­dia­tion numé­ri­que opé­rant comme des ‘sys­tè­mes tech­no­lo­gi­ques d’immi­gra­tion’.

Cette vision d’ensem­ble de rap­ports des rap­ports sociaux de pro­duc­tion remet à leur juste place les dis­cours dithy­ram­bi­ques sur l’intel­li­gence arti­fi­cielle. En vérité nous n’avons pas beau­coup pro­gressé vers une machine ‘intel­li­gente’. Cet objec­tif est d’ailleurs peut-être à peu près dénué de sens. Nous avons seu­le­ment pro­gressé dans la puis­sance de calcul des machi­nes et dans le sto­ckage des don­nées dis­po­ni­bles sur tout le réseau mon­dial. Il est vrai que ces dis­cours sur l’IA valo­ri­sent ceux qui l’orga­ni­sent et ven­dent leurs logi­ciels : ‘Tout d’abord, c’est le tra­vail même des ingé­nieurs, des scien­ti­fi­ques et des indus­triels que jus­ti­fie cette idéo­lo­gie. Déclarer être en train de mener des recher­ches pour simu­ler l’intel­li­gence humaine est avant tout une manière pour les pro­duc­teurs de tech­no­lo­gies d’être en paix avec leur propre iden­tité au tra­vail, de se repré­sen­ter non pas comme une classe vec­to­ria­liste dont la fonc­tion est de gérer un trafic pla­né­taire de clics ou de mettre sur pied des chaî­nes de sous-trai­tance qui abou­tis­sent quel­que-part dans les sweat­shops numé­ri­ques de zones péri-urbai­nes de pays en voie de déve­lop­pe­ment, mais comme une élite qui contri­bue au pro­grès de l’huma­nité en œuvrant à l’inno­va­tion de pointe.’

La fin du livre est consa­crée à une dis­cus­sion sur l’IA et les obs­ta­cles qu’elle ren­contre. L’auteur ne semble pas écarter à l’avenir des pro­grès déci­sifs dans le domaine de l’IA, même s’il faut bien cons­ta­ter qu’on a recours, et de plus en plus, aux humains pour pal­lier les failles impor­tan­tes des sys­tè­mes d’IA et du fameux ‘machine lear­ning’. Il est vrai que le ‘deep lear­ning’ — l’appren­tis­sage pro­fond, c’est-à-dire un pro­cédé par lequel la machine elle-même est pro­gram­mée pour chan­ger son propre code en fonc­tion des succès et des échecs qu’a ren­contrés le pro­gramme — semble ouvrir des pers­pec­ti­ves fas­ci­nan­tes. On s’exta­sie : la machine pro­duit des résul­tats qu’aucun humain n’avait prévus et on ne sait pas comme ‘elle fait’. Le pro­blème est que la machine ‘ne fait’ rien. Elle pro­duit des résul­tats qui sont les effets d’un enchaî­ne­ment non maî­trisé de pro­ces­sus phy­si­ques. Et donc on n’a aucune idée de la vali­dité de ces résul­tats. Il est impos­si­ble, quoi qu’on fasse, de sortir de cette embrouilla­mini. Il y a des rai­sons de fond à cet échec : ‘C’est avant tout un pro­blème de com­plexité : un modèle mathé­ma­ti­que tra­di­tion­nel peut avoir quel­ques dizai­nes de para­mè­tres, mais un réseau de neu­ro­nes en a des mil­lions. L’appren­tis­sage non super­visé four­nit des résul­tats sans néces­sai­re­ment expli­quer com­ment la machine les a obte­nus, ni donner d’indi­ca­tions pré­ci­ses sur leur niveau de per­ti­nence et d’uti­li­sa­bi­lité.’

Une fois qu’on est sorti des fan­tas­mes, il faut remet­tre les pieds sur terre. ‘Tâcheronnisation et data­fi­ca­tion occu­pent, dans le contexte de l’IA, la même place que le séquen­çage et le chro­no­mé­trage des tâches pour le tay­lo­risme : non pas des inno­va­tions tech­ni­ques majeu­res, mais une sophis­ti­ca­tion de la divi­sion capi­ta­liste du tra­vail visant à contrô­ler une main-d’œuvre cons­tam­ment décrite comme oisive, insou­ciante et poten­tiel­le­ment récal­ci­trante.’

Puisque les pro­grès du machine lear­ning sont condi­tion­nés à une pro­duc­tion humaine de don­nées accrue, la pers­pec­tive d’une auto­no­mi­sa­tion du pre­mier qui mar­que­rait la ces­sa­tion de la seconde est un hori­zon inat­tei­gna­ble.

Conclusion — Que faire ?

La ques­tion est posée de l’action qui pour­rait s’oppo­ser aux consé­quen­ces désas­treu­ses de la pla­te­for­mi­sa­tion. Casalli écarte l’hypo­thèse ‘lud­dite’ – on ne va pas casser les machi­nes. Il pèse la pos­si­bi­lité de cons­truire un mou­ve­ment coo­pé­ra­tif, des pla­te­for­mes qui renoue­raient avec l’ori­gine du mot – la pla­te­forme est la base sur laquelle s’enten­daient nive­leurs et bêcheurs lors de la révo­lu­tion anglaise. Ces pla­te­for­mes coo­pé­ra­ti­ves pour­raient-elles résis­ter à la récu­pé­ra­tion par les gran­des firmes ? La réponse de l’auteur n’est pas très encou­ra­geante, mais il n’y a pas d’autre choix.