Chronique : ChatGPT, Bing et Google s’appuient sur des travailleurs “fantômes”

Lorsque les algorithmes de Google fonctionnent comme ils sont censés le faire, lorsqu’ils vous montrent les informations que vous recherchez, et non des absurdités, de la pornographie bizarre, de la propagande ou des conseils médicaux dangereux, vous pouvez remercier des gens comme Ed Stackhouse.

Stackhouse est ce que Google appelle un “évaluateur”. Lorsque son moteur de recherche n’est pas sûr des résultats qu’il produit pour une recherche donnée, c’est le travail de Stackhouse de décider lesquels les gens devraient voir.

Cela peut être un processus intensif en temps et en recherche. Cela peut aussi être déchirant, une fenêtre sur les coins les plus sombres de l’expérience humaine. “Ce que j’ai vu le plus ces derniers temps, ce sont les forums sur le suicide”, a-t-il déclaré. “Quelle est la meilleure façon de me pendre si je mesure 5’9 ?” ‘Quelle longueur de corde dois-je utiliser ?'”

Une autre chose qu’il a vue ces dernières semaines est un nouveau type de résultats de recherche : ce qui semble être des articles générés par l’intelligence artificielle, avec des invites pour les marquer comme exacts ou faux, appropriés ou effrayants, stylistiquement précis ou non ciblés.

“Ils ne nous disent pas vraiment que c’est Bard”, a déclaré Stackhouse, “mais il y a les empreintes digitales de Bard dessus.

Barde, si vous ne savez pas, Google participe à ce qu’on appelle Course aux armements IA, qui compte les plus grands acteurs de la Big Tech qui fonctionnent à plein régime et vendent des chatbots capables de converser comme des humains. Son principal rival est Microsoft, qui est impatient de présenter une nouvelle version de Bing, son moteur de recherche également lancé, fraîchement imprégné de la sensation Internet connue sous le nom de ChatGPT. (Facebook parent Meta, encerclant la périphérie, teste les eaux pour voir si cela est vrai une réputation scandaleuse lui permettra de concourir.)

Les enjeux pourraient s’avérer assez importants : actuellement, Google détient un quasi-monopole sur la recherche, la collecte 40 milliards de dollars de revenus par trimestre de cette partie de votre entreprise. Le PDG de Microsoft, Satya Nadella, pense que le passage à la recherche conversationnelle pourrait réinitialiser le tableau de bord. “Je suis ravi que les utilisateurs aient enfin le choix”, a-t-il déclaré. dit le Wall Street Journal.

Les investisseurs semblent être d’accord : la capitalisation boursière d’Alphabet, la société mère de Google, a chuté de plus de 100 milliards de dollars après que Bard ait bâclé sa démo initiale, offrant un aperçu des incitations financières en jeu et des coûts pour que cela se produise.

Les moteurs de recherche ont toujours été des arbitres de vérité peu fiables, mais les interfaces de recherche de chatbot sont particulièrement perfides à cause de ce qu’on a appelé problème “une seule vraie réponse”.: Au lieu de présenter une liste de résultats possibles et de demander à l’utilisateur de choisir parmi eux, ils fournissent une réponse canonique. Lorsque la question est « Est-il sécuritaire de cuisiner un bébé ? » et la réponse est “Oui” – un exemple réel de Bing – vous avez des problèmes.

Dans ce cas, vous pourriez vous attendre à ce que les entreprises impliquées mettent l’accent sur le travail de contrôle de la qualité qui aide leurs nouveaux outils logiciels soi-disant intelligents à éviter les bogues stupides. Au lieu de cela, les personnes qui font le travail sont considérées comme jetables.

“Nous gagnons certains des salaires les plus bas aux États-Unis”, déclare Stackhouse, qui est évaluateur depuis près d’une décennie. “Personnellement, je gagne 3 $ de moins par heure que ma fille du fast-food.”

Début février, alors que Google et Microsoft préparaient leurs superbes annonces de chatbot, Stackhouse a rejoint le panel de critiques et a ajouté pétition à Google et exige que l’entreprise remplisse ses propres établir des normes minimales. Les évaluateurs ne gagnent souvent que 14 $ de l’heure, soit moins que les 15 $ que Google promet aux sous-traitants. Stackhouse souffre d’une grave maladie cardiaque qui nécessite des soins médicaux, mais son employeur, Appen – dont le seul client est Google – limite ses heures de travail à 26 heures par semaine, ce qui lui permet de travailler à temps partiel et de ne pas être éligible aux prestations. Il s’agit d’une politique standard pour des milliers d’évaluateurs.

Les évaluateurs se joignent à une vague d’entrepreneurs mécontents qui s’expriment : les travailleurs qui s’assurent que les vidéos YouTube contiennent les bonnes métadonnées se sont mis en grève la même semaine pour des pratiques de travail déloyales. Ce n’est même pas le fond du baril. ET Le magazine Time enquête a révélé que les sous-traitants au Kenya sont payés moins de 2 dollars de l’heure pour examiner le contenu de ChatGPT – une grande partie est si toxique qu’il les traumatise.

Il y a une certaine ironie cruelle dans le fait que, alors que la technologie la plus en vue fait ses débuts depuis des années, celles qui sont les mieux placées pour la maintenir sur la bonne voie sont également les plus précaires dans les entreprises qui en ont besoin. Ce n’est pas un hasard. Le chatbot est une sorte de tour de magie; pour que l’illusion fonctionne correctement, les assistants blottis à l’intérieur de la boîte doivent rester cachés au public, leur contribution inaperçue.

Alors que Google et Microsoft veulent que vous oubliiez qu’ils existent, il n’est pas si facile pour les travailleurs d’oublier.

“J’ai vu des affectations avec des insultes raciales, du sectarisme et de la violence”, dit Stackhouse, ainsi que du gore médical horrible et de la pornographie dure. « Il y a des moments où j’ai vu du contenu graphique jouer dans mes rêves. C’est pourquoi je ne travaille plus tard le soir. J’ai vu de la pédopornographie deux fois en 10 ans, mais Dieu merci, c’est très rare. J’arrêterais.”

Pire encore, si vous voulez travailler, vous ne pouvez pas limiter le type de contenu que vous révisez. “Si vous refusez le contenu pornographique, vos tâches peuvent être réduites”, déclare Stackhouse. «Donc, la plupart des gens ne se désengagent pas.

Jusqu’à 5 000 évaluateurs comme Stackhouse travaillent chez Appen, et des milliers d’autres dans d’autres filiales évaluent les données pour d’autres parties des activités de Google, Microsoft et Meta.

“C’est comme si nous étions anonymes”, dit Stackhouse. « Nous sommes des fantômes.

“Nous ne demandons pas grand-chose, juste un salaire équitable et du télétravail”, déclare Katie Marschher, “juste pour être reconnus en tant qu’êtres humains, pas seulement des chiffres sur une feuille de calcul”. Marschher est actuellement en grève pour un travail similaire avec Cognizant, un sous-traitant dont les employés effectuent un contrôle qualité pour YouTube.

“Nous faisons vraiment partie de ce système à deux niveaux”, a-t-elle déclaré. “Il y a des Googleurs qui obtiennent des options d’achat d’actions et sont très bien payés, et il y a toute cette autre main-d’œuvre.”

Marschher et ses collègues ont récemment voté pour former un syndicat avec les CommunicationsWorkers of America. Peu de temps après, Cognizant les a informés qu’il mettait en œuvre une politique de télétravail obligatoire. Étant donné que de nombreux travailleurs n’ont pas les moyens de déménager, les travailleurs ont vu cette décision comme des représailles. Lorsque cela n’a pas bougé, les travailleurs de YouTube ont voté pour la grève.

« Nous voulons commencer à démanteler ce système ; il exploite les travailleurs et les rend vraiment vulnérables, et nous ne pensons pas que ce soit juste », dit-il.

Ça n’a jamais été bien. Mais avec certaines des entreprises les plus rentables au monde désormais sur le point d’étendre leur domination à une toute nouvelle activité qui n’existerait pas sans le labeur de leurs travailleurs les moins bien payés, il est grand temps que les fantômes de la machine se présentent et obtiennent du crédit. sont dus.