Yarn Spinner équipe refuse d’intégrer l’IA en raison de préoccupations liées aux droits des travailleurs et à l’éthique du développement. Ils critiquent la technologie actuelle qui ne sert qu’à réduire les effectifs des entreprises, déviant de la vocation initiale d’aider à la création.
(Précédent contexte : 5 lignes de code qui rendent fou toute la Silicon Valley ! L’oncle australien qui fait paître ses moutons dévoile le point de singularité de la programmation IA)
(Complément d’information : OpenAI aurait dépensé 3 milliards de dollars pour acquérir « Windsurf », l’outil d’automatisation de la programmation, pour s’attaquer à la grande opportunité de Vibe Coding)
Table des matières
En tant qu’outil de narration open source très influent dans le domaine des jeux indépendants, la position de Yarn Spinner est cruciale pour de nombreux développeurs. Dans cet article officiel, l’équipe explique avec sincérité et fermeté pourquoi elle a choisi de refuser d’intégrer l’IA générative dans leur outil.
Ils abordent non seulement l’aspect technique, mais aussi les droits des travailleurs, l’éthique du développement et « l’essence du développement de jeux ». Cela peut inviter à une réflexion dans un secteur souvent obnubilé par la technologie.
Voici le contenu intégral traduit de la version chinoise :
On nous pose souvent des questions sur l’IA. La intégrer dans Yarn Spinner ? L’utiliser nous-mêmes ? Quelle est notre opinion à son sujet ? Ce sont des questions légitimes. Il est temps de tout mettre par écrit.
Yarn Spinner n’utilise pas la technologie dite « IA ». Notre produit ne possède pas de fonctionnalités d’IA générative, nous ne recourons pas à des outils de génération de code pour le construire, et nous n’acceptons pas les contributions contenant du contenu généré, que nous connaissons. Voici pourquoi.
TL;DR : Les outils fabriqués par des entreprises d’IA nuisent aux gens, et nous ne voulons pas soutenir ce comportement.
Passé
Commençons par un peu d’histoire. Notre parcours inclut une quantité significative de travaux liés à l’IA et à l’apprentissage automatique (même si ces termes ne devraient pas être confondus, mais comme tout le monde les mélange, nous aussi).
Nous avons donné des conférences pour développeurs de jeux et non-programmeurs ; créé de petits robots d’apprentissage automatique pour la création de jeux ; mené des recherches et des travaux académiques. Nous avons même écrit un livre sur l’utilisation de l’apprentissage automatique dans les jeux, principalement sur l’animation procédurale. C’était une série de techniques très intéressantes et prometteuses, que nous avons explorées.
Lorsque nous sommes entrés à l’université, les réseaux neuronaux et l’apprentissage profond (au cœur de la majorité des produits IA actuels) étaient encore trop lents et difficiles à manipuler. À la fin de notre doctorat, la situation avait changé. Des outils comme TensorFlow rendaient tout cela simple et amusant, et la facilité d’accès aux GPU permettait à ceux qui n’avaient pas le budget des grandes entreprises technologiques de s’entraîner et d’inférer. Pendant longtemps, nous étions sincèrement enthousiasmés par ce potentiel.
Puis, les choses ont changé.
Difficile de dire quand précisément. Peut-être que cela a toujours été ainsi, mais que nous ne l’avons pas vu. Mais fin 2020, la situation est devenue claire : l’IA que nous aimons n’est pas celle qui intéresse les grandes entreprises.
Elles se tournent de plus en plus vers la génération d’images, les chatbots pour écrire à votre place, et la « synthèse » de l’art plutôt que l’accès à l’art lui-même. Les efforts pour atténuer des problèmes connus (comme renforcer les biais culturels, rendre l’IA plus sûre ou plus explicable) sont dévalorisés ou ignorés. Les chercheurs et développeurs qui soulèvent des inquiétudes sont licenciés.
Depuis lors, la tendance ne fait qu’empirer.
Si vous regardez ce que proposent actuellement les entreprises d’IA, ce n’est pas ce que nous voulons. En décortiquant leurs discours, leurs outils visent essentiellement à réduire la main-d’œuvre ou à produire plus sans embaucher. Voilà le « problème » qu’elles cherchent à résoudre.
Tout autre accomplissement n’est qu’une surprise accidentelle sur la voie de « licencier vos amis et collègues autant que possible ».
En cette période où la réinsertion professionnelle est particulièrement difficile, le chômage et même la menace pour la vie sont présents, l’IA devient un « outil de licenciement ». Nous ne voulons pas en faire partie. Avant de résoudre ces problèmes, nous n’utiliserons pas l’IA dans notre travail, ni ne l’intégrerons à Yarn Spinner pour d’autres.
Nous ne voulons pas soutenir ces entreprises qui fabriquent ces outils, ni normaliser leur comportement. C’est pourquoi nous ne l’utilisons pas.
Futur
Il arrive que l’on entende une sorte de « fait accompli » : « Si tu n’adoptes pas l’IA, tu seras laissé pour compte », ou ses proches : « Tout le monde l’utilise »… Nous ne sommes pas d’accord.
Quelle que soit notre opinion sur l’IA, ce n’est pas une façon saine de développer. C’est une « développement par l’outil ». L’objectif ne devrait jamais être « utiliser cet outil », mais « comment pouvons-nous vous aider à faire de meilleurs jeux ? ».
Les grands jeux naissent de la passion pour une idée, puis la concrétisent. Cela implique souvent de « réduire » plutôt que « d’ajouter ». Changer d’avis, préserver sa santé et celle de ses collègues, être prêt à s’adapter et à recevoir du feedback. Les bons outils doivent aussi faire cela.
Nous nous demandons sans cesse : « Comment cela peut-il aider à faire de meilleurs jeux ? » et avançons en suivant cette réponse. La recherche est essentielle, et la plupart du temps, nous découvrons que beaucoup d’idées ne résistent pas à un minimum d’examen. Nous préférons avoir quelques fonctionnalités raffinées qui résolvent réellement des problèmes, plutôt qu’une multitude de gadgets pour la communication marketing.
Nous sommes fiers de Yarn Spinner. Nous ne pensons pas que son usage dans autant de jeux soit une coïncidence. Notre processus de développement est efficace, et nous ajoutons constamment de nouvelles fonctionnalités. Si certaines ne répondent pas aux besoins des développeurs, nous les modifions ou les supprimons.
Nous discutons en permanence avec l’équipe, d’autres développeurs de jeux, voire des non-développeurs, pour explorer des idées et méthodes potentielles. Nous continuerons à poser la question : « Comment cela peut-il aider à faire de meilleurs jeux ? » et publierons uniquement ce qui a passé nos tests.
Qui sait, peut-être que le monde changera, et que nous pourrons à nouveau explorer l’apprentissage automatique.
Questions fréquemment posées (FAQ)
Pourquoi vous ne vous souciez que des licenciements liés à l’IA ? J’ai entendu dire que l’IA est aussi problématique « dans d’autres domaines » ! L’IA (notamment ses entreprises) pose beaucoup de problèmes. Certains sont potentiels, même hypothétiques ; d’autres sont très réels et se produisent sous nos yeux. Certains problèmes sont bien pires que « le licenciement ». Entre la rédaction de cet article et sa publication, des enjeux encore plus graves ont émergé. Même si la question des droits des travailleurs liés à l’IA disparaît soudain, il reste de nombreux problèmes à résoudre avant qu’on puisse l’utiliser sereinement. Mais se concentrer sur un seul point à la fois est plus efficace. La question des droits des travailleurs peut être réparée et doit être combattue. Une fois cela réglé, on pourra passer au suivant.
Pourquoi ne pas « développer correctement » l’apprentissage automatique pour éviter de blesser des gens ? Avec notre expérience, il est peut-être possible de créer des outils d’IA que nous jugerions bénéfiques, éthiques, et qui ne financeraient pas les entreprises contre lesquelles nous nous battons. Mais il y a deux problèmes : premièrement, cela demande énormément de temps, comme nous l’avons dit, la plupart des idées ne dépassent pas la phase exploratoire initiale. Il est très difficile de concilier exploration créative et développement de nouveaux modèles pour tester. Deuxièmement, même si nous pouvons créer nos propres outils, la majorité des gens ne le peuvent pas. Si d’autres voient que nous utilisons une certaine technologie et veulent l’essayer, ils finiront par soutenir ces mêmes entreprises que nous combattons. Nous ne voulons pas normaliser cette pratique, c’est pourquoi nous devons prendre l’initiative de ne pas l’utiliser.
Mon patron m’a demandé d’utiliser l’IA au travail, suis-je aussi un problème ? Chercher un emploi et le garder est une nécessité pour survivre, et cette pression est accrue récemment. Si vous pouvez vous y opposer, essayez. Mais personne ne vous en voudra si vous souhaitez simplement garder votre poste.
Allez-vous interdire à ceux qui utilisent l’IA d’utiliser Yarn Spinner ? Non. Même si nous préférerions que vous ne l’utilisiez pas, c’est une limite « pour nous », pas pour vous. Nous continuerons à dénoncer ces outils et leur impact néfaste. Vous devez comprendre qu’en les utilisant, vous soutenez économiquement et socialement ces entreprises malfaisantes. Elles utiliseront votre soutien pour faire avancer leur agenda. Si ces outils vous aident, nous en sommes heureux, mais nous vous demandons aussi d’arrêter de les utiliser.
J’aime utiliser l’IA, et mon entreprise n’a pas licencié personne ? Ce genre de commentaire revient souvent, surtout de la part de programmeurs. Malheureusement, le mot « IA » étant devenu très confus, ces préoccupations restent valables. Votre adoption contribue à la promotion de ces entreprises. D’autres, voyant que vous utilisez ces outils, seront poussés à faire de même, ou à les diffuser dans d’autres environnements de travail. Selon nos observations, cela mène à des licenciements et à une surcharge de travail. Si cela ne vous concerne pas directement, tant mieux, mais vous aidez quand même à faire que cela se produise ailleurs. Et comme nous l’avons dit, même si demain on résolvait tous les problèmes liés au travail, il en resterait beaucoup d’autres. Au-delà du licenciement, il y a d’autres préoccupations.
Êtes-vous des Luddites ou des fanatiques anti-IA ? Non. Nous sommes simplement furieux contre ceux qui fabriquent ces choses. L’IA et l’apprentissage automatique ont un potentiel énorme, mais ils sont actuellement gaspillés pour « enrichir et rendre encore plus riches et méchants » ceux qui sont déjà très méprisables. Nous restons attentifs à l’évolution technologique, car nous espérons pouvoir la réexplorer un jour. Mais pour l’instant, ceux qui promeuvent ces outils ne sont pas ceux à qui nous voulons donner de l’argent ou soutenir.
