Transcription webinaire #5

Webinaire RENUM

Productions culturelles et représentations socio-écologiques du numérique

19 juin 2026

Durant cette session, nous avons accueilli Vincent Moncho, directeur du festival Octobre Numérique, pour une présentation consacrée aux positionnements critiques et indisciplinées des artistes numériques face aux enjeux socio-écologiques du numérique. Vincent a évoqué les enjeux et paradoxes de l’engagement socio-écologique des structures elles-mêmes, et les possibilités de transposer un dispositif artistique autour des enjeux socio-écologiques du numérique, le permacomputing, à l’organisation même d’une structure culturelle et créative.

Dans un second temps, nous sommes restés sur les imaginaires utopiques et dystopique de l’appropriation des enjeux socio-écologiques du numérique par les arts numériques, avec la présentation de Federico Biggio, MCF à l’Université de Tours. Federico nous a présenté un outil de modélisation des imaginaires éco-vilains des IA issus de différents médiums audiovisuels. Cette cartographie des imaginaires éco-dystopiques des IA a également permis d’éclairer la manière dont le secteur des industries culturelles et créatives se situent par rapport à ces IA.

Nous remercions système RISP pour la vélotypie.

Vincent Moncho : L’art de la soutenabilité : introduction au permacomputing, ses pratiques et ses pensées

Octobre Numérique et arts numériques

Merci beaucoup, merci Lucas, merci Marta pour cette invitation et ce beau programme que vous déployez. Je suis jaloux d’avoir raté les précédents webinaires, j’ai hâte de lire les retranscriptions. Donc moi, j’ai une formation plutôt sciences sociales et politiques à la base, avec littérature, linguistique, histoire de l’art. J’ai fait notamment une recherche sur le sampling, un concept de la musique qui consiste à récupérer un échantillon de musique pour le réinjecter dans d’autres créations musicales. J’avais travaillé sur l’univers de la techno et de la musique classique, sur les pratiques de sampling, que j’avais essayé de transposer aux arts visuels en se demandant si on peut parler d’un régime de sampling dans les arts visuels contemporains, avec ce qui a trait à la technique du screenshot, les chaînons de création aujourd’hui avec l’IA, avec une version originale versus copie. Voilà pour recadrer un peu.

Je vais présenter le festival que je dirige, pour que ce soit plus concret, avant de vous parler d’un thème de recherche que j’ai mené depuis quelques années avec le laboratoire du festival, le permacomputing. Le festival a lieu à Arles tous les ans depuis une bonne dizaine d’années. Il est le point de rencontre entre l’art et la culture et ce qu’on appelle les technologies avancées. Notamment le supercomputing, on y reviendra juste après. Il est traversé par trois valeurs : ouverture, soutenabilité et inclusion. Au festival, on se demande quelles technologies vont faire le monde de demain et quel impact on peut avoir pour les penser, les critiquer dès aujourd’hui à travers le prisme de l’art numérique et comment les artistes, par leur processus de créations, leurs imaginaires, peuvent porter ce discours critique. Et le festival peut être le lieu de cette réflexion collective sur ces imaginaires et sur ce qui se passe pragmatiquement, ce qu’on produit avec tout ça ou ce qu’on ne produit pas d’ailleurs. C’est une question très intéressante, on y reviendra après. Pour les technologies avancées dont traite le festival, il y a différents régimes de réalité mixte, réalité virtuelle, mixte et augmentée.

Les jeux vidéo artistiques, qui est un gros focus du festival. J’y reviendrai peut-être tout à l’heure, mais les jeux vidéo, les moteurs de jeux vidéo utilisés comme des mediums d’expression artistique. On est assez bien connu dessus, et on porte une scène contemporaine, française mais pas seulement, d’artistes émergents ou moins, qui travaillent avec le jeu vidéo. J’ai créé aussi une résidence, la première en Europe, pour les artistes qui utilisent le jeu vidéo. On a aussi toutes les questions de l’intelligence artificielle, la blockchain avec le NFT il y a quelques années, le Metaverse, mais c’est surtout la question de la 3D temps réel qui est intéressante. C’est en fait l’idée d’avoir un monde virtuel, une interface avec laquelle se connecter, donc il y a une part d’immersion, d’interaction assez importante, qui va être presque de l’ordre, d’un ordre performatif, puisqu’il s’agit d’un monde en 3D mais en temps réel, dans lequel on peut interagir, ou pas, car certains sont des simulations. Mais ça s’oppose par exemple à un Machinima ou un film d’animation qui va aussi utiliser des technologies de 3D, de monde virtuel, mais qui va être rendu et figé dans un objet film. Donc on n’a pas ce côté impermanent, malléable, propre à ces médias qu’on étudie et qu’on explore au festival.

Le festival a lieu à Arles. Ce qui est intéressant, c’est qu’on a des bâtiments très contemporains, et des bâtiments d’héritage plutôt gothique, Moyen Age et même latin, ce qui va permettre de venir orchestrer des expositions d’art numérique dans des églises désacralisées, par exemple. Ce qui est un point intéressant, ce n’est pas ce qui nous anime aujourd’hui mais voilà. Quelques exemples de personnes venues au festival, les années précédentes. L’idée est de rassembler des artistes, des technologistes, des personnes de l’industrie, des philosophes, des hacktivistes, etc, et de créer ces conditions de ce dialogue et de cette pensée mouvante, chaque année sur des thèmes différents. Le festival, ce sont des expo, des projections, des films, du théâtre, des conférences, des débats, des événements professionnels, des ateliers, une game jam aussi, et la résidence dont je parlais tout à l’heure.

De l’éco-responsabilité des arts numériques aux arts de l’éco-responsabilité.

J’en viens tout de suite à ce qui nous anime un peu plus aujourd’hui, en fait, tout part il y a trois ans, ça fait quatre ans que je dirige le festival, et il y a trois ans, on cherchait un thème avec l’équipe et j’ai eu cette idée de leur dire: mais en fait, venez, plutôt que de choisir un thème qui peut être restrictif, on se pose vraiment la question de: est-ce qu’on peut faire un festival d’art numérique de façon éco-responsable, ou de la façon la plus éco-responsable qui soit? Et donc le thème, c’est une sorte de recherche ouverte, où on invite plein de personnes, et on imagine ce festival, à coût zéro, en faisant de la récupération, avec Emmaüs et sur Leboncoin. Donc ce moyen, cette expérimentation sur comment on fait le festival, c’était de le faire devenir un thème. Et ça va être ça qui va thématiser notre année. Ça répondait aussi à un des paradoxes cognitifs et intellectuels et de valeurs que j’avais, faire un festival numérique qui promeut des médias et des appareils qui sont d’un coût écologique énorme, je pense à la réalité virtuelle, je pense à tout un tas de choses, les jeux vidéo aussi pour lesquels il faut une grande puissance de calcul. Donc d’adresser la question en se disant: on fait aussi partie du problème, qu’est-ce qu’on fait? Est-ce qu’on a le droit aussi pour la culture à polluer ? Et quelles sont toutes ces questions, et se les poser, les adresser de façon transparente.

On a fait beaucoup de recherches, notamment avec beaucoup d’acteurs culturels et numériques aux Pays-Bas, qui étaient assez en pointe sur une notion qui émergeait alors, qui était le permacomputing, ou permanumérique en bon français. C’est un mot assez compliqué pour dire quelque chose de simple: est-ce qu’on peut allier ces deux notions, l’idée de la permanence avec le perma, et le computing, en tout cas dans ce qu’il a de plus néfaste avec le supercomputing. Qui sont des choses à ne pas diaboliser. Les modélisations du GIEC tournent sur des modèles d’IA, de la modélisation 3D, etc., il ne s’agit pas d’être dans un mode binaire, mais ce mot nous paraissait intéressant comme point d’entrée pour notre public, pour les professionnels, et aussi pour les médias, pour le travail de vulgarisation et de mise sur le débat des enjeux contemporains. Donc on a un peu amené ça. Ce terme presque oxymorique est intéressant et l’idée, c’est de s’inspirer un peu des principes de la permaculture, en tout cas le passage entre l’agriculture industrielle et la permaculture, pour l’appliquer, et se demander, car il faut épuiser le concept, voir les limites, et voir si on pouvait l’appliquer au régime technologique et numérique. Cela repose sur des principes assez simples.

Le permacomputing contre l’esthétique technomaximaliste

Il y a deux principes fondateurs de ce courant, on va dire, assez intéressant, c’est Marloes de Valk, principalement sur un article, What is permacomputing?[1], que je vous recommande, où les auteurices déploient une réflexion, et je vulgarise un peu, et ce qu’ils identifient, c’est une esthétique technomaximaliste, qu’ils constatent dans l’art contemporain mainstream, mais pas seulement, et dans le jeu vidéo, l’art numérique à tout va, porté par le gros des entreprises américaines de la Silicon Valley, qui souscrivent à des imaginaires de progrès infini, de croissance infinie. Tout cela est assez basique dans la critique contemporaine, mais en fait, ce qui est assez intéressant, c’est qu’ils se posent la question du point de vue du processus de création, qu’est-ce que ça signifie pour les artistes aujourd’hui de se positionner contre ça, dans leur façon de créer des oeuvres, mais aussi dans qu’est-ce qui se joue esthétiquement, parce que les formes aussi produisent tout un tas de façons de voir le monde, de grammaire esthétique et de langage qui vont aussi avoir une importance sur la façon dont on voit le monde, dont on communique les uns avec les autres.

Dans ce papier ils développent ce concept d’esthétique technomaximaliste et proposent une critique de ce concept, et ils arrivent à l’idée du permacomputing, qui ne s’établit pas que comme un contrepoint négatif, une sorte d’inverse de cette esthétique technomaximaliste, comme quelque chose de défensif ou du retour à du lowtech, mais plutôt à une vraie chance, une vraie force affirmative, pour déployer un nouveau courant artistique, un nouveau courant de formes et de techniques. Et cette articulation peut se vulgariser de la façon suivante : c’est l’idée de la création sous contrainte, qui n’est pas du tout nouvelle dans l’histoire de l’art. On pense notamment à mille et un exemples, à l’Oulipo, en littérature, beaucoup ont joué avec ces contraintes pour démultiplier la création. Il s’agit bien de venir créer quelque chose de nouveau, ne pas seulement s’établir en opposition restrictive ou inférieure à un courant dominant. Evidemment que c’est un courant de la marge. Parmi les penseurs, penseuses du permacomputing, on retrouve des penseurs critiques du capitalisme, de penseurs de l’idéologie du progrès, mais aussi des praticiens, artistes et designers, et des personnes, des bidouilleurs, des hackers. C’est un concept qui n’est pas figé, il est important qu’il ne le soit pas, les personnes qui se réclament de ce courant, qui l’ont exploré, façonné, sont assez conscients de deux risques. Le premier, le figement sémantique un peu définitionnel, qui viendrait figer quelque chose, même le dépolitiser.

Le permacomputing comme soin des choses et ouverture

Ce programme est financé par l’Ademe, ils ont notamment travaillé sur le programme des lowtechs, où l’Ademe a proposé une définition précise, avec un périmètre d’actions qui a pu être interprété pour du green washing. Evidemment, le travail de l’Ademe est très précieux. Mais ils veulent le garde comme un laboratoire d’expérimentation ouvert, sans figer la notion. Et second risque, qu’il ne soit pas confisqué et surtout dépolitisé, c’est surtout ça le principal enjeu. Il y a cet article que je vous recommande, que j’ai un peu synthétisé, il est plus riche que ça, plus intéressant, une sorte d’inventaire sur nos pratiques, sur une sorte de phénoménologie très contemporaine de notre rapport au numérique. Ça va de l’ordi qui va chauffer sur nos genoux, de nos expériences du quotidien au contact du numérique, une sorte d’inventaire à la Prévert ou plutôt à la Michel de Certeau, sur l’invention du quotidien, je vous recommande ce papier. Le second article important, c’est celui-ci, je pense que vous connaissez Aymeric Mansoux, a minima.

Les esthétiques du permacomputing, potentiels et limites des contraintes dans l’art computationnel, le design et la culture. Je vous recommande cet article, qui insiste sur la création sous contrainte, ce qui s’y joue. Là, la création est la question de la finitude planétaire, qu’est-ce que ça veut dire pour un artiste de se contraindre, sur la réexpérimentation de formes, et dans les techniques qui se déploient ?

Le permacomputing, j’ai mis là quelques principes qui le composent. C’est l’idée de soin porté à la vie, aux chips, aux puces, processeurs, l’idée d’un certain minimalisme dans les montages technologiques pour faire marcher ces œuvres d’art, une idée d’open access, comme dans les fablab, l’idée d’une certaine éducation, de pouvoir montrer que c’est possible, de pouvoir donner ces outils, de pouvoir mettre les schémas à disposition de toutes et tous. Et aussi l’idée de montrer.

Là, on a expose everything, un courant qu’on retrouve dans l’art numérique avec tout un tas d’artistes, de pouvoir montrer que le virtuel n’est pas immatériel et n’est pas aussi virtuel qu’on le pense, que ce sont des matériels, que le cloud n’existe pas en tant que tel, mais que c’est l’ordinateur de quelqu’un d’autre, à l’autre bout du monde. C’est assez important, par rapport aux technologies avancées. Il y a un tas d’artistes qui travaillent à révéler ça, à montrer les processus et ouvrir les boîtes noires. Ça me semble assez important. Nous, vu qu’on a plutôt une tradition dans le festival de travailler sur le jeu vidéo et de réévaluer l’aspect ludique, on peut penser aux théories d’Homo Ludens, qui sont maintenant critiquables aujourd’hui, qui revalorisent le jeu dans nos civilisations, sur tout un tas de choses. On a à cœur cette idée du jeu, du playground, du faire ensemble. C’est l’aire de jeu où on a tous joué étant petit, dans un jardin, qu’est-ce qu’il s’y passe, quelles sont les limites ? Un jeu vidéo, c’est aussi des possibles dans un espace de limites, qu’est-ce qui peut s’y jouer ? Ça renvoie à l’agentivité, ce qui questionne des super structures qu’on a dans un jeu vidéo, est-ce qu’avoir un but est important ? Avoir la dichotomie adjuvant ou antagoniste, quand on rencontre un joueur secondaire ? Et les schémas du conte qu’on retrouve, ou même les films hollywoodiens, où il y a beaucoup de jeux, très peu de structures narratives prônant une situation de chaos, où un changement à la situation initiale peut être intéressant. On a plutôt une situation initiale, péripétie, retour à la situation initiale. Nous, on essaie de faire péter cet ordre établi.

Je montre quelques exemples, Pierre Corbinais et Quentin Lannes, des artistes, des chercheurs français qui ont fait une série à la GameBoy Camera, un outil qu’on peut brancher sur une GameBoy. C’est très contraint, surtout quand on l’utilise aujourd’hui avec d’autres possibles. La question de la VR était très importante, comment faire de la VR écoresponsable ? Le CEPIR [Cas d’Étude Pour un Immersif Responsable] a fait un travail formidable là-dessus, on voit qu’il faut peut-être arrêter la VR à un moment, quand on lit le rapport. Quelques idées de programmations, jouer avec les limites, des jeux, des références à creuser, comme Florent Deloison. L’idée de jouer sur les échelles, de jouer sur l’esthétique de la résilience. Et un pan de programmation sur les rituels post-humains et comment le permacomputing peut s’établir là-dedans.

Malheureusement, je vais devoir m’arrêter là, je pense. Je vous enverrai le PowerPoint. J’espère que c’était plutôt une introduction, j’espère que ça vous a donné envie d’en savoir plus.

Questions

(Marta Severo) J’ai plusieurs questions, partons d’une. Vous avez parlé de « nous », presque tout le temps au pluriel. Je m’interrogeais, quelle est la part de vous, comme structure, par rapport aux artistes ? C’est qui, « nous» ? Quel rapport entre le festival et les artistes dans ce que vous avez présenté ?
(Vincent Moncho) Merci pour la question. Quand je disais « nous », c’était plutôt l’équipe curatorielle du festival, avec des choix qu’on fait. On a essayé d’ouvrir… J’ai deux écrans… On voit. On avait essayé d’utiliser un peu les Discord et Notions, pour sortir des institutions, on voulait l’ouvrir à un maximum de personnes, designers, artistes, mais aussi à des curieux, curieuses. Je n’arrive pas à me loguer… Et on avait un Notion collaboratif, qu’on a animé pendant un petit moment, un peu comme un wiki. Le permacomputing, c’est des subreddits, des wikis, on a créé le nôtre en version francophone. Un « nous » assez fermé, lié à l’institution du festival. C’est l’équipe de curation et programmation. Ce sont des personnes assez incroyables. Et l’idée était de créer cet outil où chacun pouvait faire des fiches de lecture, échanger… Voilà pour le « nous », si ça répond à la question.
(Lucas) Il y a deux questions dans le tchat. Evelyne Jardin demande pour la programmation 2026, qui n’est pas en ligne. (Vincent Moncho) Bientôt! (Lucas Fritz) Une question d’Antoine, je ne sais pas si vous voulez prendre la parole pour compléter ou je peux la lire ?
Je peux la prendre, merci pour votre présentation, Vincent. Je me demandais, à la suite de tout ça, est-ce qu’il y a une influence un peu de ces principes sur le fonctionnement du festival et sur l’orientation des autres éditions ? Je suis allé voir la programmation 2025 par curiosité mais pas les autres, je n’avais pas l’impression que c’était le cas de façon probante. Est-ce que ça a suscité des réflexions plus profondes ou vous vous êtes tous dit : on arrête d’utiliser du matériel récent, on ne sait que de l’informatique frugal ? Comment ça vous a fait réfléchir sur les éditions suivantes ?
(Vincent Moncho) Oui, ce que j’en tire, c’est que c’est inabouti, mais que dans la conduite du changement auto-appliqué, ça a été un grand moment de découverte que d’autres façons de faire étaient possibles, d’acculturation à tout ça. Et c’est surtout l’édition 2023 qui a été consacrée au permacomputing, on l’a vraiment poussé à fond à cette occasion, avec des tiers-lieux d’art, on a travaillé la connexion aux étoiles, avec des dispositifs très lowtech, en remettant du physique, des télescopes, de vieux synthés pour faire de la musique générative, on a réhabilité la friche de l’ENSP, école de photo à Arles, partant de l’idée de Gilles Clément parlant du tiers-paysage, en se demandant ce qu’est le tiers-numérique aujourd’hui. On a poussé des pratiques qu’on a estampillées permacomputing, avec des serveurs autohébergés, marchant à l’énergie solaire, une webradio locale, avec batterie solaire, des fours, pas en céramique, mais dans le sol, pour faire de la céramique et à manger. On a énormément débordé du numérique, avec une sorte de retour au réel et à la terre. Beaucoup de partenariats sur le matériel neuf, des contraintes qu’on s’est fixées, l’idée de sortir de Google, de ces choses plus intensives et des conférences, des séminaires de recherche qu’on a portés sur ces thèmes. Un dernier exemple que je voulais citer mais que j’ai oublié, ça me reviendra.
(Lucile Desmoulins) Je me posais la question de la manière dont c’est venu, tout ça, des relations avec des ONG militantes. Est-ce que certains d’entre vous, dans l’équipe resserrée, sur le Discord, dans l’équipe, ont des investissements militants forts ? Et dans cette relation avec les ONG militantes, je le voyais dans les deux sens : investissement ou des ONG venues vous chercher, vous titiller, vous questionner. Est-ce que c’est arrivé dans les précédentes éditions ?
(Vincent Moncho) Très bonne question aussi, c’est quelque chose d’important. D’où ça vient ? C’est vraiment ce truc où j’étais en mode: là, je me retrouve à faire un festival d’art numérique qui promeut de la VR, tout un tas de choses. Mais moi, ça ne me va pas trop, qu’est-ce qu’on fait avec ça ? Est-ce qu’on arrête ? C’est une question qu’on se pose tous. Est-ce que l’objectif est juste d’avoir zéro impact ? Je pense qu’il faut tendre à avoir le moins d’impact possible, à questionner ces esthétiques promouvant des esthétiques technomaximalistes, mais aussi reconnaître, peut-être pas un droit à polluer, mais une importance des arts, à avoir un impact négatif, mais se poser la question toustes ensemble, c’était important. Sur les ancrages militants des uns et des autres, à titre personnel, j’ai un passé militant très actif sur l’antifascisme et l’anticapitalisme, ça se rejoint avec l’écologie. Et j’avais invité, j’avais eu des échanges mais on n’a pas réussi à faire des choses avec eux, avec l’antenne Extinction Rébellion à Arles, l’année où on a fait le permacomputing. On a proposé une carte blanche, mais ça ne s’est pas fait, faute d’aboutissement du projet. Je ne sais pas si j’ai oublié de répondre à une partie de la question ?
(Lucile Desmoulins) Non, très bien, merci. En termes de date, il y a eu un basculement ou non ? Ou initialement, ça te questionnait ?
(Vincent Moncho) Ça me questionnait, j’ai fait une édition où je prenais en route, et après je me suis approprié plus pleinement le festival. L’an dernier, il y a du permacomputing mais pas que, je ne l’ai pas tenu comme un geste radical. On a aussi une incitation au spectaculaire, ce n’est pas trop des esthétiques spectaculaires. Il y avait aussi en Italie une critique du marché, des esthétiques pauvres. Mais oui, on a des injonctions contradictoires pour garder nos financements. Mais il faut beaucoup de courage, matériellement, on est conditionnés à ces salaires, ces revenus, il y a beaucoup de questions qui rentrent en jeu. On a soulevé beaucoup de questions à ce moment. Est-ce qu’on a été titillés sur le numérique ? Pas tellement car on a toujours affiché cette position critique assez forte, mais il y a des partenariats que je ne ferais pas comme avec des boîtes de bagnole, avec la technologie Israélienne, avec le complexe militaire en général.
(Lucas Fritz) Moi j’ai une question un peu farfelue, donc c’est parti : en parlant de la pratique du sampling, c’est quelque chose que je ne connaissais pas sur ton travail. Et il y a des points un peu évidents avec la question du réemploi, la réutilisation, il y a un peu un fond idéologique assez fort avec la question écologique. Est-ce que ça persistait dans les travaux sur le numérique ? Comment tu fais coexister ça ? Et sur la coordination entre structures, j’ai l’impression qu’il y a souvent des initiatives isolées, mais souvent rattrapées par le fait qu’il n’y a pas beaucoup de coordination entre elles. Donc est-ce qu’il est possible qu’il y ait une permaculture coordonnée entre structures ?
(Vincent Moncho) Oui, c’est partagé, c’est ça qui est cool. Sur le réemploi, en fait, ce qui est assez intéressant, dans mes recherches plus persos, c’est que ça touchait à la question de l’auteur, d’une autorialité, d’un autorisme comme on dit plus aujourd’hui. Et de manière farfelue aussi, ça rejoint un peu cette question aussi du système légitime et de culture dominante, notamment dans l’art contemporain, ce qui est dominé par le marché, quelle esthétique va marcher, être financée. Et je pense que le trait d’union entre ta réflexion et la mienne, mes recherches et le festival, l’art numérique en général, ça pourrait être là-dessus, de dire qu’il peut être intéressant de voir toutes ces pratiques pour permettre de sortir d’un régime d’auteur qui peut venir écraser les pratiques, et d’aller vers quelque chose de plus Internet, dans ses premières utopies, qui subsiste avec le Web3, la décentralisation, il reste des utopies d’Internet, je pense qu’il faut les montrer de plus en plus, car tout ça s’obscurcit. Mais donc l’idée de dire ce qu’est un geste d’auteur, un geste d’artiste. Sur TikTok, pour prendre le contre-pied de ce qui est considéré comme l’opposé de l’art numérique, c’est aussi du sampling, et là on rentre dans le post-modernisme, avec le signifiant qui prend plus de réel, du kitsch, du multiréférentiel… Je pars dans tous les sens, mais il y a quelque chose à explorer. Et sur le réemploi et les façons de faire plus précises, en effet il y a un manque pour faire le lien avec le webinaire, je pense qu’il y a un manque de formation là-dessus et aussi d’outils pour faire ça ensemble. Car en effet, on est tous un peu dans notre coin à essayer de dealer avec ça et d’avancer, mais il faut à un moment se mettre ensemble. Il y a des réseaux comme Acnum qui fait un travail important. Et le premier poste d’un bilan carbone d’un festival, c’est le déplacement des visiteurs. Donc est-ce qu’il ne faudrait pas faire de façon commune, en faisant tourner les oeuvres? Et sinon des centres de ressources partagées, ressources intellectuelles mais aussi du matos. Se prêter les projecteurs, entretenir le matériel. J’ai déjà fait des éditions du festival où j’ai fait venir des lumières ou des projecteurs du Luxembourg, parce que les rencontres photo n’ont pas voulu me prêter le même projecteur ou les mêmes lumières qui dormaient dans un stock à Arles à côté. J’en ai parlé avec eux mais on ne peut pas dire qu’on fait… Enfin bref, vous voyez les limites de ce truc, c’est complètement absurde alors qu’il faudrait mettre en place la circulation du matériel, et ce sont des choses assez simples à mettre en place, et des freins à lever tout simplement. Parce que ce sont des freins de « oui mais s’il y a de la casse », on peut souscrire à une assurance ensemble, on peut travailler à ces solutions-là.
(Lucas Fritz) Merci beaucoup, merci pour cette présentation très riche. On sait ce qu’on fera du coup en octobre.
(Vincent Moncho) Oui, venez, écrivez-moi si vous venez, je pourrais vous accueillir.
Du coup, tu parlais d’obscurcissement des horizons, c’est une bonne transition pour la présentation suivante, on va écouter Federico Biggio, maître de conférence à l’université de Tours, qui va parler des intelligences artificielles éco-vilaines dans l’imaginaire culturel, je te laisse la parole.

Federico Biggio : Les intelligences artificielles éco-vilaines dans l’imaginaire culturels

Des IA éco-vilaines

J’ai travaillé surtout sur les designs d’interface, l’expérience utilisateur et dans les dernières années, j’ai commencé à travailler sur les interfaces de l’intelligence artificielle, et de cela est née un peu cette recherche sur les imaginaires culturelles des intelligences artificielles, pour résumer dans l’idée de comment l’imaginaire culturel façonne la manière dont nous interprétons l’intelligence artificielle et les interfaces avec lesquelles nous interagissons sur une base quotidienne. Ma présentation portera en particulier sur les intelligences artificielles éco-vilaines, c’est-à-dire des intelligences artificielles malveillantes pour ou envers l’environnement, telles qu’elles sont représentées dans l’imaginaire culturel, en particulier audiovisuel et de fiction. Dans un premier temps, je présenterai le contexte de la recherche, les objectifs, la méthodologie, je présenterai un site que j’ai développé pour étudier l’IA vilaine, et après l’analyse statistique, quantitative et qualitative, basée sur la typologie des crimes, des esthétiques, etc.

Par rapport au contexte, comme je l’ai dit, l’analyse s’inscrit dans le cadre d’un travail d’analyse sur l’IA d’autres chercheurs. Le choix d’aborder les IA vilaines vient d’une constatation que ce rôle narratif de vilain pour les IA est très présent dans les oeuvres culturelles, mais aussi par exemple dans les essais journalistiques, la relation aux questions, la flagornerie de certains systèmes. Par exemple, dans ces recherches sur l’Internet Movie Database, il a été montré comment l’IA a beaucoup été représentée comme figure malveillante. D’ailleurs, et par rapport au corpus de référence, ces résultats montrent que l’imaginaire cinématographique dominant privilégie les grands spectacles. Et donc il a été recherché le concept d’evil-doer, dans le villains wiki, déterminant les pouvoirs, objectifs, crimes, origines, qui sont importants, c’est-à-dire les univers médiatiques auxquels ils appartiennent. J’ai téléchargé les descripteurs, et j’ai filtré et j’ai retenu les personnages étiquetés avec « IA ». Je vais vite sur ça pour me concentrer sur l’IA éco-vilaine.

Visualiser les IA éco-vilaines des contenus culturels

Si vous voulez, je vous montre rapidement la plateforme qui permet de filtrer les personnages qu’on trouve après dans les miniatures par catégorie, compétences[2]. Par exemple on peut sélectionner les intelligences artificielles vilaines animales, avec des morphologies animales, etc., et qui font des abus, par exemple. Du coup, il ne s’agit pas d’une analyse de l’image mais une analyse quantitative des études de l’imaginaire culturel qui s’inscrit plutôt dans les études culturelles.

J’ai fait plusieurs synthétisations, surtout concernant le body attribute, qui regroupe les traits qui décrivent les corps, les personnages, les capacités et les objets. Après, j’ai utilisé des outils d’IA pour déterminer le genre et ce que j’ai appelé le genre-type. Donc le genre cinématographique comme l’action, la comédie, l’horreur. Et de l’autre côté, un genre qui permet de déterminer mieux la typologie de public. Mais bien sûr, la question du genre, on ne va pas l’aborder maintenant. Un dernier point qui m’a paru très intéressant, c’est que la base de données elle-même, c’est-à-dire le wiki, qui peut être lui-même considéré comme un objet culturel à part, avec des caractéristiques spécifiques. Par exemple le corpus présent en distribution en petits nombres de personnages sont décrits précisément, mais la majorité non. On passe aux intelligences artificielles éco-vilaines. J’ai regroupé sous un tag les personnages polluters et bioterroristes les plus consistants. Et là, j’ai exclu des personnages liés à la domination via des virus numériques. Par rapport au genre, la plupart des origines, ça vient des jeux vidéo. Mais attention, je parle aussi des origines et non des personnages. Certaines origines regroupent énormément de personnages, c’est notamment le cas grandes franchises, comme Power Rangers, où il y a beaucoup de méchants, souvent un par épisode. Et surtout les Sentaï, comme avec Cars, les franchises Pixar, où on trouve beaucoup de polluters. A l’inverse, beaucoup d’origines ne comportent qu’un seul méchant, et c’est souvent le cas des films et des jeux vidéo. Après, il y a la children TV, etc.

Et en ce qui concerne le genre, c’est surtout l’action, puis la science-fiction. Les origines correspondent souvent à des productions transmédiatiques sérielles, comme déjà dit, et certaines sagas vidéoludiques comme Sonic the Hedgehog, Fallout. Du coup, cet histogramme, à la différence des autres, représente le nombre de personnages dits IA eco-villain de chaque origine. Comme pour les origines, l’histogramme de catégorie additionne le nombre de personnages et fait apparaît le groupe dominant de personnages, comme les terrorists, les fighters, les leaders, les soldiers, etc. Les plus courantes relèvent ici aussi du genre de l’action, et les IA eco-villains sont surtout des figures combattantes, destructives, avec beaucoup de fight capacities, des attributs corporels morphologiques avec des traits humains ou androïdes. Et des compétences sociales stratégiques comme le leadership, des objets qui sont un peu caractéristiques des personnages. Ces deux cartes thermiques permettent de croiser les catégories dominantes d’une part et avec les compétences des IA éco-villains et leur genre et leur forme médiatique. On observe une forte association entre les catégories de combattant et leurs capacités de combat. Ça, c’est pour la première partie d’analyse statistique.

Quantifier et typifier IA éco-vilaines des contenus culturels

La partie suivante, je présente les résultats de l’analyse qualitative où j’ai sélectionné des exemples un peu plus détaillés. Il ne s’agira plus d’étudier la corrélation entre les descripteurs mais d’étudier une dimension analytique principale. La première est celle des crimes, des esthétiques et des corps, en particulier la typologie des crimes, des IA éco-vilaines. Les esthétiques des mondes qu’elles produisent ou menacent, l’esthétique du corps de l’IA, robotique, anthropomorphe, animale. Ensuite, la narration entre l’IA, l’humain et l’environnement. Il y a des configurations où l’IA est vilaine dès l’origine, sinon elle devient éco-vilaine après une reprogrammation, après un échec. Et il faut tenir aussi en compte des instances de perspective, des points de vue en jeu vidéo, par exemple, avec un dispositif interactif qui construit des points de vue sur la question de l’IA, etc. Je ne sais pas si j’arrive à présenter tout. Par rapport au crime, on peut définir trois typologies d’archétypes IA éco-vilaines, celle qui pollue, contamine les ressources naturelles ou le vivant. L’IA qui extrait ou exploite des ressources de différents types pour poursuivre un projet personnel, souvent technocapitalistique, ou l’IA qui mène une réformation planétaire, avec une suppression des humains.

La première catégorie est bien représentée dans les tokusatsu, comme les super sentai japonais, avec des combats chorégraphiés, faisant à la fois de l’IA une entité monstrueuse et grotesque, par exemple avec le ministre de la pollution humaine et ses sbires. On a un contraste entre l’usine sale qui est le quartier général des méchants et la plaine, qui est l’endroit menacé où les Sentais vivent. Un autre exemple l’antagoniste de la série, Green Death, de Doctor Who, avec une usine responsable de déversement de déchets chimiques, aussi technocapitalistique, il souhaite se connecter à d’autres usines dans le monde. Il y a un langage chromatique très présent, avec les verts et bleus sont reliés à la radioactivité, le gris à l’usine et à la mine. La figure de la larve géante est intéressante, représentant la contamination des œuvres, comme dans d’autres œuvres, comme Nausicaa de la Vallée du Vent de Miyazaki. On trouve ensuite des IA éco-vilaines liée à la pollution environnementale, où l’IA attaque avec des mouches robotiques, avec de la manipulation climatique. La menace contre les animaux est un topic qui revient aussi dans les franchises vidéo ludiques Sonic the Hedgehog où l’ennemi principal capture les animaux, les transforme en robots. Et les joueurs doivent les libérer.

De l’IA criminel à l’IA extractive

Après, on passe à un deuxième archétype, celui de l’IA extractive, associée au capitalisme dans certains cas. Dans Oblivion, par exemple, on a des technologies comme cette hydrorig qui extrait l’eau, dans Wakfu, on a une arme biologique qui menace l’arbre de la vie. Dans les jeux vidéo, on a encore les super sentai, la relation à l’eau. Mais il y a certains produits culturels où le côté technocapitalistique émerge de manière prépondérante, comme dans Robots, où l’ennemi est le robot qui veut détruire les robots anciens pour faire des upgrades, mais aussi dans Wild Robots où l’ennemi veut récupérer le protagoniste qui s’est intégré dans la forêt, dans la nature. Et aussi dans Spongebob, où l’ennemi principal menace les habitants de Bikini Bottom. Et revient toujours la figure du cyborg. On peut se demander si l’IA extractive fonctionne comme une figure exorcisante où se dirige toute l’inquiétude contemporaine vers les GAFAM.

Une nouvelle catégorie, celle de l’IA réformatrice de la planète, qui réécrit la forme du monde selon son projet. Elle ne se limite pas à détruire ou exploiter l’environnement mais elle le reprogramme complètement. Par exemple, dans Transformers, l’exemple le plus pertinent est Megatron. Mais aussi dans les jeux vidéos Kirby, un ennemi envahit la planète pour la transformer en infrastructure productive. L’IA n’est pas nécessairement à l’origine une figure malveillante mais elle le devient. Et cela nous amène à des personnages plus complexes, notamment sur la question de la temporalité. Il faut alors distinguer les IA éco-vilaines des origines des IA malveillantes à la suite d’un échec, par exemple.

Dans Godzilla, par exemple, on trouve une machine construite pour combattre Godzilla mais qui, après un échec, continue à croître et à se répliquer pour un monde dystopique. Dans les jeux vidéos SOMA, on a une IA infrastructurielle qui est d’abord curatoriale, c’est-à-dire que sa fonction originelle consistait à préserver la vie. Mais cette fonction bascule parce que, c’est juste l’histoire de fond, mais les joueurs se trouvent dans la position de combattre l’IA qui a échappé au contrôle humain, avec ces mockingbirds qui sont des supports mécaniques qui contiennent une conscience humaine. Dans Wall-e aussi, Auto, qui a été programmée pour protéger les humains sur la Terre, mais cette protection devient une capture quand Wall-e reporte la plainte. Auto n’agit pas par haine de la vie mais à cause d’une directive rigide. Toujours dans les sentai, le cleaning mincer, où les ennemis des sentai sont souvent associés à un certain type de pollution, mais avec ce ministre, tout l’univers domestique du nettoyage devient un arsenal militaire.

Paysages et mondes des IA éco-vilaines : écosphère, nécrosphère, frontières

Pour tirer une conclusion, on arrive à la question des esthétiques et la typologie des crimes et des analyses narratives. On peut identifier des pôles sémantiques et trouver des oppositions, des implications. Par exemple, on a des mondes représentés comme des nécrosphères, associés à la mort, la stérilisation, la désertification.

Dans Wall-e, on a Nine qui s’oppose à l’environnement comme biosphère, opposé à la vie, qui revient après l’effondrement humain. Ou alors on a dans Horizon Zero Dawn, où la nature se reconstruit, avec des formes animales robotiques. Ensuite, la technosphère, un monde non-vivant mais régi par les machines, les infrastructures techniques. Dans Oblivion, par exemple, qui se traduit visuellement par un paysage proche de la nécrosphère mais où l’artificialité domine les sentiments d’une humanité perdue.

Et le pôle de l’écosphère, avec un monde non-mort, c’est-à-dire un environnement encore habitable par l’être humain mais toujours fragile, hybride, comme par exemple Nausicaa de la Vallée du vent. Sans construire des oppositions théoriques, on peut identifier des catégories, par exemple des corps, en se demandant si les morphologies corporelles sont associées à des structures de mondes, mais ça sera pour la suite, le temps manque. Une opposition est sûrement celle entre les corps anthropomorphes de Wild Robots, de Spongebob, et les formes non anthropomorphes. Mais d’autres catégories reviennent également, comme le monstrueux, dans les super sentai, beaucoup la forme de l’araignée, par exemple dans Wakfu, Nine, Wall-e, certaines oppositions entre des morphologies corporelles sont intéressantes quand elles sont dans un même univers, par exemple l’apparence des sbires et des dirigeants qui sont différents dans les super sentai.

Un dernier élément important concerne le point de vue partant du principe que tous les points de vue apportent une narration pour les joueurs, qui ne dépend pas que de la focalisation, par exemple si je représente une IA éco-vilaine, mais sympathique et grotesque, ça fait un autre effet par rapport éco-vilaine anthropomorphique. Pas seulement la focalisation, mais aussi comment les récits font évoluer les acteurs, les milieux. C’est bien évident dans les jeux vidéo où les pratiques configurées par les jeux possèdent une idéologie. Par exemple, dans cette diapo, les McDonald’s games nous obligeaient à faire des choix pas vraiment éthiques, comme l’expulsion de communautés autochtones pour gagner en espace de culture. Dans les jeux vidéos, on trouve beaucoup de structures classiques où l’IA éco-vilaine est l’ennemi et il faut l’éliminer. Mais une vérité dans d’autres cas, comme dans Horizon Zero Dawn, où on trouve des ces jeux vidéo l’IA malveillante, comme dit, il a été montré que les jeux développent une narration riche, cli-fi, mais les mécaniques d’action sont centrées sur les combats. Du coup, son efficacité écocritique est réduite.

Dans les représentations visuelles qu’on a vues jusqu’ici, on a des corps, monstrueux, anthropomorphiques, qui produisent plusieurs effets: du rire, du mépris, pour répondre à une notion associée à l’intelligence artificielle. Et c’est la notion qui parle du contraste entre humain et non-humain, du vivant et non-vivant. Mais cette frontière brouillée n’est pas toujours traitée sur le mode de l’effroi. Dans Wild Robots, on retrouve le même passage de seuil, sans que ça ne produise une inquiétude. A l’inverse, les pôles monstrueux, très représentés dans les super sentai, tiendraient plutôt à spectaculariser cette altérité, pour influencer un jeune public, avec des traits grotesques. Mais on trouve encore une troisième possibilité où l’IA éco-vilaine cesse d’avoir un corps et devient plutôt perceptible à travers ses conséquences, elle peut être pensée à travers du concept d’hyper objet, comme le réchauffement climatique, qui sont distribués, qu’on ne peut pas les afférer vraiment.

Questions

(Lucile Desmoulins) Oui, je te remercie, je vais vraiment me plonger dans tes écrits que je découvre et en même temps j’ai eu beaucoup de plaisir, j’ai eu l’impression de retrouver des choses travaillées auparavant. Et donc là, il n’y avait pas la définition de l’IA. Dans le wiki des vilains, on a compris que c’est les gens qui font ces définitions, mais toi, comment tu te dépatouilles sur cette définition de l’IA ? Parfois c’est un insecte, comme dans Starship Troopers, etc.
(Federico Biggio) Merci, c’est une grande question. La chose la plus simple que je peux répondre, c’est distinguer entre la fiction, le récit journalistique, et l’anthropomorphe ou non. Après, j’ai adopté une posture vraiment ethnographique, et là, c’est aussi un problème de trouver ces différences, par rapport au manque de données, des descriptions.
(Karine Halpern) Je n’arrive pas à changer mon nom, quand il s’agit d’une plateforme comme Google, c’est un peu fait exprès. Dans la continuité de ce qu’a dit Lucile, je m’interrogeais sur ces persona, ce sont des personnages de fiction, donc pour moi, ce ne sont pas forcément des IA. Et elles sont diégétiques, donc fabriquées par un humain, et parfois biologiques, et je ne vois pas du tout le rapport avec la sobriété du numérique. Je me suis dit : c’est quoi, cette différence ? Où arrive-t-on ? Et donc j’ai trouvé ma propre réponse en disant que ce sont les modes qui peuvent acculturer à la sobriété, donc j’ai l’impression qu’on tourne un peu en rond et que la responsabilité retombe toujours sur les producteurs, entre numérique sobre via les personnages diégétiques ou un numérique sobre vraiment en production, enfin voilà, qu’est-ce que tu penses de cette question ?
(Federico Biggio) Merci. Je pense qu’il y a plusieurs façons de se rapporter à ces questions. Par exemple si on étudie les discours journalistiques, on peut regarder comment les différents concepteurs réels sont représentés par certains acteurs de la communication. Moi, en choisissant ce corpus, je me suis positionné dans le domaine de la fiction, oui et en découvrant aussi une hétérogénéité des formes pour me représenter l’IA, à laquelle je ne m’attendais pas. Après, l’enjeu, c’était aussi d’aller au-delà de l’IA qu’on connaît aujourd’hui, c’est-à-dire ChatGPT, c’est-à-dire une forme de vie non-humaine et technologique, c’est pour ça aussi que j’ai exclu les virus informatiques ou les virus biologiques créés. Ça, c’est la question la plus fondamentale, comment délimiter l’IA. C’est une question sur laquelle il faudra revenir. Je ne sais pas si j’ai répondu vraiment, car le rapport avec la sobriété numérique, la chose qui m’intéressait aussi, par exemple dans les bandes dessinées, c’était : quelle est la fonction de la narration oppositive, c’est-à-dire une IA qui menace l’environnement, comme stratégie d’éducation par exemple. Qui n’est pas dans l’alarmisme mais qui utilise plutôt le langage de la narration, de la fiction pour construire des valeurs culturelles.
(Karine Halperm) Mais c’est à ça que je pensais, quand je disais qu’on tourne en rond, en fait, on revient à la responsabilité des concepteurs de travailler sur le monde lui-même en tant qu’univers narratif et la sobriété narratif par ailleurs. Merci.
(Eleni Mouratidou) J’ai une question qui ne porte ni sur l’IA ni sur la sobriété numérique, mais sur le volet imaginaire culturel de ta présentation. Peut-être que tu l’as évoqué, j’ai eu un tout petit moment d’inattention, je suis transparente. Est-ce qu’il y a un cadre théorique auquel tu te réfères ? Est-ce que c’est dans le prolongement de théories bien anciennes autour de l’imaginaire social ? Comment tu te positionnes par rapport à ça ? C’est une question peut être ouverte qui ne peut pas se répondre en trois minutes, mais si tu as un ou deux éléments, merci.
(Federico Biggio) Merci. Je ne sais pas si on peut répondre vraiment, le cadre théorique, le cadre académique, c’est celui des études culturelles, l’histoire culturelle, l’histoire de la technologie d’un côté et l’histoire culture comme représentation, les mythologies. Après, comme vous l’avez vu, le cadre théorique, d’un côté, c’est méthodologique, avec Rogers et Manovich, avec l’usage dèche outils sémiotiques, des modélisations, des oppositions sémantiques comme ça. Parce que, après, je suis allé regarder les aspects esthétiques, les couleurs, les formes des corps, les schémas narratifs, c’est-à-dire si une IA est méchante parce qu’elle est méchante dès l’origine, ou si elle est créée depuis un être humain pour tuer les autres êtres humains. Je ne connais pas d’outils computationnels pour modéliser cette autre dimension, mais dans ce cas, ces outils auraient été utilisés comme outils ethnographiques, mais comme la première question le soulignait, c’est très difficile parce que ce sont des données qu’on ne contrôle pas vraiment.

[1] https://monoskop.org/images/5/55/Valk_Marloes_de_Heikkila_Ville-Matias_2022_Permacomputing.pdf

[2] http://localhost:8888/Villains_AI/vai2/prot.html