Réflexions à propos d'un clip sur l'IA

Résumé: j'ai publié un clip pour critiquer le développement de l'IA, tout en réalisant une partie importante de ce clip avec l'IA. Je pense que c'était en partie une erreur: je ne prends pas à la légère le fait de générer du contenu artistique par IA. J'espère que vous pourrez quand même soutenir ce combat de régulation de l'IA, qui est si important.

Ce texte a été 0% généré et 0% relu par IA.

Introduction

En octobre 2026, j'ai écrit, réalisé, et publié ce clip de quatre minutes qui parle de la situation actuelle dans le monde du développement de l'IA. Je l'ai publié en collaboration avec "Nouvelle machine", une initiative qui organise des dîners et rencontres sur la sécurité de l'IA à Paris. Malgré ce partenariat, je l'ai publié largement en mon nom.

Ce clip finit par une promotion de PauseIA (entre autres associations). Je suis en effet un membre très actif de cette association (PauseIA), qui milite pour ralentir voire interdire l'entraînement de modèles d'IA trop dangereux. PauseIA n'a eu aucune influence directe sur cette vidéo, et ne m'a pas encouragé à la publier ou non. Cependant, elle a très certainement influencé ma manière de penser le sujet.

Après avoir discuté avec différentes personnes, de différents milieux et avec différentes convictions, je me suis remis en question quant à la publication de ce clip. En tout cas, je pense que tout ceci mérite une réflexion plus approfondie. C'est pourquoi j'ai décidé d'écrire cet article.

Il se présente sous la forme d'une discussion entre deux parties de moi, que j'appellerai Moi (M dans le texte) et l'Autre (A dans le texte).

J'espère que cela pourra à la fois vous donner des informations utiles et vous rassurer sur ma manière de voir le monde de l'IA. Bonne lecture!

Dialogue

M: Ça y est, j'ai publié! Ça m'a demandé des semaines de travail pour atteindre ce résultat, mais je suis satisfait. C'est agréable à regarder, pédagogique, et on comprend bien les risques en quatre minutes. Mission accomplie!

A: Wow. Tu vas vraiment proposer à tes contacts de partager ça? Ça pose problème, tu ne trouves pas?

M: Eh bien, oui, je vais leur demander de partager. Je pense que c'est une vidéo qui mériterait d'être vue par le plus grand nombre, je pourrais même la qualifier d'«utilité publique». Je suis transparent sur le fait qu'une partie est générée par IA, et je ne force personne à partager. Si quelqu'un refuse de la partager par principe, c'est normal, et même: je soutiens! Vouloir se distancer de l'IA dans la création est une bonne chose, et beaucoup veulent garder une réputation de «Je ne partage pas du contenu IA, ça serait l'encourager».

A: Ce n'est pas du tout une histoire de réputation, c'est un impératif moral! Mais avant d'entrer dans ce débat, explique de quoi est-ce qu'on parle exactement? Qu'est-ce que tu as fait, et qu'est-ce qui a été généré par IA?

M: Bonne question, j'aurais pu être plus clair dans le clip et dans mes messages de communication. J'ai eu l'idée du refrain en chantonnant dans la rue. J'ai ensuite écrit le plan de la chanson, en listant les éléments dont je voulais parler. Ensuite, j'ai écrit sur papier les vers du premier couplet. Quand je bloquais, j'allais voir des dictionnaires de rimes ou je demandais à une IA (Claude 5.5 Opus) d'en proposer. Très souvent, cela me donnait de la matière et je retravaillais. Pour le dernier couplet, j'ai demandé à l'IA de générer tout le couplet, avec des règles assez précises, et j'ai été impressionné par le résultat. C'est pour ça que j'ai gardé le fameux vers «ce couplet je l'avoue c'est elle qui me l'a soufflé» parce que c'était vrai. Ensuite, j'ai imaginé le style, je suis allé écouter les morceaux avec un style qui me paraissait intéressant, j'ai traduit le style que je voulais en mots, et j'ai utilisé Suno (l'IA de musique) pour générer la musique. Pour les illustrations, j'ai écrit tout le storyboard (chaque scène), et j'ai demandé à l'IA d'écrire le code pour animer le tout. C'est ce qui m'a demandé le plus de temps: faire tous les ajustements de style. Pour chaque scène, j'ai écrit des dizaines de lignes de commentaires pour atteindre petit à petit un résultat satisfaisant. Enfin, j'ai traduit automatiquement la chanson en anglais, italien, espagnol, allemand et néerlandais. J'ai reformulé ou demandé des reformulations quand je n'étais pas satisfait, surtout dans les langues que je connais.

A: Tu n'as pas non plus précisé le coût: si tu as utilisé une IA pendant plusieurs semaines en lui donnant autant de modifications, ce n'était pas gratuit.

M: C'est vrai. J'avais en fait gagné à un hackathon (un concours de recherche informatique) un abonnement d'un mois à cette IA. C'est pour ça que je me suis lancé dans ce projet. Mais revenons au point dont nous parlions: je ne vois pas pourquoi je n'aurais pas dû utiliser l'IA dans cette situation.

A: La génération de contenus artistiques par IA est en train de détruire des métiers, des vocations même. Beaucoup de jeunes sont découragés, pensant que leurs études ne mènent à rien parce que tout est déjà automatisable. Accepter d'utiliser l'IA, c'est participer à cette destruction. Et c'est se mettre à dos tous ceux qui essaient de s'opposer frontalement à cette destruction, alors qu'ils ont probablement la volonté de soutenir ton combat.

M: Si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait. Beaucoup d'entreprises, de chaînes Youtube, et de studios utilisent en ce moment même l'IA pour leurs contenus, sans aucune transparence. J'ai utilisé exactement la même démarche que les vidéos volontairement mensongères publiées le 1er avril: faire l'inverse de ce qu'on défend, pour faire prendre conscience, remettre en question. Un ami m'a partagé son expérience: Il l'a montrée à ses parents, et en voyant que la vidéo a été largement générée par IA, ils ont eu peur. C'est ça que je veux provoquer chez mon public. Et je ne considère pas que c'est une œuvre d'art, c'est un outil pour informer et marquer les esprits.

A: Ce n'est pas comme ça que ça fonctionne, il y a une contradiction évidente dans ce que tu dis. Tu veux «marquer les esprits»? Tu veux faire «peur»? En résumé, tu veux faire passer une émotion? Donc c'est de l'art, par définition. En générant une grosse partie de la vidéo par IA, tu normalises l'idée que le contenu est roi, et que tous les moyens sont bons pour le créer, y compris des moyens non humains. Si tu dis que c'est mal, mais que dans ton cas particulier, tu peux te le permettre, alors c'est de l'hypocrisie pure et simple. Peut-être que chaque étape n'est pas dommageable, mais regarde la tendance globale: petit à petit, les gens acceptent de plus en plus d'être divertis par des morceaux d'images, de sons et d'histoires qui ont été créés par la machine. Ils acceptent que l'humain n'a plus le monopole pour provoquer des émotions. C'est pour cela je pense que c'est un impératif moral de ne pas utiliser l'IA. J'ai une analogie: si tu veux convaincre un végétarien de s'impliquer dans une cause, ne l'invite pas à un restaurant où il doit obligatoirement manger de la viande. C'est contre-productif, et surtout immoral.

M: Bon, c'est vrai. Sur la forme, c'est critiquable. Et je comprends que certains ne veulent pas la partager, voir refusent de la voir. Pourquoi pas. Mais sur la forme, le contenu est intéressant non?

A: Ce n'est pas si facile de séparer le fond et la forme, surtout dans la réception du spectateur. Ils sont englobés dans la démarche que tu as mené, et il est impossible de faire abstraction de l'un par rapport à l'autre. Beaucoup vont apprendre des choses via ce clip, mais ne pas avoir envie de s'impliquer dans le combat que tu mènes, voire même considérer que tu es dans le camp "ennemi". J'ai vraiment peur que certains reçoivent des signaux contraires de ta vidéo, et ne sachent pas quoi en faire.

M: Vraiment? Je serais surpris. Je me suis inspiré d'une vidéo en anglais qui avait une démarche similaire, et elle avait très bien fonctionné. Les retours étaient positifs, certains se sentaient même galvanisés par l'émotion transmise par la vidéo. Je trouvais très intéressant d'utiliser l'IA dans la réalisation, pour justement illustrer les capacités actuelles et pourquoi il faut ralentir à tout prix. Et j'ai publié en mon nom, en étant transparent sur l'utilisation de l'IA. Comment la réception pourrait être mauvaise?

A: "Galvanisés"? Tu vois, tu acceptes d'utiliser la machine pour créer des émotions chez les autres. C'est une pente glissante. En plus, la démarche ne fonctionne pas vraiment. Tu dis que tu veux illustrer les capacités dont l'IA est capable, mais tu travailles pendant des semaines. Donc le spectateur ne sait pas vraiment ce qui est généré par IA et ce qui ne l'est pas? Cela donne l'impression que tu prends très à la légère le fait de générer du contenu par IA, alors que ce n'est pas le cas.

M: ... Oui. C'est vrai qu'il y a une pente glissante, assez inconsciente. Mais je pense que je suis assez lucide pour savoir où est la limite.

A: Et si tu avais déjà franchi la limite? Tu as utilisé le style du StopMotion (des animations en papier, très réalistes). Pourquoi? Parce que «ça rend bien»? Quand tu as pris la décision d'utiliser ce style, est-ce que tu as vraiment réfléchi à ta décision, ou est-ce que tu trouvais ça «cool» et «facile»? Une vidéo en Stop-Motion, c'était une preuve d'authenticité. Une preuve que quelqu'un a travaillé pendant des semaines, manuellement, pour dessiner, animer et photographier. Une preuve de patience et de passion. Tu as eu le même résultat avec un dixième de l'effort, peut-être moins. Cela ne te semble peut-être pas dommageable, mais prends du recul: la limite de cette tendance, c'est un monde comme dans Wall-E: un monde où tout est automatisé pour notre confort, un monde où on a petit à petit acheté la facilité au prix du sens de la vie. Où on a perdu toute la signification des échanges humains.

M: Mais quelles étaient mes autres options? Ne rien publier et garder mon desespoir pour moi? Ou le publier en tant que poème que personne ne va lire? Ou utiliser des animations moches qui ne marquent personne?

A: Il y a d'autres choix. Tu pourrais enregistrer la chanson simplement, sans accompagnement. Tu aurais pu te remettre à la guitare pour t'accompagner. Tu aurais pu demander à des amis ou des proches de t'accompagner dans ce projet, même si cela signifie attendre plusieurs mois. Et effectivement, tu aurais pu accepter de le publier uniquement en tant que texte.

M: Plusieurs mois? Je n'ai pas l'énergie pour faire ça. Je donne déjà tout mon temps libre à des associations qui essaient d'agir pour éviter les risques de catastrophe créés par l'IA, je suis démotivé par l'inaction autour de moi, je n'ai ni les moyens ni les contacts pour arriver à un résultat intéressant. Internet est inondé de contenus IA de qualité catastrophique, existant seulement pour faire liquéfier les cerveaux et pomper l'attention de ceux tombés dans cette spirale. Ce que j'ai fait est bien plus intéressant et louable! Bien sûr que j'aurais essayé de faire tout moi même si j'avais le temps, cela m'aurait apporté beaucoup plus de satisfaction personnelle! Je pense que la situation est urgente, et j'ai besoin d'agir rapidement pour voir les choses bouger. J'ai été obligé de faire une concession en utilisant cet outil pour aller plus rapidement, parce que j'ai l'impression que c'est ce qui se passe tout autour de moi.

A: Une grande partie de ce ressenti n'est pas spécifique à toi. Les artistes souffrent du manque de sens du monde actuel et se sentent impuissants. Les mathématiciens sont en train de réaliser qu'ils n'ont plus le monopole du raisonnement abstrait, et tout cela à cause d'une entreprise de la Silicon Valley. Les enfants nés après 2015 penseront que les téléphones, les réseaux sociaux et l'IA ont toujours existé. Toi au contraire, tu as trouvé un combat qui te correspond dans cette association, et tu es responsable des choix que tu fais. Il y avait d'autres manières de créer ce débat avec les gens que tu veux sensibiliser.

M: Je dois préciser: on parle de deux types de risques de l'IA depuis le début, mais il ne faut pas les confondre. Il y a les risques systémiques: comment l'IA change notre manière de nous comporter, de faire société, notre rapport au monde. D'un autre côté, les risques de catastrophe. Ce sont les scénarios où l'IA agit comme une arme de destruction massive, soit par malveillance, soit parce que ses opérateurs humains on perdu le contrôle. Par exemple, l'IA pourrait être utilisée pour créer des armes biologiques, lors de campagnes de manipulation de masse, ou dans des cyberattaques sur des infrastructures critiques. PauseIA est davantage inquiet vis-à-vis de la deuxième catégorie, et moi aussi. J'ai bien compris toutes tes critiques, mais elles s'appliquent à la première catégorie. Beaucoup de gens que je côtoie ne sont pas trop inquiets des risques systémiques, mais beaucoup plus inquiets des risques de catastrophe. Quand j'ai écrit et réalisé ma chanson, je pensais moi aussi au deuxième type. Je veux expliquer les risques de catastrophe sans me soucier des risques systémiques sur la forme, pourquoi je ne peux pas le faire?

A: Tu risques de créer encore plus d'opposition entre deux camps qui sont déjà partiellement en désaccord. Depuis longtemps maintenant, les personnes inquietes des risques systémiques ont tendance à s'opposer aux risques de catastrophe, en disant que cela "détourne des vrais problèmes". De la même manière, les personnes inquiètes des risques de catastrophe ne considèrent pas que les risques systémiques ont un impact significatif. Et pourtant, les deux groupes sont d'accord pour dire que les entreprises qui développent l'IA vont trop vite, qu'elles sont irresponsables, qu'elles devraient être fortement régulées et avoir moins de pouvoir. Envoyer cette vidéo, c'est te présenter en défenseur des risques de catastrophe et en adversaire des risques systémiques, alors que tu es très inquiet de ces risques systémiques. Tu polarises le débat entre deux communautés qui sont très largement d'accord. Ce n'est pas simplement ce que tu fais, mais le symbole que tu représentes: ta position n'est pas tenable. Pour fédérer, il faut être intègre.

M: C'est un très bon argument. Ceci dit, je suis quand même très content d'avoir mené ce projet, au moins à titre personnel. Cela m'a permis de me former à plein de choses intéressantes que je n'aurais sinon jamais faites: écrire un bon storyboard, écrire un bon texte percutant et pédagogique, travailler sur les analogies, réfléchir au type d'illustration qui fonctionne bien.

A: Encore une fois, c'est une pente glissante. Tu as l'impression de contrôler l'IA en tant qu'outil, mais tu acceptes de perdre petit à petit des capacités cognitives simplement pour un argument de facilité.

M: C'est vrai, mais dans ce cas là ne pas utiliser l'IA du tout me paraît une perte assez nette. J'ai commencé à prendre une habitude, et je pense qu'il est intéressant pour trouver un équilibre. J'utilise l'IA un jour sur deux. Interdit de l'utiliser pendant 24 heures, puis je peux l'utiliser sans restriction. Comme ça, je continue à prendre du recul, et à me rendre compte si je perds des capacités. De l'autre côté, je comprends ce que la technologie permet, et j'ai les bons côtés éducatifs. Et je continue de réfléchir le plus possible sur papier-crayon.

A: Et les gens qui ont vu ta vidéo alors, qu'est-ce qu'ils peuvent faire? La dernière phrase de ta chanson est «partagez cette chanson et on pourra l'arrêter [l'IA trop dangereuse]». C'est très naïf non?

M: Encore quelque chose que je ferais différemment si c'était à refaire. À tous, je voudrais dire trois choses.

1. L'IA n'est pas comme l'électricité. C'est une révolution sans précédent, qui touche à ce qui a fait la réussite de l'être humain en tant qu'espèce. Il faut internaliser que c'est une révolution sans précédent qui a lieu sous nos yeux, un moment charnière. Dans pas si longtemps, l'IA risque de faire toutes les tâches intellectuelles que l'humain peut faire. La robotique n'est pas si loin. L'IA est synonyme d'une puissance phénoménale.
2. Il faut réguler. Mais il faut se concentrer à la source du problème, même si on a l'impression qu'on n'a pas le contrôle dessus. Il faut bien sûr réguler sur l'usage, mais ce n'est pas envisageable de réguler l'usage à la vitesse actuelle de création de nouveaux modèles. Avant de réfléchir à comment réguler une arme de destruction massive, essayons de ne pas la créer. Cela demande un effort de coordination, mais les régulations sur l'arme atomique et sur l'interdiction du clonage humain en ont demandé également.
3. À titre individuel, il faut envoyer un signal fort aux politiques. Un signal clair: il faut ralentir et personne ne veut accélérer. Que les promesses des patrons des entreprises d'IA n'est rien face aux risques systémiques et aux risques de catastrophe qu'ils sont en train de créer. Montrer son soutien à des associations qui veulent faire contre-pouvoir, par des adhésions et des dons, participer à des manifestations, et convaincre autour de soi.

Conclusion

Merci à tous ceux qui ont pris le temps de répondre à ma vidéo. Merci à tous ceux qui ont pris le temps de faire des retours, que ce soit pour m'encourager, pour m'avertir ou pour critiquer ma démarche de manière constructive. Merci à ceux qui me soutiennent déjà dans mon engagement. Merci aux membres de PauseIA qui me donnent espoir chaque semaine, et me donnent l'impression de ne pas me battre en vain.

J'ai probablement fait au moins une erreur dans la réalisation et la publication de cette vidéo. Mais parfois, il faut faire l'erreur pour vraiment comprendre le problème, et en ressortir plus fort.

Si vous comprenez mon engagement, vous pouvez me soutenir. En cette fin d'année 2026, je participe à une campagne de dons pour notre association.

LIEN VERS LA CAGNOTTE:
https://dift.com/cagnotte/antonin-peronnet