Face à l’intelligence artificielle – Un entretien avec Fabien Vehlmann, scénariste de bande dessinée, membre du groupement Bande dessinée du Snac.

Actualités Face à l’intelligence artificielle – Un entretien avec Fabien Vehlmann, scénariste de bande dessinée, membre du groupement Bande dessinée du Snac. Bulletin des Auteurs – En quoi l’intelligence artificielle peut-elle être une menace pour les auteurs ? Fabien Vehlmann – Au préalable je tiens à préciser que je ne suis ni un expert en informatique ni complètement à la pointe de la réflexion qui a lieu autour de l’intelligence artificielle. Je fais simplement partie des personnes qui se sont senties très vite alarmées. B. A. – Mais vous êtes expert en bande dessinée. F.V. – Je suis en effet scénariste en bande dessinée et j’aime bien réfléchir à des scénarios d’anticipation. Anticiper ne veut pas dire cependant avoir raison. Il est important pour moi de préciser d’où je parle et de ne pas laisser croire que j’en sais plus que les autres. B. A. – Dans la Bande dessinée nous avons plusieurs métiers. F. V. – Dans un premier temps je réagirais plus au nom des dessinateurs que des scénaristes. Mais nous sommes tous dans le même bateau, car ce qui concerne les dessinateurs concernera les scénaristes. Les intelligences artificielles ont franchi un cap technologique décisif. Les plus connues travaillent autour des illustrations, telles Dall–E ou Midjourney. GPT – 4 produit désormais aussi des textes cohérents et relativement pertinents. Pour le moment nous n’avons pas encore vu un scénario illustré créé par une intelligence artificielle. Mais il n’y a pas de raison que bientôt la complexité de la narration ne soit pas également résolue. Aux USA une autrice a déposé une bande dessinée, dont elle avait écrit le scénario, réalisée grâce à l’IA. Le Bureau américain du droit d’auteur est revenu sur sa décision d’accorder le copyright à cette œuvre, à la suite d’une plainte des artistes américains. Un manga conçu grâce à l’IA vient aussi d’être publié au Japon. Les illustrations qui sont produites par l’intelligence artificielle sur une thématique donnée, à partir de mots-clefs, sur simple commande, sans avoir besoin d’aucune connaissance graphique, peuvent être réellement très impressionnantes sur le plan de la qualité, avec un degré de finition qui peut complètement tromper le regard. Un professionnel pourrait certes y relever quelques gimmicks laissant soupçonner l’usage de cette technologie, mais à condition qu’il sache au départ que cette illustration provient d’une intelligence artificielle. Des questions éthiques et juridiques, voire métaphysiques, vont donc se poser. Peut-on parler de droit d’auteur quand « l’auteur » est un ordinateur ? Quid de la création assistée par ordinateur ? Nous utilisons déjà une telle assistance par ordinateur, ne serait-ce qu’en ouvrant Word. Il ne s’agit pas d’interdire les nouveaux outils technologiques, mais de les encadrer. L’utilisation, pour créer de nouvelles images, d’un fonds d’images qui appartient collectivement aux auteurs et autrices qui en sont à l’origine, peut être abusive, notamment quand elle s’apparente à un plagiat. La photographie est aussi concernée. Toute photographie mise en ligne sur une plateforme numérique grand public, y compris nos photos familiales, peut nourrir l’intelligence artificielle, y compris dans un but commercial. La manière dont fonctionnent les algorithmes de l’IA est absconse. L’atteinte à la vie privée cependant pourrait être constituée. B. A. – Quelles seront les conséquences pour les auteurs ? F. V. – D’abord économiques. On pourrait nous objecter : « Tous les métiers changent. Il faut s’adapter. » Or ce n’est pas parce que les métiers changent qu’on ne doit pas accompagner ces changement, afin d’éviter une casse sociale majeure, ce qui risque d’être le cas. La différence aujourd’hui, c’est la rapidité. Il s’agit de changements extrêmement brutaux, qui peuvent arriver en quelques années, qui ne laissent pas le temps de se retourner comme dans une évolution normale des métiers. Les autrices et auteurs de bande dessinée connaissent la précarité. Ils sont obligés de diversifier leur travail, et font souvent de l’illustration pour des magazines, des affiches pour des expositions, etc. Or ce type d’activité accessoire, concurrencée par l’intelligence artificielle, est potentiellement appelé à disparaître. Dans la reprise de séries, que j’ai moi-même pratiquée avec « Spirou », l’intelligence artificielle sera aussi capable de continuer une œuvre d’un auteur disparu avec un réel respect de son univers et de son style. Au Japon, le travail des assistants du mangaka, dans son studio, sera remis en question. Les décors en arrière-plan, les bases qui permettent au mangaka d’aller plus vite, pourront être confiés à l’intelligence artificielle. Or, être assistant permet d’apprendre le métier, et de devenir un jour mangaka. Enfin, les étudiants en école d’art peuvent être déroutés par des illustrations générées en trois minutes par l’intelligence artificielle, qui sont bien meilleures que ce qu’ils peuvent eux-mêmes produire en cinq heures de travail. B. A. – Vous parliez d’une dimension métaphysique. F. V. – Nous sommes là face à ce que certains philosophes ou psychanalystes appellent des « humiliations » de l’espèce humaine. Réaliser que la Terre n’est pas au centre de l’univers, ou que l’homme est cousin du singe, voilà d’autres exemples de cette blessure narcissique et philosophique, qui nous contraint à plus d’humilité. B. A. – Quelle réplique est-elle possible ? F. V. – La stratégie des start-up est trop souvent de lancer une utilisation plus ou moins légale, que les gens adoptent et qui devient ainsi légitime. Quand le nouvel usage s’est installé, il est trop tard pour s’y opposer. Il faudrait donc légiférer, et vite. L’Europe a ouvert une fenêtre avec une proposition de règlement sur l’intelligence artificielle. Cet « AI Act » concerne plutôt la sécurité, les deepfakes, pas tellement le droit d’auteur. Mais cette loi est en cours d’élaboration, de discussion, nous devons rapidement nous en occuper car ces intelligences artificielles gagnent en notoriété, en usage. The European Guild for Artificial Intelligence Regulation (Egair), qui a été fondée par des auteurs italiens de bande dessinée, groupés au sein du MeFu [Mestieri del Fumetto], s’y emploie, et nous pouvons soutenir son action. Une des grandes forces de l’Europe est la volonté de légiférer, dans tous les domaines. Si le processus des intelligences artificielles est bien encadré, les autrices et les auteurs seront ravis de pouvoir s’emparer de ces nouveaux outils. Des plasticiens le font déjà. Le problème de la fracture numérique pourra néanmoins s’accentuer : celui ou celle qui pourra acheter un logiciel très coûteux sera avantagé.e, quand

Les dangers de l’intelligence artificielle dans le domaine de la traduction – Un entretien avec Jonathan Seror, juriste de l’Association des traducteurs littéraires de France (ATLF)

Actualités Les dangers de l’intelligence artificielle dans le domaine de la traduction – Un entretien avec Jonathan Seror, juriste de l’Association des traducteurs littéraires de France (ATLF) L’ATLF et l’Association pour la promotion de la traduction littéraire [Atlas] publient une Tribune intitulée : « IA et traduction littéraire : les traductrices et traducteurs exigent la transparence », qui alerte sur les dangers imminents de l’intelligence artificielle dans le domaine de la traduction. Bulletin des Auteurs – Qu’est-ce que la « traduction automatique » ? Jonathan Seror – C’est la « transcription » d’un texte d’une langue source vers une langue cible, réalisée par un programme informatique. Le logiciel va utiliser un algorithme qui analyse une quantité colossale de traductions humaines déjà existantes lui permettant d’établir des correspondances entre des corpus de textes écrits dans plusieurs langues pour reproduire in fine des mots, des phrases, parfois des paragraphes, sur une base statistique. La machine se contentant d’ingurgiter et de régurgiter des fragments de textes sans en comprendre le sens, la plupart des traducteurs récusent le terme de traduction et préfèrent parler de transcodage ou de sortie machine (pour mettre en avant l’aspect informatisé et l’absence de pensée de la mal nommée « intelligence » artificielle) ou encore de pré-traduction (ce qui suppose l’intervention ultérieure d’un « vrai » traducteur). B. A. – Où en est aujourd’hui l’édition dans le domaine de la traduction automatique ? J. S. – L’ATLF a mené une étude auprès de ses adhérents dès la fin 2022. Sur un échantillon d’environ 500 traductrices et traducteurs, il apparaît que le recours à la traduction automatique demeure aujourd’hui extrêmement marginal dans ce secteur. Pour l’instant les éditeurs français ne revendiquent pas officiellement l’utilisation de la traduction automatique pour publier de la littérature étrangère. De l’autre côté, on sent une grande réticence du côté des traducteurs face à l’éventualité de cette pratique. Cependant, les quelques cas qui ont été remontés nous amènent à nous poser cette question : pourquoi un éditeur ferait-il appel à la traduction automatique ? La réponse est évidente : de son point de vue, ce serait pour réduire les coûts et gagner du temps. B. A. – Quels sont les questions que soulèverait la traduction automatique ? J. S. – Sur le plan juridique, le traducteur est un auteur. Il crée une œuvre de l’esprit originale, même si elle est dérivée d’une œuvre première. Ainsi à partir d’un même texte, chaque traducteur créera une œuvre différente selon sa sensibilité, sa voix ou son style. On peut dire qu’il y a autant de traductions qu’il y a de traducteurs. Pour en revenir à la traduction générée par la machine, on distingue souvent en matière de droit d’auteur l’amont de l’aval. L’amont interroge la manière dont a été nourrie la machine. L’aval s’attache au texte généré par la machine. En amont, les algorithmes d’une traduction automatique se nourrissent du « Big data », des « données massives », à travers le « Deep Learning », l’« apprentissage profond ». Les algorithmes vont ingurgiter une quantité colossale de textes, souvent accessibles en ligne, afin de pouvoir potentiellement les reproduire. Se pose alors la première question : Quels sont les textes qui nourrissent la machine ? S’il s’agit de textes protégés par le droit d’auteur, et que la machine reproduit de manière fragmentée des traductions préexistantes, le droit d’auteur des créateurs de ces traductions préexistantes est violé. Le problème est que les auteurs de traduction ignorent potentiellement l’appropriation de leurs créations par une machine. En outre, compte tenu du processus de retranscription parcellaire par l’IA, il est quasiment impossible de démontrer une contrefaçon (bien que cette violation du droit d’auteur s’apprécie au regard des ressemblances entre les textes, et non des différences). C’est pourquoi une transparence de la part des développeurs sur la matière qui est donnée à la machine permettrait de tracer de telles utilisations. C’est d’ailleurs ce que demandent les organisations d’auteurs au niveau européen dans le cadre de la proposition de règlement sur l’IA. Dans ce contexte, la crainte est d’autant plus renforcée qu’en droit français a été introduite une énième exception au droit d’auteur suite à la transposition des articles 3 et 4 de la Directive européenne 2019/790 relative au droit d’auteur : « l’exception de fouille de textes et de données », « Text and Data Mining » prévue par les article L122-5et L122-5-3 du CPI, qui permettrait d’ingurgiter des textes sans demander l’autorisation des auteurs, lesquels ne pourraient qu’opposer un « opt-out » que l’on sait aujourd’hui impossible à mettre en œuvre. Cette exception est encore récente mais la première crainte des traducteurs est de se dire qu’à terme ils contribueront, sans le savoir et par la spoliation de leur création, à nourrir l’IA. En aval, nous avons un texte généré par l’ordinateur, qui à ce jour n’est généralement pas exploitable en l’état du fait de la syntaxe et des erreurs de sens, sans parler de l’absence de construction littéraire. Pour obtenir un texte de qualité publiable, il faut donc faire intervenir un traducteur sur la sortie machine, dans un travail qualifié de « post-édition ». Quel serait alors le statut du traducteur ? Son rôle se limiterait-il à corriger les erreurs et les fautes orthographiques, grammaticales et syntaxiques du texte issu de la traduction automatique, auquel cas il ne serait plus qu’un prestataire de services et perdrait de ce fait sa qualité d’auteur ? Ou devrait-il effectuer un vrai travail de réécriture, devrait-il retraduire, et donc réaliser une création originale, même partielle ? Le curseur est délicat à placer et il y a fort à parier que l’éditeur et le traducteur n’auront pas la même vision des choses. B. A. – Le recours à l’IA et à la post-édition entraîne-t-il réellement un gain de temps ? J. S. – Il n’est absolument pas démontré qu’une réécriture à partir d’un texte issu de la traduction automatique générerait un gain de temps puisque le traducteur, au lieu de travailler sur un seul texte (à savoir la version originale) devrait travailler à partir de deux textes, la version originale et le texte issu de la traduction automatique. Ce va-et-vient permanent entre la version originale, la sortie machine et le texte final prend plus de temps qu’on ne le pense. Qui plus est, sur un plan littéraire, nombre de traducteurs pointent l’appauvrissement de la créativité dans ce processus laborieux : la

Alerter sur la problématique de l’Intelligence Artificielle générative (IAG) (à date du 18 juillet 2023)

Actualités Alerter sur la problématique de l’Intelligence Artificielle générative (IAG) (à date du 18 juillet 2023) Alerter sur la problématique de l’Intelligence Artificielle générative (IAG) (à date du 18 juillet 2023) Depuis des décennies, des auteurs et des compositeurs utilisent l’ordinateur comme outil et instrument accompagnant leurs créations. Mais aujourd’hui, les développements de ces technologies numériques ont abouti à des processus de productions d’artefacts (musiques, images, textes) qui ressemblent à des œuvres de l’esprit sans qu’il soit pourtant possible de leur attribuer un ou plusieurs auteurs clairement identifiables (des revendications existantes peuvent être contestées). Car ces contenus, fruits de calculs complexes, ne sont en aucun cas l’expression de « la vision personnelle d’un individu suscitant une émotion esthétique » (déf. d’une œuvre d’art selon le CNRTL, le Centre National de Ressources Textuelles et Lexicales). Cette « Intelligence Artificielle » générative (IAG), en plein essor « pour le bien de tous » selon ses acteurs, et qui ouvre en effet des champs des possibles considérables, représente pourtant deux types de menace pour les auteurs et les autrices : en aval du processus de création artificielle, la menace repose sur l’apprentissage de la machine prédatrice car elle se nourrit, entre autres, d’œuvres, ou d’éléments de celles-ci, protégées par le droit d’auteur sans consentement préalable des ayants droit ni même la moindre information, ce qui apparente cette pratique à du piratage, en amont, à la création des artefacts, la menace est directe sur l’activité professionnelle des créateurs et des créatrices que la machine concurrence. Et plus largement, le développement et l’usage mercantile de l’IAG au mépris de l’humain qu’elle cherche à remplacer, de la richesse de son intelligence, de son imaginaire et de sa sensibilité peuvent, à terme, appauvrir la créativité en détruisant des savoir-faire et des recherches de sens constitutifs de nos identités culturelles.   C’est pourquoi, pour défendre l’existence même de graphistes, dessinateurs, traducteurs, scénaristes, documentaristes, cinéastes, compositeurs, romanciers, etc… tout en permettant le développement intelligent et éthique de ces réseaux de neurones générateurs, les auteurs, autrices, compositeurs, compositrices du Snac appellent à une régulation urgente du secteur. Les demandes des auteurs Mettre en place les outils techniques et juridiques nécessaires pour interdire l’absorption d’œuvres de l’esprit par des systèmes informatiques, à seule fin de grossir les bases de données nécessaires au fonctionnement de l’IAG, au profit d’entreprises marchandes et sans la juste compensation qui doit revenir aux auteurs et compositeurs. L’utilisation des œuvres protégées par le droit d’auteur, doit être précédée d’une autorisation explicite de la part de leurs auteurs (opt in). Pour les œuvres déjà exploitées de la sorte, possibilité doit être donnée aux auteurs de sortir du système (opt out). Exiger des engagements clairs et fermes de la part des décisionnaires de la Culture, y compris producteurs et éditeurs, à ne pas accepter des remplacements abusifs d’auteurs par des « contrôleurs qualité » des produits générés artificiellement. Exiger des pouvoirs publics, en particulier, qu’ils ne consacrent pas d’argent aux projets qui visent à remplacer des professionnels de la Culture par des générateurs artificiels reproductifs. Mettre en place des systèmes d’information du public sur l’origine artificielle ou humaine des contenus qu’il lit, écoute, regarde et qui alimente son imaginaire intime et profond. La transparence et la traçabilité des contenus générés doivent être la règle. Initier le lancement par les pouvoirs publics d’une réflexion la plus large possible sur la concurrence déloyale que constitue l’utilisation de l’IAG au regard des créations humaines, ainsi que sur les conséquences psychosociales pour le public, pour la diversité culturelle et pour le patrimoine culturel de demain.

Webinaire les auteurs en actions : assignation identitaire catégorie “francophone”

Actualités Webinaire les auteurs en actions : assignation identitaire catégorie “francophone” La vidéo du second webinaire du SNAC sur la liberté de création et assignations identitaires est disponible, elle portait plus particulièrement sur la catégorie “francophone”, mais  aussi sur la question de la discrimination et de l’appropriation culturelle. Regarder la vidéo

Intelligence artificielle, nouvelle donne de l’Homme ? – par Jacques Coulardeau, membre du groupement Lettres

Actualités INTELLIGENCE ARTIFICIELLE, NOUVELLE DONNE DE L’HOMME ? – par Jacques Coulardeau, membre du groupement Lettres Je plonge dans l’intelligence artificielle depuis au moins une quinzaine d’années. Beaucoup dans le domaine de la formation, à quelque niveau que ce soit, de la Sorbonne à la Chine ou le Canada. Beaucoup dans le domaine médical du fait de mes étudiants adultes d’aujourd’hui qui sont engagés dans la médecine 5G avant la lettre. Et depuis six mois je travaille sur un bilan en traduction qui vient de sortir en ebook Kindle chez Amazon en anglais (277 pages) : AI, Unavoidable and Unforgivable Tool, dans le cadre de ma participation au Colloque International de Paris Université et de l’Observatoire Européen du Plurilinguisme le 25 novembre 2020 en visioconférence. Je n’ai pas la prétention de vouloir présenter cette avancée technique et scientifique en une page. Je vais donc simplement montrer l’enjeu énorme de ce développement en examinant la responsabilité civile de l’Intelligence Artificielle dans le domaine de la communication linguistique dans un champ industriel. Le cas le plus frappant aujourd’hui est le Boeing 737 MAX. La ligne descendante de cette responsabilité civile commence avec le concepteur d’une machine à traduire : banques de données linguistiques de plusieurs langues, logiciels de mise en correspondance, logiciels de choix de solution. Les banques de données contiennent d’innombrables « biais » dans les mots choisis, leur classement, les sens de ces mots et leurs classements, et l’architecture même de ces banques de données. Pour des langues différentes les banques de données ne sont pas similaires encore moins identiques, parfois non compatibles. Pour travailler correctement, cette intelligence artificielle doit être capable d’analyser le contexte de l’énoncé concerné dont le sens dépend directement. Chacun de ces éléments engage la responsabilité civile du concepteur. Puis une entreprise va produire ladite machine à traduire et une seconde entreprise, ou un second service, commercial cette fois, va mettre à disposition du public ladite machine à traduire, gratuitement ou moyennant finance. Tous garantissent que la machine à traduire fait du bon travail et le public, la plus grande partie du grand public, considère que la traduction, proposée est la bonne. Vous avez des traducteurs de poche qui reconnaissent ce que vous lui dictez et produisent oralement la traduction dans la langue choisie. Tant qu’il s’agit de demander comment je peux aller à la tour Eiffel, il n’y a pas grand dommage. Mais quand il s’agit d’un Boeing 737 MAX il y a plus qu’un immense dommage. Il y a au moins une responsabilité de niveau homicides involontaires. L’avion a été livré avec un manuel complet. En anglais ou dans la langue première des pilotes, et dans ce dernier cas qui a fait la traduction ? Les pilotes ont été formés dans une cabine de pilotage virtuel. En anglais ou dans la langue première des pilotes ? Le poste de pilotage virtuel fonctionnait-il en anglais ou dans la langue première des pilotes ? Qui a fait les traductions à ce niveau de la formation des pilotes ? Boeing a garanti à ses clients que l’avion était correct, que les manuels complets étaient corrects et que la formation des pilotes était correcte. On sait le résultat. Il y a donc eu un problème quelque part. On remonte alors la chaîne de la responsabilité civile. Les pilotes d’abord : les boîtes noires donnent la réponse : faute ou non. Puis toute la formation et l’information fournies aux pilotes sont examinées dans la langue employée. La question sera : avez-vous validée la formation comme efficace et parfaitement assimilée par les pilotes ? Comment ? La question de la langue est fondamentale et l’Intelligence Artificielle est centrale. Puis se pose la responsabilité de Boeing au niveau technique : on sait qu’il y a eu précipitation de la direction qui a négligé des mises en garde des ingénieurs responsables de la conception. Pour nous, auteurs et traducteurs, l’Intelligence Artificielle est cruciale pour la formation, l’information et la communication, de la phase de conception à l’accident final. J’ai volontairement pris un exemple industriel. Mais nous pourrions prendre un exemple littéraire. Pourquoi la traduction d’un livre de Stephen King est-elle en français si lourde et difficile à donner en lecture radiophonique par exemple, alors que la traduction d’un livre d’Anne Rice coule comme de l’hydromel dans la bouche du lecteur radio ? J’ai pratiqué les deux en radio, et quand j’ai essayé de lire une nouvelle de King dans la traduction commerciale, cela était de l’ordre de la torture. J’ai retraduit alors ladite nouvelle pour pouvoir la lire sans difficultés. Je ne vois qu’une explication : les éditeurs de ces deux auteurs en France ont soumis les traductions à des lecteurs-éditeurs et les deux lecteurs-éditeurs n’étaient pas de même niveau. Le plus surprenant bien sûr c’est que Stephen King en anglais se lit comme du petit lait, un peu sanguinolent parfois mais doux et moelleux. Pas en français. Il y a une responsabilité civile personnelle pour délit culturel dans des cas de ce genre. La distorsion d’une culture est aussi grave que plusieurs centaines de morts entre les mains de Boeing. Et la traduction automatique menace directement l’industrie du sous-titre et même du doublage. L’Intelligence Artificielle dans les machines à traduire devient un outil incontournable en traduction, mais sans un excellent traducteur en aval la traduction produite n’a aucun garantie de beauté, de correction et d’exactitude. Le moindre accident ou incident engage alors la chaîne complète de la responsabilité civile des intervenants dans la gestion de la traduction, de la langue, de la communication, raison de plus en multilingue, tout du long de la chaîne. Photo : Dr. Jacques Coulardeau – Crédit : Colloque SARI 2015.