Hello!
bon slrpnk.net a l'air d'être dans les choux alors je lance ce post avec mon compte de secours jlai.lu
Alors je lance cet AMA car ça fait un moment que je bouffe du machine learning à temps plein et pour suivre les news technique, je passe le plus clair de mon temps à lire de l'anglais. Et je trouve qu'en français, ben y a pas grand chose. C'est presque uniquement du discours dystopique mal informé.
Rien sur la recherche sur l'alignement, rien sur les modèles open source (condition sine qua non pour que ça se passe bien), rien sur les évolutions sociales positives que ça peut amener.
On parle juste de OpenAI, Google et Musk qui ne sont que quelques arbres malades d'une forêt bien plus grande.
Perso ça va faire 5 ans que je fais du deep learning professionnellement. J'ai travaillé pour Skymind, qui développait deeplearning4j. Ça vous dira rien, c'est un projet plus ou moins mort, mais c'était une tentative de faire un framework alternatif avant que tout le monde passe à pytorch. Puis je suis devenu principalement utilisateur des gros modèles entraînés par d'autres.
J'ai travaillé sur les modèles de vision au départ et maintenant presque exclusivement sur des modèles de langage. J'ai réussi à passer au 4/5e l'année dernière pour me consacrer aussi avec le fablab local à de la robotique open hardware (où bien sur j'utilise des modèles de deep learning pour la vision).
Ça fait plus de 20 ans que j'ai réalisé que l'IA a le potentiel de changer le monde pour le mieux, c'est pas par hasard que j'ai essayé de m'orienter le plus possible là dedans et ça me fait mal au cœur de voir tant de gens croire que notre seul but est d'aider Sam Altman à se faire quelques milliards de plus, qui ne voient pas les capacités de transformation de cette tech.
J'ai déjà donné quelques avis en anglais pour éviter le "doomism" dans des romans de SF (https://slrpnk.net/post/6100538) mais le faire dans ma langue natale ferait du bien!
Et, si, le titre est correct, ça me fait 6/5 de boulot, mais quand on aime on ne compte pas!
Voila, je préférerais qu'on reste sur ces thèmes mais AMA anyway!
Bah si c'est flou. C'est prévu par la loi de pouvoir regarder une oeuvre et de s'en inspirer. C'est interdit d'en faire une oeuvre dérivée. Miyazaki a eu le droit de regarder Le Roi et l'Oiseau et de s'en inspirer pour ses oeuvres aériennes et oniriques. Un auteur n'a heureusement pas le droit de t'interdire de nourrir ton imaginaire avec ses oeuvres.
Tu as également le droit de faire des stats sur le nombre d'apparition de Haddock dans Tintin. De faire des analyses de la colorimétrie, des apparitions de mots, etc. et c'est pas considéré comme une oeuvre dérivée et l'auteur ne peut l'interdire. Un modèle de génération d'images fait ça à l'échelle au dessus, en faisant des stats au niveau du coup de crayon. On peut arguer qu'il est d'un coté ou de l'autre de la ligne. C'est pas jouer au con: la loi est totalement floue là dessus.
Euh... quoi?
Historicité: les projets open source publient généralement tout l'historique de leur développement. Tu peux littéralement dire qui a écrit quelle ligne d'un projet. Dans le dernier auquel j'ai contribué je devais même signer cryptographiquement chaque commit. C'est le seul endroit à ma connaissance où ça marche comme ça! Aucun éditeur de boite privée ne te donnera un tel détail.
Les clauses "share alike" ça a été inventé par le mouvement open source. Les licences GPL à l'origine, que perso je préfère aux licences BSD et Apache qui permettent de fermer le produit plus tard. Un soft sous la GPL, si, il est largement sorti du système capitaliste car il ne peut plus devenir un "produit de propriété intellectuelle". Il peut être utile à une boite capitaliste, principalement parce que ça diminue leurs coûts, mais l'écosystème open source existe en dehors ou en parallèle du capitalisme
Le fait que l'on possède collectivement les moyens de production logiciel, j'ai la faiblesse de penser que c'est pas mal communiste si. C'est pas anti-capitaliste en soi, c'est un modèle post-capitaliste, non-capitaliste, qui pour beaucoup de monde semble être l'état stable logique de n'importe quelle tech: ouverte, possédable par tout le monde.
Oui, parce que l'open source est un mouvement né de l'opposition à la propriété intellectuelle et qui a décidé de combattre cette dernière par la subversion. La plupart des libristes seraient heureux qu'on retire toute propriété intellectuelle à tous les programmes. Tu n'imagines pas à quel point l'informatique serait différente si on avait le droit de s'échanger des binaires propriétaires sans être accusés de piratage. À quel point on pourrait facilement rendre plein de systèmes plus compatibles et secure.
L'open-source est un pis-aller, un compromis auquel nous a forcé la propriété intellectuelle.
C'est quoi "les techs"?
Et sur le web, y a 30 ans de "recul sur les usages" sans qu'on ait remis à plat le copyright (qui a beaucoup plus d'influence à l'échelle mondiale que le droit d'auteur). La législation est allée dans le sens des boites qui avaient les moyens de violer la loi parce qu'in fine le législateur a été incapable de comprendre que streaming et download sont la même chose. Cette semi-liberté a été conquise en démontrant des usages qui ont demandé à ignorer la loi. C'est ça le problème. "Obéissez à la loi mais démontrez les usages que d'autres lois pourraient permettre" est une contradiction et c'est pourtant comme ça que ça a évolué.
Alors je suis d'accord que c'est nul, que la loi devrait comprendre et protéger les usages qui vont dans l'intérêt du plus grand nombre, mais ni en France, ni aux US ça ne marche comme ça. C'est de la défense des intérêts de ceux qui crient le plus fort, avec un fort bonus au conservatisme quand les choses sont trop compliquées.
Les nouveaux usages, on doit les démontrer en marge des lois. La génération d'image en est un bon exemple: si tout le monde prenait ton acceptation de "ne faisons surtout rien qui puisse être considéré un jour illégal", personne ne prendrait aux sérieux la possibilité de génération d'images de qualité professionnelle. Le débat ne se poserait jamais et la techno n'aurait jamais émergé.
C'est un problème sérieux, et les deux seules positions semblent être "interdisons tout" et "ignorons les lois". J'aimerais bien qu'on réinstalle un peu le dialogue entre ces deux positions extrémistes qui n'ont pas l'air de comprendre ce que l'autre fait.
Je pense qu'on est d'accord sur le fond et c'est l'essentiel :)
Quelques précisions cependant.
Sur les inspirations, en France c'est relativement clair : une oeuvre doit porter la marque de son auteur, bien sur il y a une part de subjectivité, mais bon faut bien conserver de l'humain quelque part... Globalement si beaucoup de gens confondent ta prod avec celle d'un autre il faut se poser des questions sinon RAS.
Sur les usages aux fins de recherches, analyses, études et autres : en France se sont des exceptions au droit d'auteur, donc c'est l'égal. Voilà, pas d'ambiguïté. Dans le copyright, je ne sais pas.
Sur l'open source. Déjà il existe 2 mouvements : le libre et l'open source. Tu as l'air de faire comme si c'était la même chose, mais c'est pas le cas du tout philosophiquement parlant. Sur l'historicité : le fonctionnement des forges comme git sont une solution technique, mais elles sont beaucoup plus difficile d'usage sur des oeuvres qui ne sont pas du code. De plus cette solution technique n'est pas se qui caractérise la philosophie open source, qui est plutôt l'idée qu'il faut le moins de barrières possible au partage de l'oeuvre. La CC0 est ainsi un bien meilleur exemple, c'est une licence non-libre (puisque pas de paternité, ni de clause share-alike), mais bien une licence open source. Or une oeuvre sous CC0 peut être reproduite sans citer l'auteur, puis peut être refermée (revendu sous licence proprio). = plus d'historicité, plus de sortie du capitalisme (moins en tout cas). Pourquoi l'open source est plus populaire ? Parce que c'est plus simple a gérer. Après est-ce que ce qui est plus simple est forcément meilleur, je ne sais pas.
Enfin les licences libres et ouvertes sont un pis aller dans le monde du copyright oui (un hack en fait). Mais pas en France, c'est une possibilité que permet le droit d'auteur et c'est hyper bien, car ça donne un accès facilité aux possibilités d'usages d'une oeuvres aux usagés. Cela rétablie ainsi un dialogue entre l'auteur et le receveureuse.
Les techs c'est les devs, les ingés, etc, tous celleux qui développent directement les nouvelles technologies.
On a 30 ans de recul sur le web oui. Et bien 30 ans c'est que dalle. Le code civil français a à peine 200 ans. Pour comparer l'Empire romain c'est environ 1200 ans et l'Égypte antique plusieurs millénaires. La on parle d'un sujet qui bouleverse complètement l'un des instinct grégaire de l'être humain : la propriété. Je crois qu'il faut se rendre compte à la fois du défi que ça pose a l'échelle de l'humanité alors que sur des sujets plus 'simple' (genre le mariage) on galère encore a faire évoluer les mentalités. A la fois il faut aussi se rendre compte de la vitesse et de la brutalité avec laquelle les technologies évoluent.
Tu parlais des possibilités d'un monde dans lequel les logiciels s'échangerai sans barrières. Et bien moi j'aimerai bien voir un monde ou on respecte les volontés des auteurs. Ou un auteur qui ne veut pas être diffuser en ligne ne l'est pas, par personne et ou ceux qui diffusent sous licence libre ou ouverte le sont massivement. Dans un tel monde, je pense que bien vite tous les auteurs libéreraient leurs oeuvres, car ils verraient par la pratique qu'ils n'y perdent rien et que tout le monde y gagne. Différentes stratégies j'imagine...
Tu justifies la fraude a des fins de recherches, c'est un peu douteux (au hasard tu penses quoi du clonage humain ?). Est-ce que c'est parce qu'on parle de PI qu'on peut violer les lois ? Est-ce que c'est moins grave qu'autre chose ? Je ne sais pas.
Tu parles de "possibilités de génération d'images de qualité professionnel", c'est quoi la qualité professionnel ? Pour moi c'est un truc de capitalistes servant a rabaisser toute production artistique qui n'entre pas dans la case du "à la mode" ou de l'efficacité. Alors qu'une prod pro c'est une prod qui rapporte de l'argent et rien d'autre (dans le domaine artistique j'entends hein pas dans la fabrication de machine à laver). Pourquoi on veut une production artistique par IA qualité professionnel déjà ?