Skip to main content
technekro's podcast

technekro's podcast

By Luc Brunet

La curiosité. L’intelligence artificielle et naturelle. Un monde fantastique
Currently playing episode

Ep 2-12: Décider avec des données honteuses

technekro's podcastOct 14, 2021

00:00
04:53
Ep 2-12: Décider avec des données honteuses

Ep 2-12: Décider avec des données honteuses

Décider, en intelligence artificielle comme dans la vie d’un dirigeant, c’est faire ce qu'on peut avec les données que l'on a. En effet, les algorithmes sont secondaires, ils existent, ils sont entretenus et méticuleusement testés par la communauté. Dès que l’on sort des cas d’écoles, qui ne marchent qu’à l’école, pour aller vers les cas de la vraie vie, rien ne va plus.

Oct 14, 202104:53
Ep 2-11: Ethique et TOC de l'intelligence artificielle

Ep 2-11: Ethique et TOC de l'intelligence artificielle

Lorsqu'une nouvelle technologie apparaît, il y a un temps de latence plus ou moins long avant que des boucliers ne se lèvent pour parler d'éthique et de réglementation. Mais y-a-il vraiment un problème d'éthique lié à l'IA? Ou bien les juristes et les philosophes se cherchent-ils juste un nouveau job?

Sep 08, 202105:54
Ep2-10: Esclavage artificiel

Ep2-10: Esclavage artificiel

Aujourd’hui nous allons parler d’esclavage. Voilà bien une activité atavique de l’espèce humaine. 300 ans de commerce triangulaire, 1300 ans d’esclavage arabe, 1000 ans d’esclavage romain, 3000 ans d’esclavage perse. Les modalités de l’esclavage sont citées dans la loi salique des Mérovingiens et dans tous les corpus romains. Mais au fait c’est quoi un esclave. Dans les langues slaves (dont le mot esclave ou slave en anglais même rappelle que dans l’Europe de l’Ouest on a donné ce nom aux peuples qui étaient les esclaves des turcs au haut moyen-âge), en Russe par exemple, esclave se dit rab. C’est la même racine que le mot tchèque robota qui veut dire corvée et a donné le mot robot.

Jun 29, 202105:21
Ep 2-9: Prédire avec Napoléon

Ep 2-9: Prédire avec Napoléon

L'intelligence collective est à la mode et je ne suis pas le plus grand fan du concept. Mais peut-on avec l'intelligence artificielle définir les conditions où l'intelligence collective peut supplanter la stupidité du groupe?

Jun 05, 202105:20
Ep 2-8: Le plaisir de laisser tomber

Ep 2-8: Le plaisir de laisser tomber

Entrepreneurs, cadres, soyez comme les sportifs, reproduisez les mêmes gestes jusqu'à la perfection. Comme eux, vous serez un jour dépassés par un plus jeune. Vous pourrez devenir consultant pour parler de vos compétences devenues obsolètes à des cadres et des entrepreneurs.

May 10, 202104:31
Ep 2-7 : Qui est le maître de l'IA ?

Ep 2-7 : Qui est le maître de l'IA ?

En août 2021 sort une mise à jour de l'article de référence sur la créativité que j'ai publié il y a 5 ans aux Editions Techniques de l'Ingénieur sous la référence AG5210. J'ai ajouté un chapitre sur la créativité par intelligence artificielle et aussi sur ce que cela implique juridiquement. En gros, si une intelligence artificielle crée quelque chose, qui en est l'auteur et en détient les droits.



Quand j'ai écrit en 2015 le fascicule sur la créativité à la demande de l'éditeur, Tensorflow, la librairie IA qui a changé le monde, sortait en fin d'année de cette même année. Les éditions techniques de l'ingénieur sont une sorte de très grosse encyclopédie dont on trouve les énormes volumes dans les rayonnages de la plupart des boites industrielles francophones depuis 1946. Bon maintenant c'est numérique et c'est très pro notamment au niveau de la composition et du comité scientifique. Leur objectif c'est un peu de répondre à la question : "que doit lire un jeune ingénieur qui a un problème d'ingénierie à traiter?".

Donc j'ai parlé des méthodes de créativité, de la façon dont on peut aider les idées à émerger, à évoluer ... en critiquant cette stupidité absolue qu'est le brainstorming .. surtout entre personne ne connaissant pas le sujet à traiter. Sauf que depuis 5 ans les intelligences artificielles créent des images, des textes de qualité et, comme vous pouvez l'entendre dans l'interview de Philippe Robin dans l'épisode 8 de la saison 1, des molécules que personne n'a jamais synthétisées. C'est donc un gros chapitre sur la façon d'utiliser les IA pour créer qui sera publié en août.

En photo illustrative de ce podcast, vous voyez un singe qui fait un beau sourire. En fait c'est un selfie pris par Naruto, une femelle singe, qui a emprunté à son insu le matériel du photographe animalier David Slater. La publication par Wikipedia de la photo a provoqué un conflit juridique - voire un conflit civilisation - qui consistait à savoir qui était propriétaire du droit d'auteur de la photo. Donc, qui est le maître de la créativité non humaine? Et donc que deviennent également les créations des intelligences artificielles.

Les juristes se sont écharpés sur la question et cela a tiré dans tous les sens. Autant dire que cela n'est pas mieux tranché aujourd'hui que la difficile question de droit établissant si oui ou non peut être considéré comme ayant été consommé au domicile conjugal un adultère commis sur un mur mitoyen.

Dans le cas spécifique d'une IA, il y a d'une part la propriété des données ayant servi à l'apprentissage (les cours), celle de celui qui a conçu l'algorithme (la méthode d'enseignement) et de celui qui a enseigné(les parents). Dire que l'IA n'a pas de droits d'auteur revient donc, si on prend le droit de travers, à dire qu'un enfant n'a pas de droit sur ses créations qui appartiennent donc à ses parents et à l'éducation nationale. C'est assez peu engageant, presque une idée entre Confucius pour la vénération des anciens et Karl Marx pour la spoliation de la propriété...

D'un autre côté ni le singe curieux, ni l'intelligence artificie

Mar 30, 202108:18
Ep 2-6 : Le temps des lapins malins

Ep 2-6 : Le temps des lapins malins

Mais diable comment SANOFI, MERCK, GSK, l'institut Pasteur ont-ils pu se faire, dans la course au vaccin covid, laisser sur place par des petits laboratoires exploitant une technologie d'intelligence artificielle. Le président de Moderna dans un brillant business case de Harvard dit "Nous sommes une société technologique qui se trouve à faire de la biologie".



Les premiers ont perdu 30% en bourse quand certains des seconds ont gagné 6400%.

Nous avons tendance à croire que l'empire romain aurait été une civilisation avancée qui aurait été ravagée par des barbares incultes, poilus et surtout méchants. Pas vegan quoi. C'est faux. Les tribus germaniques qui ont contribuées à la chute de l'empire avaient une grande admiration pour Rome, leurs chefs y avait souvent été éduqués et ils avaient été des officiers dans les armées romaines. En fait, elles n'ont pas voulu détruire la civilisation romaine mais en devenir membre. Les barbares avaient trois avantages concurrentiels: d'abord ils étaient rapides, agiles. Ils disposaient aussi d'une technologie métallurgique supérieure, de meilleures armes que les armes en bronze des centurions et, surtout, ils étaient curieux.. Et le moins que l'on puisse dire c'est qu'ils se sont intéressés à Rome.

En fait, Rome s'est détruite toute seule, sans avoir aucun ennemi qui lui voulait du mal. Les petits labos qui ont gagné le covid game, ils ne veulent pas du mal aux grandes entreprises qui les ont pourtant parfois rejetés avec mépris sur l'air de "tu vas pas m'apprendre à faire un vaccin sale morveux". Mais tels les challengers de Rome, ils étaient rapides, disposaient d'une nouvelle technologie et avaient faim.

Il y a un embourgoisement de la Recherche, publique comme privée. Après des années de succès, les institutions s'entourent d'un gras administratif, de bourrelets normalisés, de doux coussins de procédures.

Elles bougent moins vite et n'ont plus faim. Les conditions sont alors remplies pour rater l'évolution technologique. Beaucoup des grosses entreprises rament aujourd'hui pour rattraper le wagon de l'IA, sans beaucoup de succès car elles le font avec dégoût et mépris pour ces nouveaux entrants qui, quant à eux, ne leur veulent pas de mal mais les supplantent presque par inadvertance.

Ce qui arrive aux big pharma, c'est à dire se faire doubler par des lapins malins et agiles, est arrivé à la NASA, à l'industrie automobile, au secteur financier. C'est devenu tellement courant qu'on peut s'amuser à savoir qui sera le prochain.

Alors allons-y, cherchons ensemble la prochaine victime du lapin malin. Pour cela il faut identifier une grosse institution bien grasse assise sur un bon marché qui marge bien. C'est mieux si les cadres supérieurs ont encore des cravates et sortent des grandes écoles institutionnelles, mais ce n'est pas obligé. Il faut que ces entreprises ou institutions n'aient plus très faim, et aient comme unique horizon de coller à la dernière mode de management ou de politiquement correct.

Bon j'ai mon idée mais je ne vous donne pas la réponse. On en parle dans les commentaires du site podcast.tf?

Mar 12, 202104:22
Ep.2-5: Le paradoxe de la richesse

Ep.2-5: Le paradoxe de la richesse

Dans les années 80, lorsqu'on avait pas les moyens de s'offrir l'onéreuse et décorative Encyclopedia Universalis, il y avait le Quid. 2000 pages de données écrites en petits caractères, des données sur tout, histoire, politique, science. Quand on ne savait pas quoi faire on pouvait l'ouvrir au hasard. C'était bien rare qu'on ne trouve pas un truc pour satisfaire un moment notre curiosité.



Et puis en 2001 il y a eu wikipedia qui a tué le Quid par étouffement, et les onéreuses encyclopédies par dépit.

Je ne sais pas si vous vous rendez compte mais nous sommes passé d'un âge de rareté de l'information, que l'on accusait d'engendrer l'ignorance, à un âge d'abondance de l'information, qui semble l'avoir amplifiée.

C'est un peu comme si en passant d'un placard plein de nouilles italiennes de qualité à un supermarché plein des produits du monde, on se précipitait sur le Nutella.

C'est le paradoxe de l'abondance. Augmenter l'accès à l'information ne renforce pas la curiosité, la possibilité n'engendre pas le désir.

La curiosité ça s'entretient car, naturellement ou par l'action de tiers malins, elle s'atténue.

Qu'en est-il chez nos nouvelles amies intelligences artificielles? Alors que Google vient de virer ses chercheurs en éthique pour profiter tranquillou de l'algorithme GPT-3 ou de la bombe confidentielle que sa publication cache sans doute, voilà que la masse des données est offerte à une IA agnostique qui se précipite avec envie sur les pots de Nutella.

Je vous mets sur le site la video de Science4all qui explique bien ce qui est en train de se passer dans l'indifférence générale et ce qu'indique ces récents licenciements. Et comment notre déficit de curiosité nous prépare à des lendemains douloureux. Or, nous avons toutes les informations pour les éviter.

I'm shocked how hard it is to generate text about Muslims from GPT-3 that has nothing to do with violence... or being killed... pic.twitter.com/biSiiG5bkh

— Abubakar Abid (@abidlabs) August 6, 2020

Vous pouvez faire l'expérience vous-même. Les IA ayant appris de nous, elles ne sont pas meilleures. Il est donc très difficile de faire écrire quelque chose de positif à propos des musulmans à GPT-3 comme le montre Abubakar Abid.

Les IA ne sont pas entrainées avec de la philosophie. Sur mon site, vous trouverez un recueil de poèmes générés par une IA entrainée sur la poésie française de la renaissance au XIXe siècle. Et là..pas de propos racistes. Les IA sont entrainées sur les twits, sur les articles de journalistes incultes, sur du blah blah d'ado que les hormones rendent aussi péremptoires que vains.

Feb 23, 202104:22
Ep.2-4: L'empire contre-attaque

Ep.2-4: L'empire contre-attaque

Les ingénieurs, les économistes, les biologistes, les médecins vénèrent avec une certaine honte les lois empiriques. Une loi empirique c'est une sorte d'ersatz de règle, qui à l'aspect d'une vérité, qui utilise des notations savantes et mathématiques, qui ne marche pas si mal mais qui en réalité n'a aucun fondement. Elle est toujours livrée avec ses coefficients et ses exceptions. Livrée..pour ne pas dire dealée.



Un jour il y a bien 20 ans et donc les faits sont prescrits, juste avant un week-end, un jeune modélisateur en matériau croisa son chef qui lui dit en passant : "ah au fait, la pièce mécanique que tu as calculée, et bien elle a cassé à l'essai.. On verra ça la semaine prochaine". Blessé, froissé, outré, il passa le week-end derrière ses lois de mécanique du solide et reprit un à un tous les calculs. Le lundi matin, épuisé mais heureux, il débarqua victorieux dans le bureau de son chef pour lui dire : "j'ai vérifié tous les calculs, ils sont exacts la pièce ne casse pas". Cette histoire, vraie, démontre l'opposition philosophique entre ceux pour qui l'expérience produit le modèle et ceux pour qui c'est le modèle que l'expérience doit vérifier.

Cela peut sembler une cuisine hermétique, mais l'empirisme est une philosophie, défendue par Beacon, Hume, Locke, qui veut que la connaissance viennent de l'expérience sensible et s'oppose au rationalisme qui veut que ces expériences soient précédées de théories, d'idées ou de principes. L'empirisme c'est un peu le paganisme des sciences.

L'empirisme fait preuve de rationalité, c'est assez rationnel d'observer les phénomènes avant de théoriser, et parfois le rationalisme n'en fait pas autant quand il fait de trop loin précéder les idées de leur confrontation pragmatique à la réalité.

Curieusement, on observe aussi cette différence d'approche en économie. Il y a des entreprises qui se créent dans la tête de leur créateurs, sans jamais voir un client pendant l'élaboration de leur savant business plan. Et d'autres qui grandissent en interagissant avec leur clients dès le début. Et les secondes sont de loin celles qui durent le plus longtemps.

L'intelligence artificielle, c'est une démarche empirique: les données sont utilisées pour faire un modèle, sans présupposer de lois.

Le triomphe des modèles et des lois à la fin du siècle dernier, c'est avant tout une question d'ego et d'argent. D'ego parce que l'Homme veut comprendre les mécanismes de la Nature quitte à les résumer par des équations à la hauteur de sa compréhension et de son langage. Ensuite d'argent parce que les expérimentations coûtent cher, sont longues à mettre au point quand elles ne sont pas salissantes. Se frotter à la Nature laisse des traces sur les mains que la propreté des théories évite.

Ce qui change avec l'IA, c'est que les expérimentations peuvent être imparfaites, mal foutues, avec des paramètres incertains, pour peu qu'on en ait suffisamment il sera possible d'en tirer une abstraction ayant une certaine capacité de prédiction. Evidemment cela ne dispense pas de faire des expériences propres, mais ce que ces technologies nous disent c'est qu'il vaut mieux des expériences imparfaites que de parfaites spéculations théoriques.

Jan 31, 202104:47
Ep. 2-3: La vie avant la mort

Ep. 2-3: La vie avant la mort

Depuis des milliers d'années, des armées de clercs nous promettent la vie après la mort en nous formatant au passage la vie avant la mort avec un bonne liste d'interdits. Par chance, la curiosité et l'intelligence artificielle vont changer tout ça.



Dans l'antiquité, la créativité était officiellement un crime appelé Hubris car la création ne pouvant être que divine, alors s'y livrer c'était se prendre pour un dieu. C'est mal de se prendre pour Dieu, surtout quand on peut parler à sa place. La plupart des régimes de l'Histoire étant peu ou prou autoritaires, la curiosité y a toujours été mal vue également. L'éducation traditionnelle, qui est encore celle que nous avons subi, passe par la répétition et couvre de louanges la mémoire. Mémoriser. Répéter. Circulez.

Lorsque j'étais étudiant, j'ai stupidement cru mon professeur de chimie organique qui disait que la prédiction des réactions passaient par le compréhension de quelques mécanismes de base SN1 SN2 et hop! Ayant échoué trois fois à l'examen de cette unité, j'ai découvert trop tardivement l'embrouille: il suffisait d'apprendre par coeur une centaine de réactions de cours et de les assembler pour l'avoir cet examen. Bref arrêter de réfléchir.

J'entendais une remarque bien vue: Dans les années 80, on pensait que si les gens étaient cons c'était parce qu'ils n'avaient pas accès au savoir, à l'information, en un mot... à internet. Aujourd'hui force est de constater que ce n'était pas ça.

Mémoriser et répéter : l'informatique fait ça depuis les années 70. Digérer et prédire, c'est ce que propose l'intelligence artificielle, et elle le fait de mieux en mieux. Elle s'attèle maintenant à comprendre.

Mais que faire de ces IA qui savent apprendre à prédire?

Dans le processus créatif, il y a toujours une phase de multiplication des possibles. C'est à dire de foisonnement d'idées. Aujourd'hui, ne nous voilons pas la face, pour obtenir cet effet, les créatifs boivent. Ou alors ils fument, ou au moins se saoulent de paroles dans des cafés bondés Le processus créatif semble passer par une phase d'étourdissement et historiquement, la plupart des créateurs, des investigateurs s'allient à la chimie, de l'alcool à l'opium pour aller d'Hemmingway à Sherlock Holmes dans une vertigineuse perspective. L'étude Kyaga montre d'ailleurs d'intéressantes corrélations entre la mélancolie, noyée dans l'alcool ou pas, et la créativité.

Cette vérité qui dérange, met simplement en évidence qu'on ne produit pas de nouveau dans la tradition, pas de cas particuliers dans la répétition.

L'intelligence artificielle ne fait que ça. Elle propose des possibles, des images, des textes, des idées, des opportunités et cela sans avoir besoin de picoler.

Par exemple pour mes conférences, j'ai un réseau de neurones entrainé sur tout ce que j'écris soit environ une base de 2 millions de caractères (ce n'est pas beaucoup en fait, un tiers de Shakespeare qui lui n'avait pas de clavier). Je l'interroge pour la préparation et il me reconstitue des bribes de textes. À moi de choisir, de créer. Étymologiquement, créer signifie enfante

Jan 22, 202104:47
Ep 2-2: Comment virer un expert?

Ep 2-2: Comment virer un expert?

"À chaque fois que je vire un linguiste, mon logiciel de traitement du langage s'améliore". Ainsi parlait Frederick Jelinek, un des principaux porteur de ces activités chez IBM.



C'est particulièrement clair pour le langage mais cela est aussi vrai pour bien des domaines: la façon dont raisonnent les experts ne correspond pas à la façon d'apprendre d'un humain. Et il se trouve que pour les intelligences artificielles, c'est pareil: elles ne supportent pas les experts.

Dans les années 90, il y a eu une mode des systèmes experts. Ces logiciels utilisaient des règles pour faire une prédiction. Un nouveau métier est très peu de temps apparu: celui de presse-citron. C'était des gars qu'on voulait envoyer auprès des experts pour leur presser le citron et obtenir les règles à mettre dans le système expert. On se demande encore comment des gens on pu imaginer que ça allait marcher.

Nous avons tous acquis au moins un langage sans en apprendre ni les règles de grammaire, ni les structures syntaxiques. Tous les enfants parlent bien avant de savoir ce qu'est un complément d'objet direct. Ils apprennent comme les IA, par la mise en présence de multiples exemples, de multiples fois. Ils s'améliorent. Mais plus tard, quand on apprend une langue étrangère, le mécanisme est cassé, notre cerveau pas assez souple pour faire de même, alors on devient des experts en grammaire et en règles, on apprend des listes et des conjugaisons et on ne se débarrassera jamais de notre accent au demeurant charmant.

L'expert apprend puis raisonne, l'intelligence artificielle ou naturelle assimile puis intuite.

Alors faut-il se débarrasser des experts? En fait, là aussi, notre langage nous trompe. Le diable c'est le pluriel. "Les experts" ça ne désigne pas collectivement chacun des individus qui sont experts, ni l'étendu de leur domaine d'expertise. Mais le processus d'expertise consiste bien, dans son fondement, à employer des choses apprises pour ensuite utiliser des règles pour faire un diagnostic ou prendre une décision.

Un exemple amusant est celui fréquemment exposé du gros Tony. Le gros Tony n'a pas fait d'études mais il a trainé pendant des années dans les bas fonds et les tripots de New York. La cuisine du diable....Il n'a pas de culture scientifique et des manières si grossières qu'on aurait pu l'appeler Donald. Il est confronté dans une expérience à Docteur Bob, diplômé en mathématique d'une prestigieuse université et qui a fait une brillante thèse sur les probabilités bayésiennes. Ils assistent à une expérience dans laquelle on va tirer à pile où face avec une pièce non truquée. On va le faire 50 fois et 50 fois la pièce va tomber sur face. Qu'elle sera le résultat du 51ème tirage? Docteur Bob ne réfléchit pas longtemps pour dire qu'il y a une chance sur deux que le 51ème tirage soit pile malgré que les 50 essais précédents aient été face. Le gros Tony prédit Face. On tire alors la pièce est c'est Face. Pourquoi? Eh bien le gros Tony qui ne connait rien aux mathématiques a considéré que l'affirmation que la pièce n'était pas truqué était un mensonge (il aurait dit enfumage). Que la pièce était bien truquée. Son intuition, nourrie de plein d'expériences malheureuses, c'est que les faits sont falsifiés. Alors vous voteriez pour qui pour diriger la ville?

Jan 12, 202105:55
Bonus: Bande son du podcast

Bonus: Bande son du podcast

À la demande générale la bande son du podcast... Fait maison avec Garageband. 

Jan 01, 202104:35
Ep2-1: Prédire sans comprendre

Ep2-1: Prédire sans comprendre

Imaginons .. C'est le matin et vous découvrez un gros bouton noir pas beau sur votre jambe. Vous avez le choix entre deux possibilités pour savoir si c'est benin ou malin. Soit vous allez voir un dermato, que nous appellerons Robert, qui prédit le mélanome dans 75% des cas en utilisant la méthode académique d'étude de la forme, de la couleur, de la rugosité, de la pilosité du naevus. Soit vous allez consulter une intelligence artificielle, que nous appellerons Lucienne, qui prédit à 99% la dangerosité de bouton noir mais sans pouvoir justifier sa prédiction par des explications. Vous faites quoi? Robert ou Lucienne?



Ce problème empêche de dormir les gens formés à la méthode scientifique. Avec Robert, on comprend mais on est pas efficace. Avec Lucienne, on est efficace mais on comprend pas.

Je vais sans doute froisser les informaticiens académiques, mais ils sont finalement des mathématiciens ratés, comme les physiciens. J'ai autrefois dirigé des projets de recherche industriels et j'avais confié à un laboratoire de physique à l'université une de mes manips à analyser. Le chercheur ayant trouvé que la manip suivait une équation mathématique issue d'un domaine merveilleux de théorie des groupes de renormalisation, j'ai vu l'épiphanie sur son front et on en a bouffé pendant des mois de "ça vérifie l'équation". Les mathématiciens ont une tendance agaçante à s'extasier dès que la nature suit une de leur loi, qu'un escargot tourne selon une suite implicant le nombre d'or. Si on trouve PI quelque part c'est l'orgasme. Sauf que bien vite on s'aperçoit que la Nature ne suit la loi qu'en gros.. Alors on met des coefficients pour que la loi marche encore. La loi de gravitation de Newton on y croit. Puis la Relativité d'Einstein montre qu'une autre équation marche mieux (nouvelles extases chez les astrophysiciens). Mais quand même pas tout à fait. Alors on cherche une nouvelle théorie qui unirait les atomes et l'univers.

Moi je viens d'une humble science naturelle, la chimie, qui comme la biologie, ou les sciences sociales n'ont que rarement la chance que les mathématiques décrivent la réalité autrement que dans une expérience tellement ajustée et contrainte qu'elle ne ressemble plus à la Nature. Nous sommes à la frontière entre l'atome et le matériau composite d' un A380. Je vous laisse imaginer l'épaisseur de la frontière. Nous sommes habitués à la déception.

En IA donc, pour être brutal, il y a ceux qui ne veulent pas s'en servir tant que les prédictions ne sont pas interprétables, comprenez par une loi, et ceux qui considèrent que l'on peut s'en servir du moment que ça marche. Evidemment il faut vérifier que ça marche. Mais notre cerveau fonctionne comme ça aussi. On prend des décisions en on les explique après. Et il y a une différence compétitive entre ceux qui font cet exercice avec succès et ceux qui se fourvoient trop souvent.

Personnellement, je trouve tout à fait passionnantes les études sur la compréhension des inférences de réseaux de neurones. Mais en attendant qu'elles aboutissent, il y a tellement de choses merveilleuses à explorer dans la nature. Alors soyons curieux et circonspect, mais surtout, comme disent les frères Bogdanoff, expérimentons.

Dec 31, 202004:16
Ep.12 : L'incertitude de l'IA (Interview Eric Longcôté)
Dec 27, 202012:54
Ep.11: Un petit air de jamais vu

Ep.11: Un petit air de jamais vu

J'ai eu la chance d'interroger le professeur Donald Smilth de l'université de Stanford dont vous pouvez voir l'image en vignette de ce podcast. Je pourrais vous en raconter des choses sur ce qu'il a dit. Des trucs incroyables...



Ce monsieur, regardez bien sa photo, vous ne l'avez jamais vu! Eh bien... je mens. La photo est réaliste, mais je l'ai crée avec un réseau de neurones de NVIDIA appelé StyleGan. Elle est indiscernable de celle d'une vraie personne. Quelques boniments et hop.. On y croit. Un petit coup de GPT-3 et voilà son CV et son meilleur article pour medium.com.

Au 8ème siècle, Adi Shankara écrit un texte qui a le très beau titre de "suprême joyau de la discrimination". Tandis que l'occident chrétien s'intéresse à ce qui est juste et ce qui est injuste, l'Asie se questionne sur comment discriminer l'illusion de la réalité. C'est que nos perceptions sont trompeuses et souvent trompées.

L'intelligence artificielle outil d'investigation du curieux comme je l'ai présentée dans les épisodes précédents, sert à discerner des relations complexes entre des faits qu'a priori....on ne soupçonnerait pas d'avoir un lien. Mais on peut aussi s'en servir pour torpiller le discernement des autres. Créer des illusions parfaites. Faux sites, fausses startups, faux produits... Rien de nouveau en fait mais cela nous oblige à définir une nouvelle sorte de pigeon, le e-pigeon.

Le pigeon autrefois victime des vendeurs d'encyclopédies et des joueurs de bonto sur les marchés, devient e-pigeon victime des intelligences artificielles qui peuvent tout lui vendre.

Rien de nouveau en fait, juste un autre terrain de bataille une likewar. Le e-pigeon victime de fake news, qui vote contre son propre intérêt devient la cible préférées de nouveaux chasseurs. Et la recette pour s'en sortir est la même: un peu de bon sens. C'est pourtant simple de ne pas croire à l'argent facile, à la femme facile, au jeu facile... En fait, le curieux ne doit pas croire, il lui suffira de penser pour éviter de se faire e-pigeoner

C'est que ça va vite. Il y a 15 ans, avec ma petite culture générale, j'étais capable, quand on me parlait d'une nouvelle technologie, de dire si c'était vrai ou pas. Aujourd'hui, je suis obligé de vérifier parce que le faux crédible est partout.

Je pense que la capacité à comprendre ces nouvelles technologies est un élément de culture de base pour éviter d'en être victime. Le développement de la curiosité, serait-il donc une planche de salut?

Dec 21, 202004:10
Ep.10: Kebabs et intelligence artificielle

Ep.10: Kebabs et intelligence artificielle

Dans ma rue, il y a 1 caserne, 5 kebabs et 2 bars à hôtesses. Intéressons-nous aux kebabs.



Dans mon introduction, je suggère sans le dire une corrélation. Mais quel peut bien être le rapport entre kebabs et bar à hôtesses? Mais nous allons d'abord nous intéresser au cas des kebabs. Le Kebab est un concept berlinois, comme chacun ne le sait pas. Les kebabs proposent une carte encore plus pauvre (en plats hein pas en cholestérol) que la carte d'une pizzeria. Pour les pizzerias, il y a encore des différences entre la margarita d'un resto et celle d'un autre. La farine provient d'un fournisseur, d'un autre, pareil pour les tomates.. Pour le kebab, dans ma ville, il semble qu'il n'y ait qu'un seul fournisseur de viande en rouleau. Il doit y avoir un terme technique que je ne connais pas. Nous avons donc une carte identique avec des composants alimentaires identiques entre 5 restaurants à quelques mètres de distance. Comment le client peut-il choisir?

En fait, ce problème est le quotidien des chercheurs en intelligence artificielle. L'algorithme parait a priori central. Il est pourtant librement disponible en une ligne de commande genre ...import tensorflow as tf. Le problème ce n'est pas l'informatique, c'est la culture de celui qui s'en sert.

Dans notre cas, les données d'entrée du problème -un ensemble de plats- sont pour le coup toutes identiques. Un algorithme de deep learning qui les apprendrait serait en situation de surapprentissage.Toutes les descriptions sont les mêmes. Le travail va donc être d'ajouter des descripteurs à chaque établissement. Il y a des descripteurs objectifs : distance de la caserne, distance du bar à hôtesse (a priori on ne sait pas qui mange les kebabs), terrasse ou pas, couleur de la devanture, ancienneté, les commentaires google...

Et puis des critères semi-subjectifs car ils dépendent du perçu de chacun tels l'hygiène, le mauvais caractère du cuisinier, la présence de plus ou moins de sauce..Certains sont absolus, d'autres dépendent d'une séquence temporelle, par exemple d'une corrélation subjective que le militaire fera entre la fréquentation d'un des 5 restaurants et une visite pressée aux lieux d'aisance quelques heures plus tard (je ne parle pas ici du bar à hôtesse).

Décrire un kebab peut rapidement prendre une ampleur telle qu'on n'aura jamais assez de convives pour faire une prédiction par deep learning de -par exemple- un chiffre d'affaires pour un établissement donné.

L'intelligence artificielle en tant qu'outil d'investigation pour l'exercice de la curiosité s'appuie sur l'enquête préliminaire, la découverte des indices. Ce n'est pas l'informaticien qui va les trouver, c'est le curieux professionnel du domaine. Sinon il faudra faire ce que font les Facebook et autres Google, prendre tout, sans distinction, comme données d'entrée. Mais eux ils ont des millions de données d'entrées sous forme de clicks. Nous nous n'avons que quelques observations, il faut que les indices soient les bons. Et pour cela il faut être rusé.

L'intelligence artificielle est une chose bien trop sérieuse pour être laissées aux informaticiens.

Dec 13, 202004:16
Ep.9: X-Files de la curiosité

Ep.9: X-Files de la curiosité

Les trois conspirationistes de X-Files, Byers,Frohike et Langly,... Des sacrés curieux! Geekissimes mais sympas. On les aimait bien les conspi .. au temps d'avant l'intelligence artificielle... Que sont-ils devenus? Bienvenue dans les X-Files numériques



"I want to believe" C'était la phrase sur le poster dans le bureau de Mulder et Scully. "Je veux croire". En fait, pour les amateurs de fiction c'est une gymnastique courante qui s'appelle la "suspension temporaire de l'incrédulité". Pour entrer dans un vieux star trek avec des voyants multicolores et des écrans cathodiques, comme pour regarder Richard III dans une mise en scène innovante où le roi est une femme punk et le trône une chaise de jardin, il faut décider de croire pour pouvoir entrer dans l'histoire et assister au spectacle. Sinon c'est juste insupportable. On s'ennuie autant qu'on s'agace. Ce qui fait je pense que les amateurs de science fiction sont peut-être moins asservis que les autres par leurs croyances c'est qu'ils font régulièrement la gymnastique de croire et de ne plus croire pour pouvoir examiner.

Décider de croire puis cesser de croire, c'est un peu la respiration du curieux.. Un yoga philomathe.

La curiosité c'est de considérer des faits et de les valider par l'examen et l'expérience. C'est là que les technologies d'intelligence artificielle nous aident. En effet, sur des évènements complexes elles vont pouvoir faire des prédictions à partir d'une expérience acquise, sans pour autant être influencées par des croyances issues de l'environnement, d'autres domaines..

En fait, toute science devrait être capable de parier sur des prédictions à vérifier. Sinon, tout relève de la brillante spéculation, comme la plupart des théories cosmologiques ou philosophiques. Alors qu'une science qui prédit, la météorologie par exemple, on sait tout de suite.. enfin dès le lendemain... si elle utilise des théories valides.

Quand les relations de cause à effet sont directes et sans détour, c'est facile... Nous fumons, donc nous fûmes. Sauf que même pour des causalités aussi simples, nous avons mis des années à l'admettre. Alors pour les causalités plus complexes, celles qui lient notre santé à l'environnement, notre prospérité à l'économie, le succès d'une civilisation à des indicateurs incertains...C'est pas gagné...D'autant que corrélation n'est pas raison...Enfin... Corrélation n'est pas causalité. Sur le site spurious correlations, qui recense d'improbables mais réelles corrélations, on peut par exemple constater que le taux de divorce est très fortement corrélé à la consommation de margarine, ou que le taux de morts consécutives à de la vapeur ou des objets chauds est directement corrélé à l'âge de Miss America l'année considérée.

Pour les tenants du complot, une telle corrélation est claire et nette. Pour les curieux qui jouent de l'intelligence artificielle, c'est en engageant un processus d'apprentissage prenant en compte des dizaines de paramètres que l'on pourra alors vérifier si la corrélation est bien liée à une causalité.

Les IA font

Dec 08, 202004:48
Ep.8: Philippe Robin sur industrie 4.0 curiosité&IA
Nov 30, 202008:16
Ep7.Ce qui s'émousse doit s'aiguiser

Ep7.Ce qui s'émousse doit s'aiguiser

La curiosité peut s'émousser. Avec le temps, avec l'argent, avec ce grand remède contre l'ennui que sont les ennuis. Mais elle peut aussi s'aiguiser et, pour moi, l'intelligence artificielle m'a donné une formidable fenêtre pour exciter ma curiosité.



Je n'ai pas de recette ni de méthode pour restaurer la curiosité perdue, mais je veux bien y réfléchir avec vous. Car enfin, tous les enfants sont curieux et abusent de la mitraillette à pourquoi. Il se trouve que certains continueront longtemps à tirer, et d'autres dont le canon va s'enrayer à l'adolescence, à l'âge adulte, à la retraite. Et cela touche tout le monde, y compris ceux dont le métier devrait être d'être curieux.

L'intelligence artificielle peut-elle être une prothèse de curiosité, comme on met des lunettes pour voir de près quand notre cristallin devient moins souple, moins adaptable?

La curiosité me semble s'émousser par deux chemins. Le premier est la répétition. Je ne serai plus jamais moi à New York à 25 ans parce que New York et moi nous avons définitivement changé. À y retourner encore et encore, c'est accumuler des variations sur le même thème, et maudire le fait qu'il n'y a qu'une seule première fois.

Le second est l'inévitable épaississement du cuir. Avec le temps on devient moins sensible, on a déjà vu ça et on ne laisse plus l'opportunité de surprendre à un déjà-vu à peu près pareil.

En recherche, le mandarin n'acceptera pas la très logique et saine remise en cause de ces recherches. Le commerçant soumis au confinement du COVID refusera de faire du click&collect préférant attendre le retour à la "normale".

Ah, la normale. Tout le monde croit à ce sain mot alors que "normal" veut le plus souvent dire "fréquent" ou "fréquemment observé". On voit tout de suite que le nouveau....on va passer à côté.

Les IA, le machine learning, et autres mots du jour, c'est un moyen d'investiguer sans la charge biologique du passé. Une machine à refaire des premières fois. Prendre des faits compliqués et incertains, s'en servir pour entrainer un réseau de neurones artificiels puis faire des prédictions et là... wow. Vous verrez vous aussi vous direz "Ah ben j'avais pas pensé à ça!"

Ces technos, c'est un peu comme un mur qui renvoie la balle sous un angle différent. On devrait pouvoir aussi le faire entre humains sauf que.... Dans les entreprises, dans les labos, dans les cercles et les think tanks "qui se ressemble s'assemble" et après bien peu de temps tout le monde pense pareil, tout en se disant unanime contre la pensée unique.

Elle introduit le mérite de l'altérité sans la menace de l'autre. L'IA c'est un tiers compétent qui ne veut pas vous prendre votre femme ou pire votre clientèle. Un allié sans intention.

Reste à lui fournir ce qui lui manque... L'intention. Nous verrons cela bientôt..

Nov 23, 202005:05
Ep.6: Intuition naturelle et artificielle

Ep.6: Intuition naturelle et artificielle

On a longtemps cru que l'intuition était une sorte de mythe, qu'elle n'existait pas ou pire, qu'il n'avait d'intuition que féminine. Eh bien, c'était faux, elle existe et ne fait pas de détail quant au genre des intuitifs. Voici comment ça marche.



Notre cerveau est fait pour l'action. Mais pour agir, il doit prendre une décision. Tout va bien dans deux cas. Le premier est le réflexe. Dans ce cas une réaction est prévue suite à l'activation d'une sorte de gâchette, en mode automatique, du tac au tac. Cette règle peut souvent être représentée par un proverbe, un slogan. Les militaires et les médecins par exemple utilisent beaucoup de ces phrases, parfois sous forme de sigles.. Par exemple MATH pour l'évaluation médicale "Maladie connue, allergies, traitements en cours, hospitalisation récente". Ces réflexes sont mimés dans les shadoks avec le fameux marin philosophe. "Peinture sur crasse = propreté". Si quelque chose est sale alors il faut le peindre. Il n'y a pas à réfléchir.

Le second est le cas où l'expertise est possible. C'est le monde du diagnostic. Par exemple un expert d'assurance va évaluer le coût d'une réparation en fonction d'un ensembles de règles qu'il connait. Normalement, un autre expert devrait arriver au même résultat. On peut rêver. Lorsque les experts ne sont pas d'accord, ce qui arrive aujourd'hui souvent, le doute s'instille puis s'installe.... et les complotistes rappliquent aussitôt.

Malheureusement ces deux cas sont une toute petite fraction de ce qui fait notre vie quotidienne. La plupart du temps nous n'avons pas de proverbes ni assez d'expertise pour prendre une décision. Or la décision doit prise. On parle alors de ce que l'on sent ou pas, de nos tripes, de notre nez. Est-ce irrationnel?

Les neurociences (10.1523/JNEUROSCI.2312-12.2012) permettent de regarder dans le cerveau les processus à l'œuvre notamment grâce aux progrès de l'imagerie en temps réel. Elle sont extrêmement curieuses....L'intuition pourrait être la conjonction d'une expérience (et non d'une expertise) et d'un désir, d'une volonté. La curiosité nous permettrait d'accumuler des expériences pour faire notre expérience de la vie. Puis quand une situation nouvelle arrive, pour laquelle nous n'avons aucune expertise mais une urgence à prendre une décision, notre cerveau fait une sorte d'inférence sans qu'il ne nous soit possible de vraiment justifier la conclusion à laquelle on arrive.

Le reproche souvent fait aux réseaux de neurones profonds de faire la même chose revient finalement à critiquer le fonctionnement de notre propre cerveau. Or, ces processus sont centraux dans les décisions politiques, stratégiques, les choix commerciaux... Combien de fois ne vous êtes vous pas engagé dans une relation privée ou commerciale juste parce que vous "ne le sentiez pas"?

Volonté et expérience. Il faut les deux. Sans volonté, pas d'intuition. Avec une expérience trop faible engendrée par le manque de curiosité, pas d'intuition ou pire fausse intuition.

C'est stratégique d'avoir de l'expérience... Et cela s'obtient en faisant des expériences.

La recette n'est p

Nov 17, 202005:05
Ep.5: Qui sont les grands curieux?

Ep.5: Qui sont les grands curieux?

L'arrivée des intelligences artificielles n'a pas franchement changé l'identité des grands curieux. Ils étaient là avant, avec moins de moyens, mais ils y étaient. Certains se sont adaptés aux intelligences artificielles comme les publicitaires, d'autres vont de hontes en déceptions comme les instituts de sondages qui ont encore démontré aux dernières élections que l'enquête d'opinion à l'ancienne cela ne marchait plus parce que, comme le disait le Dr House...Tout le monde ment.



Les outils de la curiosité ont changé. Dans le monde que j'ai connu, un enquêteur, ou une charmante enquêtrice, allait questionnaire à case et stylo bic à la main demander aux gens pour qui ils allaient voter, quelle voiture ils allaient acheter et, vous ne le croirez jamais, les gens répondaient en disant la vérité. C'était une drôle d'époque où les gens réfléchissaient longuement avant de prendre une décision puis, c'est incroyable quand on y pense, l'assumaient et pouvaient même en faire part lors d'une enquête. Aujourd'hui nous nous décidons au moment de mettre le bulletin dans l'urne et nous achetons de manière imprévue ce dont nous n'avions pas besoin avant qu'on nous le vende. Les sondages à questionnaires, les études de marchés à questionnaires, les questionnaires, reviennent, pour prendre une expression de chez moi, à compter les oeufs dans le cul des poules, et à être bien déçu à la ponte, ou l'élection, venue.

Il y a, de mon point de vue, deux domaines bien distincts ...en fait non pas si différents, mais deux domaines ou les investigations s'exercent de manière différente. Il y a celui qui porte sur les individus et consiste à anticiper leurs décisions économiques, politiques ou sociales et c'est ce domaine qui fait la richesse de Facebook, Google et autres sauvages amazon. L'autre c'est celui qui porte son attention sur l'Univers, la Nature. Qui cherche à savoir les lois et ce que sont les causes des effets qu'on observe. C'est celui de la Recherche scientifique, de la philosophie, de l'art, de la spiritualité aussi. Ça c'est plutôt mon domaine.

Imaginons que l'on veuille savoir si une personne est plutôt rationnelle, idéaliste, conservatrice ou quelqu'un d'action selon la quadripartition de Jung. C'est possible de le faire à partir d'un texte écrit par la personne ou bien de ses likes sur les réseaux sociaux. Je vous mets ci-après le lien vers une IA pour le tester. Mais vous imaginez bien qu'il faut beaucoup de clics d'adolescentes sur des photos de chats pour finir par savoir qu'elle votera à l'extrême droite et qu'elle achètera une trotinette électrique quand elle sera majeure. Vraiment beaucoup.

Par contre imaginons que l'on veuille savoir le bon dosage d'engrais pour une plante. Nous allons faire des expérimentations avec différents mélanges, bien s'assurer que les conditions météo sont les mêmes en les prenant en compte et mesurer précisément la croissance de la plante par exemple avec un super télémètre laser à interférence, ou un double décimètre. Ces expériences prennent du temps mais elles sont justes, elles contiennent l'information. Et il en faut beaucoup moins pour entrainer uneréseau de neurones artificiels à trouver le meilleur des engrais.

Les progrès de l'intelligence artificielle ont été payés par les grand curieux des individus, gens de publicités, de marketing, de politique. Mais leu

Nov 12, 202005:05
Ep. 4: Curiosité et intelligence artificielle

Ep. 4: Curiosité et intelligence artificielle

Vous pouvez désormais écouter ces podcasts sur Apple iTunes, Deezer et Spotify, et bien sûr sur le site podcast.tf. Je vous remercie de l'intérêt que vous m'avez exprimé. C'est motivant. N'hésitez pas à diffuser la chaine et à me contacter. J'aurais également bientôt l'occasion d'accueillir des invités.

Nous allons continuer notre voyage dans les relations entre la curiosité et l'intelligence artificielle.

Quand on dit de quelqu'un "Il est curieux" on veut le plus souvent dire "il est bizarre, étrange, particulier". Rarement qu'il est curieux dans le sens premier du terme. C'est curieux hein?



D'ailleurs, les jeunes me semble plutôt utiliser "particulier". C'est une sorte de jugement d'étrangeté, avant qu'il ne soit possible de conclure sur la nature bonne ou mauvaise de celle-ci. Une sorte d'alerte. Ce n'est pas bien positif.

En latin, le mot veut dire "désir de connaître". En grec, le terme se francise en philomathe, et c'est de l'amour d'apprendre dont il s'agit. Voilà désormais vous pourrez dire "Comme c'est curieux je me sens philomathe!" Amour, désir, voilà bien ce qui gène et rend la curiosité antique malmenée par le conformisme. La curiosité est définitivement scandaleuse, comme la créativité. Elle est l'ennemi des dictateurs et des intégristes religieux, adeptes obscurcis du "circulez y a rien à voir"

Quel est le rapport avec les intelligences artificielles? Eh bien, de même, le sens de "Intelligence" a glissé, voire dérapé. Le mot vient du Français du XIIeme siècle est passé en anglais, puis en américain puis est revenu. Intelligence en anglais c'est comme dans CIA Central Intelligence Agency. Intelligence agency ça ne veut pas dire agence d'intelligence... ça on a pu le vérifier au cours de son histoire.. Ça veut dire enquête, investigation, espionnage...curiosité.. Et en effet les intelligences artificielles sont curieuses, c'est là leur moindre défaut. Enfin elles sont "presque curieuses" car le désir de savoir, c'est nous qui l'avons. Les intentions, bonnes ou mauvaises aussi. Elles sont comme sont les caméras, pointées sur le beau et l'utile, ou sur le glauque et le futile, selon les désirs du caméraman.

La curiosité c'est désirer savoir des choses cachées. La curiosité saine veut connaitre des choses cachées mais qui en plus seraient vraies. La curiosité malsaine veut découvrir des choses cachées tant pis si elles sont fausses. La première est le domaine de la recherche au sens large, de la philosophie, de la spiritualité. La seconde est le domaine de la conspiration, de l'occulte.

Et nous visiterons bientôt les deux côtés..

Vous l'avez senti je pense, l'intelligence artificielle c'est l'outil, d'autres diront l'arme, du curieux de troisième millénaire. Elle permet de savoir ce que les autres ignorent y compris à propos d'eux même. Et nous verrons bientôt comment s'en servir. (suspens)

Nov 06, 202004:36
Episode 3: À quoi sert un cerveau ?

Episode 3: À quoi sert un cerveau ?

À quoi peut bien servir un cerveau? Pourquoi les intelligences artificielles peuvent nous aider à mieux le comprendre? Pas à mémoriser en tout cas.

Nov 04, 202003:39
Episode 2: Soyez curieux

Episode 2: Soyez curieux

Le professeur machin, ponte incontesté des hôpitaux américains affirme que le régime idéal doit absolument éviter le gras. Le professeur truc dans son livre forcément de référence affirme qu’il faut manger comme des chasseurs cueilleurs. Le Docteur Bidule lui affirme – tout diplôme dehors- que le bon régime est forcément à base d’œuf. Bref, tous ces intellectuels, formés avec le même programme dans nos meilleures facultés ne sont pas d’accord. Si c’est évident pour la médecine, il en va de même avec l’écologie, l’économie, et bien sûr la théologie qui voit des docteurs de la foi s’étriper sur l’interprétation des mêmes textes sacrés.

Nov 02, 202003:22
Ep. 1 la chaine

Ep. 1 la chaine

Bonjour,

je suis Luc Brunet, le fondateur d’une petite entreprise technologique et je vous propose cette chaine de podcast réalisée du fond du laboratoire en pleine période de confinement dans un but qui est avant toute chose promotionnel..

Non sérieusement, nous vivons une époque formidable. Dans 500 ans, elle sera peut-être vue comme nous voyons la Renaissance, même si notre COVID fait peu comparaison avec leur peste noire.

Une époque formidable, où le savoir est disponible gratuitement, mais où des groupes armés se revendiquent contre les livres, où les outils de création sont largement disponibles en logiciel comme en matériel, avec des tutos youtube pour savoir s’en servir, et où les gens se plaignent que leurs compétences deviennent obsolètes.

Un monde où les ennemis de la technologie utilise la technologie pour dire qu’ils sont contre la technologie, où les cannibales mangent avec des fourchettes.

Un monde de santé et de vie longue mais où certains trouvent encore à s’ennuyer en ennuyant les autres avec leur ennui.

Dans ce podcast, nous allons parler d’intelligence artificielle, de cerveau, de biologie, de société et de philo.

Comme j’aime bien l’innovation frugale, c’est entièrement bricolé du fond du labo. Même la musique a été composée avec un logiciel gratuit.

J’hébergerai aussi quelques amis pour sur le site podcast.tf où vous trouverez aussi des références et le moyens de nous laisser des commentaires.

Le slogan de ce projet c’est Τέχνῃ χρῶ qu’il faut prononcer teknê kro et qui veut dire “use de ce que tu sais faire” ou bien “utilise tes talents” en grec ancien. C’est une maxime du temple de Delphes que j’aime bien.

Je vous laisse maintenant avec le premier épisode : Soyez curieux !

Nov 02, 202002:18