At the edge of AI

+2
L'effet-mère
ludion
6 participants

Aller en bas

At the edge of AI Empty At the edge of AI

Message par ludion Ven 9 Sep 2022 - 15:08

Pour désacraliser et prévenir.
Pour dessiller et alerter.
Pour que prenne l'envie de comprendre et de se poser des questions.
Pour que d'invisibles serres prennent corps.

https://www.vice.com/en/article/g5vjw3/why-does-this-horrifying-woman-keep-appearing-in-ai-generated-images
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 9 Sep 2022 - 15:28

Précisions

Je ne me donnerai pas la peine de traduire sur ce fil. Tout ce qui tourne autour de l'IA est rédigé en anglais (version américaine la plupart du temps). Cela est aussi vrai pour le reste des publications à portée scientifique, mais là n'est pas le présent débat.
Je considère que l'intérêt porté à quelque chose que ce soit nécessite un investissement personnel. Je considère également que les risques que font courir l'IA (ou ses bénéfices car il y en a), nécessitent que l'on reste informé pour ne pas se faire promener par de fallacieuses promesses ou mensonges éhontés. Ainsi, je ne ferai aucun effort pour pallier au manque de connaissance de l'anglais par ceux qui n'ont pas encore compris l'utilité prégnante de l'apprentissage de cette langue.


Dernière édition par ludion le Ven 9 Sep 2022 - 15:43, édité 2 fois (Raison : fautes (comme à l'habitude...))
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:41

M'en fous, j'ai une application de traduction ! Dent pétée
Je taquine. Wink
L'effet-mère
L'effet-mère

Messages : 1319
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 9 Sep 2022 - 15:44

Very Happy

https://www.vice.com/en/article/3ad8gk/googles-ai-isnt-sentient-but-it-is-biased-and-terrible

https://www.vice.com/en/article/epdpwn/googles-firing-of-an-ethics-researcher-shows-the-limits-of-having-a-seat-at-the-table
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:45

C'est rigolo, ça me fait penser à la paréidolie version IA (je parle du premier lien posté par Ludion, pas encore regardé ceux du post précédent celui-ci)...
L'effet-mère
L'effet-mère

Messages : 1319
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 9 Sep 2022 - 15:53

Ah, je n'avais pas perçu cela ainsi, d'autant moins que le visage présenté est parfaitement reconstruit et ne donne pas lieu à interprétation sur sa constitution.

Le système productif en cause de ces images a été construit pour accepter des poids négatifs (l'IA fonctionne grâce à des poids (pourcentages d'une valeur) permettant le déclenchement ou non de portes logiques), ce qui est l'inverse du fonctionnement nominal.
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:58

C'est la reconstruction par l'IA qui, pour moi, relèverait de l'interprétation basée sur une sorte de "paréidolie"... Je dis ça sans rien connaître de l'IA mais la lecture de l'article (après traduction par mon application Cool ) m'y a fait penser. ^^
L'effet-mère
L'effet-mère

Messages : 1319
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 9 Sep 2022 - 16:09

Effectivement, on peut aussi appliquer cette lecture de manière amphibolique.

Je suis certainement trop imprégné de code, et puis aussi du fonctionnement d'un algorithme pour avoir fait le rapport.

L'IA est instruite (ses poids sont construits) par l’examen de multiples instances de l'objet qu'on veut par la suite lui faire étudier ou reproduire, et l'on corrige manuellement les erreurs qu'elle fait (on appelle cela le deep learning (non, je ne traduirai pas ^^)).

Ainsi, pas de paréidolie, mais une juxtaposition la plus exacte possible de pixels.

Pour mémoire, la base des avancées en IA est sise sur l'étude biologique du cortex visuel d'une souris...
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 16:15

deep learning
Very Happy

Ainsi, pas de paréidolie, mais une juxtaposition la plus exacte possible de pixels.

Faut que j'organise mes mots dans ma tête mais j'ai à répondre à ça. Mais plus tard, je suis attendue. Wink
Pour mémoire, la base des avancées en IA est sise sur l'étude biologique du cortex visuel d'une souris...
Intéressant ! Je l'ignorais.
L'effet-mère
L'effet-mère

Messages : 1319
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 9 Sep 2022 - 16:23

J'attends tes remarques Smile

https://www.vice.com/en/article/dypamj/image-generating-ai-keeps-doing-weird-stuff-we-dont-understand

https://www.vice.com/en/article/wxdawn/the-ai-that-draws-what-you-type-is-very-racist-shocking-no-one

https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire-was-co-authored-by-a-disturbingly-realistic-ai

https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3 (bien lire la note de l'éditeur à la fin)
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 10 Sep 2022 - 15:20

Pour continuer à la suite de mon post d'hier à 15h44 à propos du Dr Gebru dont il est question dans le deuxième lien.

- Pourquoi elle a été virée (et n'a pas démissionné comme le prétendait Jeff Dean) :

https://googlewalkout.medium.com/setting-the-record-straight-isupporttimnit-believeblackwomen-5d7bbfe4ed90

- Le papier qu'elle a rédigé et qui a causé son départ :

https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/

- Les deux modèles de langage (au coeur de la strétégie de Google), et qui posent des problèmes éthiques dévoilés par le Dr. Gebru :

1/ BERT (Bidirectional Encoder Representations from Transformers): Pre-training of Deep Bidirectional Transformers for Language Understanding :

https://arxiv.org/abs/1810.04805

2/ ELMo (Embeddings from Language Model :

https://allenai.org/allennlp/software/elmo

ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 10 Sep 2022 - 20:32

La commission européenne à publié, en 2021, une proposition de règlement établissant des règles harmonisées en matière d'intelligence artificielle:

https://digital-strategy.ec.europa.eu/fr/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

Pour autant, il reste par mal de trous dans la raquette :

- Rien ne fait état, par exemple, de ce qui est de l'emploi militaire (drones, armes autonomes), rien non plus en ce qui concerne l'usage de l'IA par les forces de l'ordre.

- D'autre part, la définition de l'Intelligence artificielle est vague dans le document, et rien n'est dit par rapport aux nouvelles technologies comme l'informatique quantique (ou l'edge computing (traitement des données à coté de la source - très utile pour l'IoT ou pour les caméras de reconnaissance faciale...)) qui pourraient en multiplier la puissance.

Ce document est une ébauche intéressante, mais incomplète. Et puis, le temps de l'adoption puis de la transcription en droit dans chacun des états membres peut s'étaler sur des années. Je pense donc que la société civile doit s'emparer du problème le plus tôt possible et remonter vers les députés européens (et nationaux) pour faire entendre sa voix et ainsi éviter que certaines sociétés - et/ou politiques - ne profitent du vide de régulation pour avancer leurs pions tant que faire se peut.
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 16 Sep 2022 - 16:45

Quand une IA se met à faire de la stéganographie...

https://techcrunch.com/2018/12/31/this-clever-ai-hid-data-from-its-creators-to-cheat-at-its-appointed-task/

L'étude citée dans le papier, pour qui veut aller directement au but :

https://arxiv.org/pdf/1712.02950.pdf

ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 9:24

Je poste ici espérant être au bon endroit,
J'ai cru comprendre en lisant ça, que "l’apprentissage pour l’intelligence artificielle se présente sous forme d’une récompense, qui vient valider l’adéquation du résultat avec l’objectif recherché. "....

C'est correct ?
On a perdu la tête ?
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Sam 17 Sep 2022 - 10:01

Une introduction basique notamment sur les différents types d’algorithmes.


Mp3

Messages : 440
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 12:31

Merci, c'est intéressant Very Happy
Mais ça ne répond pas à ma question... Wink
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Sam 17 Sep 2022 - 12:54

Si il fallait se mettre en tête de répondre à toutes tes questions Wichounet… Le fils de Sisyphe pourrait succéder à son père qu’on ne verrait pas encore la fin du tunnel…

Mais pour tes beaux yeux, voici ce que me donne une recherche rapide sur le ouèb:

« Les nouveaux membres ne sont pas autorisés à poster des liens » Very Happy

Cherche « lebigdata.fr Reinforcement Learning : qu’est-ce que l’apprentissage par renforcement ? »

Quant à savoir si on a perdu la tête, il me semble pouvoir raisonnablement estimer que c’était une question rhétorique… Si je me trompe, je préfère ne pas en être informé…

Mp3

Messages : 440
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 13:27

Merci Mp3, t'es trop mignon, je vais voir ça
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 17 Sep 2022 - 14:03

Wich,

Quand une IA apprend (pondère les couches neuronales qui la composent par des pourcentages), elle commet des erreurs. Ces erreurs sont corrigées par l'humain qu va changer les poids (les pourcentages), à la main.
La reconnaissance de "l'objet" est alors facilitée, et en quelque sorte la "récompense" de l'IA en cause est l'adéquation la plus parfaite entre son résultat et le résultat humain. La programmation ne peut s'écarter de nos propres fonctions ...

Ce que l'article dit (celui que tu as lu), c'est qu'il est probable qu'un biais se fasse dans la programmation, biais qui quitte la proie pour l'ombre, et qui fasse que ce soit la récompense qui soit recherchée bien plus que l'exactitude du phénomène observé. Si l'on se projette sur l'utilisation de l'IA dans les assurances, c'est ce que l'on commence à constater : Les garanties les plus à risque deviennent les plus chères (au lieu même de lisser les coûts sur tout le monde) --> le profit de l'assureur est la récompense sur laquelle l'IA se focalise. Mais elle s'y focalise parce que son concepteur l'a prévu ainsi. Et ces fichiers journalistes ne sont même pas foutus d'expliquer cela clairement puisqu'il assimilent l'IA à une entité libre de ses mouvement !!!! Suprême imbécilité !!!!

Ceci étant, la recherche que tu cites est intéressante, et justifie que le commun des mortels s'approprie le sujet.
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 17 Sep 2022 - 14:04

Pour info et en date du 14 septembre de cette année, un inventaire des algorithmes de l'IA à connaître (en anglais)

https://www.upgrad.com/blog/types-of-artificial-intelligence-algorithms/
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 14:22

J'ai réagi à l'article en parfait profane (même si je dois m'y mettre prochainement) et je me suis dis que compter sur l'activation de circuits de récompenses pour dvlp les IA, c’était aller au devants des emmerdes...
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 17 Sep 2022 - 14:30

C'est exactement ça Wich. Même si ce ne sont pas à proprement parler des circuits de récompense dans le code puisque ce dernier calcule mais ne ressent pas, ne jouis pas à proprement parler, c'est la recherche de l'objectif qui est biaisée. Celui qui jouit et qui continuera à jouir, c'est l’humain décisionnaire de la mise en place de l'IA pour son plus grand pouvoir.

Il faut abandonner tout de suite l'anthropomorphisme au travers duquel on perçoit l'IA, sous peine de lâcher la proie pour l'ombre, et d'oublier les vrais coupables : ceux qui prennent les décisions de développement en amont !!!
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 14:37

Même si ce ne sont pas à proprement parler des circuits de récompense dans le code puisque ce dernier calcule mais ne ressent pas, ne jouis pas à proprement parler
C'est vrai, c'est ce qui donne plus de marge (ds un sens comme ds l'autre) à l'humain pour gérer sa "mécanique interne", il n'en reste pas moins la problématique me semble la même.
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 17 Sep 2022 - 14:59

La problématique c'est l'usage, comme à l'habitude. Et l'éthique, comme on a pu le lire dans un de mes posts précédents, fait figure de parent pauvre...

Si tu regardes la liste des connexions sur ZC (ici : https://www.zebrascrossing.net/viewonline ), tu remarqueras Google, Qwant, bing et d'autres encore parfois). Toutes nos données sont aspirées et alimentent des IA qui nous profilent en permanence, avec derrière ça la pleine conscience de Forum Actif dans le fait de faire du fric facilement.

Ces IA sont créées et développées aux USA (et leurs résultats revendus partout dans le monde), et échappent à notre doit national (que fait notre État contre cela au passage ? Rien. Ni l'Europe, qui n'a seulement commencé à faiblement réagir que lorsque Max Schrems ( https://noyb.eu/fr ), un juriste autrichien, a commencer a agiter fortement le bateau)

Ou est l'éthique, où est la protection des données personnelles, médicales... ?

Il y a bien longtemps que ce que tu constate est en cours !
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 15:11

Je parcours le lien donné par Mp3 et je tombe là dessus
Spoiler:
"Le  » flux d’expériences  » d’un animal est suffisamment riche et varié pour le pousser à développer une large diversité de capacités afin d’obtenir sa récompense : la survie. Pour les chercheurs de DeepMind, il serait donc possible de développer une IA générale en lui soumettant un flux d’expériences suffisamment riche."...et l’impératif de survie ?...

Edit: je sais ludion, mais là je "focalise" sur l'IA quoi que cela puisse représenter et peut être que je raisonne mal par ignorance mais il arrivera peut être un moment ou l'éthique de l'homme quelle qu'elle soit ne sera plus de la partie...


Dernière édition par Wich le Sam 17 Sep 2022 - 15:14, édité 1 fois (Raison : rajout)
Wich
Wich

Messages : 1148
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Sam 17 Sep 2022 - 15:40

Il n'est pas besoin d'aller chercher un écureuil pour se représenter ce qui est appelé l'évolution par la récompense (ce que je pense encore trop antropomorphisé (passes moi le néologisme)) : L'humain analyse un phénomène lié à la survie et y associe du plaisir, parce que son cortex tient lieu de démultiplicateur : la reproduction et la pornographie, la nourriture et les restaurants de luxe, la lutte contre le froid et le manteau en fourrure coûtant une fortune, etc...).

Une bactérie aussi "sait", sans cerveau, aller où l'alimentation se trouve et où le milieu la protège. Elle ne semble pourtant pas être dotée de raison. Il en est de même pour le blob ( https://fr.wikipedia.org/wiki/Physarum_polycephalum ). Il n'est alors pas question de récompense, mais de survie simplement, et d'assimilation  des stimuli qui permettent cette dernière. Je n'aime décidément pas l'anthropomorphisme qui s'insère partout et que les journalistes propagent à qui mieux mieux.

Autre chose que l'article n'évoque pas : la consommation énergétique. Le cerveau humain consomme en moyenne 12,6W ( https://couleur-science.eu/?d=44f6b9--quelle-est-la-puissance-de-notre-cerveau ) quelle que soit l'intelligence du porteur. Je te laisse faire des recherches sur la consommation actuelle des ordinateurs qui font tourner certaines des IA citées dans l'article, tu te feras ton opinion...

Il faut être sur nos gardes, prendre en compte les annonces, mais ne pas pour autant croire à l'immédiateté qui y est annoncée...
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Lun 19 Sep 2022 - 0:00

Encore une alerte, parue en 2021 sur un papier inaccessible sans payer (là : https://jair.org/index.php/jair/article/view/12202 ) mais dont la prépublication date de 2016, et est complète. On peut la trouver là : https://arxiv.org/pdf/1607.00913.pdf

Ceci étant, l'étude résulte d'un calcul, mais est toujours basée sur ce que l'vancée de l'IA pourrait permettre, à la foi si les algorithmes sont mis au point (ce que beaucoup de monde s'évertue à faire), si les machines sont suffisamment puissantes (ce qui explique l'engouement pour la recherche autour des ordinateurs quantiques) et si l'énergie nécessaire à la fois au fonctionnement des machines et à celle du stockage afférent (dans oublier la réfrigération, énorme pour l'informatique classique, encore plus pour la quantique). C'est sans doute là -au niveau énergétique - que le plus grand frein sera.

Ce n'est pas pour autant que l'on doit baisser la garde, non pas à propos seulement des avancées, mais bien sur l'usage !
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Mer 21 Sep 2022 - 12:13

geeko lesoir be 2022/09/20/des-scientifiques-lassurent-une-i-a-va-probablement-detruire-lhumanite/

L’étude:

onlinelibrary wiley com /doi/10.1002/aaai.12064

Mp3

Messages : 440
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Mer 21 Sep 2022 - 23:33

L'IA ne s'arrête pas à simuler des textes, à aider les scientifiques, à envahir les armes létales, à calculer des risques financier, profiler le pauvre internaute qui se croit à l'abri derrière son clavier...

Elle permet aussi de créer des images qui semblent plus vraies que vraies, et cela à partir de mots-clés

Quelques noms ? Mais bien sûr ^^

https://openai.com/blog/dall-e/

https://www.midjourney.com/home/

et, last but not least, là où vous pourrez directement tester :

https://www.craiyon.com/

https://stablediffusionweb.com/

Seulement, car il y a un seulement, quelques personnes commencent à avoir des frissons et l'expriment, comme c'est le cas du fondateur de Getty Images qui ne veut pas des résultats de ces programmes sur son site : Atteinte potentielle à la vie privée, mensonges détournement et manipulation, fausses preuves et tutti-quanti...

Il y a effectivement de quoi s'inquiéter... L'usage, encore l'usage...

EDIT : Çà me fait penser que l'on pourrait en faire de sacrées en récupérant les photos qui passent dans le fil ZC "bas les masques"... Vampire
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Mar 27 Sep 2022 - 10:08

Si nous utilisons l'IA pour écrire notre musique préférée à notre place, perdrons-nous la capacité d'écrire de la musique nous-mêmes ?
Si un coach IA empêche les parents divorcés de se disputer par SMS, pourront-ils s'en passer ?
Si les seuls romans et scénarios qui obtiennent le feu vert sont ceux qui, selon l'IA, correspondent à des succès passés, allons-nous finir par lire et regarder la même chose encore et encore ?

Dans cette conversation, Jacob Ward, de NBC ( jacobward.com ), décrira la boucle : le cycle de rétroaction sans fin de la reconnaissance des modèles qui menace de réduire la complexité du comportement humain à un ensemble prévisible de modèles dans la politique, le divertissement, les relations et l'art lui-même.

Pourquoi la boucle est-elle si puissante ?
Pourquoi les entreprises continuent-elles à lui donner du pouvoir ?
Et que pouvons-nous faire, en tant que simples citoyens, pour résister à son emprise ?

Jacob Ward est boursier Berggruen au "Stanford's Center for Advanced Study in the Behavioral Sciences"  (casbs.stanford.edu) où il écrit The Loop : Decision Technology and How to Resist It, dont la publication est prévue par Hachette Book Group en 2020. Le livre explore comment l'intelligence artificielle et d'autres technologies d'aide à la décision vont amplifier les instincts humains, bons ou mauvais.

ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Lun 3 Oct 2022 - 19:54

Avec l'aide humaine, des IA génèrent une nouvelle esthétique. Les résultats sont planants.

Attention, la vidéo incluse dans l'article comporte des effets visuels qui peuvent être dérangeants pour les spectateurs photosensibles.

https://aeon.co/videos/with-human-help-ais-are-generating-a-new-aesthetics-the-results-are-trippy
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Dim 9 Oct 2022 - 19:36

Et voilà que l'IEEE s'y met en trouvant que décidément, l'IA derrière les outils de recommandation pousse le bouchon un peu trop loin (Maurice...)

https://spectrum.ieee.org/recommendation-engine-insidious
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Ven 14 Oct 2022 - 12:18


Mp3

Messages : 440
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Lun 17 Oct 2022 - 8:31



https://www.theverge.com/a/luka-artificial-intelligence-memorial-roman-mazurenko-bot

Mp3

Messages : 440
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par doom Lun 17 Oct 2022 - 13:33

adossé au sujet

prospections de sf, Greg Egan, Diaspora

où des i.a immatures sont crées par des i.a dans un utérus informatique, et une entrée/sortie, un mimétisme des process de développement de fœtus


Enfin, dans les entrailles chromées de superordinateurs au potentiel de calcul inimaginable, vivent les citoyens des polis, personnalités numérisées, libérées de toute contrainte charnelle, entre les murs intangibles de cités sans limites

https://www.babelio.com/livres/Egan-Diaspora/961487
doom
doom

Messages : 920
Date d'inscription : 04/08/2012
Age : 58
Localisation : ici et maintenant

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Ven 4 Nov 2022 - 15:57

Une récente étude du MIT met en garde contre les comparaisons hâtives entre les réseaux de neurones et le cerveau. En analysant plus de 11.000 réseaux de neurones ayant été entraînés à simuler les fonction de "grilles" de neurones, les chercheurs ont trouvé que les réseaux de neurones produisent uniquement une activité ressemblante à celle de la "grille" que lorsque on leur donne des consignes très spécifiques, contraintes qui n'existent pas dans les "systèmes" biologiques.

Le lien vers l'article : https://news.mit.edu/2022/neural-networks-brain-function-1102

Le lien vers l'étude (22 pages), pour ceux qui veulent aller plus vite : https://openreview.net/pdf?id=mxi1xKzNFrb
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Abracadaboum Jeu 24 Nov 2022 - 0:31

@ludion : "Pour mémoire, la base des avancées en IA est sise sur l'étude biologique du cortex visuel d'une souris..."

Pas si sûr.

La base, c'est de longues, très longues, expérimentations informatiques (presque 30 ans d'essais) qui ont abouti de manière très pragmatique à des algorithmes dont finalement personne ne comprend réellement le bien fondé.
On a essayé au tout début de comprendre le fonctionnement des réseaux à l'aide des mathématiques.
Ça a été un échec.

Ensuite "on" (tout un tas d’expérimentateurs avec plus ou moins de réussite) a tâtonné pendant presque 20 ans.
Et la puissance de calcul des machine aidant dans les 10 dernières années a permis de trouver des méthodes fiables permettant d'organiser ces réseaux, les hissant au niveau de l'ingénierie.
Aujourd’hui, on enseigne ces méthodes aux ingénieurs, qui les reproduisent, et fournissent via la puissance de calcul et des bibliothèques IA toutes faites, des résultats qui paraissent tout à fait étonnants (et fort utiles).
Et tout le monde croit qu'on sait comment les réseaux fonctionnement.

Reste à trouver le fonctionnement du réseau biologique...

Pour ma part et pour ce que ça vaut, je pense que l'intelligence d'un cerveau résulte d'une fonction primaire tout à fait éloignée de l'intelligence. (pour ce qui est de la structure initiale, elle est issue de la méduse, mais c'est une autre histoire...)
L'intelligence est un sous-produit FORTUIT du système de câblage automatique permettant de relier les effecteurs aux récepteurs.
Le problème de base d'un cerveau c'est qu'il doit éviter de "griller".
En effet, les récepteurs envoient leurs influx électriques vers le cerveau, pour traitement, et le cerveau doit assimiler ce flux, puis éliminer ce flux vers l'extérieur (action).
Une manière de procéder est de prévoir l'arrivée du flux entrant, d'être PRÉDICTIF dans le temps, pour contrer le flux entrant le plus courant, ce qui réserve les variation internes aux flux entrants qui ne rentrent pas dans un schéma prédictif.
Exemple : Si je reçoit couramment toutes les 10 secondes une stimulation externe au niveau d'un des systèmes réceptif, le cerveau produit une assemblée de neurone qui va produire un contre flux (ce qui coute de l'énergie en permanence, mais que ne ferait-on pas pour éviter de griller les circuits) toutes les 10 secondes.
De cette manière le cerveau... n'est pas dérangé.
Mais si le flux externe ne parvient pas à la 10ieme seconde, alors le flux interne "déborde", et le cerveau "sait" qu'une NOUVEAUTÉ est apparue au niveau du récepteur.
Cette prise en compte prédictive de la nouveauté est ce qu'on appelle "intelligence".

A noter que le flux externe peut aussi être interne...
D'où l'organisation permanente des réseaux pour équilibrer les flux électriques = intelligence.
Abracadaboum
Abracadaboum

Messages : 61
Date d'inscription : 19/11/2022
Age : 53
Localisation : IDF

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par ludion Jeu 24 Nov 2022 - 12:52

Bon.

Comme j'en ai marre d'argumenter dans le vide, on va s'y prendre différemment.

- 1956 : La RAND Corporation, au travers de Marvin Minsky et de John McCarthy présentent le premier programme de recherche en AI : https://aaai.org/ojs/index.php/aimagazine/article/view/1911/1809

Ces deux personnes sont à la fois des ingénieurs informatiques et des scientifiques cognitivistes.

Voir aussi : https://sitn.hms.harvard.edu/flash/2017/history-artificial-intelligence/

- De la science du cerveau à l'intelligence artificielle : https://sci-hub.se/10.1016/j.eng.2019.11.012

- Yann LeCun, dans un de ses livres, intitulé "Quand la machine apprend : la révolution des neurones artificiels et de l'apprentissage profond" (ouvrage que je conseille, mais sur lequel je n'arrive plus a mettre la main dans mon fouillis... ), cite les noms de biologistes étudiant le cortex visuel des souris et dont les travaux l'ont inspiré et guidé lors de la réalisation de ses recherches sur la vision par ordinateur (voir particulièrement le chapitre "Neurobiologie").

Les travaux de LeCun, basés donc sur la neurobiologie, ont permis le développement des réseaux convolutionnels, qui occupent la place prépondérante qu'on leur connaît désormais en IA

Quant au reste, c'est pour moi du gloubiglouba. Je m'attends toujours, surtout sur des sujets comme ceux-là, à bien plus de références que d'hypothèses sorties d'un chapeau. A bon entendeur...
ludion
ludion

Messages : 4067
Date d'inscription : 07/03/2020

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Abracadaboum Aujourd'hui à 3:22

ludion a écrit:
Quant au reste, c'est pour moi du gloubiglouba. Je m'attends toujours, surtout sur des sujets comme ceux-là, à bien plus de références que d'hypothèses sorties d'un chapeau. A bon entendeur...

C'est aussi à vous d'en donner.
Quand je vois certaines de vos déclarations je me permet de vous corriger sur certains points.
Justement, le Deep Learning qui se manifeste par la technique de la rétro propagation du gradient d'erreur inventé par Mr LeCun (ce qui a sorti l'IA de ce qu'on appelle l'Hiver de L'IA (que je citais plus haut)) et que vous nommez,  EVITE justement d'avoir à moduler les "poids" à la main.
C'est une révolution lorsqu'il s'agit d'ajuster des millions de poids (infaisable sinon par un ou une multitude d'humains).

Et sachez que lorsqu'il a présenté ses "trouvailles", on lui a fait remarqué : "Ça marche en pratique, mais est-ce que ça marche en théorie ?"
Vous voyez peut-être ce que je veux dire lorsque j'affirme que les mathématiques et l'état d'esprit de la recherche en IA ont été, après la phase du perceptron, non plus une aide mais une gène dans la mise en pratique des "réseaux de neurone" du type qu'on connait aujourd'hui.
Pour certains il fallait prouver avant d'essayer et pour d'autres il fallait essayer avant de prouver.
Mr LeCUn a choisi la seconde voie et les preuves mathématiques, en gros, que son idée de base était bonne sont arrivées après les résultats pratiques.
Je ne dis pas qu'il ne s'est pas inspiré bien sûr des travaux de certains mathématiciens pour en arriver à son idée.
Comme je ne dit pas qu'il est inutile de tenter de s'inspirer de ce qu'on croit savoir du cerveau d'une souris.
Mais ce ne sont là que des inspiration, pas des faits pouvant amener rationnellement à la solution.

D'autre part, les poids ne sont pas spécialement reliés à des pourcentages, ce sont des valeurs numériques, positives et négatives. Point.
Et le neurone dont il est question en IA moderne (celle d'aujourd'hui et peut-être en auront-nous une autre demain) est plus un objet mathématique qu'un objet mimant la biologie.
Ce sont des neurones dits "formels", c'est à dire qui sont censés reproduire "dans le principe" (ce qui laisse beaucoup de marge) les fonctionnement de ce qu'on "CROYAIT" (j'insiste sur ce terme) savoir du fonctionnement des neurones biologiques.

D'ailleurs si vous vouliez comparer la propagation des valeurs des flux électriques dans un cerveau réel avec la propagation des valeurs numériques dans un système de neurones formels vous y verrez directement de très grosses différences.
Un "neurone" formel, en fait ce qu'on appelait un perceptron autrefois (du moins pour ceux aui avaient choisi ce type de "neurone"... puisqu'il y a eu plein d'autres essais) n'est rien d'autre qu'une formule mathématique à n dimensions.
Vous connaissez probablement la formule d'une droite paramétrique : ax + by + c = 0 eh bien c'est ça un "neurone" en IA aujourd'hui (et si vous voulez plus de dilensions vous continuez avec "ax" supplémentaires (plus généralement donc a1x1+a2x2+a3x3+a4x4+....anxn)
x, y ici sont les valeurs en entrée, a et b sont les poids, et c correspond au "biais" (un truc qu'on ajoute ou pas , on peut aussi s'en passer et lui donner la valeur 0 selon les cas).
Ensuite on évite de dire que ax+by+c=0 on évalue ax+by+c (on calcule quoi c'est tout) et on utilise une fonction particulière (par exemple heaviside) qui dit que si cette valeur est plus grande ou égale à 0 le résultat final (du perceptron) vaut 1, et 0 sinon.
Mais on peut aussi choisir d'autres fonctions d'évaluation de la valeur calculée.
C'est la ou commence la "tambouille"... et finie la théorie.
Bien sûr la théorie vient un peu à la rescousse pour permettre de mieux évaluer quand appliquer telle ou telle fonction, de combien de couches de neurones et comment les interconnecter (dense ou pas) on devait avoir besoin (avec 1 seul perceptron ça donne des résultats pitoyables).
Mais c'est une aide, pas une contrainte.
La preuve en est que pour réaliser des IA performantes il n'y a pas de méthode mathématiques pour choisir le design, il faut essayer selon les données qu'on veut traiter (et bien sûr l'expérience du "programmeur" permet de trouver au plus vite le meilleur design)

On pourrait en parler encore longtemps mais je vais déjà m’arrêter là.

Pour ce qui est maintenant du "gloubiglouba".
Sachez simplement que du point de vue évolutif le neurone des animaux en général apparait grâce aux mêmes gènes (codant donc pour des protéines) que ceux retrouvés chez les cnidaires (mes méduses).
La méduse étant un organisme antérieur aux vertébrés et même à d'autres invertébrés plus complexes, on peut en evo devo penser qu'il y a eu, soit convergence évolutive ou encore plus probablement transfert horizontal de gènes.
Il faut bien mesurer l’intérêt d'une méduse à "calculer", "anticiper" et coordonner l'emploi de ses dards empoisonnés face à une proie pour éviter le gâchis.
Ca c'est le câblage de base.
Bref.

Pour ce qui aussi du fonctionnement plus biologique du cerveau (que l'IA moderne, qui si vous avez peut-être fini par comprendre n'a quasiment rien à voir avec ça) je vous incite à aller voir les cours de Stanislas Dehaene, en libre service sur internet dont voici un bref aperçu : https://www.college-de-france.fr/agenda/cours/le-cerveau-statisticien-la-revolution-bayesienne-en-sciences-cognitives
C'est "l'ennemi de l'IA", comme dirait Vladimir Vapnik copain de Mr LeCun, du fait de la vision bayésienne du fonctionnement de l'intelligence.

Ensuite, pour réflexion : Ou sont passés les ondes cérébrales, que l'on retrouve dans les cerveaux biologiques, chez les IA ?
Sachant qu'elles sont probablement à la source de ce qu'on appelle la conscience, c'est un sujet à creuser (ce qui rendrait les IA modernes totalement inoffensives d'autre part, pour ceux qui auraient encore peur des IA et de leur éventuelle conscience).
Abracadaboum
Abracadaboum

Messages : 61
Date d'inscription : 19/11/2022
Age : 53
Localisation : IDF

Revenir en haut Aller en bas

Revenir en haut

- Sujets similaires

 
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum