At the edge of AI

+6
isadora
Abracadaboum
doom
Mp3
Wich
L'effet-mère
10 participants

Page 1 sur 2 1, 2  Suivant

Aller en bas

At the edge of AI Empty At the edge of AI

Message par Invité Ven 9 Sep 2022 - 15:08

Pour désacraliser et prévenir.
Pour dessiller et alerter.
Pour que prenne l'envie de comprendre et de se poser des questions.
Pour que d'invisibles serres prennent corps.

https://www.vice.com/en/article/g5vjw3/why-does-this-horrifying-woman-keep-appearing-in-ai-generated-images

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 9 Sep 2022 - 15:28

Précisions

Je ne me donnerai pas la peine de traduire sur ce fil. Tout ce qui tourne autour de l'IA est rédigé en anglais (version américaine la plupart du temps). Cela est aussi vrai pour le reste des publications à portée scientifique, mais là n'est pas le présent débat.
Je considère que l'intérêt porté à quelque chose que ce soit nécessite un investissement personnel. Je considère également que les risques que font courir l'IA (ou ses bénéfices car il y en a), nécessitent que l'on reste informé pour ne pas se faire promener par de fallacieuses promesses ou mensonges éhontés. Ainsi, je ne ferai aucun effort pour pallier au manque de connaissance de l'anglais par ceux qui n'ont pas encore compris l'utilité prégnante de l'apprentissage de cette langue.


Dernière édition par ludion le Ven 9 Sep 2022 - 15:43, édité 2 fois (Raison : fautes (comme à l'habitude...))

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:41

M'en fous, j'ai une application de traduction ! Dent pétée
Je taquine. Wink

L'effet-mère

Messages : 2295
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 9 Sep 2022 - 15:44

Very Happy

https://www.vice.com/en/article/3ad8gk/googles-ai-isnt-sentient-but-it-is-biased-and-terrible

https://www.vice.com/en/article/epdpwn/googles-firing-of-an-ethics-researcher-shows-the-limits-of-having-a-seat-at-the-table

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:45

C'est rigolo, ça me fait penser à la paréidolie version IA (je parle du premier lien posté par Ludion, pas encore regardé ceux du post précédent celui-ci)...

L'effet-mère

Messages : 2295
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 9 Sep 2022 - 15:53

Ah, je n'avais pas perçu cela ainsi, d'autant moins que le visage présenté est parfaitement reconstruit et ne donne pas lieu à interprétation sur sa constitution.

Le système productif en cause de ces images a été construit pour accepter des poids négatifs (l'IA fonctionne grâce à des poids (pourcentages d'une valeur) permettant le déclenchement ou non de portes logiques), ce qui est l'inverse du fonctionnement nominal.

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 15:58

C'est la reconstruction par l'IA qui, pour moi, relèverait de l'interprétation basée sur une sorte de "paréidolie"... Je dis ça sans rien connaître de l'IA mais la lecture de l'article (après traduction par mon application Cool ) m'y a fait penser. ^^

L'effet-mère

Messages : 2295
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 9 Sep 2022 - 16:09

Effectivement, on peut aussi appliquer cette lecture de manière amphibolique.

Je suis certainement trop imprégné de code, et puis aussi du fonctionnement d'un algorithme pour avoir fait le rapport.

L'IA est instruite (ses poids sont construits) par l’examen de multiples instances de l'objet qu'on veut par la suite lui faire étudier ou reproduire, et l'on corrige manuellement les erreurs qu'elle fait (on appelle cela le deep learning (non, je ne traduirai pas ^^)).

Ainsi, pas de paréidolie, mais une juxtaposition la plus exacte possible de pixels.

Pour mémoire, la base des avancées en IA est sise sur l'étude biologique du cortex visuel d'une souris...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 9 Sep 2022 - 16:15

deep learning
Very Happy

Ainsi, pas de paréidolie, mais une juxtaposition la plus exacte possible de pixels.

Faut que j'organise mes mots dans ma tête mais j'ai à répondre à ça. Mais plus tard, je suis attendue. Wink
Pour mémoire, la base des avancées en IA est sise sur l'étude biologique du cortex visuel d'une souris...
Intéressant ! Je l'ignorais.

L'effet-mère

Messages : 2295
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 9 Sep 2022 - 16:23

J'attends tes remarques Smile

https://www.vice.com/en/article/dypamj/image-generating-ai-keeps-doing-weird-stuff-we-dont-understand

https://www.vice.com/en/article/wxdawn/the-ai-that-draws-what-you-type-is-very-racist-shocking-no-one

https://www.vice.com/en/article/7kbjvb/this-magickal-grimoire-was-co-authored-by-a-disturbingly-realistic-ai

https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3 (bien lire la note de l'éditeur à la fin)

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 10 Sep 2022 - 15:20

Pour continuer à la suite de mon post d'hier à 15h44 à propos du Dr Gebru dont il est question dans le deuxième lien.

- Pourquoi elle a été virée (et n'a pas démissionné comme le prétendait Jeff Dean) :

https://googlewalkout.medium.com/setting-the-record-straight-isupporttimnit-believeblackwomen-5d7bbfe4ed90

- Le papier qu'elle a rédigé et qui a causé son départ :

https://www.technologyreview.com/2020/12/04/1013294/google-ai-ethics-research-paper-forced-out-timnit-gebru/

- Les deux modèles de langage (au coeur de la strétégie de Google), et qui posent des problèmes éthiques dévoilés par le Dr. Gebru :

1/ BERT (Bidirectional Encoder Representations from Transformers): Pre-training of Deep Bidirectional Transformers for Language Understanding :

https://arxiv.org/abs/1810.04805

2/ ELMo (Embeddings from Language Model :

https://allenai.org/allennlp/software/elmo


Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 10 Sep 2022 - 20:32

La commission européenne à publié, en 2021, une proposition de règlement établissant des règles harmonisées en matière d'intelligence artificielle:

https://digital-strategy.ec.europa.eu/fr/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

Pour autant, il reste par mal de trous dans la raquette :

- Rien ne fait état, par exemple, de ce qui est de l'emploi militaire (drones, armes autonomes), rien non plus en ce qui concerne l'usage de l'IA par les forces de l'ordre.

- D'autre part, la définition de l'Intelligence artificielle est vague dans le document, et rien n'est dit par rapport aux nouvelles technologies comme l'informatique quantique (ou l'edge computing (traitement des données à coté de la source - très utile pour l'IoT ou pour les caméras de reconnaissance faciale...)) qui pourraient en multiplier la puissance.

Ce document est une ébauche intéressante, mais incomplète. Et puis, le temps de l'adoption puis de la transcription en droit dans chacun des états membres peut s'étaler sur des années. Je pense donc que la société civile doit s'emparer du problème le plus tôt possible et remonter vers les députés européens (et nationaux) pour faire entendre sa voix et ainsi éviter que certaines sociétés - et/ou politiques - ne profitent du vide de régulation pour avancer leurs pions tant que faire se peut.

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 16 Sep 2022 - 16:45

Quand une IA se met à faire de la stéganographie...

https://techcrunch.com/2018/12/31/this-clever-ai-hid-data-from-its-creators-to-cheat-at-its-appointed-task/

L'étude citée dans le papier, pour qui veut aller directement au but :

https://arxiv.org/pdf/1712.02950.pdf


Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 9:24

Je poste ici espérant être au bon endroit,
J'ai cru comprendre en lisant ça, que "l’apprentissage pour l’intelligence artificielle se présente sous forme d’une récompense, qui vient valider l’adéquation du résultat avec l’objectif recherché. "....

C'est correct ?
On a perdu la tête ?
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Sam 17 Sep 2022 - 10:01

Une introduction basique notamment sur les différents types d’algorithmes.


Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 12:31

Merci, c'est intéressant Very Happy
Mais ça ne répond pas à ma question... Wink
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Sam 17 Sep 2022 - 12:54

Si il fallait se mettre en tête de répondre à toutes tes questions Wichounet… Le fils de Sisyphe pourrait succéder à son père qu’on ne verrait pas encore la fin du tunnel…

Mais pour tes beaux yeux, voici ce que me donne une recherche rapide sur le ouèb:

« Les nouveaux membres ne sont pas autorisés à poster des liens » Very Happy

Cherche « lebigdata.fr Reinforcement Learning : qu’est-ce que l’apprentissage par renforcement ? »

Quant à savoir si on a perdu la tête, il me semble pouvoir raisonnablement estimer que c’était une question rhétorique… Si je me trompe, je préfère ne pas en être informé…

Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 13:27

Merci Mp3, t'es trop mignon, je vais voir ça
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 17 Sep 2022 - 14:03

Wich,

Quand une IA apprend (pondère les couches neuronales qui la composent par des pourcentages), elle commet des erreurs. Ces erreurs sont corrigées par l'humain qu va changer les poids (les pourcentages), à la main.
La reconnaissance de "l'objet" est alors facilitée, et en quelque sorte la "récompense" de l'IA en cause est l'adéquation la plus parfaite entre son résultat et le résultat humain. La programmation ne peut s'écarter de nos propres fonctions ...

Ce que l'article dit (celui que tu as lu), c'est qu'il est probable qu'un biais se fasse dans la programmation, biais qui quitte la proie pour l'ombre, et qui fasse que ce soit la récompense qui soit recherchée bien plus que l'exactitude du phénomène observé. Si l'on se projette sur l'utilisation de l'IA dans les assurances, c'est ce que l'on commence à constater : Les garanties les plus à risque deviennent les plus chères (au lieu même de lisser les coûts sur tout le monde) --> le profit de l'assureur est la récompense sur laquelle l'IA se focalise. Mais elle s'y focalise parce que son concepteur l'a prévu ainsi. Et ces fichiers journalistes ne sont même pas foutus d'expliquer cela clairement puisqu'il assimilent l'IA à une entité libre de ses mouvement !!!! Suprême imbécilité !!!!

Ceci étant, la recherche que tu cites est intéressante, et justifie que le commun des mortels s'approprie le sujet.

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 17 Sep 2022 - 14:04

Pour info et en date du 14 septembre de cette année, un inventaire des algorithmes de l'IA à connaître (en anglais)

https://www.upgrad.com/blog/types-of-artificial-intelligence-algorithms/

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 14:22

J'ai réagi à l'article en parfait profane (même si je dois m'y mettre prochainement) et je me suis dis que compter sur l'activation de circuits de récompenses pour dvlp les IA, c’était aller au devants des emmerdes...
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 17 Sep 2022 - 14:30

C'est exactement ça Wich. Même si ce ne sont pas à proprement parler des circuits de récompense dans le code puisque ce dernier calcule mais ne ressent pas, ne jouis pas à proprement parler, c'est la recherche de l'objectif qui est biaisée. Celui qui jouit et qui continuera à jouir, c'est l’humain décisionnaire de la mise en place de l'IA pour son plus grand pouvoir.

Il faut abandonner tout de suite l'anthropomorphisme au travers duquel on perçoit l'IA, sous peine de lâcher la proie pour l'ombre, et d'oublier les vrais coupables : ceux qui prennent les décisions de développement en amont !!!

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 14:37

Même si ce ne sont pas à proprement parler des circuits de récompense dans le code puisque ce dernier calcule mais ne ressent pas, ne jouis pas à proprement parler
C'est vrai, c'est ce qui donne plus de marge (ds un sens comme ds l'autre) à l'humain pour gérer sa "mécanique interne", il n'en reste pas moins la problématique me semble la même.
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 17 Sep 2022 - 14:59

La problématique c'est l'usage, comme à l'habitude. Et l'éthique, comme on a pu le lire dans un de mes posts précédents, fait figure de parent pauvre...

Si tu regardes la liste des connexions sur ZC (ici : https://www.zebrascrossing.net/viewonline ), tu remarqueras Google, Qwant, bing et d'autres encore parfois). Toutes nos données sont aspirées et alimentent des IA qui nous profilent en permanence, avec derrière ça la pleine conscience de Forum Actif dans le fait de faire du fric facilement.

Ces IA sont créées et développées aux USA (et leurs résultats revendus partout dans le monde), et échappent à notre doit national (que fait notre État contre cela au passage ? Rien. Ni l'Europe, qui n'a seulement commencé à faiblement réagir que lorsque Max Schrems ( https://noyb.eu/fr ), un juriste autrichien, a commencer a agiter fortement le bateau)

Ou est l'éthique, où est la protection des données personnelles, médicales... ?

Il y a bien longtemps que ce que tu constate est en cours !

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Wich Sam 17 Sep 2022 - 15:11

Je parcours le lien donné par Mp3 et je tombe là dessus
Spoiler:
"Le  » flux d’expériences  » d’un animal est suffisamment riche et varié pour le pousser à développer une large diversité de capacités afin d’obtenir sa récompense : la survie. Pour les chercheurs de DeepMind, il serait donc possible de développer une IA générale en lui soumettant un flux d’expériences suffisamment riche."...et l’impératif de survie ?...

Edit: je sais ludion, mais là je "focalise" sur l'IA quoi que cela puisse représenter et peut être que je raisonne mal par ignorance mais il arrivera peut être un moment ou l'éthique de l'homme quelle qu'elle soit ne sera plus de la partie...


Dernière édition par Wich le Sam 17 Sep 2022 - 15:14, édité 1 fois (Raison : rajout)
Wich
Wich

Messages : 1586
Date d'inscription : 05/01/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 17 Sep 2022 - 15:40

Il n'est pas besoin d'aller chercher un écureuil pour se représenter ce qui est appelé l'évolution par la récompense (ce que je pense encore trop antropomorphisé (passes moi le néologisme)) : L'humain analyse un phénomène lié à la survie et y associe du plaisir, parce que son cortex tient lieu de démultiplicateur : la reproduction et la pornographie, la nourriture et les restaurants de luxe, la lutte contre le froid et le manteau en fourrure coûtant une fortune, etc...).

Une bactérie aussi "sait", sans cerveau, aller où l'alimentation se trouve et où le milieu la protège. Elle ne semble pourtant pas être dotée de raison. Il en est de même pour le blob ( https://fr.wikipedia.org/wiki/Physarum_polycephalum ). Il n'est alors pas question de récompense, mais de survie simplement, et d'assimilation  des stimuli qui permettent cette dernière. Je n'aime décidément pas l'anthropomorphisme qui s'insère partout et que les journalistes propagent à qui mieux mieux.

Autre chose que l'article n'évoque pas : la consommation énergétique. Le cerveau humain consomme en moyenne 12,6W ( https://couleur-science.eu/?d=44f6b9--quelle-est-la-puissance-de-notre-cerveau ) quelle que soit l'intelligence du porteur. Je te laisse faire des recherches sur la consommation actuelle des ordinateurs qui font tourner certaines des IA citées dans l'article, tu te feras ton opinion...

Il faut être sur nos gardes, prendre en compte les annonces, mais ne pas pour autant croire à l'immédiateté qui y est annoncée...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Lun 19 Sep 2022 - 0:00

Encore une alerte, parue en 2021 sur un papier inaccessible sans payer (là : https://jair.org/index.php/jair/article/view/12202 ) mais dont la prépublication date de 2016, et est complète. On peut la trouver là : https://arxiv.org/pdf/1607.00913.pdf

Ceci étant, l'étude résulte d'un calcul, mais est toujours basée sur ce que l'vancée de l'IA pourrait permettre, à la foi si les algorithmes sont mis au point (ce que beaucoup de monde s'évertue à faire), si les machines sont suffisamment puissantes (ce qui explique l'engouement pour la recherche autour des ordinateurs quantiques) et si l'énergie nécessaire à la fois au fonctionnement des machines et à celle du stockage afférent (dans oublier la réfrigération, énorme pour l'informatique classique, encore plus pour la quantique). C'est sans doute là -au niveau énergétique - que le plus grand frein sera.

Ce n'est pas pour autant que l'on doit baisser la garde, non pas à propos seulement des avancées, mais bien sur l'usage !

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Mer 21 Sep 2022 - 12:13

geeko lesoir be 2022/09/20/des-scientifiques-lassurent-une-i-a-va-probablement-detruire-lhumanite/

L’étude:

onlinelibrary wiley com /doi/10.1002/aaai.12064

Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Mer 21 Sep 2022 - 23:33

L'IA ne s'arrête pas à simuler des textes, à aider les scientifiques, à envahir les armes létales, à calculer des risques financier, profiler le pauvre internaute qui se croit à l'abri derrière son clavier...

Elle permet aussi de créer des images qui semblent plus vraies que vraies, et cela à partir de mots-clés

Quelques noms ? Mais bien sûr ^^

https://openai.com/blog/dall-e/

https://www.midjourney.com/home/

et, last but not least, là où vous pourrez directement tester :

https://www.craiyon.com/

https://stablediffusionweb.com/

Seulement, car il y a un seulement, quelques personnes commencent à avoir des frissons et l'expriment, comme c'est le cas du fondateur de Getty Images qui ne veut pas des résultats de ces programmes sur son site : Atteinte potentielle à la vie privée, mensonges détournement et manipulation, fausses preuves et tutti-quanti...

Il y a effectivement de quoi s'inquiéter... L'usage, encore l'usage...

EDIT : Çà me fait penser que l'on pourrait en faire de sacrées en récupérant les photos qui passent dans le fil ZC "bas les masques"... Vampire

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Mar 27 Sep 2022 - 10:08

Si nous utilisons l'IA pour écrire notre musique préférée à notre place, perdrons-nous la capacité d'écrire de la musique nous-mêmes ?
Si un coach IA empêche les parents divorcés de se disputer par SMS, pourront-ils s'en passer ?
Si les seuls romans et scénarios qui obtiennent le feu vert sont ceux qui, selon l'IA, correspondent à des succès passés, allons-nous finir par lire et regarder la même chose encore et encore ?

Dans cette conversation, Jacob Ward, de NBC ( jacobward.com ), décrira la boucle : le cycle de rétroaction sans fin de la reconnaissance des modèles qui menace de réduire la complexité du comportement humain à un ensemble prévisible de modèles dans la politique, le divertissement, les relations et l'art lui-même.

Pourquoi la boucle est-elle si puissante ?
Pourquoi les entreprises continuent-elles à lui donner du pouvoir ?
Et que pouvons-nous faire, en tant que simples citoyens, pour résister à son emprise ?

Jacob Ward est boursier Berggruen au "Stanford's Center for Advanced Study in the Behavioral Sciences"  (casbs.stanford.edu) où il écrit The Loop : Decision Technology and How to Resist It, dont la publication est prévue par Hachette Book Group en 2020. Le livre explore comment l'intelligence artificielle et d'autres technologies d'aide à la décision vont amplifier les instincts humains, bons ou mauvais.


Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Lun 3 Oct 2022 - 19:54

Avec l'aide humaine, des IA génèrent une nouvelle esthétique. Les résultats sont planants.

Attention, la vidéo incluse dans l'article comporte des effets visuels qui peuvent être dérangeants pour les spectateurs photosensibles.

https://aeon.co/videos/with-human-help-ais-are-generating-a-new-aesthetics-the-results-are-trippy

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Dim 9 Oct 2022 - 19:36

Et voilà que l'IEEE s'y met en trouvant que décidément, l'IA derrière les outils de recommandation pousse le bouchon un peu trop loin (Maurice...)

https://spectrum.ieee.org/recommendation-engine-insidious

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Ven 14 Oct 2022 - 12:18


Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Lun 17 Oct 2022 - 8:31



https://www.theverge.com/a/luka-artificial-intelligence-memorial-roman-mazurenko-bot

Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par doom Lun 17 Oct 2022 - 13:33

adossé au sujet

prospections de sf, Greg Egan, Diaspora

où des i.a immatures sont crées par des i.a dans un utérus informatique, et une entrée/sortie, un mimétisme des process de développement de fœtus


Enfin, dans les entrailles chromées de superordinateurs au potentiel de calcul inimaginable, vivent les citoyens des polis, personnalités numérisées, libérées de toute contrainte charnelle, entre les murs intangibles de cités sans limites

https://www.babelio.com/livres/Egan-Diaspora/961487
doom
doom

Messages : 929
Date d'inscription : 04/08/2012
Age : 60
Localisation : ici et maintenant

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 4 Nov 2022 - 15:57

Une récente étude du MIT met en garde contre les comparaisons hâtives entre les réseaux de neurones et le cerveau. En analysant plus de 11.000 réseaux de neurones ayant été entraînés à simuler les fonction de "grilles" de neurones, les chercheurs ont trouvé que les réseaux de neurones produisent uniquement une activité ressemblante à celle de la "grille" que lorsque on leur donne des consignes très spécifiques, contraintes qui n'existent pas dans les "systèmes" biologiques.

Le lien vers l'article : https://news.mit.edu/2022/neural-networks-brain-function-1102

Le lien vers l'étude (22 pages), pour ceux qui veulent aller plus vite : https://openreview.net/pdf?id=mxi1xKzNFrb

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Abracadaboum Jeu 24 Nov 2022 - 0:31

.


Dernière édition par Abracadaboum le Sam 31 Déc 2022 - 11:04, édité 1 fois

Abracadaboum

Messages : 201
Date d'inscription : 19/11/2022
Age : 101

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Jeu 24 Nov 2022 - 12:52

Bon.

Comme j'en ai marre d'argumenter dans le vide, on va s'y prendre différemment.

- 1956 : La RAND Corporation, au travers de Marvin Minsky et de John McCarthy présentent le premier programme de recherche en AI : https://aaai.org/ojs/index.php/aimagazine/article/view/1911/1809

Ces deux personnes sont à la fois des ingénieurs informatiques et des scientifiques cognitivistes.

Voir aussi : https://sitn.hms.harvard.edu/flash/2017/history-artificial-intelligence/

- De la science du cerveau à l'intelligence artificielle : https://sci-hub.se/10.1016/j.eng.2019.11.012

- Yann LeCun, dans un de ses livres, intitulé "Quand la machine apprend : la révolution des neurones artificiels et de l'apprentissage profond" (ouvrage que je conseille, mais sur lequel je n'arrive plus a mettre la main dans mon fouillis... ), cite les noms de biologistes étudiant le cortex visuel des souris et dont les travaux l'ont inspiré et guidé lors de la réalisation de ses recherches sur la vision par ordinateur (voir particulièrement le chapitre "Neurobiologie").

Les travaux de LeCun, basés donc sur la neurobiologie, ont permis le développement des réseaux convolutionnels, qui occupent la place prépondérante qu'on leur connaît désormais en IA

Quant au reste, c'est pour moi du gloubiglouba. Je m'attends toujours, surtout sur des sujets comme ceux-là, à bien plus de références que d'hypothèses sorties d'un chapeau. A bon entendeur...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Abracadaboum Mar 29 Nov 2022 - 3:22

.


Dernière édition par Abracadaboum le Sam 31 Déc 2022 - 11:04, édité 1 fois

Abracadaboum

Messages : 201
Date d'inscription : 19/11/2022
Age : 101

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Mar 29 Nov 2022 - 13:55

@Abracadaboum

IA = "Intelligence" Artificielle.

La seule chose que j'ai écrite est que inspiration à la base de cette dernière vient à la fois des travaux sur le cortex visuel des souris (ce qui a amené la création de la structure en couche des neurones artificiels) et des études de mécanismes cérébraux. Je n'ai a aucun moment prétendu qu'une ressemblance criante avec le vivant se faisait jour. Et tel n'est d’ailleurs pas le sujet du fil, qui s'oriente bien plus vers la mise en exergue des déviances de cette dernière IA, ou encore de ses effets de bord.

Si vous tenez vraiment à démontrer que l'IA et le vivant sont deux choses bien différentes (ce que je pense aussi profondément, l'inverse étant d'un ridicule achevé) ouvrez donc un fil et faites-y montre de vos connaissances et de votre raisonnement. Je suivrai cela avec, si cela le mérite, intérêt...

Les poids, dans un réseau convolutif, sont aussi calculés par rétro-propagation et gradient de descente, et même les topos de Grothendieck y sont mis en œuvre ( https://yewtu.be/watch?v=mQZw0PyJ3BM ). Je vous invite donc à faire des recherches de ce coté là pour remettre en questions vos assertions sur la place des mathématiques. Et aussi de lire des ouvrages comme ceux qui suivent :

- Swarm Intelligence and Deep Evolution - Evolutionary Approach to Artificial Intelligence par Hitoshi Iba - ISBN 9781032009155

- Artificial Intelligence - Fundamentals and Applications par Cherry Bhargava et Pradeep Kumar Sharma - ISBN 9780367559700

- Artificial Intelligence - Applications and Innovations par Rashmi Priyadarshini, R M Mehra, Amit Sehgal et  Prabhu Jyot Singh - ISBN 9781032108230

- Risks of Artificial Intelligence par Vincent C. Müller - ISBN 9780367575182

Et aussi, puisqu'intimement liés :

- Data Clustering - Algorithms and Applications par Charu C. Aggarwal et Chandan K. Reddy - ISBN 9781466558212

- Data Classification - Algorithms and Applications par Charu C. Aggarwal - ISBN 9780367659141

- Data Mining: Concepts and Techniques, 3rd Edition par Jiawei Han, Jian Pei et Micheline Kamber - ISBN: 9780123814807

Quelques fondements pour nos lecteurs:


Quant à affirmer que chaque réseau de neurone (artificiel) conçu l'est pour une tâche particulière, c'est une tautologie ! Chaque réseau étant dédié à une tâche, ne serait-ce que part la structuration des données en entrée, je ne vois par bien comment il pourrait en être autrement ! Et c'est d'ailleurs là qu'un grande partie de la recherche en IA se concentre afin de pouvoir tirer partie des précédents "apprentissages"; d'en garder la pondération en quelque sorte...

Revenons-en à Stanislas Dehaene. Cela fait un moment que je suis les conférences du personnage. Qu'il soit un ennemi avéré de l'IA ne m'ennuie en rien. Ce n'est pas pour cela que je consulte ce qu'il a à dire au point de vue du vivant, et du cerveau en particulier. J'ose penser qu'il se bat plus pour faire comprendre au commun des mortels qu'il ne faut pas écouter ceux qui prétendent que l'un équivaut à l'autre, comparaison qui relève plus du marketing que de la volonté des scientifiques qui font des recherches en IA de toute manière. Cependant, si ce n'est pas le cas, Mr Dehaene est alors atteint du syndrome Nobel, comme tous ceux qui ont atteint un apex dans leur profession respective, et qui se croient alors capables de donner un avis éclairé sur tout...

Concernant la biologie maintenant, je ne vois pas ce qu'elle vient faire dans le discours, à part continuer à dire que l'IA ne lui ressemble pas, et donc poursuivre sur ce qui vous a poussé à réagir quand j'écrivais liminairement que l'IA actuelle avait pour origine la superposition des couches dans cortex visuel des souris. Avoir pour origine un mécanisme observé ne veut aucunement dire que la copie est conforme et qu'elle s'avère capable d'imiter la source en sa totalité. Ne cherchez donc pas a amener le débat sur cette dichotomie qui ne m'intéresse pas en l'espèce, d'une part parce qu'elle est perceptible sans même avoir à être soulignée et parce qu'également n'étant en rien le sujet du fil. L'IA n'a jamais affiché la prétention d'imiter le vivant, seulement une partie la "mécanique" qui conduit le vivant à réagir à des stimuli extérieurs et a en tirer information, ce qui n'est pas du tout la même chose.

A titre anecdotique, à mettre en parallèle avec "vos" ^^ meduses:

Ouvrez donc il fil sur la biologie, et faites nous profiter de votre savoir, au lieu d'ergoter à l'envie sur un seul pan de ce que j'ai pu écrire ici, sans même avoir lui ce que depuis des années je dis sur le sujet, ailleurs sur le forum...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Mer 30 Nov 2022 - 11:13

Addendum :

Je dois avouer m'être trompé. Après avoir retrouvé le livre de Yann LeCun doit je faisais état, il ne s'agit pas du cortex visuel de souris, mais de chat, puis d'humains par la suite. Les scientifiques ayant inspiré Yann LeCun sont David Hubel et Torsten Wiesel.

Quelques infos supplémentaires à ce propos :

https://www.brains-explained.com/how-hubel-and-wiesel-revolutionized-neuroscience/

https://webvision.med.utah.edu/2014/11/hubel-and-wiesel-the-neural-basis-of-visual-perception/

https://glassboxmedicine.com/2019/04/13/a-short-history-of-convolutional-neural-networks/

https://algobeans.com/2016/01/26/introduction-to-convolutional-neural-network/

Ceci dans le but de clore l'intermède et de revenir à l'objet de ce fil : Les déviances de l'IA et les problèmes éthiques associés.


Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Lun 26 Déc 2022 - 16:51

Very Happy

https://www.theregister.com/2022/12/21/ai_assistants_bad_code/

https://www.theregister.com/2021/08/25/github_copilot_study/

https://www.theregister.com/2022/10/07/machine_learning_code_assistance/

https://arxiv.org/abs/2211.03622

Et de plus co-pilot pique sans vergogne des bouts de code à droite et à gauche dans github SANS JAMAIS FAIRE ÉTAT DES LICENCES LIBRES ASSOCIÉES !!! Micro$oft est à cheval sur le piratage quand concerné directement, mais l'inverse est loin d'être pareil...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Ven 30 Déc 2022 - 17:18

Ce n'est pas directement dans le droit fil du sujet, mais il me semble important de communiquer sur l'intelligence artificielle et la cognition, désacraliser et donner des  base solides de réflexion sur un sujet brûlant mais trop passé sous silence ou laissé à la porté de gourous. Ainsi, voilà une conférence de 2018, pottant sur les algorithmes prédictifs et l'aspect moral, la confrontation entre humain et IA, etc...

Programme

00:00 ► Introduction
04:12 ► Les enjeux scientifiques de l'intelligence artificielle
23:44 ► L'intelligence artificielle face aux jugements moraux & éthiques
49:57 ► L'IA et les émotions humaines
57:53 ► L'homme augmenté et le mythe de la singularité
68:33 ► L'intégration de l'IA dans les entreprises
81:20 ► Questions

Intervenants

-  Allocution d'ouverture : Marc Mézard, Directeur de l'École normale supérieure.
-  Modérateur: Daniel Cohen, Professeur et Directeur du Département d'Économie de l'École normale supérieure.
-  Marc Schoenauer (CNRS, INRIA Saclay - Île-de-France)
-  Marie Ekeland (Co-fondatrice, Daphni)
-  Jean-Claude Martin (Professeur et Directeur du groupe « Cognition, Perception, Utilisation », LIMSI-CNRS, Université Paris Sud)
-  Jean-François Bonnefon (CNRS, INRIA Saclay - Île-de-France)
-  Alexei Grinbaum (Chercheur, Laboratoire LARSIM, CEA-Saclay)


Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par L'effet-mère Ven 6 Jan 2023 - 11:49

https://www.radiofrance.fr/franceinter/podcasts/un-monde-nouveau/un-monde-nouveau-du-lundi-02-janvier-2023-4808088

L'effet-mère

Messages : 2295
Date d'inscription : 03/02/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Ven 6 Jan 2023 - 15:11

Notes de la causerie postée par ludion:
17’47": https://fr.m.wikipedia.org/wiki/Destruction_cr%C3%A9atrice
21'40": https://fr.m.wikipedia.org/wiki/Test_de_Turing
32'53": https://www.moralmachine.net/
42'54": https://fr.m.wikipedia.org/wiki/Hans_Jonas
43"37': https://fr.m.wikipedia.org/wiki/Dilemme_du_tramway
1:04"40': https://fr.m.wikipedia.org/wiki/Singularit%C3%A9_technologique#:~:text=La%20singularit%C3%A9%20technologique%20(ou%20simplement,impr%C3%A9visibles%20dans%20la%20soci%C3%A9t%C3%A9%20humaine.

Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Invité Sam 7 Jan 2023 - 10:26

Merci Mp3

Pour faire suite... Une IA va aier un accusé à se défendre pour le première fois. Aux USA bien entendu ^^

L'article : https://interestingengineering.com/innovation/ai-defend-case-us

Et le site de l'IA en question : https://donotpay.com/

Do Not Pay ... il y a des avocats qui ont être heureux si cela fonctionne correctement et que les résultats sont au rendez-vous...

Invité
Invité


Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par isadora Mer 11 Jan 2023 - 10:10

une anecdote sur les IA. pour info, Stéphane Bonvallet est un ancien du forum et de la communauté lyonnaise de ZC, connu sous le pseudo de tricycliste.

Triche à la fac : 50 % des copies rédigées par l’intelligence artificielle ChatGPT

article du Progrès
(incomplet mais vous avez l'essentiel)
isadora
isadora

Messages : 3678
Date d'inscription : 04/09/2011
Localisation : Lyon

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Mp3 Mer 11 Jan 2023 - 10:17

Comme quoi, il y a des progrès à faire pour singer la protéiformité humaine…

Mp3

Messages : 920
Date d'inscription : 15/09/2022

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par isadora Mer 11 Jan 2023 - 10:30

tkt, bientôt on aura aussi remplacé les profs par les IA et une IA saura détecter la triche en comparant le style, l'orthographe, et les similitudes dans le contenu.

pendant des années, j'ai enseigné à la fac en commençant mon cours par : profitez du fait que je sois là, en chair et en os, parce que dans pas longtemps, c'est un ordinateur qui vous dispensera les cours, pour faire des économies.

sachez que vous coutez à l'Etat plus de 10 000 euros par personne et par an, alors, faites un effort pour écouter et vous instruire réellement.

 Very Happy

PS : Stéphane est un "personnage" public, revendiquant son inclusion dans la société, une sorte de warrior du handicap. je le connais suffisamment bien pour savoir qu'il ne s'offusquerait pas que j'ai cité son nom et associé son pseudonyme.
isadora
isadora

Messages : 3678
Date d'inscription : 04/09/2011
Localisation : Lyon

Revenir en haut Aller en bas

At the edge of AI Empty Re: At the edge of AI

Message par Ceci n'est pas un tigrou Mer 11 Jan 2023 - 11:06

Stéphane est un super gars, je ne savais pas qu'il avait fréquenté le forum.

_________________
Charte ZC
Ceci n'est pas un tigrou
Ceci n'est pas un tigrou

Messages : 6543
Date d'inscription : 13/03/2017
Age : 43
Localisation : Lyon

Revenir en haut Aller en bas

Page 1 sur 2 1, 2  Suivant

Revenir en haut

- Sujets similaires

 
Permission de ce forum:
Vous ne pouvez pas répondre aux sujets dans ce forum