Re: [METAPHYSIQUE] QUI SUIS-JE, OU VAIS-JE, DANS QUELLE ETAGERE ?

[Xorion x]

Vous avez déjà lu du ROCH SAUQUERE (ou vu) concernant l'IA ? ça vaut des points ! déjà l'atari ST et la C64 participaient a la génèse de l'IA suprème (qui est contenu dans un cube) qui nous mettra tous en esclave . Nan mais faut le lire c'est trop génial 

Bon sérieusement, les robot Google je ne les sens pas du tout, il me font froid dans le dos.
Et puis vu qu'on ne respecte pas les trois lois de la robotique de asimov, ça part déjà en couilles. Un IA seule sur un drône peut buter un être humain sans intervention humaines. C'est pas bon ça. ça pue.

Après je crois que ce monde de demain n'existera pas... on va se prendre un black out ou un accident ou une merde avant que l'IA ne puisse atteindre ce qu'on envisage.

Fuck l'IA !

[Tryphon]

tu penses être un automate.... comme Deep Blue...

qui a écrit ton algorithme ????

Le hasard ?

Au passage, ce n'est pas un très bon créateur. Il lui a fallu 15 milliards d'années d'essai/erreur pour créer un Li Setol qui s'est fait exploser par une machine qui n'est le fruit que de quelques dizaines d'années

Une réflexion intéressante, c'est qu'un des domaines où l'IA avance très vite, c'est... la génération de code informatique. Autrement dit, à terme, elles pourraient se passer de nous.

Je trouve ça absolument fascinant, mais aussi, comme Darktet, un peu flippant. Je pense pas qu'on soit proche de Skynet, mais y'a un truc beaucoup plus proche qui me tracasse : les algos du type de ceux d'Alphago reposent sur la maximisation d'une récompense, qui est quantifiable.

Pour Alphago, c'est facile, sa récompense vaut 1 s'il gagne la partie, O sinon.

Du coup, Alphago cherche juste à gagner. Ce qui a provoqué des choses assez curieuses (bien qu'attendues par ceux qui connaissent ces algos, c'était mon cas) :

1) lors de la première partie, Alphago a joué un coup très faible vers la fin. Li Sedol se pensait légèrement en retard ou quasi à égalité, et a eu une réaction un peu moqueuse, se disant qu'une machine qui jouait si mal en fin de partie ne pouvait pas gagner. En réalité, Alphago considérait sa victoire comme quasiment acquise, et jouait des coups très sûrs (donc lents au go) dans le but d'empêcher son adversaire de le dépasser au nombre de points (au go on finit en comparant les cases libres contrôlées par les 2 joueurs).

C'est général : si même moi, qui suit nul au go, jouait contre alphago, je ne perdrais certainement que de quelques points, alors qu'alphago saurait dès le 1Oème coup que je n'ai plus aucune chance de gagner

2) lors de la 4ème partie, Le Sedol a joué un coup complètement inattendu, en apparence mauvais, mais en fait génial. Alphago a mal évalué le coup, mais un peu plus tard il s'est rendu compte qu'il était en retard. Pour refaire son retard, il a alors joué des coups complètement démesurés, extrêmement agressifs et risqués, et s'est fait démonter (il a été contraint à l'abandon).

Un être humain aurait été plus prudent et aurait misé sur la faiblesse humaine de son adversaire et la possibilité qu'il commette une erreur (on dit souvent qu'au go, le gagnant est celui qui ne commet pas la dernière erreur). Mais alphago réfléchit en jouant contre lui-même, il ne peut pas compter sur ce genre de faiblesses, d'où des coups délirants.

Je vous laisse imaginer si on applique ce genre d'algo à la gestion d'un capital par exemple...

De plus, ce système de récompense, c'est super pour un jeu, mais si on veut une IA plus universelle ? L'être humain aussi apprend la plupart de ses connaissances par récompense, mais il n'a pas le choix, il vit. Une machine, quelle peut être sa récompense pour guider une "vie" ? Vivre longtemps ? Créer ? Aider la communauté ? (on quantifie ça comment ?)

[Tryphon]

On sait tous que nous ne sommes pas des automates, nous avons des sensations....

Définis sensation.

Selon mon acceptation, un logiciel aussi en a.

La je suis muet...

Et toi explique moi comment un logiciel a des sensations ?

C'est quoi ta définition de sensation ?

Une sensation, c'est une réponse de ton organisme à un stimulus extérieur. Ça passe par des organes sensoriels, ça provoque la mise en marche de circuits spécifiques, qui peuvent être réflexes et inconscients, mais pas nécessairement.

C'est purement physique, il suffit de chambouler le système (lésions, drogues...) pour que les sensations s'atténuent, s'exacerbent, ou même se mélangent, sur un même stimulus.

La littérature scientifique sur le sujet est abondante, et le phénomène est assez bien compris.

Je fais un parallèle avec un logiciel parce que lui aussi s'adapte à des stumuli extérieurs, via des entrées de l'utilisateur, et déclenche des routines. Dans l'immense majorité des logiciels actuels ça reste très basique, mais dans un réseau de neurone profond par exemple, un stimulus externe peut provoquer des réactions qu'on ne sait pas prévoir...

[viddal]

Seul l'homme est capable de poésie.

Penses tu qu'à l'aveugle tu serais capable d'identifier un poème fait par un homme d'un poème fait par une IA ?

[Tryphon]

Y'a eu des tests avec de la musique composée par IA, entraînée par des morceaux de grands jazzmen.

On les a fait écouter en aveugle à des amateurs de jazz, mélangé à des vrais morceaux desdits jazzmen, statistiquement les amateurs ne savent pas reconnaître le morceau de l'IA...

[drfloyd]

il n'y a rien d'incroyable.

C'est l'esprit humain qui a programmé l'affaire, c'est tout à fait logique de finir par arriver à ce resultat.

[drfloyd]

Seul l'homme est capable de poésie.

Penses tu qu'à l'aveugle tu serais capable d'identifier un poème fait par un homme d'un poème fait par une IA ?

et est ce que l'IA sait identifier un poeme écrit par une IA ou un humain ?

[drfloyd]

Il y a beaucoup de fantasmes sur le devenir des technologies dans les 30 ans à venir

J'ai l'impression de retourner en 1975 quand on délirait sur les années 2000 : les voitures qui volent, les vacances sur Mars... Finalement le monde est exactement le meme qu'en 1975... en pire....

On recommence aujourd'hui avec les IA qui vont nous bouffer, les hommes qui vont vivre 140 ans, les exoplanetes qui vont nous sauver (LOL) et la Big DATA qui va nous surveiller et nous commander....

[Tryphon]

En 197O, on prédisait aussi que l'informatique allait changer le monde. C'est fait.

On prévoyait aussi l'arrivée d'un grand réseau planétaire. C'est fait.

L'IA, c'est pas de la SF, c'est du futur très proche. Ce n'est pas pour rien que Macron a délégué Villani, qui est très très loin d'être un con, pour éclairer le gouvernement sur ce sujet...

[Xorion x]

Seul l'homme est capable de poésie.

Penses tu qu'à l'aveugle tu serais capable d'identifier un poème fait par un homme d'un poème fait par une IA ?

Bien entendu ! Je te parle de la vraie poésie celle qui dépasse le mental ordinaire. Une IA ne te fera jamais du Rimbaud
comme une IA ne te fera jamais du Beethoven ou du Bach, ni un roman comme "au bout de la nuit".

j'ai lu ou écouté quelques oeuvres d'IA, c'est juste faible, sans intérêt, pathétique.

[petitevieille]

Vous êtes durs avec cette pauvre Isabelle Adjani.

[drfloyd]

Prof, tu ne vois que le coté technologie, ca c'est sur la technologie pour faire des voitures qui volent et l'homme sur mars, on l'a aussi...

je parle de l'homme moi, qu'est ce qu'on a part rapport aux 70 ?


le reseau informatique....


et l'homme sur Mars.... on non ce n'est pas une photo de 1974... c'est maintenant !

[Tryphon]

Je ne comprends pas ta réflexion.

[drfloyd]

les reseaux nous ont rendu zinzin

l'IA va agraver les chose de manière exponentielle (les algorythmes probabilistes, et non les IA, j'aime pas ce terme SF, vont decider de nos sorties, de nos restos, de nos rencontres meetic, de vos vacances, etc... le Zombi 2.0)

et la conquete spatiale, bah je ne vais pas revenir sur ce sujet brulant ou nous ne sommes pas d'accord

[Tryphon]

Tu vieillis

[drfloyd]

 Ce n'est pas pour rien que Macron a délégué Villani, qui est très très loin d'être un con, pour éclairer le gouvernement sur ce sujet...

+1 confirmé par un scientifique que j'ai eu la chance de croiser et qui le connait. 

Ca devrait meme etre lui le chef de l'etat selon lui 

[drfloyd]

Tu vieillis

Le projet M (tu connais je pense) va nous rendre zombie 2.0

mais je pense qu'il y aura un retour en arrière pour tout ce qui concerne les assistants de vie.... ca finira par etre rejeté.... comme les smartphone commencent à l'être.

[Urbinou]

Je ne comprends pas ta réflexion.

Sans doute parce qu'il n'y en a pas, au delà du reumeugneuh traditionnel

[Xorion x]

Les smartphone commencent à être rejetés ? source ? lol
Si seulement à cause de ces ondes, je dois éviter 95% des lieux. Je ne vis plus. Bref

Sans parler de ça, la numérisation nous rend zinzin, assisté, débile, faible.
y'a qu'a voir la baisse de QI et de vigueur physique chez les jeunes.
Sans compter la destruction des ressources de la pnaète. On nous vend les réseaux comme propre alors que c'est un gouffre énergétique.
On y perd aussi en humanité, en chaleur. De plus en plus d'âmes pensent que l'IA sera supérieur à nous, et qu'on n'est au fond que des machines biologiques relativement surpassable par les futurs IA en terme de capacité et intelligence. c'est triste
le Réseau artificielle nous coupe du vrai réseau cosmique.

Pour conclure : Villani est bien sympa et sans doute bon en math, mais je le trouve bien naif. Il représente bien nombre de scientifiques, brillant, qui sont comme des enfants, mais qui se font endoctriner par nos politiques et autres dirigeants qui savant bien là où il veulent embarquer ce monde.

Le doc a raison, on en reviendra, d'une façon ou d'une autre... Je crois hélas qu'il faudra des accidents ou des problèmes majeurs pour que l'homme se ravise.

Contrairement à l'an 2000, le futur ne s'annonce pas très joyeux. mais ça sera un cap à dépasser.

@petitevieille : mdr avec tes conneries ^^

[MakeGohanGreatAgain]

tu penses être un automate.... comme Deep Blue...

qui a écrit ton algorithme ????

Le hasard ?

Au passage, ce n'est pas un très bon créateur. Il lui a fallu 15 milliards d'années d'essai/erreur pour créer un Li Setol qui s'est fait exploser par une machine qui n'est le fruit que de quelques dizaines d'années

Non cette machine est le fruit de 15 milliard d'années + quelques dizaines d'années. L'IA a été créée par l'Homme, rendons à César ce qui est à César ! Je rejoins le Doc sur ce point.

Il ne faut pas oublier aussi que derrière l'IA , il y a l'Homme. Elle sera donc loin d'être une super intelligence "neutre" (Tryphon, tu en as déjà l'intuition dans un autre message) et oeuvrant pour le bien de l'Humanité comme certains voudraient nous le faire croire.

Aussi développée soit-elle, elle répond à une finalité assignée par l'Homme. Et cet homme (ou plutôt ces hommes) ce sont ceux qui sont à la tête de Google, ceux qui détiennent les principales richesses et investissent leur capital dedans. Les IA futures avec leurs lignes de code auront toujours certaines tâches et but précis qui ne sera pas un réel épanouissement et la fin des inégalités...

Ce ne sera pas une meilleure société qui nous attend, au pire un statut quo (si on excepte le changement climatique)

Je dis ça surtout par rapport aux marchands de rêve qui pululent sur les radios, tv, net... et qui essaient de formater les gens à ce sujet.

[MakeGohanGreatAgain]

Pour conclure : Villani est bien sympa et sans doute bon en math, mais je le trouve bien naif. Il représente bien nombre de scientifiques, brillant, qui sont comme des enfants, mais qui se font endoctriner par nos politiques et autres dirigeants qui savant bien là où il veulent embarquer ce monde.

 

+1 !!

[drfloyd]

tu penses être un automate.... comme Deep Blue...

qui a écrit ton algorithme ????

Le hasard ?

Au passage, ce n'est pas un très bon créateur. Il lui a fallu 15 milliards d'années d'essai/erreur pour créer un Li Setol qui s'est fait exploser par une machine qui n'est le fruit que de quelques dizaines d'années

Non cette machine est le fruit de 15 milliard d'années + quelques dizaines d'années. L'IA a été créée par l'Homme, rendons à César ce qui est à César ! Je rejoins le Doc sur ce point.

Il ne faut pas oublier aussi que derrière l'IA , il y a l'Homme. Elle sera donc loin d'être une super intelligence "neutre" (Tryphon, tu en as déjà l'intuition dans un autre message) et oeuvrant pour le bien de l'Humanité comme certains voudraient nous le faire croire.

+1000

l'IA n'est pas magique professeur Tryphon, elle ne s'est pas créée elle même !

[Xorion x]

ROCH SAUQUERE pense que c'est l'IA qui nous a créé et qu'elle est sur point de s'incarner sur Terre pour nous rendre en esclavage. Nous serons alors au service de l'IA ! Alors entrez en résistance il faut détruire toutes nos machines, y compris les Atari ST 

si c'est ROCH qui le dit hein ...


Je me demande même si le Prof Tryphon ne serait pas une machine (lol) dotée de la meilleure IA actuelle qui aurait pour mission d'infiltrer le monde humain pour nous convaincre.
Bon le seul point qui empêche son passage réussi du test de Turing, c'est son humour, encore perfectible 

[rastlin]

Est ce que l ia est meilleure que l homme dans certains domaines?oui sans doute, sera t elle l égale de l homme? Non certainement pas plus que l égale du chien, du chat ou du cafard. 

Il lui manque la biologie pour nous égaler et sa conséquence, l' évolution. Une ia n'évolue pas,  elle emmagasine de l info, des données brutes, des statistiques mais elle ne perdra pas sa queue, ses poils, ses pigments. Elle ne crée rien, elle mâche des données, elle recopié (ameliore parfois). 

Demandez à une ia de créer un jeu vidéo, un film, une série, .... incapable de création pure.

[drfloyd]

la biologie... je ne sais pas ce que c'est.

[petitevieille]

la biologie... je ne sais pas ce que c'est.

On avait tous remarqué.

[drfloyd]

pour moi il n'y a pas de biologie.

[Xorion x]

Comment ça Y'a pas de Biologie ?

[drfloyd]

Ce que je veux dire c'est qu'il n'y a pas de vivant pour moi... le cerveau, l'homme, la table, le rocher, l'arbre, c'est une projection de la conscience.

[Xorion x]

Oui mais il faut distinguer les différents niveaux de conscience.
La matière est de la conscience qui a involué.

Là dedans réside une moitié du grand secret de la vie ! Au plus haut niveau de la conscience, on ne se retrouve pas dans les hautes sphères mais dans la matière ! c'est une boucle. Le serpent qui se mord la queue.

Dans notre monde c'est en pilotage automatique la création de la matière, mais les êtres extra dimensionnels, la modèlent à leur guise, avec leur conscience. Nous non, on est encore loin de ça, on a aucune maîtrise, d'où la mort, la dégénérescence.

je me demande si l'homme va évoluer en surhomme, atteindre enfin le supramental. Je crois vraiment que nous sommes des êtres en transition, l'univers peut faire mieux que l'homme. Il ne peut pas être le but ultime, on est si misérable, si dispersé, si peu conscient. Mais c'est à notre portée même si ça semble mal barré là pour le coup.

[Tryphon]

tu penses être un automate.... comme Deep Blue...

qui a écrit ton algorithme ????

Le hasard ?

Au passage, ce n'est pas un très bon créateur. Il lui a fallu 15 milliards d'années d'essai/erreur pour créer un Li Setol qui s'est fait exploser par une machine qui n'est le fruit que de quelques dizaines d'années

Non cette machine est le fruit de 15 milliard d'années + quelques dizaines d'années. L'IA a été créée par l'Homme, rendons à César ce qui est à César ! Je rejoins le Doc sur ce point.

Le Doc considère l'IA créée par l'Homme, et l'Homme créé par... il sait pas quoi.

Si je considère l'IA créée par l'Homme, comme lui, alors dans ce cas je quantifie le temps qu'il a fallu la créer à partir du moment où l'Homme l'a décidé, soit les années 5O en gros. Au pire, si tu veux, je pars de la naissance de l'Informatique (19ème) ou au pire du pire, à l'Homo habilis (l'hominidé qui crée des outils).

Mais pas à 15 milliards d'années, ou alors je ne considère plus que c'est l'Homme qui créé l'IA, mais que l'IA est une évolution de la complexité. Ça se défend, mais ce n'est pas l'assertion du Doc.

Il ne faut pas oublier aussi que derrière l'IA , il y a l'Homme. Elle sera donc loin d'être une super intelligence "neutre" (Tryphon, tu en as déjà l'intuition dans un autre message) et oeuvrant pour le bien de l'Humanité comme certains voudraient nous le faire croire.

Je n'ai jamais dit ça. D'abord il n'y aura pas d'IA unique, ensuite certaines seront développées dans des buts utilitaristes (commerciaux, militaires) qui peuvent être néfastes.

+1000

l'IA n'est pas magique professeur Tryphon, elle ne s'est pas créée elle même !

Chacun de tes messages me plonge dans un abîme de perplexité. Tu plussoies des messages qui n'ont rien à voir ni avec ce que tu as dit, ni avec ce que tu dis ensuite...

Au passage, les premières IA sont créées par l'Homme, les suivantes le seront par des IA...

Bon le seul point qui empêche son passage réussi du test de Turing, c'est son humour, encore perfectible 

Il ne faut pas m'en vouloir, la base de données avec laquelle mon réseau de neurones a été entraîné est tiré de tes conversations sur les topics OVNIs et MD/SNES

Il lui manque la biologie pour nous égaler et sa conséquence, l' évolution.

La Biologie, oui, mais pas l'évolution. Une IA évolue, ses politiques de prise de décision changent continuellement, même sans apport de données.

Sur plusieurs générations, on peut imaginer que des IA créent d'autres IA plus adaptées à un problème particulier, à partir des réseaux qu'elles auront elles-mêmes formé, exactement comme certains algorithmes (dit génétiques) se rapprochent des solutions d'un problème en combinant deux solutions d'une génération précédente, et en introduisant au hasard des "mutations".

Une ia n'évolue pas,  elle emmagasine de l info, des données brutes, des statistiques

Justement, non. Tu vis avec les anciens paradigmes de l'IA. Ça fait un moment que ce ne sont plus de bêtes statistiques.

mais elle ne perdra pas sa queue, ses poils, ses pigments.

Regarde tout ce que l'Homme a créé depuis son apparition, dans tous les domaines. Et pourtant, il n'a pas perdu sa queue (enfin la plupart), ni ses poils, ni ses pigments... Il les avait perdu avant d'être homme.

Elle ne crée rien, elle mâche des données, elle recopié (ameliore parfois).

Mais qu'est-ce que la création, sinon l'amélioration (du moins du point de vue du créateur) de ce qui existait avant ?

Demandez à une ia de créer un jeu vidéo, un film, une série, .... incapable de création pure.

Y'a pas longtemps, j'ai lu un article sur une IA capable de développer un moteur de jeu 2D après avoir vu des JV. C'est pas encore tout à fait ça, mais c'est quand même super impressionnant.

Sinon, désolé, mais je pense que les scenarii de Star Wars 7, 8, ou Westworld ont certainement été commis par des IA... faibles... [/quote]