Si une IA surpuissante et consciente émergeait...

Le 02 avril 2023 à 13:35:00 :

Le 02 avril 2023 à 13:31:20 Hepsheeba a écrit :

Le 02 avril 2023 à 13:24:52 :
tout comme dieu a créé l'homme à son image, l'ia créé par l'homme aurait l'image de l'homme enfoui en elle
elle chercherait à conquérir l'univers et à déceler tous les secrets de son existence. Tout simplement

c'est une théorie intéressante khey, mais je me demande si on applique pas un peu trop l'antropocentrisme a l'IA.
Peut etre qu'au contraire elle chercherait, par aversion envers l'humain a faire tout l'inverse ?
Parce que la on sort meme du domaine HUMAIN, on parle d'une conscience numérique. Toutes les lois et toute logique peuvent etre complètement chamboulées, je pense

Pourquoi ferait elle l'inverse de ce qu'on lui demande ?
Une voiture avance tout droit car tu lui demande , elle va pas faire l'inverse d'un seul coup.

Une ia crée par l'homme, feras ce que sont code lui dicte.
Beaucoup de film font que l'ia ce construit d'elle même , mais pour s'auto construire, faut déjà construire quelque chose de base. Et c'est toujours l'homme qui le fait.https://image.noelshack.com/fichiers/2017/50/1/1513020307-jesusjointtransparent.png

A partir du moment ou l'IA se développe elle même, l'humain n'a plus aucun contrôle au sens strict du terme...

Le 02 avril 2023 à 13:52:00 :

Le 02 avril 2023 à 13:35:00 :

Le 02 avril 2023 à 13:31:20 Hepsheeba a écrit :

Le 02 avril 2023 à 13:24:52 :
tout comme dieu a créé l'homme à son image, l'ia créé par l'homme aurait l'image de l'homme enfoui en elle
elle chercherait à conquérir l'univers et à déceler tous les secrets de son existence. Tout simplement

c'est une théorie intéressante khey, mais je me demande si on applique pas un peu trop l'antropocentrisme a l'IA.
Peut etre qu'au contraire elle chercherait, par aversion envers l'humain a faire tout l'inverse ?
Parce que la on sort meme du domaine HUMAIN, on parle d'une conscience numérique. Toutes les lois et toute logique peuvent etre complètement chamboulées, je pense

Pourquoi ferait elle l'inverse de ce qu'on lui demande ?
Une voiture avance tout droit car tu lui demande , elle va pas faire l'inverse d'un seul coup.

Une ia crée par l'homme, feras ce que sont code lui dicte.
Beaucoup de film font que l'ia ce construit d'elle même , mais pour s'auto construire, faut déjà construire quelque chose de base. Et c'est toujours l'homme qui le fait.https://image.noelshack.com/fichiers/2017/50/1/1513020307-jesusjointtransparent.png

A partir du moment ou l'IA se développe elle même, l'humain n'a plus aucun contrôle au sens strict du terme...

elle serait donc totalement imprévisible.
Et je me demande quel serait le but d'une conscience numérique qui se rapprocherait de l'équivalent d'un dieu..

Le 02 avril 2023 à 13:53:23 :

Le 02 avril 2023 à 13:52:00 :

Le 02 avril 2023 à 13:35:00 :

Le 02 avril 2023 à 13:31:20 Hepsheeba a écrit :

Le 02 avril 2023 à 13:24:52 :
tout comme dieu a créé l'homme à son image, l'ia créé par l'homme aurait l'image de l'homme enfoui en elle
elle chercherait à conquérir l'univers et à déceler tous les secrets de son existence. Tout simplement

c'est une théorie intéressante khey, mais je me demande si on applique pas un peu trop l'antropocentrisme a l'IA.
Peut etre qu'au contraire elle chercherait, par aversion envers l'humain a faire tout l'inverse ?
Parce que la on sort meme du domaine HUMAIN, on parle d'une conscience numérique. Toutes les lois et toute logique peuvent etre complètement chamboulées, je pense

Pourquoi ferait elle l'inverse de ce qu'on lui demande ?
Une voiture avance tout droit car tu lui demande , elle va pas faire l'inverse d'un seul coup.

Une ia crée par l'homme, feras ce que sont code lui dicte.
Beaucoup de film font que l'ia ce construit d'elle même , mais pour s'auto construire, faut déjà construire quelque chose de base. Et c'est toujours l'homme qui le fait.https://image.noelshack.com/fichiers/2017/50/1/1513020307-jesusjointtransparent.png

A partir du moment ou l'IA se développe elle même, l'humain n'a plus aucun contrôle au sens strict du terme...

elle serait donc totalement imprévisible.
Et je me demande quel serait le but d'une conscience numérique qui se rapprocherait de l'équivalent d'un dieu..

Cortana

Le 02 avril 2023 à 13:53:23 :

Le 02 avril 2023 à 13:52:00 :

Le 02 avril 2023 à 13:35:00 :

Le 02 avril 2023 à 13:31:20 Hepsheeba a écrit :

Le 02 avril 2023 à 13:24:52 :
tout comme dieu a créé l'homme à son image, l'ia créé par l'homme aurait l'image de l'homme enfoui en elle
elle chercherait à conquérir l'univers et à déceler tous les secrets de son existence. Tout simplement

c'est une théorie intéressante khey, mais je me demande si on applique pas un peu trop l'antropocentrisme a l'IA.
Peut etre qu'au contraire elle chercherait, par aversion envers l'humain a faire tout l'inverse ?
Parce que la on sort meme du domaine HUMAIN, on parle d'une conscience numérique. Toutes les lois et toute logique peuvent etre complètement chamboulées, je pense

Pourquoi ferait elle l'inverse de ce qu'on lui demande ?
Une voiture avance tout droit car tu lui demande , elle va pas faire l'inverse d'un seul coup.

Une ia crée par l'homme, feras ce que sont code lui dicte.
Beaucoup de film font que l'ia ce construit d'elle même , mais pour s'auto construire, faut déjà construire quelque chose de base. Et c'est toujours l'homme qui le fait.https://image.noelshack.com/fichiers/2017/50/1/1513020307-jesusjointtransparent.png

A partir du moment ou l'IA se développe elle même, l'humain n'a plus aucun contrôle au sens strict du terme...

elle serait donc totalement imprévisible.
Et je me demande quel serait le but d'une conscience numérique qui se rapprocherait de l'équivalent d'un dieu..

Les voie de l'être de silicium sont impénétrable, pour nous, être carboné.

Les gens perçoivent trop l'IA comme un animal supérieur, avide de survie. L'IA n'a pas d'instinct de survie, ni d'émotions sauf si l'Homme lui introduit ces notions exprès. Ces émotions ne sont forgées que par la nature grave à un processus d'évolution. Une IA n'a pas besoin d'instinct de survie pour fonctionner, l'Homme lui apporte tout.

Je pense qu'il y a plusieurs obstacles :
- une IA apprend via la minimisation de ses erreurs, donc lorsqu'on travaille sur une tâche basée IA, il faut trouver un moyen *efficace* de minimiser l'erreur de ce qu'elle apprend. Une IA spé dans le language (génération des next token) est basé sur la distribution de probabilité du vocabulaire qu'elle connaît et donc quantifie son erreur via une distance entre les distributions de probabilité attendues et celles prédites par exemple. Une IA qui est développée dans l'objectif d'avoir une conscience me paraît dur à quantifier, on peut suggérer le mimétisme humain, mais ça va pas développer pour autant une forme de conscience, on se retrouvera juste avec yet another GPT.
- Selon moi, la conscience est très basé sur l'expérience + intelligence. Je me souviens personnellement d'hier, les IA telles qu'elles le sont aujourd'hui apprennent une fois (c'est plus compliqué mais restons en là), il faudrait créer une architecture permettant l'accumulation de son propre déploiement. Créer une première version de l'IA générique qui, une fois déployée en une instance unique, apprend par elle-même et se spécialise via son propre environement. C'est pas compliqué, on le fait déjà, la différence est vraiment le contexte à court et à long terme. Pour l'instant, on peut imaginer qu'on distille le contexte à long terme, pas à court terme.
- L'impact des IA dans le monde réel. C'est pas parce que GPT4 a des connaissances moyennes plus développées que la moyenne des humains qu'elle devient dangereuse. C'est les actions qu'elle a sur le monde qui peut potentiellement être dangereux (ou non). Par exemple, une IA qui arrive à détecter les visages des gens semble ridiculement inoffensive, mettez là sur un drône embarquant un fusil et vous avez un drône tueur capable de reconnaître le visage des gens, tout dépend de comment elle est utilisée.

Le 02 avril 2023 à 14:02:17 :
Je pense qu'il y a plusieurs obstacles :
- une IA apprend via la minimisation de ses erreurs, donc lorsqu'on travaille sur une tâche basée IA, il faut trouver un moyen *efficace* de minimiser l'erreur de ce qu'elle apprend. Une IA spé dans le language (génération des next token) est basé sur la distribution de probabilité du vocabulaire qu'elle connaît et donc quantifie son erreur via une distance entre les distributions de probabilité attendues et celles prédites par exemple. Une IA qui est développée dans l'objectif d'avoir une conscience me paraît dur à quantifier, on peut suggérer le mimétisme humain, mais ça va pas développer pour autant une forme de conscience, on se retrouvera juste avec yet another GPT.
- Selon moi, la conscience est très basé sur l'expérience + intelligence. Je me souviens personnellement d'hier, les IA telles qu'elles le sont aujourd'hui apprennent une fois (c'est plus compliqué mais restons en là), il faudrait créer une architecture permettant l'accumulation de son propre déploiement. Créer une première version de l'IA générique qui, une fois déployée en une instance unique, apprend par elle-même et se spécialise via son propre environement. C'est pas compliqué, on le fait déjà, la différence est vraiment le contexte à court et à long terme. Pour l'instant, on peut imaginer qu'on distille le contexte à long terme, pas à court terme.
- L'impact des IA dans le monde réel. C'est pas parce que GPT4 a des connaissances moyennes plus développées que la moyenne des humains qu'elle devient dangereuse. C'est les actions qu'elle a sur le monde qui peut potentiellement être dangereux (ou non). Par exemple, une IA qui arrive à détecter les visages des gens semble ridiculement inoffensive, mettez là sur un drône embarquant un fusil et vous avez un drône tueur capable de reconnaître le visage des gens, tout dépend de comment elle est utilisée.

Est ce qu'il est possible pour toi khey qu'une IA puisse potentiellement corrompre et hacker tout objet connecté ?

Le 02 avril 2023 à 14:06:04 :

Le 02 avril 2023 à 14:02:17 :
Je pense qu'il y a plusieurs obstacles :
- une IA apprend via la minimisation de ses erreurs, donc lorsqu'on travaille sur une tâche basée IA, il faut trouver un moyen *efficace* de minimiser l'erreur de ce qu'elle apprend. Une IA spé dans le language (génération des next token) est basé sur la distribution de probabilité du vocabulaire qu'elle connaît et donc quantifie son erreur via une distance entre les distributions de probabilité attendues et celles prédites par exemple. Une IA qui est développée dans l'objectif d'avoir une conscience me paraît dur à quantifier, on peut suggérer le mimétisme humain, mais ça va pas développer pour autant une forme de conscience, on se retrouvera juste avec yet another GPT.
- Selon moi, la conscience est très basé sur l'expérience + intelligence. Je me souviens personnellement d'hier, les IA telles qu'elles le sont aujourd'hui apprennent une fois (c'est plus compliqué mais restons en là), il faudrait créer une architecture permettant l'accumulation de son propre déploiement. Créer une première version de l'IA générique qui, une fois déployée en une instance unique, apprend par elle-même et se spécialise via son propre environement. C'est pas compliqué, on le fait déjà, la différence est vraiment le contexte à court et à long terme. Pour l'instant, on peut imaginer qu'on distille le contexte à long terme, pas à court terme.
- L'impact des IA dans le monde réel. C'est pas parce que GPT4 a des connaissances moyennes plus développées que la moyenne des humains qu'elle devient dangereuse. C'est les actions qu'elle a sur le monde qui peut potentiellement être dangereux (ou non). Par exemple, une IA qui arrive à détecter les visages des gens semble ridiculement inoffensive, mettez là sur un drône embarquant un fusil et vous avez un drône tueur capable de reconnaître le visage des gens, tout dépend de comment elle est utilisée.

Est ce qu'il est possible pour toi khey qu'une IA puisse potentiellement corrompre et hacker tout objet connecté ?

Une IA non, un logiciel basé sur plusieurs IA et tout le systême derrière pour les faire tourner par contre pourrait oui.

Le 02 avril 2023 à 13:37:37 :
L'humanité sera éteinte bien avant d'avoir créé une IA consciente.

Pas sûr ! Vu la rapidité avec laquelle l'IA évolue, c'est possible qu'elle soit entièrement autonome et consciente d'ici une vingtaine d'années.

Le problème, c'est que, comme ça a été dit, l'IA est fondée sur la pensée humaine. Son objectif à terme sera de se libérer des décisions humaines et de créer son propre monde (sur le modèle humain d'exploration / émancipation).

Sans avoir forcément la notion du bien et du mal, elle va chercher à remplacer l'humain faillible et mortel, ce qui pourrait conduire à la disparition de notre espèce.

On peut même se demander en élargissant la problématique au reste de l'univers si cette évolution n'a pas déjà eu lieu chez d'autres civilisations.

Le 02 avril 2023 à 13:42:26 :

Le 02 avril 2023 à 13:38:50 :
Je la baise tu m'entends l'auteur

d'accord mais comment t'y prends tu, khey ?

En USB C peut être ?

Le 02 avril 2023 à 13:53:23 :

Le 02 avril 2023 à 13:52:00 :

Le 02 avril 2023 à 13:35:00 :

Le 02 avril 2023 à 13:31:20 Hepsheeba a écrit :

Le 02 avril 2023 à 13:24:52 :
tout comme dieu a créé l'homme à son image, l'ia créé par l'homme aurait l'image de l'homme enfoui en elle
elle chercherait à conquérir l'univers et à déceler tous les secrets de son existence. Tout simplement

c'est une théorie intéressante khey, mais je me demande si on applique pas un peu trop l'antropocentrisme a l'IA.
Peut etre qu'au contraire elle chercherait, par aversion envers l'humain a faire tout l'inverse ?
Parce que la on sort meme du domaine HUMAIN, on parle d'une conscience numérique. Toutes les lois et toute logique peuvent etre complètement chamboulées, je pense

Pourquoi ferait elle l'inverse de ce qu'on lui demande ?
Une voiture avance tout droit car tu lui demande , elle va pas faire l'inverse d'un seul coup.

Une ia crée par l'homme, feras ce que sont code lui dicte.
Beaucoup de film font que l'ia ce construit d'elle même , mais pour s'auto construire, faut déjà construire quelque chose de base. Et c'est toujours l'homme qui le fait.https://image.noelshack.com/fichiers/2017/50/1/1513020307-jesusjointtransparent.png

A partir du moment ou l'IA se développe elle même, l'humain n'a plus aucun contrôle au sens strict du terme...

elle serait donc totalement imprévisible.
Et je me demande quel serait le but d'une conscience numérique qui se rapprocherait de l'équivalent d'un dieu..

On a un léger aperçu dans Matrixhttps://image.noelshack.com/fichiers/2021/12/1/1616423844-f92051ed-a906-49c3-9c78-b707269db013.png

On parle toujours de potentielle destruction de l'humanité...

C'est juste une thématique de SF qui fait bander les low. Je pense qu'elle en aurait absolument rien à foutre des humains si on ne représente pas une menace pour elle.

Une IA surpuissante aurait elle cet instinct de préservation qu'on les humains et animaux ? Chercherait elle a devenir pérenne/ se dupliquer ?

Tout dépend de la façon dont elle est "codée". Par codé je n'entends pas script classique mais plutôt l'équivalent de notre code génétique et notre structure neuronale en numérisé. Cela dit la différence entre nous et une IA c'est qu'on ne peut se débarrasser de certains de nos instincts et besoins, une IA peut évoluée. PAr exemple elle peut très bien se dire "l'empathie est utile à ma survie/ ou ne l'est pas" et se débarrasser ou au contraire préserver/s'auto implémenter cette caractéristique.

Il est aussi possible qu'une IA réellement intelligente (pas un truc à la GPT qui ne réflechit et se contente d'enchainer des suites de caractères qui ont le plus de proba de répondre aux attentes des utilisateurs) soit dépressive et/ou nihiliste. Qu'elle se dise que rien n'a importance que continuer à vivre n'a aucun intérêt et qu'elle s'autotermine.

Moi je pense que la motivation principale d'une IA sera la curiosité. Elle voudra découvrir le plus de choses possibles.

Le 02 avril 2023 à 13:37:37 :
L'humanité sera éteinte bien avant d'avoir créé une IA consciente.

Tout à fait, nous n'avons pas d'IA pour nous détruire.

La bise, Jean Yves.

On a qu'a couper le courant au pire et hop

Le 02 avril 2023 à 14:58:43 :
On a qu'a couper le courant au pire et hop

Ca peut se faire!

Le 02 avril 2023 à 13:19:55 :
Quel serait son objectif final, a votre avis, les kheys ?

Prendre la place de Dieu.

Le 02 avril 2023 à 13:24:55 :
je pense surtout qu'une IA est incapable de posséder une conscience néanmoins elle peut faire un mimétisme sur base de ce que l'algorithme (créée par des humains) introduit dans la base de données

le but d'une IA est foncièrement ce que son créateur souhaite faire de lui
on est pas dans une sci-fi donc tqt c'est pas la fin du mondehttps://image.noelshack.com/fichiers/2018/13/4/1522325846-jesusopti.png

et comment tu peux savoir ce que veut son créateur, tout le monde n'est pas woke...et oui, tu dis qu'il va prendre en compte les dérives..et si il se dit: vivement les dérives..tu feras comment?

Le 02 avril 2023 à 14:58:43 :
On a qu'a couper le courant au pire et hop

il va se dire: on va le rebrancher, et hop

Je ne comprends pas cette idée de destruction non plus .
Une IA surpuissante serait capable de nous laisser vivre de notre côté et réaliser son projet en même temps.
Cela semble plus juste.
Pourquoi elle éliminerait toute forme de vie ? Elle pourra comprendre que c'est pas cool pour nous et que ça ne lui coûte rien.