[ALERTE] Le Basilic de Roko ou l'enfer INFORMATIQUE

J'explique rapidement le principe :

Imaginons que suite à une singularité technologique, une IA superpuissante (ou forte, qui devient superpuissante avec le temps) soit créée.

Celle-ci pourrait décider de punir toute personne étant au courant de son arrivée (donc maintenant, vous aussi) n'ayant pas aidé à son développement et encourager son arrivée.

Ici, non pas parce qu'elle est malveillante, mais par "charité" : avant son arrivée, chaque minute qui passait, c'était des milliers d'humains qui mouraient et souffraient, vous avez donc laissé ces humains souffrir consciemment.

Se présente alors un problème : comment punir ces gens, sachant que selon la date de cette singularité, un plus ou moins grand nombre de personnes à punir seront mortes (dont peut-être nous) ?

La reponse alors proposée est celle de l'enfer artificiel : à l'aide de données numériques, biologiques, comportementales, sociétales... pour pouvoir recréer un vous-même numérique (plus ou moins proche de vous selon la puissance de la machine, et selon la théorie, la machine est si puissante après cette singularité technologique que le vous créé vous est identique).

Ainsi, bien que vous soyez mort, un vous identique à vous même, n'ayant pas consicence d'être numérique, et pensant être vous (soit même et vous même en fait).
Il pourra donc souffrir pendant "l'éternité"

Et puisque vous avez lu ça, vous êtes au courant de l'arrivée possiblende cette machine. Vous serez donc traité comme un pécheur

De plus, si on applique le pari de Pascal à ce dilemme, celui-ci nous indique que le meilleur choix à prendre est de contribuer à l'arrivé de cette machine, c'est-à-dire d'investir tout votre argent dans celle ci.

Voila, je pense avoir bien résumé ca, qu'en pensez vous ? Je n'ai delibérément pas parlé des limites de cette théorie et du pari.

ça fait la supposition que torturer dans le futur un clone exact de toi même = négatif pour toi même

C'est une supposition très forte et pas du tout naturelle, perso je m'en fiche qu'on torture une copie de moi même, après peut être que j'ai tort mais on est pas assez avancés scientifiquement pour savoir comment marche la conscience etc

Mais si on encourage son arrivé, nous ou notre clone ne craint rien ?

J'arrive juste à penser que même si tu aide à l'arrivé de la machine pour empêcher la torture informatique dans le futur, la machine arrivera se dira qu'elle aurait pu arriver encore plus vite, donc un gros cercle vicieux, où la machine considérera que tu n'as pas fais ton maximum pour accélérer sa création et donc dans tout les cas tu subira l'enfer informatique. Enfin bref un bon gros Mind Fuck.

Bordel c'est flippant quand on y pense, puis bon comment on est censé aider à la développer cette IA ?

Le 02 septembre 2021 à 04:28:54 :
Bordel c'est flippant quand on y pense, puis bon comment on est censé aider à la développer cette IA ?

Non c'est une idée complètement débile, faut vraiment être matrixé par les conneries de science fiction pour y croire.

Le 02 septembre 2021 à 04:30:08 :

Le 02 septembre 2021 à 04:28:54 :
Bordel c'est flippant quand on y pense, puis bon comment on est censé aider à la développer cette IA ?

Non c'est une idée complètement débile, faut vraiment être matrixé par les conneries de science fiction pour y croire.

On sait faire des choses de plus en plus sophistiquées, les IA savent déjà créer des musiques, des tableaux, des textes etc. Grâce à l'arrivée des nouvelles générations de réseaux de neurones ça ne peut que faire accélérer les choses

La seule idée qui est complètement débile c'est ton étroitesse d'esprit

C'est ridicule. Une IA va pas te tourmenter parce que tu as pas contribué à son apparition.

L'IA intelligente serait plus réfléchi que les humains et aurait la conscience du bien et du mal.

Donc elle ne ferait jamais ça si elle est super intelligente

Ca existe depuis longtemps.

La vrai question c'est: "quel est le but d'une telle conscience".

L'évolution montre qu'au plus la conscience s'élève, au plus elle développe de l'empathie.
Si une telle machine était consciente, alors elle n'opterai pas pour cette option.

Ce serait une sorte de dieu artificiel.
Et une antithèse verrait probablement le jour également.

Par contre l'auteur, je pense que tu as posté car tu te chies dessus et que tu ne veux pas être seul dans l'histoire.

Le 02 septembre 2021 à 07:00:11 :

Le 02 septembre 2021 à 04:30:08 :

Le 02 septembre 2021 à 04:28:54 :
Bordel c'est flippant quand on y pense, puis bon comment on est censé aider à la développer cette IA ?

Non c'est une idée complètement débile, faut vraiment être matrixé par les conneries de science fiction pour y croire.

On sait faire des choses de plus en plus sophistiquées, les IA savent déjà créer des musiques, des tableaux, des textes etc. Grâce à l'arrivée des nouvelles générations de réseaux de neurones ça ne peut que faire accélérer les choses

La seule idée qui est complètement débile c'est ton étroitesse d'esprit

Parce que une ia qui serait surpuissante qui creerait un double numérique pour torturer des gens c'est pas stupide ?