[IA] Intelligence HUMAINE AVANT 2030 - ykk !
Je traduis des passages de ce magnifique article à la pointe du domaine
IA DE NIVEAU HUMAIN AVANT 2030
Comme d'habitude, la masse ne juge qu'en regardant où on en est à l'instant T ("mdr chatgpt il é kon"
Perso je pense que c'est pour 2027 et que les gens ne réalisent pas ce qui est en train de se jouer
Extraits choisis :
Ce billet explique pourquoi je prédis l'émergence de l'intelligence artificielle générale (AGI) dans des délais courts et pourquoi vous devriez en faire autant.
Les points suivants sont développés ci-dessous avec de nombreuses citations et des liens pour une lecture plus approfondie. Je n'essaierai pas de vous épater avec des références spécifiques à l'IA, comme la découverte que GPT-3.5 a spontanément appris à jouer aux échecs au-dessus de la moyenne
En résumé, les points importants :
- Quelle que soit la définition que l'on donne à l'AGI, nous sommes sur la voie d'une IA qui atteindra le niveau humain par force brute en émulant simplement le générateur des données générées par l'homme, c'est-à-dire son cerveau.
- La théorie de l'information, combinée aux prévisions d'efficacité algorithmique et matérielle, suggère que des systèmes capables d'émuler les humains pour la plupart des tâches sont plausibles au cours de cette décennie et probables d'ici 15 ans.
- Le cerveau est une preuve existante que l'intelligence générale peut émerger par le biais d'un processus d'optimisation aveugle de type "hill-climbing" (évolution darwinienne), tandis que les preuves que le cerveau fonctionne sur les mêmes principes que le deep learning sont accablantes.
- L'échelle (la taille des modèles) est le principal obstacle à l'AGI, et non la nécessité d'architectures radicalement nouvelles. Les cerveaux humains ne sont que des cerveaux de chimpanzés plus grands qui ont atteint la généralité en augmentant l'échelle du néocortex.
- Les réseaux neuronaux artificiels peuvent simuler avec précision les neurones corticaux et d'autres réseaux cérébraux, alors que les preuves de l'importance du substrat biologique du cerveau à d'autres égards sont soit faibles, soit inexistantes, et rien que les modèles plus grands ne peuvent de toute façon compenser.
- Le cerveau humain doit fonctionner selon des principes relativement simples, car il résulte d'un processus de développement avec des conditions initiales sensibles plutôt que d'être entièrement spécifié dans notre ADN
(Le génome haploïde de l'homme se compose de 2,9 milliards de paires de bases qui codent un maximum de 725 mégaoctets de données. Sur ce total, à peine 8 % de notre ADN est réellement fonctionnel, tandis que seuls 20 000 gènes sont responsables de l'ensemble du codage des protéines. Le génome est donc un modèle absurdement épars de l'organisme qu'il sert à construire. Pour décompresser notre code génétique, il faut réguler un alphabet de protéines dans les cellules de base, ce qui déclenche une cascade de boucles de rétroaction bioélectriques https://link.springer.com/article/10.1007/s10071-023-01780-3 qui donnent naissance à des hiérarchies imbriquées de formes de structures à plus grande échelle. Chaque étape de ce processus ressemble à une version de la descente de gradient, comme si les mutations génétiques modifiaient une "fonction de récompense" de haute dimension - un attracteur cybernétique https://en.wikipedia.org/wiki/Self-organization_in_cybernetics - qui oriente ensuite notre développement embryonnaire https://www.frontiersin.org/articles/10.3389/fcell.2023.1087650/full vers un phénotype correspondant à l'état d'énergie le plus bas.) . - "L'universalité", ou l'observation que les réseaux neuronaux artificiels et notre cerveau apprennent, indépendamment les uns des autres, des circuits logico-symboliques similaires, est une preuve solide que les méthodes actuelles de deep learning sont suffisantes pour modéliser la cognition humaine, même si elles sont sous-optimales.
- Nous avons tendance à surestimer l'intelligence humaine car, en tant qu'êtres humains, nous sommes computationnellement bornés à la modélisation et prédiction d'autres êtres humains.
- Le nombre d'"étapes difficiles" franchies sur Terre pour parvenir à une vie intelligente suggère que ces étapes ne sont pas aussi difficiles qu'elles en ont l'air, mais qu'elles sont plutôt guidées par des processus statistiques qui reflètent les lois d'échelonnement et les transitions de phase observées dans les réseaux neuronaux et d'autres systèmes physiques. L'AGI n'est pas non plus aussi difficile qu'il n'y paraît.
L'AGI en tant qu'émulateur humain
L'AGI (intelligence artificielle générale) est considérée comme délicate à définir, car des concepts tels que la "généralité" et l'"intelligence de niveau humain" ouvrent des débats philosophiques sans fin. C'est pourquoi beaucoup préfèrent le concept apparenté d'IA Transformatrice, une définition opérationnelle qui ignore les propriétés intrinsèques d'un système d'IA au profit de son impact externe sur l'économie. Un système d'IA capable d'automatiser la majeure partie du travail cognitif humain serait donc considéré comme de l'IAT, même s'il était basé sur quelque chose d'aussi "bête" qu'une table de recherche géante. Cette situation est toutefois quelque peu insatisfaisante, car ce qui rend les progrès récents de l'IA si passionnants, c'est précisément "l'étincelle d'intelligence générale"
Heureusement, les définitions de la TAI et de l'AGI convergent avec les systèmes d'IA formés pour émuler directement la cognition humaine, car un émulateur humain efficace serait à la fois transformateur sur le plan économique et manifestement "de niveau humain" dans sa généralité, même si ses mécanismes exacts restent opaques. Les grands modèles de langage (LLM) constituent un pas dans cette direction, car il existe de bonnes raisons théoriques de penser qu'un modèle suffisamment grand pour la prédiction du mot suivant, formé sur un texte généré par l'homme, apprendra des représentations sémantiques qui convergeront vers les représentations utilisées par l'homme.
Bien qu'il puisse exister un algorithme simple pour l'intelligence générale, l'abondance des données générées par l'homme et la croissance exponentielle de l'informatique rendent l'émulation humaine par une IA générale via brute force la voie la plus probable, et certainement celle pour laquelle l'industrie technologique est optimisée. Il pourrait même s'avérer que l'"intelligence générale" nécessite des modèles d'une grande complexité, car on sait que les réseaux neuronaux tirent leur capacité de généralisation et d'extrapolation de l'apprentissage sur des données comportant un grand nombre de dimensions
L'augmentation actuelle des ressources informatiques est vraiment incroyable. Le marché mondial de l'informatique en cloud devrait doubler
La question "quand développerons-nous l'AGI" peut donc être remplacée par la question "quand disposerons-nous de la puissance de calcul nécessaire pour émuler fidèlement les performances humaines dans les tâches qui requièrent une intelligence véritablement générale". Cette approche de la définition de l'AGI ravive l'idée centrale du test de Turing original, qui jugeait une IA intelligente dans la mesure où les humains ne parvenaient pas à la distinguer d'autres humains dans une série de conversations en double aveugle. Bien que les LLM aient déjà dépassé des versions plus faibles du test de Turing, le critère d'indiscernabilité reste profondément utile, en particulier lorsqu'il est formalisé mathématiquement.
Du point de vue de la théorie de l'information
En théorie de l'information, minimiser la possibilité de distinguer deux distributions équivaut à minimiser la "perte d'entropie croisée". L'entropie croisée est le nombre moyen de bits nécessaires pour distinguer deux flux de données. Minimiser la perte d'entropie croisée revient donc à augmenter le nombre de bits nécessaires pour distinguer deux distributions. C'est l'essence même de la formation des modèles de machine learning. Dans un rapport pour EpochAI, Matthew Barnett et Tamay Besiroglu utilisent ce fait pour construire le modèle prédictif d'Approche Directe
Le modèle d'Approche Directe combine les lois d'échelle de l'IA
[À un certain moment, le modèle peut être formé plus efficacement en recevant directement des signaux de récompense sur sa performance dans la tâche. Cela s'apparente à la façon dont un être humain apprenant à jouer au tennis peut, dans un premier temps, essayer d'imiter les compétences des bons joueurs de tennis, mais, par la suite, développer sa propre technique en observant ce qui fonctionne et ce qui ne fonctionne pas pour remporter les matchs.
Comparé à la tâche consistant à produire un manuscrit scientifique original impossible à distinguer d'un manuscrit écrit par un expert humain, le modèle de base de l'Approche Directe
Ce que j'aime dans l'approche directe, c'est qu'elle est... directe. Si l'on admet que le cerveau est un système physique doté d'une certaine capacité de calcul, des ordinateurs suffisamment puissants dotés de réseaux neuronaux suffisamment efficaces en termes d'échantillonnage devraient être finalement en mesure d'extraire toute l'entropie pertinente des données générées par l'homme et de s'approcher asymptotiquement d'un émulateur humain idéal. Le modèle donne ainsi une idée du délai dans lequel nous pourrons "forcer brutalement" un émulateur humain, compte tenu de ce que nous savons de la mise à l'échelle des modèles et des lois de la thermodynamique.
Les réseaux neuronaux sont des "approximateurs de fonctions
Bien qu'il y ait beaucoup d'incertitudes et de possibilités de contestation, il s'agit d'une estimation fondamentalement conservatrice, car notre connaissance croissante du cerveau humain et de l'interprétabilité des réseaux neuronaux signifie que nous pouvons faire mieux que la force brute. Qu'il s'agisse de l'utilisation de formes intermédiaires d'IA pour accélérer la recherche
Source: closer. Topic clos 
Le 24 septembre 2023 à 11:00:37 :
Source: closer. Topic clos
Source : notre meilleur modèle prédictif à l'heure actuelle basé sur le constat empirique des scaling laws
API disponible. Utilisez le paramètre "api" en GET, peu importe le contenu, sur une page du site.
-
Partenaire: JVFlux
Ce site n'est pas associé à Jeuxvideo.com ou Webedia. Nous utilisons seulement des archives publiques.
Il est inutile de me spammer par e-mail pour supprimer un topic. Au contraire, en conséquence, je mettrais votre topic dans le bloc ci-dessous.
-
Personne n'a pas assumé de topic pour le moment.