[ALERTE] Possible RÉVOLUTION dans le MILIEU de l'IA

Ce papier vient de sortir : https://arxiv.org/abs/2402.17764https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Tout le monde est choqué dans la commuhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpgsi c'est nofake ça va tout changer.

Pour les néophytes, c'est une méthode de compression des LLM (pensez ChatGPT etc.) qui, si nofake, permettrait de diviser les ressources nécessaires pour faire tourner ces IA (mémoire, énergie) par 5 ou 6, tout en diminuant la latence, et sans perte de qualité !

Ça permettrait une démocratisation folle de l'IA. En gros n'importe qui avec un GPU pas trop dégueu (8-10Go de VRAM) qui peut actuellement faire tourner des petits modèles de 13B pourrait faire tourner du 70B oklmhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Ça permettrait à tous les gamers d'enfin avoir une IA locale qui s'intégrerait dans leurs jeux par exemple (pour les PNJ etc.).https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Bref les implications sont énormes. Si ça se confirme, ça voudrait aussi dire que tous les modèles actuels sous-performent sévèrement, vu qu'on pourrait diviser leur taille par 5 sans perdre en qualitéhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Alors j'ai pas oublié le fiasco de LK-99 et ça a l'air tellement trop beau pour être vrai que je me méfie mais l'article fait un boucan sur Huggingface ( https://huggingface.co/papers/2402.17764 ), un des auteurs répond aux commentaires et ils vont tout open sourcer comme ils l'avaient fait pour leur ancienne version ( https://github.com/kyegomez/BitNet ), donc on sera bientôt fixés. Je croise les doigts putain, ça serait énorme pour la démocratisation de l'IA.https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

PRIEZ QUE YAKEKCHOSE. FINITO LE MONOPOLE DES GPU-RICH ????https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

j’ai 16giga de ram et une 3080, vivement GTA 7

YRR

https://image.noelshack.com/fichiers/2024/09/3/1709113357-1482b9f7-fa3a-4140-ad50-91493f525a15.jpghttps://image.noelshack.com/fichiers/2024/09/3/1709113362-9c1ce20d-a773-4c09-b6c1-29128429603f.jpg

Bordel de merde cette FOLIEhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoirhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

C'est comme rouler à l'eau de mer, ça existe mais YRR

Le 28 février 2024 à 10:43:44 :

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoirhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Viens dans mes bras khey, on peut rien faire contre le grand capital, cesse de lutter

Le 28 février 2024 à 10:43:49 :
C'est comme rouler à l'eau de mer, ça existe mais YRR

Ils opensourcent leur techno, bonne chance pour empêcher la commu de pas l'utiliser si elle fonctionnehttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Ahi c'est déjà une meilleur solution que demander 7 000 milliards de dollars (PDG de ChatGpt)

Le 28 février 2024 à 10:44:29 :

Le 28 février 2024 à 10:43:44 :

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoirhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Viens dans mes bras khey, on peut rien faire contre le grand capital, cesse de lutter

Le grand Capital sauterait de joie si c'est nofake, tu sais combien Microsoft and co dépensent en cartes Nvidia ? Ils ont intérêt à ce que ça fonctionnehttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Nvidia qui ne va toujours pas être une bulle

l'auteur t'as un zotéro ou tu stock les articles intéressants ?

Le 28 février 2024 à 10:49:03 :
l'auteur t'as un zotéro ou tu stock les articles intéressants ?

Je suis toujours surpris avec internet, on trouve tout comme type de logiciel. Je connaissais pashttps://image.noelshack.com/fichiers/2017/39/3/1506524542-ruth-perplexev2.png

Le 28 février 2024 à 10:49:03 :
l'auteur t'as un zotéro ou tu stock les articles intéressants ?

Non déso kheyhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Mémoire divisée par 5, latence divisée par 9, et je bide, personne réalisehttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

D'accord mais est-ce qu'il y'aura un jour une alternative à ChatGPT 4 ?

https://image.noelshack.com/fichiers/2024/09/3/1709114061-capture-20240228105348848.png

ça, ça fait plaisir
la team effondriste qui va arreter de saouler avec le coup énergétique des LLM

Le 28 février 2024 à 10:54:20 :
D'accord mais est-ce qu'il y'aura un jour une alternative à ChatGPT 4 ?

Y'en a déjà plusieurs mais GPT-4 reste le SoTA pour le momenthttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Le 28 février 2024 à 10:55:01 :
https://image.noelshack.com/fichiers/2024/09/3/1709114061-capture-20240228105348848.png

ça, ça fait plaisir
la team effondriste qui va arreter de saouler avec le coup énergétique des LLM

PLUS DE FREINS DANS CE TRAINhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Le 28 février 2024 à 10:40:33 :
Ce papier vient de sortir : https://arxiv.org/abs/2402.17764https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Tout le monde est choqué dans la commuhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpgsi c'est nofake ça va tout changer.

Pour les néophytes, c'est une méthode de compression des LLM (pensez ChatGPT etc.) qui, si nofake, permettrait de diviser les ressources nécessaires pour faire tourner ces IA (mémoire, énergie) par 5 ou 6, tout en diminuant la latence, et sans perte de qualité !

Ça permettrait une démocratisation folle de l'IA. En gros n'importe qui avec un GPU pas trop dégueu (8-10Go de VRAM) qui peut actuellement faire tourner des petits modèles de 13B pourrait faire tourner du 70B oklmhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Ça permettrait à tous les gamers d'enfin avoir une IA locale qui s'intégrerait dans leurs jeux par exemple (pour les PNJ etc.).https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Bref les implications sont énormes. Si ça se confirme, ça voudrait aussi dire que tous les modèles actuels sous-performent sévèrement, vu qu'on pourrait diviser leur taille par 5 sans perdre en qualitéhttps://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Alors j'ai pas oublié le fiasco de LK-99 et ça a l'air tellement trop beau pour être vrai que je me méfie mais l'article fait un boucan sur Huggingface ( https://huggingface.co/papers/2402.17764 ), un des auteurs répond aux commentaires et ils vont tout open sourcer comme ils l'avaient fait pour leur ancienne version ( https://github.com/kyegomez/BitNet ), donc on sera bientôt fixés. Je croise les doigts putain, ça serait énorme pour la démocratisation de l'IA.https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

PRIEZ QUE YAKEKCHOSE. FINITO LE MONOPOLE DES GPU-RICH ????https://image.noelshack.com/fichiers/2021/25/1/1624307173-img-20210621-222603.jpg

Singularité technologique et Horizon Zero Dawn in coming ...