[ALERTE] Possible RÉVOLUTION dans le MILIEU de l'IA

Ce papier vient de sortir : https://arxiv.org/abs/2402.17764

Tout le monde est choqué dans la commu si c'est nofake ça va tout changer.

Pour les néophytes, c'est une méthode de compression des LLM (pensez ChatGPT etc.) qui, si nofake, permettrait de diviser les ressources nécessaires pour faire tourner ces IA (mémoire, énergie) par 5 ou 6, tout en diminuant la latence, et sans perte de qualité !

Ça permettrait une démocratisation folle de l'IA. En gros n'importe qui avec un GPU pas trop dégueu (8-10Go de VRAM) qui peut actuellement faire tourner des petits modèles de 13B pourrait faire tourner du 70B oklm

Ça permettrait à tous les gamers d'enfin avoir une IA locale qui s'intégrerait dans leurs jeux par exemple (pour les PNJ etc.).

Bref les implications sont énormes. Si ça se confirme, ça voudrait aussi dire que tous les modèles actuels sous-performent sévèrement, vu qu'on pourrait diviser leur taille par 5 sans perdre en qualité

Alors j'ai pas oublié le fiasco de LK-99 et ça a l'air tellement trop beau pour être vrai que je me méfie mais l'article fait un boucan sur Huggingface ( https://huggingface.co/papers/2402.17764 ), un des auteurs répond aux commentaires et ils vont tout open sourcer comme ils l'avaient fait pour leur ancienne version ( https://github.com/kyegomez/BitNet ), donc on sera bientôt fixés. Je croise les doigts putain, ça serait énorme pour la démocratisation de l'IA.

PRIEZ QUE YAKEKCHOSE. FINITO LE MONOPOLE DES GPU-RICH ????

Bordel de merde cette FOLIE

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoir

Le 28 février 2024 à 10:43:44 :

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoir

Viens dans mes bras khey, on peut rien faire contre le grand capital, cesse de lutter

Le 28 février 2024 à 10:43:49 :
C'est comme rouler à l'eau de mer, ça existe mais YRR

Ils opensourcent leur techno, bonne chance pour empêcher la commu de pas l'utiliser si elle fonctionne

Le 28 février 2024 à 10:44:29 :

Le 28 février 2024 à 10:43:44 :

Le 28 février 2024 à 10:42:34 :
YRR

Ils ont déjà sorti une version totalement open source qui fonctionnait il y a des mois ( https://github.com/kyegomez/BitNet ), les gars sont sérieux donc j'ai espoir

Viens dans mes bras khey, on peut rien faire contre le grand capital, cesse de lutter

Le grand Capital sauterait de joie si c'est nofake, tu sais combien Microsoft and co dépensent en cartes Nvidia ? Ils ont intérêt à ce que ça fonctionne

Le 28 février 2024 à 10:49:03 :
l'auteur t'as un zotéro ou tu stock les articles intéressants ?

Je suis toujours surpris avec internet, on trouve tout comme type de logiciel. Je connaissais pas

Le 28 février 2024 à 10:49:03 :
l'auteur t'as un zotéro ou tu stock les articles intéressants ?

Non déso khey

ça, ça fait plaisir
la team effondriste qui va arreter de saouler avec le coup énergétique des LLM

Le 28 février 2024 à 10:54:20 :
D'accord mais est-ce qu'il y'aura un jour une alternative à ChatGPT 4 ?

Y'en a déjà plusieurs mais GPT-4 reste le SoTA pour le moment

Le 28 février 2024 à 10:55:01 :

ça, ça fait plaisir
la team effondriste qui va arreter de saouler avec le coup énergétique des LLM

PLUS DE FREINS DANS CE TRAIN

Le 28 février 2024 à 10:40:33 :
Ce papier vient de sortir : https://arxiv.org/abs/2402.17764

Tout le monde est choqué dans la commu si c'est nofake ça va tout changer.

Pour les néophytes, c'est une méthode de compression des LLM (pensez ChatGPT etc.) qui, si nofake, permettrait de diviser les ressources nécessaires pour faire tourner ces IA (mémoire, énergie) par 5 ou 6, tout en diminuant la latence, et sans perte de qualité !

Ça permettrait une démocratisation folle de l'IA. En gros n'importe qui avec un GPU pas trop dégueu (8-10Go de VRAM) qui peut actuellement faire tourner des petits modèles de 13B pourrait faire tourner du 70B oklm

Ça permettrait à tous les gamers d'enfin avoir une IA locale qui s'intégrerait dans leurs jeux par exemple (pour les PNJ etc.).

Bref les implications sont énormes. Si ça se confirme, ça voudrait aussi dire que tous les modèles actuels sous-performent sévèrement, vu qu'on pourrait diviser leur taille par 5 sans perdre en qualité

Alors j'ai pas oublié le fiasco de LK-99 et ça a l'air tellement trop beau pour être vrai que je me méfie mais l'article fait un boucan sur Huggingface ( https://huggingface.co/papers/2402.17764 ), un des auteurs répond aux commentaires et ils vont tout open sourcer comme ils l'avaient fait pour leur ancienne version ( https://github.com/kyegomez/BitNet ), donc on sera bientôt fixés. Je croise les doigts putain, ça serait énorme pour la démocratisation de l'IA.

PRIEZ QUE YAKEKCHOSE. FINITO LE MONOPOLE DES GPU-RICH ????

Singularité technologique et Horizon Zero Dawn in coming ...