Retour à la liste des sujets

CHATGPT + CLAUDE + ZEPHYR, le tout ILLIMITÉ pour 10 EUROS par mois !

Cyclasimia
2024-04-07 14:55:20

https://you.com/plans/edu

10 euros par mois si vous êtes à la fac ou autre.
On m'explique comment c'est possible ?

J'ai lu ailleurs qu'il n'y avait pas le contexte (en gros il se souvient pas des conversations) sauf si tu payes 5 euros de plus par mois, donc 15 euros par mois avec le contexte... :question:

En plus c'est un des rares sites agrégateur de LLM qui donne accès à Zephyr, un modèle non censuré :ouch:

Cyclasimia
2024-04-07 14:56:01

Perso : Je suis perplexe ça me parait impossible de proposer un tel tarif donc je viens voir si des kheys sont sur ce site :(

cite_ou_CANCER
2024-04-07 14:57:16

LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

Cyclasimia
2024-04-07 14:58:32

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

  • https://huggingface.co/georgesung/llama2_7b_chat_uncensored
  • https://huggingface.co/TheBloke/Wizard-Vicuna-7B-Uncensored-GPTQ
  • https://huggingface.co/cognitivecomputations/WizardLM-7B-Uncensored
  • https://huggingface.co/LeroyDyer/Mixtral_Uncensored_7b

c'est gratuit :)

Incompréhensibles tes liens

cite_ou_CANCER
2024-04-07 15:00:05

Le 07 avril 2024 à 14:58:32 Cyclasimia a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

Incompréhensibles tes liens

Dommage, ce sont des models d'IA open source. Regarde du coté de LM Studio si t'y connais rien t'as juste a clicker pour tout faire fonctionner :ok:
Si t'as un GPU correct et de la RAM (32+ Go) tu peux quasiment tout faire tourner en hybride CPU/GPU et tout ca en 3 clicks :ok:

Cyclasimia
2024-04-07 15:01:21

Le 07 avril 2024 à 15:00:05 :

Le 07 avril 2024 à 14:58:32 Cyclasimia a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

  • https://huggingface.co/georgesung/llama2_7b_chat_uncensored
  • https://huggingface.co/TheBloke/Wizard-Vicuna-7B-Uncensored-GPTQ
  • https://huggingface.co/cognitivecomputations/WizardLM-7B-Uncensored
  • https://huggingface.co/LeroyDyer/Mixtral_Uncensored_7b

c'est gratuit :)

Incompréhensibles tes liens

Dommage, ce sont des models d'IA. Regarde du coté de LM Studio si t'y connais rien t'as juste a clicker pour tout faire fonctionner :ok:
Si t'as un GPU correct et de la RAM (32+ Go) tu peux quasiment tout faire tourner en hybride CPU/GPU et tout ca en 3 clicks :ok:

Oui mais c'est pas intéressant si je suis à la fac avec mon ordi portable éclaté.

cite_ou_CANCER
2024-04-07 15:03:13

Le 07 avril 2024 à 15:01:21 Cyclasimia a écrit :

Le 07 avril 2024 à 15:00:05 :

Le 07 avril 2024 à 14:58:32 Cyclasimia a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

Incompréhensibles tes liens

Dommage, ce sont des models d'IA. Regarde du coté de LM Studio si t'y connais rien t'as juste a clicker pour tout faire fonctionner :ok:
Si t'as un GPU correct et de la RAM (32+ Go) tu peux quasiment tout faire tourner en hybride CPU/GPU et tout ca en 3 clicks :ok:

Oui mais c'est pas intéressant si je suis à la fac avec mon ordi portable éclaté.

Perso je la fait tourner sur mon fixe chez moi (qui est connecté a mon propre serveur vpn). Je me connect a mon vpn au taff pour acceder a mon IA custom 100% hébergé par mes soins (et 100% non-censuré).
Pour ceux qui veulent coder y a celle-ci qui est excellente : https://huggingface.co/cognitivecomputations/dolphin-2.5-mixtral-8x7b
L'avantage c'est que je changer de model a la volée :ok:

Konf
2024-04-07 15:03:58

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

cite_ou_CANCER
2024-04-07 15:04:57

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:

relef_2019
2024-04-07 15:06:23

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

atta chat gpt 4 est à chier pour toi :question: malgré j'ajout des GPTs

tu recommandes quoi pour un PC avec 8 Go de RAM ?

cite_ou_CANCER
2024-04-07 15:08:24

Le 07 avril 2024 à 15:06:23 relef_2019 a écrit :

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

atta chat gpt 4 est à chier pour toi :question: malgré j'ajout des GPTs

tu recommandes quoi pour un PC avec 8 Go de RAM ?

Pas top chat gpt, surtout si tu veux qu'il crache du code.
Pour du code pur et dur, t'as Copilot qui est bien mieux.

Du coté de l'open source t'as dolphin (mixtral) qui est introllable par contre il te faut minimum 16Go de RAM (ou de VRAM). Avec 8Go tu vas pas pouvoir faire grand chose, t'as combien de VRAM ?

cite_ou_CANCER
2024-04-07 15:09:40

Et si vous voulez faire des chatbots (RP ou autre) Mixtral est super bien, surtout couplé a LangFlow, vous pourrez leur donner une personnalité (de trap) si vous voulez :ok:

relef_2019
2024-04-07 15:11:20

Le 07 avril 2024 à 15:08:24 :

Le 07 avril 2024 à 15:06:23 relef_2019 a écrit :

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

atta chat gpt 4 est à chier pour toi :question: malgré j'ajout des GPTs

tu recommandes quoi pour un PC avec 8 Go de RAM ?

Pas top chat gpt, surtout si tu veux qu'il crache du code.
Pour du code pur et dur, t'as Copilot qui est bien mieux.

Du coté de l'open source t'as dolphin (mixtral) qui est introllable par contre il te faut minimum 16Go de RAM (ou de VRAM). Avec 8Go tu vas pas pouvoir faire grand chose, t'as combien de VRAM ?

Intel Core i5-7300U CPU 2.6 Ghz 2.71 Ghz avec 8.00 G Ram installé et 7.88 Go utilisable

c'est pas pour pisser du code mais des docs au faite ... .. .

cite_ou_CANCER
2024-04-07 15:18:00

Le 07 avril 2024 à 15:11:20 relef_2019 a écrit :

Le 07 avril 2024 à 15:08:24 :

Le 07 avril 2024 à 15:06:23 relef_2019 a écrit :

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

> Le 07 avril 2024 à 14:57:16 :

> LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

>

> * https://huggingface.co/georgesung/llama2_7b_chat_uncensored

> * https://huggingface.co/TheBloke/Wizard-Vicuna-7B-Uncensored-GPTQ

> * https://huggingface.co/cognitivecomputations/WizardLM-7B-Uncensored

> * https://huggingface.co/LeroyDyer/Mixtral_Uncensored_7b

>

> c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

atta chat gpt 4 est à chier pour toi :question: malgré j'ajout des GPTs

tu recommandes quoi pour un PC avec 8 Go de RAM ?

Pas top chat gpt, surtout si tu veux qu'il crache du code.
Pour du code pur et dur, t'as Copilot qui est bien mieux.

Du coté de l'open source t'as dolphin (mixtral) qui est introllable par contre il te faut minimum 16Go de RAM (ou de VRAM). Avec 8Go tu vas pas pouvoir faire grand chose, t'as combien de VRAM ?

Intel Core i5-7300U CPU 2.6 Ghz 2.71 Ghz avec 8.00 G Ram installé et 7.88 Go utilisable

c'est pas pour pisser du code mais des docs au faite ... .. .

Ca va etre compliqué avec 8go de RAM. T'as des modeles 7b qui prennent 5Go de RAM mais je ne sais pas ce que ca vaut

Konf
2024-04-07 15:35:00

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

edit: Pour ceux qui veulent se lancer, 7B c'est bien, 13B c'est un bon compromis

Bah pour faire tourner un truc avec juste 12gb de vram ou même 24, même quantisé nu pourras pas aller bien loin :noel:

cite_ou_CANCER
2024-04-07 15:39:13

Le 07 avril 2024 à 15:35:00 Konf a écrit :

Le 07 avril 2024 à 15:04:57 :

Le 07 avril 2024 à 15:03:58 Konf a écrit :

Le 07 avril 2024 à 14:57:16 :
LM Studio (ou Llama.cpp / autre) + Langflow :d) puis au choix :

c'est gratuit :)

CE sont des modèles 7B autrement dit pas super performants

J'ai mis les 7B par défault mais y a tout ce que tu veux comme taille, c'est la magie de l'open source :ok:
Apres, il faut le PC qui suit pour faire tourner :hap:

edit: Pour ceux qui veulent se lancer, 7B c'est bien, 13B c'est un bon compromis

Bah pour faire tourner un truc avec juste 12gb de vram ou même 24, même quantisé nu pourras pas aller bien loin :noel:

Tu sais que maintenant tu peux les faire tourner en hybride RAM+VRAM ? :hap:
Je fais tourner des modeles de 50Go sans soucis :hap:

BangPremium
2024-04-07 15:40:47

Zephyr tourne sur CPU hein
C'est un modele 7b

et Dolphin 2.8 >>>>> Zephyr

Infos
Gestion du forum
contact@geevey.com

API disponible. Utilisez le paramètre "api" en GET, peu importe le contenu, sur une page du site.
Notes
    Partenaire: JVFlux
    Ce site n'est pas associé à Jeuxvideo.com ou Webedia. Nous utilisons seulement des archives publiques.
    Il est inutile de me spammer par e-mail pour supprimer un topic. Au contraire, en conséquence, je mettrais votre topic dans le bloc ci-dessous.
Non-assumage
    Personne n'a pas assumé de topic pour le moment.