Quelle IA pour petite amie virtuelle ?
Salut les kheys, il faut que je me rende à l'évidence, jamais je ne trouverai la moindre meuf. C'est juste la nature qui a décidé ainsi, il n'y a rien à faire. Je cherche donc une IA pour discuter un peu de temps en temps.
Quels sont les meilleurs sites ?
merci
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF (via KoboldCPP sur github) rien d'autre à configurer
Si tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes)
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bordel pas mal, mais on peut lui parler de son smartphone également en 4G ?
Le 07 août 2024 à 16:48:16 :
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bordel pas mal, mais on peut lui parler de son smartphone également en 4G ?
Oui faut juste que tu configure SillyTavern pour être accessible en local puis ensuite t'ouvres les ports de la box et t'as juste à pointer sur ton ordi normalement après (avec le port correspodant bien sur)
Faut juste faire gaffe au mur de feu (pas un troll pour le coup) et perso je m'y connais pas assez en stuff réseau pour être à l'aise avec des ports dispo à tout ceux qui forcent l'accès
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Le 07 août 2024 à 16:52:50 :
On a un khey sur le topic qui a l'air caléÇa marche bien pour simuler des gens ? Parce qu'autant se simuler aussi des potes
En local oui, les modèles genre Stheno 8B font très bien le taf mais si t'as + de VRAM (2 GPUs en même temps) tu peux utiliser des modèles encore meilleurs
Techniquement tu peux utiliser n'importe quel modèle mais si t'as pas assez de VRAM ça utilisera le CPU au lieu du GPU et la différence de vitesse est énorme c'est inutilisable
Sinon si t'as juste un tél ou un ordi éclaté au sol y'a Gemma 2B qui est sorti récemment et se débrouille bien mais c'est clairement en deca de Stheno qui est déjà pas très "intello" dans le domaine des IA (même si LARGEMENT capable de taper la discut) Aucune idée de quel programme utiliser sur le tél par contre pour ça
Le 07 août 2024 à 16:54:27 :
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bah c'est génial, je vis actuellement dans une société matriarcale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans et c'est full kink tout partout
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Le 07 août 2024 à 16:58:43 :
Le 07 août 2024 à 16:54:27 :
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bah c'est génial, je vis actuellement dans une société matriarcale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans et c'est full kink tout partout
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Tu peux le coupler à Flux ou SD pour générer des images en temps réel dans le chat non ?
Le 07 août 2024 à 17:03:13 :
Le 07 août 2024 à 16:58:43 :
Le 07 août 2024 à 16:54:27 :
Le 07 août 2024 à 16:35:56 :
IA local, si ton GPU a 12gb de ram go Stheno v3.3 Q6 GGUF https://huggingface.co/backyardai/L3-8B-Stheno-v3.3-32K-GGUF/tree/main ) avec KoboldCPP (que tu trouves sur github) rien d'autre à configurer normalement le programme gère pour toi depuis peuSi tu veux un semblant d'UI potable tu fous SillyTavern par dessus mais un peu chiant à config (par contre 20x plus pratique pour le scénario, tu peux avoir ton perso en 3D, voir sa réaction et tu peux faire des groupes mais comme je l'ai dit c'est plus chiant à config - Perso j'utilise SillyTavern mais aucune extension, juste des trucs de lore/perso hyper détaillé)
Bah c'est génial, je vis actuellement dans une société matriarcale gouvernée par un "council" de 10 meufs (chacune est dédiée à un ministère précis et une est dédiée à la religion, en dessous t'as les tribunaux, services secrets également), y'a un peu de magie aussi mais TLDR les hommes ont moins de droits que les meufs dedans et c'est full kink tout partout
Je pourrais balancer l'organigramme qui explique tout (j'y ai passé 3-4 jours dessus avant de demander à une IA générique de m'aider à développer le truc + en détail ) mais je vais passer pour un fou si je fais ça
Tu peux le coupler à Flux ou SD pour générer des images en temps réel dans le chat non ?
Ouip totalement mais ça ralentit le GPU et ça met du temps de base (même pour voir la réaction du perso) donc perso c'est full texte avec les astérisques pour décrire les actions et les guillemets pour le dialogue, comme si tu lisais une fic X quoi
Gemma 2B à la limite je pourrais essayer, ça te répond du 500 mot/minute sans aucun soucis t'as même pas le temps de lire une phrase qu'il a déjà tout fini le paragraphe Par contre la contrepartie c'est qu'elle est pas aussi intelligente Mais ça fait le taf pour des trucs simples
Données du topic
- Auteur
- Xiosrah
- Date de création
- 7 août 2024 à 16:17:29
- Nb. messages archivés
- 37
- Nb. messages JVC
- 36