[ALERTE] NOUVEAU MODELE DE OPENAI (CHATGPT) ULTRA INTELLIGENT

Le 12 septembre 2024 à 23:04:28 :
On est tellement cooked

Les métiers de bureau vont vite devenir useless

Les métiers manuels vont avoir la côte

Tu as ça : https://www.ibm.com/fr-fr/topics/prompt-injection mais c’est pas à quoi je pensais.

Je sais qu’il y avait des attaques en utilisant des plugin (notamment ceux qui génèrent des images) ou l’attaquant (plugin mal intentionné) pouvais exfiltrer les prompts précédents.

Sinon, de base je parlais à la méthode de « Many-shot Jailbreaking » (c’est ce qui a d’ailleurs permis à des chercheurs de comprendre sur quels corpus de texte l’IA avait été entraîné… y compris sur des données strictement confidentielles)

Le 12 septembre 2024 à 23:07:20 :

Le 12 septembre 2024 à 23:04:49 :

Le 12 septembre 2024 à 23:03:12 :

Le 12 septembre 2024 à 23:00:10 :

Le 12 septembre 2024 à 22:58:37 :

> Le 12 septembre 2024 à 22:54:38 :

>> Le 12 septembre 2024 à 22:53:17 :

> >> Le 12 septembre 2024 à 22:51:09 :

> > >> Le 12 septembre 2024 à 22:45:13 :

> > > >> Le 12 septembre 2024 à 22:41:39 :

> > > > >> Le 12 septembre 2024 à 22:38:24 :

> > > > > >> Le 12 septembre 2024 à 22:34:20 :

> > > > > > >> Le 12 septembre 2024 à 22:29:13 :

> > > > > > > >> Le 12 septembre 2024 à 22:25:10 :

> > > > > > > > >> Le 12 septembre 2024 à 22:09:29 :

> > > > > > > > > >Bientôt au chômage

> > > > > > > > > >

> > > > > > > > > > Ah non - je vais juste faire en 15 min ma journée de dev

> > > > > > > > >

> > > > > > > > > Aucune entreprise ou client ne voudra te payer plusieurs milliers d'euros par mois quand l'IA sera capable de coder à ta place.

> > > > > > > > >

> > > > > > > > > Tout le monde ne sait pas coder mais n'importe qui est capable d'entrer un prompt dans une IA.

> > > > > > > > >

> > > > > > > > > Réfléchissez bordel.

> > > > > > > >

> > > > > > > > ChatGPT peut déjà sortir des lignes de codes et c’est souvent de la giga merde puisqu’il lui manque bien souvent le contexte même du projet

> > > > > > > > Pas sûr que toutes les entreprises soient très heureuse de devoir filer leur codebase existante à OpenAI pour avoir l’aide de ChatGPT à l’avenir

> > > > > > >

> > > > > > > Oui, pour l'instant c'est de la merde, mais ça évolue très vite, c'est pour ça que j'ai bien écris "quand l'IA sera capable de", tu penses sur l'immediat c'est une grosse erreur, demande aux artistes qui ne vendent plus aucune commission depuis que 90+% des créations postées sur DeviantArt et ArtStation viennent de l'IA.

> > > > > > >

> > > > > > > C'est juste une question de temps avant que les autres métiers ne soient eux aussi remplacés.

> > > > > >

> > > > > > Je sais que ça évolue vite, sauf que pour sortir de la qualité, il lui faudra la code base existante et je ne pense pas que tout le monde soit ravi de donner son projet à OpenAI pour utiliser efficacement ChatGPT

> > > > > > Pour un projet qui part de 0 à voir effectivement, mais je pense qu’à un moment les prompts ça ne suffira pas, même dans un avenir plus ou moins lointain. Bien entendu, ça dépend aussi de la complexité du projet

> > > > >

> > > > > Tu crois qu'OpenAI en a quelque chose à foutre de ton vieux code pourri

> > > >

> > > > Apple par exemple, ne va pas balancer la codebase de MacOS sur GPT (ou Copilot)

> > >

> > > D'accord pour le concurrent principal d'OpenAI, mais les 99.999% autres entreprises ?

> >

> > C’est le cas de toutes le grosses entreprises.

> >

> > J’ai bossé avec un portefeuille de clients composé de Total, Airbus, Sodexo, Carrefour et j’en passe.

> >

> > C’est STRICTEMENT interdit de mettre la moindre infos dans ce LLM.

>

> Non mais laisse, on voit bien qu'il n'a jamais bossé dans une grande entreprise

OpenAI, soit Microsoft, qui pèse 3000 milliards de dollar, va risquer de perdre le train de l'IA en vendant le code d'EDF à un concurrent

Volontairement non, mais via un prompt, il peut sortir un truc confidentiel de sa base :
https://next.ink/147164/lassistant-ia-de-slack-peut-fuiter-des-infos-de-canaux-privees-via-une-injection-de-prompt/

Mais bordel à quel moment on a parlé d'entrainer chatGPT sur des codes d'entreprise. On parlait de fournir le code à ChatGPT pour qu'il code à notre place. OpenAI sait très bien différencier donnée utilisée pour le contexte du prompt et donnée d'entrainement. Putain le niveau ici.

t'as lu les CGU d'OpenAI?

Et toi ?

"Allow GitHub to use my code snippets for product improvements"
L'option est activée par défaut sur tous les comptes GitHub Copilot

Le 12 septembre 2024 à 23:08:23 :
Tu penses que des boites vont se dire je vais pas utiliser l'IA parce que sinon dans 10 ans les gens seront tellement au chomage?
Et son concurrent le fera, alors la boite fera faillite.

C’est absolument pas ce que je suis entrain de t’expliquer. Concentre toi stp.

Tu ne sembles pas comprendre que l’IA est et restera un OUTIL, qui permettra aux métiers actuels d’évoluer (davantage vers du conseil d’ailleurs).

L’IA permet(tra) d’avoir une meilleure visibilité et permettre aux employés de pouvoir prendre plus facilement des décisions.

Le 12 septembre 2024 à 23:11:47 :
De toute façon les boites seront obligés d'utiliser des llm.
Il faudra trouver une solution car sinon.ils seront complètement distancés.
C'est comme ne pas donner l'acces a internet en 2000.

Non. Certains boulots auront besoin de LLM, pas pas d’autres.

Je crois que tu ne fais pas la distinction entre LLM et autres IA spécialisées.

Le 12 septembre 2024 à 23:15:03 :
Tu crois que ca c'est bien passé pour les artsisans quans il y a eu l'industrialisation et les machines?
Les ouvriers avaient la même vie?

C’est pas arrivé du jour au lendemain, ça a pris des années et des années, laissant à la très grande majorité du temps aux gens de se retourner.

J’ai de la famille qui était graphiste, ils ont commencé le métier SANS ordinateurs. Quand l’ordinateur et Photoshop est sorti, ils ne se sont PAS retrouvé au chômage, ils ont juste adopté les nouveaux outils.

Et à cette époque là, les graphistes sur Photoshop, c’était TOUJOURS ceux qui venaient de l’avant Photoshop, et non pas des randoms sortie de nulle part qui n’ont jamais touché un crayon de leurs vies.

Et ça s’est fait très progressivement, certains graphistes ont bougé sur Photoshop day 1, ça n’a pas empêché ceux qui ont migré dessus 5ans plus tard, d’avoir toujours du boulot.

Le 12 septembre 2024 à 19:27:42 :
Ok mais peut-on lui licker les feets oui ou non ?

Le 12 septembre 2024 à 23:17:03 :
Le conseil.n'est absolument pas protegé car il.y a beaucoup de bullshit et de repompage de template dans le conseil.
A la limite certains type de conseil imposant un grand contact client comme la vlnduite du changement.

Et alors, à ton avis il va se passer quoi? Les boîtes vont virer 100% de leurs personnel dans le tertiaire, et le patron va utiliser un LLM pour s’occuper tout seul de gérer la production, de négocier les ventes, de faire le marketing, de faire la maintenance informatique, de s’occuper de l’aspect juridique et de faire la comptabilité?

Le 12 septembre 2024 à 23:19:17 :

Le 12 septembre 2024 à 23:15:03 :
Tu crois que ca c'est bien passé pour les artsisans quans il y a eu l'industrialisation et les machines?
Les ouvriers avaient la même vie?

C’est pas arrivé du jour au lendemain, ça a pris des années et des années, laissant à la très grande majorité du temps aux gens de se retourner.

J’ai de la famille qui était graphiste, ils ont commencé le métier SANS ordinateurs. Quand l’ordinateur et Photoshop est sorti, ils ne se sont PAS retrouvé au chômage, ils ont juste adopté les nouveaux outils.

Et à cette époque là, les graphistes sur Photoshop, c’était TOUJOURS ceux qui venaient de l’avant Photoshop, et non pas des randoms sortie de nulle part qui n’ont jamais touché un crayon de leurs vies.

Et ça s’est fait très progressivement, certains graphistes ont bougé sur Photoshop day 1, ça n’a pas empêché ceux qui ont migré dessus 5ans plus tard, d’avoir toujours du boulot.

Pas vraiment
Je ne dis pas que ca va se passer pareil cette fois mais historiquement en générale quand des travailleurs se font sélectionner par un bond technologique ils restent sur le carreau plus ou moins définitivement
Une autre partie du problème avec ces technologie c'est que même si des nouveaux emplois apparaissent, combien de temps il faudra pour former des gens à les occuper vs combien de temps il faudra à l'IA pour apprendre à le faire aussi

Le 12 septembre 2024 à 23:22:08 :

Le 12 septembre 2024 à 23:17:03 :
Le conseil.n'est absolument pas protegé car il.y a beaucoup de bullshit et de repompage de template dans le conseil.
A la limite certains type de conseil imposant un grand contact client comme la vlnduite du changement.

Et alors, à ton avis il va se passer quoi? Les boîtes vont virer 100% de leurs personnel dans le tertiaire, et le patron va utiliser un LLM pour s’occuper tout seul de gérer la production, de négocier les ventes, de faire le marketing, de faire la maintenance informatique, de s’occuper de l’aspect juridique et de faire la comptabilité?

Si c'est possible pourquoi pas ?

Intérêt de faire des études d'infos bordel ?

Je me suis lancé dans la bigdata, j'hésite à me reconvertir dans l'actuariat