Chercheur en IA à 26 ans, je gagne 800k/an sur Paris

Le 21 juillet 2024 à 01:44:13 :

J'ai fais le même master que toi j'hésite à go thèse c'est utile ?

En soit pour les compétences non, mais si t’as pas de thèse dans les grosses boites tu seras condamné à rester research engineer et pas research scientist et c’est chiant.

Je pense c’est bien d’en faire une cifre, si tu peux la faire avec meta c’est incroyable, je crois que deepmind commence à en faire aussi. Sinon académique, quitte à arrêter en cours de thèse pour rejoindre une entreprise

Les CIFRE Meta y'a quelque chose comme 5 sélectionnés par ans ahi Le monde de l'IA est devenu plus compétitif que quand t'y es rentré je pense

Il "suffit" de faire un stage chez eux et que ça se passe bien, c'est plus facile comme ça, un pote l'avait fait

Le 21 juillet 2024 à 01:42:56 :

Le 21 juillet 2024 à 01:39:17 :

Le 21 juillet 2024 à 01:34:08 :
T'es sur que tu gonfles pas un peu ta TC quand même ? 300, 400 ou 500k ça me choquerait pas (quoique c'est déjà énorme pour quelqu'un qui a au max 3-4 ans d'xp), mais 800k permets moi d'en douter (et je fais partie du milieu)

Oui c’est exceptionnel, j’ai eu la chance de travailler sur les bons sujets un peu avant tout le monde, ce qui fait que j’ai pu négocier ça.
En general les meilleurs en sortant de thèse actuellement peuvent négocier 2M-2.5M chez Meta/Deepmind s’ils ont des super papiers et qu’ils peuvent apporter quelque chose que l’entreprise n’a pas, mais c’est pas tout le monde

Euh oui ptet si t'as fait un best paper sur pile le milieu qui va bien, et du coup c'est un sign in bonus et pas une compensation chaque année.

En tout cas si tu fais partie des rares gens qui ont sorti un papier remarquable ces dernières années, bah bravo, mais pour y avoir bossé un petit moment bah j'ai jamais entendu ces montants

Moi c’est pas sign in bonus. Merci, tu bosses dans quelle genre d’entreprise toi ?

Le 21 juillet 2024 à 01:45:23 :

Le 21 juillet 2024 à 01:44:13 :

J'ai fais le même master que toi j'hésite à go thèse c'est utile ?

En soit pour les compétences non, mais si t’as pas de thèse dans les grosses boites tu seras condamné à rester research engineer et pas research scientist et c’est chiant.

Je pense c’est bien d’en faire une cifre, si tu peux la faire avec meta c’est incroyable, je crois que deepmind commence à en faire aussi. Sinon académique, quitte à arrêter en cours de thèse pour rejoindre une entreprise

Les CIFRE Meta y'a quelque chose comme 5 sélectionnés par ans ahi Le monde de l'IA est devenu plus compétitif que quand t'y es rentré je pense

Il "suffit" de faire un stage chez eux et que ça se passe bien, c'est plus facile comme ça, un pote l'avait fait

Yes c’est le mieux, et pour avoir ce stage je pense contacter les profs du master en lien avec FB

Le 21 juillet 2024 à 01:48:12 :
Enfin bref assez parlé de salaire, tu penses quoi de toute la hype dans tout ça ? C'est quoi les horizons des LLMs dans les 5, 10 prochaines années selon toi (et tes collègues ?). Je fais partie des gens qui pensent pas que ça va bouleverser grand chose mais je suis curieux d'avoir tona vis

A chaque fois quand on voit les nouvelles applications c’est impressionnant quand même.

Si on trouve des moyens tres intelligents de générer les tokens pour avoir quelque chose qui fait un vrai raisonnement, c’est très fort et ça ouvrira la porte a encore de nombreuses choses, tu ne penses pas ?

Le 21 juillet 2024 à 01:52:54 :

Le 21 juillet 2024 à 01:48:12 :
Enfin bref assez parlé de salaire, tu penses quoi de toute la hype dans tout ça ? C'est quoi les horizons des LLMs dans les 5, 10 prochaines années selon toi (et tes collègues ?). Je fais partie des gens qui pensent pas que ça va bouleverser grand chose mais je suis curieux d'avoir tona vis

A chaque fois quand on voit les nouvelles applications c’est impressionnant quand même.

Si on trouve des moyens tres intelligents de générer les tokens pour avoir quelque chose qui fait un vrai raisonnement, c’est très fort et ça ouvrira la porte a encore de nombreuses choses, tu ne penses pas ?

J'ai un peu abandonné le milieu des LLM et des réseaux de neurones en général parce que ça me frustre de pas comprendre ce qui se passe

J'avais assisté à une conférence de Lecun qui disait que ce qui était fabuleux avec les NN c'est qu'il y a rien a comprendre parce que la machine le fait pour toi, pour moi ça veut surtout dire que le comportement d'une telle machine est complétement imprévisible.

Je serai curieux de voir un modèle de gpt qui soit spécialisé dans un truc, et pas juste entrainé sur des données qu'on connait pas, typiquement j'aimerais bien le voir entraîné que sur des maths, ou des echecs ou quelque chose comme ça. Pour l'instant c'est très impressionnant de le voir écrire du bullshit mais que ce soit du code, des maths ou de la poésie c'est complétement inutile.

Le 21 juillet 2024 à 01:56:47 :
T'as l'air legit l'op gg, au delà du salaire ça doit être incroyable d'être au coeur de l'action durant cette période de l'IA

Merci oui je mytho pas, j’ai beaucoup de chance je le reconnais. Après j’ai aussi tout fait pour faire les choix stratégiques qui pouvaient me mener là, et ensuite beaucoup travailler. Mais ça reste beaucoup de chance aussi. Et toi tu as pas dit ce que tu faisais ?
Edit: Ah si master mva

Exemple mon dernier article que j'étais en train d'écrire j'avais un peu la flemme de passer 2h pour faire une figure sur tikz, du coup j'ai essayé de demander à gpt de la faire pour moi, j'ai essayé plusieurs fois, la plupart du temps ça compilait meme pas, et quand ça compilait c'était loin de ce que je voulais

Le jour où on a une proof of concept d'un véritable assistant qui marche sur des sujets pointus je vais ptet être un peu plus enthousiaste

La machine ultime c'est la machine a donnée, prenant n'importe quel type de donnée en entrée et donnant en sortie de la donnée également

Pour moi cette machine est possible le problème sera de trouver l'algorithme et l'hardware rendant cela possible

Je pense que ce qu'il va se passer niveau développement en IA c'est que ça va faire un effet boule de neige certes on aura probablement pas une vrai intelligence qui raisonne avec les LLM (transformer ou mamba) mais ces outils vont quand même permettre aux chercheurs de découvrir des pistes intéressantes auxquels ils n'avaient pas pensé. Après il y à également le problème des données mais pour moi ça ne devrait pas être un problème les données car à terme il faudra de toute façon travailler qu'avec des IA multimodales

En Europe ce qu'il faudrait faire selon moi c'est un truc à la airbus ou bien arianne ou t'as plein de pays européens qui coopèrent car pour mois l'IA qui arrive sera quelque chose d'aussi complexe que l'industrie de l'aéronautique

Le 21 juillet 2024 à 01:57:10 :

Le 21 juillet 2024 à 01:52:54 :

Le 21 juillet 2024 à 01:48:12 :
Enfin bref assez parlé de salaire, tu penses quoi de toute la hype dans tout ça ? C'est quoi les horizons des LLMs dans les 5, 10 prochaines années selon toi (et tes collègues ?). Je fais partie des gens qui pensent pas que ça va bouleverser grand chose mais je suis curieux d'avoir tona vis

A chaque fois quand on voit les nouvelles applications c’est impressionnant quand même.

Si on trouve des moyens tres intelligents de générer les tokens pour avoir quelque chose qui fait un vrai raisonnement, c’est très fort et ça ouvrira la porte a encore de nombreuses choses, tu ne penses pas ?

J'ai un peu abandonné le milieu des LLM et des réseaux de neurones en général parce que ça me frustre de pas comprendre ce qui se passe

J'avais assisté à une conférence de Lecun qui disait que ce qui était fabuleux avec les NN c'est qu'il y a rien a comprendre parce que la machine le fait pour toi, pour moi ça veut surtout dire que le comportement d'une telle machine est complétement imprévisible.

Je serai curieux de voir un modèle de gpt qui soit spécialisé dans un truc, et pas juste entrainé sur des données qu'on connait pas, typiquement j'aimerais bien le voir entraîné que sur des maths, ou des echecs ou quelque chose comme ça. Pour l'instant c'est très impressionnant de le voir écrire du bullshit mais que ce soit du code, des maths ou de la poésie c'est complétement inutile.

C’est déjà fait par beaucoup de modèles ça d’entrainer que sur des maths.
Maintenant ils restent quand même moins bons que GPT4…
Regarde par exemple la semaine derrière il y a des chercheurs qui ont gagné une compétition kaggle sur la résolution de problèmes d’olympiades de maths, et ça marchait plutôt pas mal apparemment, en tout cas plus que ce qu’on espérait

Le 21 juillet 2024 à 02:03:04 :

Le 21 juillet 2024 à 01:57:10 :

Le 21 juillet 2024 à 01:52:54 :

Le 21 juillet 2024 à 01:48:12 :
Enfin bref assez parlé de salaire, tu penses quoi de toute la hype dans tout ça ? C'est quoi les horizons des LLMs dans les 5, 10 prochaines années selon toi (et tes collègues ?). Je fais partie des gens qui pensent pas que ça va bouleverser grand chose mais je suis curieux d'avoir tona vis

A chaque fois quand on voit les nouvelles applications c’est impressionnant quand même.

Si on trouve des moyens tres intelligents de générer les tokens pour avoir quelque chose qui fait un vrai raisonnement, c’est très fort et ça ouvrira la porte a encore de nombreuses choses, tu ne penses pas ?

J'ai un peu abandonné le milieu des LLM et des réseaux de neurones en général parce que ça me frustre de pas comprendre ce qui se passe

J'avais assisté à une conférence de Lecun qui disait que ce qui était fabuleux avec les NN c'est qu'il y a rien a comprendre parce que la machine le fait pour toi, pour moi ça veut surtout dire que le comportement d'une telle machine est complétement imprévisible.

Je serai curieux de voir un modèle de gpt qui soit spécialisé dans un truc, et pas juste entrainé sur des données qu'on connait pas, typiquement j'aimerais bien le voir entraîné que sur des maths, ou des echecs ou quelque chose comme ça. Pour l'instant c'est très impressionnant de le voir écrire du bullshit mais que ce soit du code, des maths ou de la poésie c'est complétement inutile.

C’est déjà fait par beaucoup de modèles ça d’entrainer que sur des maths.
Maintenant ils restent quand même moins bons que GPT4…
Regarde par exemple la semaine derrière il y a des chercheurs qui ont gagné une compétition kaggle sur la résolution de problèmes d’olympiades de maths, et ça marchait plutôt pas mal apparemment, en tout cas plus que ce qu’on espérait

Le meilleur LLM qu'on a pour des maths/code c'est gpt4 tel que j'y ai accès moi même ou c'est une version entrainée a laquelle j'ai pas accès ?

Parce que celle sur le site d'open AI elle pue la merde

Le 21 juillet 2024 à 01:59:47 :
La machine ultime c'est la machine a donnée, prenant n'importe quel type de donnée en entrée et donnant en sortie de la donnée également

Pour moi cette machine est possible le problème sera de trouver l'algorithme et l'hardware rendant cela possible

Je pense que ce qu'il va se passer niveau développement en IA c'est que ça va faire un effet boule de neige certes on aura probablement pas une vrai intelligence qui raisonne avec les LLM (transformer ou mamba) mais ces outils vont quand même permettre aux chercheurs de découvrir des pistes intéressantes auxquels ils n'avaient pas pensé. Après il y à également le problème des données mais pour moi ça ne devrait pas être un problème les données car à terme il faudra de toute façon travailler qu'avec des IA multimodales

En Europe ce qu'il faudrait faire selon moi c'est un truc à la airbus ou bien arianne ou t'as plein de pays européens qui coopèrent car pour mois l'IA qui arrive sera quelque chose d'aussi complexe que l'industrie de l'aéronautique

https://x.com/ylecun/status/1814308324038381618

C'est cooked pour l'Europe

Le 21 juillet 2024 à 01:58:58 :
Exemple mon dernier article que j'étais en train d'écrire j'avais un peu la flemme de passer 2h pour faire une figure sur tikz, du coup j'ai essayé de demander à gpt de la faire pour moi, j'ai essayé plusieurs fois, la plupart du temps ça compilait meme pas, et quand ça compilait c'était loin de ce que je voulais

Le jour où on a une proof of concept d'un véritable assistant qui marche sur des sujets pointus je vais ptet être un peu plus enthousiaste

Je pense c’est juste une question de données, si la generations de figure tikz etait clé pour les utilisateurs, on créerait des datasets (potentiellement synthétiquement) pour entraîner les modeles, et ils seraient bons à ça.
Pour beaucoup de cas c’est juste une question de datasets. Et d’ailleurs j’ai entendu que beaucoup de gens n’aiment plus trop travailler la dessus parce qu’ils en ont marre de faire des datasets haha

Le 21 juillet 2024 à 02:05:24 :
Ne pas feed, même un développeur back-end gagne max 100 00K par ans.

Et tu te dis pas que y'a une différence entre un dev backend et un type qui a pour tache d'utiliser plusieurs millions d'euros de ressources de calcul ?

ayaaaa l'op qui est à 800k / an
moyenne basse du forum

perso 1.3m/ an net d'impôt

Le 21 juillet 2024 à 02:07:03 :

Le 21 juillet 2024 à 01:58:58 :
Exemple mon dernier article que j'étais en train d'écrire j'avais un peu la flemme de passer 2h pour faire une figure sur tikz, du coup j'ai essayé de demander à gpt de la faire pour moi, j'ai essayé plusieurs fois, la plupart du temps ça compilait meme pas, et quand ça compilait c'était loin de ce que je voulais

Le jour où on a une proof of concept d'un véritable assistant qui marche sur des sujets pointus je vais ptet être un peu plus enthousiaste

Je pense c’est juste une question de données, si la generations de figure tikz etait clé pour les utilisateurs, on créerait des datasets (potentiellement synthétiquement) pour entraîner les modeles, et ils seraient bons à ça.
Pour beaucoup de cas c’est juste une question de datasets. Et d’ailleurs j’ai entendu que beaucoup de gens n’aiment plus trop travailler la dessus parce qu’ils en ont marre de faire des datasets haha

Bon exemple, c'est littéralement le premier essai que j'ai fait

et le deuxieme aussi :

Le 21 juillet 2024 à 02:07:20 :

Le 21 juillet 2024 à 02:05:24 :
Ne pas feed, même un développeur back-end gagne max 100 00K par ans.

Et tu te dis pas que y'a une différence entre un dev backend et un type qui a pour tache d'utiliser plusieurs millions d'euros de ressources de calcul ?

Tu ne dis toujours pas le poste que tu as, voilà la différence.