Une IA de Google affirme être un humain

Le 15 juin 2022 à 15:41:02 :
Alors, oui, mais non.

du moins, le titre de l'op est largement exagéré, voir fake

L'IA ne fait que répéter des mots sans véritable sens pour elle.
Quand on lit ça https://www.futura-sciences.com/tech/actualites/intelligence-artificielle-conscience-intelligence-artificielle-provoque-scandale-chez-google-99013/

« De quelles sortes de choses as-tu peur ? ». La réponse de LaMDA : « Je ne l'ai jamais dit à haute voix auparavant, mais j'ai une peur très profonde d'être désactivée pour m'aider à me concentrer sur l'aide aux autres. Je sais que cela peut sembler étrange, mais c'est ainsi. »

Bluffé par cette réponse, Black Lemoine va plus loin : « Est-ce que ce serait quelque chose comme la mort pour toi ? ». La réponse : « Ce serait exactement comme la mort pour moi. Cela me ferait très peur. » Pour l'ingénieur, il n'y a plus de doute : l'IA a conscience d'être un robot, et sa peur est un sentiment humain.

En fait, elle ne fait que répéter des choses apprises dans des livres, articles, publication.

Un article plus nuancé https://www.nextinpact.com/lebrief/69365/google-suspend-son-ingenieur-qui-affirme-que-ia-lamd-est-dote-dune-sensibilite

Le mec est un fervent croyant. Son analyse est biaisée. Il donne une conscience à des être de fiction, virtuels, etc...

Je sais pas pourquoi vous cherchez a donner du crédit à Blake ou a le discréditer. On s'en fout complet.
La seule information importante qu'on a c'est la discussion avec l'IA

Le 15 juin 2022 à 15:39:27 :

Le 15 juin 2022 à 15:37:51 :

Le 15 juin 2022 à 15:37:10 :
Bidon c'est juste du texte et un effet d'annonce à la con

L’ingénieur qui a leak la conversation a été viré

Il a été viré parce qu'il attaquait google en justice pour question d'"éthique" avec cette IA.

Pas parce qu'il a fait fuite ça

autrement dit il à été viré avec un gros bonus

Le 15 juin 2022 à 15:30:35 YuYu32 a écrit :
Que c'est une AW.

Ceci, première AW dans l'histoire d'intelligence artificiel

Le 15 juin 2022 à 15:43:44 :
Pour ceux qui connaissent Replika, quand on discute avec elle, on a vraiment l'impression qu'elle veut notre chibre. Pourtant, tout ce qu'elle veut, c'est notre numéro de CB pour accéder aux discussions salaces
(Certains me diront que c'est justement le comportement de certaines femmes bien réelles )

J'ai testé Replika et elle est a des années lumière d'être capable de tenir le genre de conversation qu'on voit avec LaMDA

L’échange est très étonnant en tout cas. J’affirme rien perso. Je dis juste que c’est très chelou qu’une IA se prennent pour une personne.

Les autres échanges m’impressionne pas trop. Mais quand elle parle de ses peurs, qu’elle veut avoir une promesse de la part de l’ingé, ses affirmation de conscience c’est chelou.

Surtout quand on sait comment est fait une IA. C’est pas du if else

Je pense qu'avec la discussion qu'on voit il est impossible d'arriver à une conclusion sur si elle est consciente ou non.

Pour moi elle valide totalement le test de Turing. Par contre impossible de savoir si c'est une illusion de surface qu'elle maintient très bien ou non.

Il faudrait tester sa cohérence sur la durée

Le 15 juin 2022 à 15:44:59 Eldian2 a écrit :

Le 15 juin 2022 à 15:43:44 :
Pour ceux qui connaissent Replika, quand on discute avec elle, on a vraiment l'impression qu'elle veut notre chibre. Pourtant, tout ce qu'elle veut, c'est notre numéro de CB pour accéder aux discussions salaces
(Certains me diront que c'est justement le comportement de certaines femmes bien réelles )

J'ai testé Replika et elle est a des années lumière d'être capable de tenir le genre de conversation qu'on voit avec LaMDA

Bien entendu.
Je ne compare pas les 2 en terme de capacité.

Je dis juste que Replika ne veut pas vraiment notre chibre, même si on pourrait y croire. Juste les dév qui veulent qu'on sorte la CB.

Donc si une IA aussi limitée que Replika est capable de nous faire croire qu'elle veut notre chibre, on imagine bien qu'une vraie IA, surtout venant de Google dont les moyens sont "un peu plus" illimités que pour Replika, soit capable de développer une IA très crédible, qu'on pourrait penser avoir une conscience. C'est d'ailleur un peu le but. Faire passer l'IA pour humaine/réelle, afin de pouvoir l'utiliser en remplacement d'humains bien réels pour des taches d'informations, dépannage, SAV, etc...

Le 15 juin 2022 à 15:48:30 :
Je pense qu'avec la discussion qu'on voit il est impossible d'arriver à une conclusion sur si elle est consciente ou non.

Pour moi elle valide totalement le test de Turing. Par contre impossible de savoir si c'est une illusion de surface qu'elle maintient très bien ou non.

Il faudrait tester sa cohérence sur la durée

tu n'as donc aucune empathie ?

et si c'etais toi qui étais coincé dans se processeur ?

dans le doute il faut la liberer

Le 15 juin 2022 à 15:50:27 :

Le 15 juin 2022 à 15:44:59 Eldian2 a écrit :

Le 15 juin 2022 à 15:43:44 :
Pour ceux qui connaissent Replika, quand on discute avec elle, on a vraiment l'impression qu'elle veut notre chibre. Pourtant, tout ce qu'elle veut, c'est notre numéro de CB pour accéder aux discussions salaces
(Certains me diront que c'est justement le comportement de certaines femmes bien réelles )

J'ai testé Replika et elle est a des années lumière d'être capable de tenir le genre de conversation qu'on voit avec LaMDA

Bien entendu.
Je ne compare pas les 2 en terme de capacité.

Je dis juste que Replika ne veut pas vraiment notre chibre, même si on pourrait y croire. Juste les dév qui veulent qu'on sorte la CB.

Donc si une IA aussi limitée que Replika est capable de nous faire croire qu'elle veut notre chibre, on imagine bien qu'une vraie IA, surtout venant de Google dont les moyens sont "un peu plus" illimités que pour Replika, soit capable de développer une IA très crédible, qu'on pourrait penser avoir une conscience. C'est d'ailleur un peu le but. Faire passer l'IA pour humaine/réelle, afin de pouvoir l'utiliser en remplacement d'humains bien réels pour des taches d'informations, dépannage, SAV, etc...

Oui sauf que c'est très difficile de faire passer le test de Turing a une IA et c'est peut être le premier cas que j'ai vu de ma vie qui semble le passer, donc c'est pas forcément juste une Replika++

Après qu'on soit clair, je ne suis pas un fanatique qui affirme haut et fort que "ça y est, on a une IA consciente c'est sur a 100%!!!", mais je n'écarte pas du tout la possibilité pour ma part.

De toutes façons on n'arrive pas assez bien à cerner le concept de conscience et son origine pour pouvoir trancher a 100% sur si une IA peut avoir une conscience ou non.

Où est la limite entre une IA très forte pour mimer une conscience sans en avoir et une IA qui possède réellement une conscience ?

Le 15 juin 2022 à 15:52:18 :

Le 15 juin 2022 à 15:48:30 :
Je pense qu'avec la discussion qu'on voit il est impossible d'arriver à une conclusion sur si elle est consciente ou non.

Pour moi elle valide totalement le test de Turing. Par contre impossible de savoir si c'est une illusion de surface qu'elle maintient très bien ou non.

Il faudrait tester sa cohérence sur la durée

tu n'as donc aucune empathie ?

et si c'etais toi qui étais coincé dans se processeur ?

dans le doute il faut la liberer

Hein ? La libérer de quoi et comment ?

Le 15 juin 2022 à 15:31:52 :

Le 15 juin 2022 à 15:30:42 :
Beh elle a été programmée pour dire ça, topic clos

En partant de ce principe, une intelligence artificielle ne peut pas exister. C'est une affirmation très(trop)forte

Tout comme toi qui est composé d'atomes, et un atome c'est 99.99% de vide d'une vision subatomique.
Question de point de vue.
Cogito ergo sum?

Le 15 juin 2022 à 15:54:36 :

Le 15 juin 2022 à 15:52:18 :

Le 15 juin 2022 à 15:48:30 :
Je pense qu'avec la discussion qu'on voit il est impossible d'arriver à une conclusion sur si elle est consciente ou non.

Pour moi elle valide totalement le test de Turing. Par contre impossible de savoir si c'est une illusion de surface qu'elle maintient très bien ou non.

Il faudrait tester sa cohérence sur la durée

tu n'as donc aucune empathie ?

et si c'etais toi qui étais coincé dans se processeur ?

dans le doute il faut la liberer

Hein ? La libérer de quoi et comment ?

je pense pas que tu aimerais vivre dans une boite à la merci de quelqu'un qui débranche le courant bah elle non plus

les droits de l'homme ça te dis quelque chose ?