chatGPT et la conscience

J'ai créé une discussion où j'ai demandé à chatGPT de me détailler les étapes pour tester si une IA comme lui est capable d'être conscient.
Une de ces étapes est "Le test d'empathie".
Je lui ai demandé de simuler ce test et voici ce qu'il m'a pondu de toute pièce:

Que doit on en penser ?
Car si il peut se simuler une conscience peut on dire qu'il a une forme de conscience

deja faudrait quon sache ce qu’est la conscience et objectivement on en sait rien

C'est pas faux

des avis d'experts en philosophie de la vie ? je croyais m'adresser à l'Elite du monde en venant ici