Son corps est retrouvé dans le Danube le 29 avril 2012, la police recherche notamment un journaliste étranger qui avait raconté à la presse autrichienne, dans un premier temps, qu'il était mort chez lui d’une crise cardiaque et demande des examens toxicologiques. Le 11 juillet 2012, le parquet autrichien conclut que l'ancien chef du gouvernement libyen est mort noyé après avoir subi une crise cardiaque. Toutefois, des échanges entre la secrétaire d'État américaine Hillary Clinton et ses conseillers à ce sujet font état d'une mort « hautement suspecte ». Ce décès brutal est notamment survenu le lendemain même de l'annonce par Mediapart que Kadhafi avait décidé de débloquer 50 millions d'euros pour la campagne de Nicolas Sarkozy. Certains proches d'Alexandre Djouhri confient aux journalistes Joan Tilouine et Simon Piel avoir « fait faire glouglou » à Choukri Ghanem.
D'ailleurs c'est lui qui possédait le fameux carnet de notes retrouvé bien plus tard qui contenait des écrits à propos des financements de Khadafi pour la campagne présidentielle de Sarkozy.