Me ha pasado que he borrado las maquinas virtuales y no los discos. Y después al borrar el Grupo de recursos me sale el fallo:
Como no me dejaba de forma GUI me he ido a mi powershell y …
Para ver los vhd:
get-azurevmimage | Where-Object -Property Category -in -Value "user"
Y par borrar
Remove-AzureVMImage –ImageName Cassandra-3-4-0-Ubuntu-14-04-635957319404376983
Así de sencillo.