Conseguí la solución por otro lado. Entras en la terminal, te logueas como root con tu contraseña de root o con el comando "sudo su" y tu contraseña de usuario y luego entras a donde se encuentran los archivos de windows en la EFI, en mi caso fue con el comando
cd /boot/efi/EFI
Y luego para borrar los archivos
rm -r Microsoft
Después de eso actualizar grub
update-grub
Y listo