Isso é apenas especulação minha, mas creio que o Gandalf só pode usar magia contra magia. Basta ver os confrontos contra o Balrog, os nazgul no topo dos ventos, Saruman ou o chefe dos nove em Minas Tirith. Acho que deve ser esta a restrição imposta pelos valares. Assim, ele não poderia usar seus poderes para dominar as criaturas mais fracas da Terra-Média. O problema é explicar Saruman. Ele parece usar seus poderes livremente. Isso me leva a crer que a restrição dos valares (está correto?) era de ordem "moral". Não haveria nenhuma bloqueio efetivo nos istari. Tudo dependeria do discernimento deles, coisa que por sinal deveria bastar para entidades tão evoluídas. O que marca a "corrupção" de Saruman é justamente o uso de seus poderes para interesses próprios. Esses poderes eram uma dádiva de Eru e o uso deles para propósitos egoístas deve ter sido uma grande ofensa aos olhos de Valinor.
Quanto a natureza da magia, creio que algo envolvendo concentração e um duelo de "saber" combina muito mais com a obra de Tolkien do que algo pirotécnico como bolas de fogo e raios (entretanto, a descrição que Gandalf faz de seu confronto com os nazgul no Topo do Vento lembra algo assim).
P.S. : Gandalf tb usa, variadas vezes, o anel de Fogo. Não considero isso como uma violação da restrição dos valar, já que não era uso dos poderes de Gandalf, mas de um objeto forjado na Terra-Média.