Partindo da ideia de que já existia pólvora antes da 3ª era, provavelmente ocorreria algo semelhante como na história real:
História real:
-Alquimistas chineses descobrem a pólvora acidentalmente.
-Mais tarde, chineses usam pólvora militarmente forma de foguetes e bombas lançadas de catapultas.
-Passou um longo tempo para os chineses inventarem o canhão rudimentar (1126).
-Uns 200 anos depois, os árabes "inventaram" uma arma lançadora de projéteis, parecida com um rifle (1304). Mesmo assim era muito difícil criar uma arma eficiente porque os canos de metal não aguentavam o impacto da explosão. (como Meglin Celebrandir postou)
-Levou mais uns 200 anos para inventarem o mosquete.
O que eu acho que poderia ocorrer na Terra-média:
-A pólvora deve ter sido inventada antes da 3ª era.
-Mais tarde, na 3ªera, Saruman e Gandalf aprimoram os usos da pólvora.
-Saruman desenvolve uma bomba que pode ser lançada de catapultas, depois de muitas tentativas e muito tempo gasto nisso (considerando que ele estivesse com medo de perder para Rohan e Gondor).
-As bombas dariam uma vantagem para Saruman
-Gandalf, cujas habilidades são tão boas quanto as de Saruman, se vê forçado a criar um meio de inutilizar as bombas de Saruman ou de criar algo semelhante a elas. Dessa forma, ressurge a possibilidade de Saruman ser derrotado (não devemos esquecer que ele podia ser vencido pelo seu orgulho e excessiva autoconfiança).
A evolução do uso da pólvora na Terra-média, durante a 3ª era, provavelmente iria parar nas bombas de catapultas, porque foram necessários muitos anos na história real para que fossem inventados canhões.