Não existe um jeito certo de começar a jogar RPG. A melhor forma é você encontrar um grupo já formado, com gente que já jogou; mas, se não der, pesquise um pouquinho sobre alguns sistemas mais famosos e tente decidir junto com seus amigos qual parece mais legal. Lembre-se de que RPG é um jogo coletivo. Jogue o que seus amigos quiserem jogar: se eles escolherem D&D, jogue D&D, se eles escolherem Vampiro jogue Vampiro, se eles escolherem 3D&T não jogue. (Não leve esta última frase a sério; eu não gosto de 3D&T, mas há quem jogue. Eu mesmo comecei a jogar com 3D&T - embora o desgosto tenha sido imediato).
Eu recomendo D&D, por 4 razões: 1) É fácil encontrar quem jogue e onde venda, tem muitos suplementos, informações na Internet, etc 2) É bastante simples, principalmente na sua essência, mas é bem completo e tem regras que funcionam 3) É o sistema que eu mais gosto 4) Vai sair uma nova edição esse ano. O único ponto negativo é que é meio caro, porque tem 3 livros básicos (dá para jogar só com o Livro do Jogador, mas é bom ter os outros), e ainda precisa de dados especiais (de 20 lados, 12 lados, 10, 8, 4...).