Centrocampista dotato di buona visione di gioco, grande combattività, tenacia e corsa (tanto da essere soprannominato "il maratoneta" e da essere lodato per queste caratteristiche anche da Gianni Brera), ha iniziato dalle categorie inferiori, per approdare poi alla Reggina, con la quale disputò due campionati di Serie B. Passò quindi all'Atalanta, con la quale centrò una promozione in Serie A: nella squadra orobica resta per quattro tornei. E proprio dai nerazzurri di Bergamo che Pirola passò al Pescara, nel campionato cadetto, esperienza seguita da quelle di Parma e Modena. Concluse la carriera al Pergocrema.

Giovedì 22 dicembre 2011 il Comune di Vimercate gli conferisce la benemerenza civica per meriti sportivi, definendo Giovanni Pirola come "Atleta e persona tenace e di grande combattività, nello sport e nella vita".

Il Pescara lo ha ricordato con una nota ufficiale che vi riportiamo integralmente: "La Delfino Pescara 1936 si unisce al cordoglio del mondo sportivo per la scomparsa di Giovanni Pirola che ricordiamo in riva all’adriatico come mediano del primo Pescara in B di Tom Rosati. La società porge le piu sincere e sentite condoglianze alla famiglia"