Se la carriera di un calciatore potesse essere valutata dalla considerazione e dal rispetto da parte dei tifosi, piuttosto che soltanto dal numero dei trofei o delle vittorie, allora Jim Cruickshank sarebbe uno dei giocatori di più gran successo della sua generazione.

Cruickshank, la cui carriera da portiere è stato agevolata dal suo talento di ginnasta, iniziò a giocare con i Drumchapel Amateurs nella nativa Glasgow prima di firmare per il Queen's Park nel 1959 con cui giocò 30 partite prima che l'allenatore degli Hearts Tommy Walker gli facesse firmare un contratto da professionista nel maggio 1960.
Cruickshank debuttò in prima squadra a 19 anni, nella sconfitta fuoricasa contro lo Ayr United, chiuso però dal titolare Gordon Marshall. Giocò il replay della finale di League Cup 1961 per l'infortunio di Marshall, persa dagli Hearts (1-3) contro i Rangers.
Il giovane Cruickshank mal digeriva la non titolarità a tal punto che nel 1963 se ne andò dal club, minacciando di non tornare mai più quando Marshall gli venne nuovamente preferito per la gara di Coppa di Scozia contro il Celtic. Quando Marshall si trasferì al Newcastle, la maglia numero 1 degli Hearts divenne sua.
Nel 1964 fece il suo esordio in nazionale nel pareggio (2-2) contro la Germania Ovest. Ma fu un'apparizione estemporanea perchè Cruickshank tornò a indossare la maglia della Scozia solo dopo 6 anni, In totale saranno 6 le presenze in nazionale, incluso un clean sheet nello 0-0 contro l'Inghilterra davanti ai 137.000 spettatori di Hampden Park nel 1970. Probabilmente non ricevette in nazionale la considerazione che meritava. Si diceva che fosse troppo "piccolo", ma ovviamente non era così.
Purtroppo, con gli Hearts, Cruickshank non riuscì a vincere un titolo che avrebbe meritato per la sua carriera, ma solo piazzamenti o delusioni, come le due finali di Scottish Cup perse nel 1968 e nel 1976.
Dal 1960 al 1977 giocò complessivamente 528 partite con gli Hearts, il quarto giocatore con più presenze nella storia del club.
Anche il suo addio da Tynecastle non rese onore alla sua dedizione al club. Nel 1977, con la retrocessione del club, la società non gli rinnovò il contratto e la partita di addio che gli era stata promessa non venne mai giocata.
La stagione successiva, Cruickshank giocò altre tre partite con il Dumbarton prima di ritirarsi.
La ferita lasciata dall'amaro addio dagli Hearts non si rimarginò mai. Nonostante i numerosi inviti e richieste, non mise mai più piede a Tynecastle. Molti tifosi non lo hanno mai dimenticato, per l'attaccamento e la voglia di non mollare mai. Una volta uscì dalla sua area di rigore per rimproverare tutti i suoi compagni di squadra che riteneva responsabili di un gol subito. Non ci stava nemmeno a perdere una partita a carte sul pullman della squadra. È stato per quell'atteggiamento che è ancora considerato da molti che lo hanno visto in azione come il miglior portiere degli Hearts.