A vida de Babaji está envolta em mistério. Uma figura análoga é al-Khadir, conhecida no Islã e anterior ao Islã como uma personagem divina que apareceria para os profetas e mestres espirituais desde os tempos bíblicos. Como al-Khadir, Babaji têm a reputação de ter aparecido para várias personagens espirituais ao longo dos séculos. Baba Hariharananda alertou para o fato de que muitas pessoas que escreveram e escrevem sobre Babaji afirmam falsamente tê-lo conhecido, e que quanto mais uma pessoa escreve sobre ele, maior a probabilidade de que a história seja fabricada.

Babaji iniciou Lahiri Baba nas técnicas de Kriya Yoga. Ele também apareceu a Sri Yukteswarji, para alguns outros discípulos avançados de Lahiri Baba e para Yoganandaji. Baba contou como Babaji apareceu para ele no Ashram de Karar em 1947. Quando Baba (Hariharananda) teve consciência da presença física de Babaji ele se assustou e, para grande decepção de Baba, Babaji desapareceu. Depois de alguns minutos, Babaji apareceu novamente. Baba tocou os pés de Babaji e Babaji conversou com Baba sobre seu futuro, eventos mundiais futuros e se alimentou com alguma comida que estava em uma bandeja na sala. Antes de sair, Babaji pediu que Baba permanecesse na sala por um curto período, assim ele o fez. Durante a conversa, um swami estava presente do lado de fora da sala com os alunos da escola do ashram que estavam tocando. Quando Baba saiu, perguntou se o swami tinha visto alguém sair. O swami respondeu que ele não viu ninguém sair, mas que ele ouviu uma pessoa falando com Baba dentro da sala.