Jovan Erdeljanović je rođen u Pančevu 11. novembra (30. oktobra po julijanskom kalendaru) 1874. Završio je studije na Velikoj školi u Beogradu (istorijsko-filološki odsek).
Kao državni pitomac proveo je četiri godine u Beču, Berlinu, Lajpcigu i Pragu. Doktorat je položio u Pragu kod Lubora Niderlea 1906. Na katedri etnologije Beogradskog univerziteta 1906. izabran je za docenta, 1919. za vanrednog, a 1921. za redovnog profesora.
U etnologiji je bio prisutan više od pola veka. Pored toga što je osnivač naučne etnologije u Srba, on je i prvi profesor koji je studentima Univerziteta u Beogradu držao ciklus predavanja iz fizičke antropologije, koju je definisao kao „nauku o telesnim osobinama ljudskog roda, tj. o morfološkim osobinama i o svim drugim pojavama koje su u neposrednoj vezi sa telesnim životom“.
U njegovim uputstvima za skupljanje građe o narodnom životu, koja su štampana 1911, 1925. i 1938. godine, tražio je da se prikažu i morfološke odlike tela, natalitet i mortalitet, itd.
U radovima, u kojima se bavio etničkom strukturom stanovništva Balkana, insistira se na važnost prirodne sredine i adaptacije čoveka na nju, što se može smatrati i uticajem Jovana Cvijića, čiji je bio savremenik.
Izabran je za dopisnog člana Srpske kraljevske akademije 18. februara 1922, a za redovnog 10. februara 1933.
Umro je 12. februara 1944. godine.
