Urodzony ok. 1820 roku, a zmarł w Warszawie 8 lipca 1886 r. Pochodził z dobrze sytuowanej rodziny mieszczańskiej o żydowskich korzeniach. Ukończył prywatną szkołę realną, a po edukacji został sekretarzem synagogi postępowej przy ul. Daniłowiczowskiej w Warszawie. Od 1840 roku w Warszawskiej Szkole Rabinów wykładał język polski.

Jako Żyd opowiadał się za asymilacją swojej diaspory z Polakami, przekonując ich do tego w swoich licznych pismach i wykładach. Był niezwykle czynny w żydowskiej gminie.

Sprawował również funkcję sekretarza Dozoru Szkół Elementarnych Wyznania Mojżeszowego, a zarazem był ich nadzorcą. Pracował również w redakcji „Gazety Warszawskiej”.

W 1857 roku wystąpił wraz z innymi przedstawicielami żydowskiej inteligencji z prośbą do władzy o zezwolenie na wydawanie w języku polskim i hebrajskim tygodnika „Izraelita”, który miał powstać „w duchu religii i moralności, dostosowany do pojęć czasu i miejscowości”. Cała inicjatywa jednak nie doszła do skutki, urząd na nią nie zezwolił.

Jakub Elzenberg wydał m. in. Drogę wiary lub Przewodnik religijny dla młodzieży wyznania mojżeszowego w 1846 r. Prócz tego opublikował również powieści z Pisma Świętego Starego Przymierza dla młodzieży wyznania mojżeszowego w latach 1856, 1859 i 1872 oraz Książkę do czytania, zawierającą przedmioty dzieciom najpotrzebniejsze w 1863 r. Ostatnia wspomniana doczekała się aż dziesięciokrotnego wznowienia. Elzenberg przetłumaczył również z francuskiego Mitologię dla dzieci w 1846 roku.

Uchodził za niezwykle poczytnego pisarza wśród młodzieży. Jego rola w asymilacji Żydów była nieoceniona.

Po zamknięciu Szkoły Rabinów został powołany jako jeden z czteroosobowej komisji, mającej wydawać rabinom świadectwa kwalifikacyjne.

Zmarł 8 lipca 1886 roku, a jego ciało zostało pochowane na cmentarzu żydowskim przy ul. Okopowej w Warszawie. Grób znajduje się dokładnie w kwaterze 33, rząd 3.