Urodził się 01.06.1769 r. w Grodkowie na terenie dzisiejszego woj. opolskiego. Już w dzieciństwie ujawniał zamiłowanie do muzyki (uczęszczał do szkoły powszechnej w Grodkowie i śpiewał w chórze kościelnym). Od 1781 uczył się i śpiewał w szkole przy klasztorze dominikanów oraz w jezuickim Gimnazjum św. Macieja we Wrocławiu. Śpiewał tam i grał początkowo w chórze i kapeli klasztornej, następnie w chórze operowym i w orkiestrze teatralnej. W tym czasie uczył się gry na skrzypcach oraz basu cyfrowanego. Wcześnie też zaczął komponować. W 1782 w kościele św. Wojciecha we Wrocławiu został wykonany jego motet Ave Maria gratiae plena na dwa głosy solowe z towarzyszeniem instrumentów.

Portret Józefa Elsnera

Dysponując pięknym głosem Elsner odnosił sukcesy jako solista. W 1785 r. wykonał w kościele św. Elżbiety solową partię sopranową w oratorium pasyjnym Der Tod Jesu C.H. Grauna. Występ ten zwrócił nań uwagę muzycznego środowiska Wrocławia. Muzykował też jako skrzypek kameralista.

Na uniwersytecie we Wrocławiu rozpoczął studia teologiczne, wkrótce potem przeniósł się na lekarskie i zamierzał je kontynuować w Wiedniu, dokąd wyjechał jako stypendysta Grodkowa w 1789. Tam postanowił jednak poświęcić się całkowicie muzyce i w 1791 r. przeniósł się do Brna (Morawy) na posadę skrzypka w orkiestrze teatralnej.

Okres polski.

W 1792 r. udał się do Lwowa, gdzie objął stanowisko kapelmistrza tamtejszego teatru. Wkrótce wystawił w nim swoje dwie opery do tekstów niemieckich (Die seltenen Brüder, Der verkleidete Sultan). Gdy Wojciech Bogusławski objął w 1795 r. prowadzenie niemieckiego teatru lwowskiego, Elsner został jego współpracownikiem. Odtąd zaczął komponować opery polskie do tekstów Bogusławskiego. Zachowała się z nich tylko jedna: Amazonki, czyli Herminia. W tym czasie Elsner zaczął się interesować polską muzyką ludową i wplatać wątki ludowe do swoich utworów instrumentalnych (Sonata fortepianowa D-dur). W 1796 r. napisał trzy tria fortepianowe oparte na tematach z opery Krakowiacy i Górale Jana Stefaniego. Motywy z tej opery pojawiają się również w późniejszej o niemal dekadę symfonii C-dur.

W latach 1795–1797 organizował we Lwowie cotygodniowe koncerty w ramach założonego przez siebie towarzystwa pn. Akademia Muzyczna. Na program koncertów składały się symfonie J. Haydna, W.A. Mozarta, Vranickiego, koncerty na instrumenty solowe oraz muzyka wokalna. Wykonano również 3 symfonie Elsnera, które zaginęły.

Od 1798 r. Elsner nawiązał stosunki z wydawcami za granicą. Wydał w Wiedniu u Johanna Traega 3 kwartety smyczkowe du meilleur goüt polonais. W tym samym roku stworzył również Trio B-dur na fortepian, skrzypce i wiolonczelę, opublikowane w Wiedniu pod tytułem Grande Sonate pour le Clavecin avec l’accompagnement d’un Violon et Violoncelle obligé.

W roku 1799 Elsner przeniósł się na stałe ze Lwowa do Warszawy.

Do roku 1824 prowadził operę w Teatrze Narodowym, wzbogacając jej repertuar własnymi dziełami (30 oper i 2 balety), a z repertuaru obcego preferując operę francuską. Równocześnie prowadził własną sztycharnię nut, gdzie wydawał dzieła kompozytorów polskich. Zapoczątkowała ona powstawanie tego rodzaju przedsiębiorstw w Warszawie.

W latach 1803–1805 wydawał pierwszy w Polsce miesięcznik nutowy pt. „Wybór Pięknych Dzieł Muzycznych i Pieśni Polskich”. W 1805 został członkiem Warszawskiego Towarzystwa Przyjaciół Nauk, 1805–1806 brał czynny udział w Resursie Muzycznej, głównie przy organizowaniu koncertów, na których wykonywano m.in. wczesne symfonie L. van Beethovena. W okresie 1814–1825 działał w Towarzystwie Muzyki Religijnej i Narodowej, którego był współzałożycielem. Przez wszystkie te lata rozwijał działalność pedagogiczną, ucząc śpiewu na terenie opery oraz „muzyki i śpiewania” w Szkole Dramatycznej Bogusławskiego. Potem wykładał teorię i kompozycję w prowadzonych przez siebie szkołach muzycznych: 1817–1821 w Szkole Elementarnej Muzyki i Sztuki Dramatycznej, 1821-26 w Instytucie Muzyki i Deklamacji, czyli konserwatorium, a 1826–1831 w Szkole Głównej Muzyki, związanej wykładami z Uniwersytetem Warszawskim. Na tej uczelni wykształcił wielu polskich kompozytorów, wśród nich Fryderyka Chopina, którego uczył już od 1822. Jako nauczyciel trafnie ocenił talent Chopina, pisząc na świadectwie szkolnym: „szczególna zdatność, geniusz muzyczny”. Z Chopinem łączyły Elsnera uczucia prawdziwej przyjaźni; świadczy o tym m.in. zachowana korespondencja: 6 listów Elsnera do Chopina i 5 listów Chopina do Elsnera.

W latach 1835–1839 Elsner prowadził „wyższe kształcenie głosu” w Szkole Śpiewu przy Teatrze Wielkim. Uniwersalizm zainteresowań Elsnera wyraził się także w jego żywym stosunku do zagadnień polskiego folkloru. Zbierał materiały dotyczące muzykowania ludowego. Starał się uchwycić cechy melodyczne i metrorytmiczne polskiej muzyki ludowej, szczególnie jej najstarszych przekazów, a ponadto muzyki ludów słowiańskich w ogóle. Jako kompozytor poszukiwał ideału melodii wypływającej z ducha języka polskiego z uwzględnieniem jego właściwości metrycznych i intonacyjnych. Świadczą o tym dwie rozprawy: Rozprawa o metryczności i rytmiczności języka polskiego i Rozprawa o melodii i śpiewie. Elsner był członkiem honorowym licznych towarzystw muzycznych w kraju oraz lipskiego Musikverein der Universitätskirche St. Pauli. W Paryżu wykonano kilka jego utworów fortepianowych oraz kwartet. Skomponował tam operę pt. Chimère et réalité do tekstu francuskiego, która została wykonana dopiero w Warszawie (1808) w polskim przekładzie.

Za zasługi na polu muzyki został odznaczony w 1823 roku Orderem Świętego Stanisława IV klasy.

Grób Elsnera znajduje się na cmentarzu Powązkowskim w Warszawie.