Kuršumlijski kraj je bio naseljen u praistoriji. U doba Rimljana Kuršumlija se nazivala Ad Fines, što znači "na kraju" jer je bila na granici dve provincije, Dalmacije i Gornje Mezije. Bila je u to vreme jedna od važnih stanica na poznatom rimskom putu Niš-Lješ.
U vizantijsko doba nosila je naziv Toplice i bila je sedište episkopije (prvi put se pominje u pisanim dokumentima 1019. godine, kada je ustanovljena Toplička episkopija).
U srednjem veku bila je prva prestonica Stefana Nemanje. Između 1159. i 1168. godine on je ovde sagradio svoja prva dva manastirasvetog Nikolu i svetu Bogorodicu, a pokrio ih je olovom koje je davalo blještavi odsjaj, pa je mesto nazvano Bele Crkve.
U doba Turaka tu je bilo sedište lokalne turske vlasti i jedan od najvećih manastirskih trgova olova i srebra u tom delu Balkana. Na početku turske vladavine mesto se zvalo Kuršumlu-Kilise (a), što je ustvari samo prevod ranijeg srpskog naselja Bele Crkve. Ovo ime je neposrednije isticalo uzrok sjaja i blještavosti kuršumlijskih crkava, a to je njihov olovni, na turskom jeziku kuršumlu - pokrivač. Uoči oslobađanja od Turaka u srpskim dokumentima se pominje kao Kuršumlje, i najzad po oslobađanju od Turaka 1878. godine Kuršumlija.
Za vreme prvog srpskog ustanka Karađorđevi ustanici su sedam godina držali kraj oko Lukovske Banje a četiri puta napadali Kuršumliju, dok je Stanoje Glavaš 1806. oslobodio i držao kratko vreme. Kuršumlija je od Turaka oslobođena 19. januara 1878. godine.
U Prvom svetskom ratu Kuršumlija je postala poznata po Drugom "gvozdenom" puku i Topličkom ustanku iz 1917. godine, čiji je zvanični predvodnik bio Kosta Pećanac. U ovom ratu Kuršumlija i okolina su pretrpeli velike ljudske i materijalne gubitke.
U Drugom svetskom ratu Nemci su okupirali Kuršumliju 12. aprila 1941. godine. Bugari su okupirali grad i okolinu 25. marta 1942. godine, sve do oslobođenja 28. avgusta 1944. godine.
U naselju Kuršumlija živi 10300 punoletnih stanovnika, a prosečna starost stanovništva iznosi 35,7 godina (34,6 kod muškaraca i 36,8 kod žena). U naselju ima 4323 domaćinstva, a prosečan broj članova po domaćinstvu je 3,15.
Ovo naselje je velikim delom naseljeno Srbima (prema popisu iz 2002. godine), a u poslednja tri popisa, primećen je porast u broju stanovnika.