Klub je osnovan 20. maja 1970. godine pri fabrici konfekcije Željezničar, a igračice su bile radnice te fabrike. Nekoliko godina kasnije klub pristupa Sportskom društvu železničara „Jovan Mikić Spartak“ i menja ime u ŽFK „Spartak“, koje i danas nosi.[1]
Klub je 1974/75 bio pobednik prvog nezvaničnog prvenstva SFR Jugoslavije za žene. Tada je nastupao pod imenom ŽFK Željezničar. Narednih 40 godina klub nema takmičarske uspehe. Od 2010. godine upravljanje klubom preuzima Zoran Arsić i u sezoni 2010/11. ŽFK Spartak osvaja svoju prvu titulu šampiona Srbije, a iste sezone stiže i do finala Kupa Srbije.
U sezoni 2011/12. Spartak je otišao korak više, i po prvi put je osvojio "duplu krunu", prvenstvo i nacionalni Kup i prvi put učestvuje u UEFA Ligi šampiona za žene. Već naredne sezone (2012/13) Spartak po prvi put uspeva da se kvalifikuje u eliminacionu fazu Lige šampiona (top 32), nakon što je na kvalifikacionom turniru održanom u Subotici zauzeo drugo mesto. U prvom nastupu u 1/16 finala protivnice su bile iz FK Geteborg, šampionke Švedske. Spartak je poražen u oba meča, 1:0 na domaćem terenu i 3:0 u gostima.
Nakon osvajanja 10. šampionske titule (2019. godine) ŽFK Spartak na grb dodaje zvezdicu.