Ólmosi Zoltán érettségi után az Eötvös Loránd Tudományegyetemen történelem-német, politológia szakot végzett. A diploma megszerzését követően a pesterzsébeti Kossuth Lajos Gimnáziumban tanított, majd ezt követően, 1995-ig a Politikatörténeti Intézet tudományos munkatársa volt. Bölcsészdoktori dolgozatát 1991-ben védte meg a Petőfi Kör történetét feldolgozó disszertációjával. A rendszerváltoztatás idején családi vállalkozást vezetett, majd általános iskolai történelemtanárként helyezkedett el. 2003-tól nyugdíjazásáig a Magyar Országos Levéltár (2012-től Magyar Nemzeti Levéltár) levéltárosa, főlevéltárosa, főtanácsosa volt.
A „Nyitott levéltárak” programsorozat keretében tudományos konferenciákat, kiállításokat szervezett, többek mellett kiállítást rendezett Habsburg Ottó születésének 100. évfordulója alkalmából 2012-ben. Több konferencián, kerekasztalbeszélgetésen előadóként is fellépett és bekapcsolódott az Országos Levéltár által rendezett közművelődési programok szervezésébe, lebonyolításába is. Tudományos tevékenységet is végzett, kutatási területe az 1945 utáni politika- és társadalomtörténet. Ezen időszakból számos cikket, tanulmányt, forrásközlő kötetet, ifjúságtörténeti kronológiát írt.
Kiadványszerkesztői feladatokat is ellátott. 1979-1995 között a Múltunk című történeti folyóirat szerkesztője, 1989–1991-ben a Magyar Nemzet „Fehér Foltok” című sorozatának szerkesztője. A történeti és levéltárszakmai folyóiratoknál: 2003–2005 között, majd 2009-ben a Levéltári Közlemények című lap szerkesztője, 2003–2005 között, majd 2011–2018 között a Levéltári Szemle olvasószerkesztői, szerkesztői és felelős szerkesztői feladatait látta el. 2010-től 2016-ig főszerkesztője volt a 20. század történelmével foglalkozó, ArchívNet című elektronikus forrásközlő folyóiratnak.
Képzési feladatokban is részt vett. 1983–1987-ben az Eötvös Loránd Tudományegyetem Bölcsészettudományi Karán 20. századi magyar történelmet, 2013–2014-ben a Magyar Nemzeti Levéltár által szervezett iratkezelő és segédlevéltáros képzést nyújtó OKJ tanfolyamok rendszeres előadójaként közigazgatástörténetet tanított.
Ólmosi Zoltán nyugdíjba vonulását követően is dolgozott. A Habsburg Ottó Alapítványnál gyűjteményi munkatársként iratrendezési, segédletkészítési és adatbázisépítési feladatokat végzett. Alapítványunknak a Corvina kiadónál megjelent, a Magyar Nemzeti Levéltárral közös, Habsburg Ottó és az államhatalom. Levéltári források az utolsó magyar trónörökösről című (Kocsis Piroskával közösen szerkesztett) munkája 2020-ban „Az Év Levéltári Kiadványa” első díját nyerte el a szakmai kiadványok kategóriában.
Dr. Ólmosi Zoltán levéltári munkáját több évtizeden át, magas színvonalon, példaértékű elhivatottsággal végezte.
Isten nyugosztalja!