W drugiej połowie XIX w. Karaimi zaczęli licznie osiedlać się w miastach imperium rosyjskiego, w tym także w Warszawie. Byli to przede wszystkim pochodzący zarówno z Krymu, jak i z Litwy kupcy, jak Borys i Irena Szyszmanowie czy Szymon Chorczenko, właściciel sklepu tytoniowego przy Wierzbowej 5, oraz urzędnicy, jak na przykład Mojsiej Pilecki, zajmujący wysokie stanowisko w kancelarii gubernatora. Na początku lat 90. XIX w. karaimska społeczność była już na tyle liczna, że zaistniała potrzeba utworzenia na miejscu cmentarza – powstał on w 1891 r. na zakupionej na Woli działce przy ulicy Redutowej. Czynny do dziś, jest jedynym karaimskim cmentarzem na terenie Polski.
W okresie międzywojennym w Warszawie mieszkało kilkunastu Karaimów. Byli wśród nich kupcy, jak Szymon Nowicki, który ożenił się z wdową po Szymonie Chorczence, Dorotą z Firkowiczów i przejął sklep na Wierzbowej, a także profesor Uniwersytetu Warszawskiego, orientalista Ananiasz Zajączkowski z rodziną, Izajasz Jutkiewicz, mechanik w Państwowych Zakładach Lotniczych na Okęciu, Emil Kobecki, naczelnik II Wydziału Najwyższej Izby Kontroli czy inżynier Jan Pilecki, pracownik Polskiego Radia, który podczas obrony Warszawy we wrześniu 1939 r. nagrywał przemówienia prezydenta miasta, Stefana Starzyńskiego. Karaimi przyjeżdżali do stolicy także po naukę: na Uniwersytecie Warszawskim studiował Józef Sulimowicz z Halicza, na Politechnice – Gabriel Pilecki z Łucka.
Adam Dubiński, Karaimi w dawnej Warszawie. Wirtualna mapa. Warszawa 2020