Первое упоминание об однокомплектной церкви во имя Богоматери «Всех скорбящих Радость» при богоугодных заведениях Курского приказа общественного призрения встречается в переписи населения за 1834 г. В более ранних документах церковь именуется как Богородичная больничная, позднее – Скорбященская при Курских богоугодных заведениях. Она расположилась в здании больницы Приказа общественного призрения на углу улиц Садовой и Лазаретной (теперь - Семеновской).
Домовая церковь находилась прямо в центре главного больничного здания (сейчас это Курский кожно-венерологический диспансер - ул. Садовая, 40), построенного в 1799 по проекту П.С. Грознова в стиле классицизма. Внешне здание выделялась шестиколонным портиком ионического ордера. Его увенчали куполом с золотым крестом на массивном световом барабане. Вход находился в центре фасада, обращенного на улицу Лазаретную.
При Скорбященской церкви в 1838 году в лазаретном дворе была возведена часовенка с главкой и крестом. В 1842 году церковь посетил император Николай I, который присутствовал здесь на богослужении и пожаловал протоиерею Роману Гладкому дорогой перстень. В 1867 году при часовне организована комната для проведения вскрытий. За содержание часовни отвечали настоятель Скорбященской церкви и смотритель.
После Октябрьской революции домовая церковь иконы Божией Матери «Всех Скорбящих Радость» в числе прочих курских храмов была закрыта. В списках действующих молитвенных и религиозных объединений по г. Курску на 1-е июня 1937 г. Скорбященская церковь уже не значилась.
В 1930-е годы в здании размещалась народная больница. Президиум Курского городского Совета рабочих, крестьянских и красноармейских депутатов в 1932 г. принял постановление о разборке купола нарбольницы «ввиду того, что ремонт самого купола в лечебном заведении не имеет смысла и потребует лишних расходов, между тем как разбор его увеличит площадь помещения до 15 м, и даст кирпича нужного в строительстве около 50 тыс. шт... купол здания, с поддерживающими его устоями, разобрать».
2 января 2004 года была образована православная община в честь иконы Божией Матери «Всех скорбящих Радость».
23 июля 2004 года комитет по управлению имуществом передал в безвозмездное бессрочное пользование новообразованной общине здание бывшей часовни. 6 ноября 2007 года храм был освящен архиепископом Курским и Рыльским Германом.