История прихода ведется с 1518 года, когда по повелению московского царя Василия Иоанновича III в честь победы Рыльского князя Василия Шемяки над татарами, пришедшими грабить северские земли, был построен деревянный храм в честь Успения Пресвятой Богородицы. В 1797 году на его месте начали возводить новый, каменный – на средства Рыльского купца Иоанна Федотовича фон-Филимонова.
 В 1811 году в нем освятили три престола: центральный – в честь Успения Пресвятой Богородицы, левый – в честь святителя Василия Великого и правый – в честь Иоанна Предтечи. На третьем ярусе колокольни устроена звонница, на четвертом  установлены четырехсторонние башенные часы, аналог Кремлевских курантов. Искусно было устроено отопление амосовскими печами: горячий воздух проходил по каналам под полом и по керамическим трубам, встроенным в стены.
В 1840 году Указом Священного синода Успенская церковь становится соборной, в ней устанавливается кафедра правящего архиерея. Приход насчитывал 4182 прихожанина. При соборе действовали пять школ: четыре земских и одна церковная. В храме трудились семь священнослужителей и один сверхштатный дьячок.
Во время богоборчества ХХ века и эта Святыня не избежала общей участи. В 1936 году собор был закрыт, а на его территории расположилась войсковая часть. Церковь претерпела страшные разрушения и осквернения. В 1960 году храм был взят под охрану государством как памятник архитектуры федерального значения, а с 1985 года начались реставрационные работы, которые продолжаются и по сей день.
 В 1999 году в соборе возобновилась приходская служба, а в 2002 году состоялось освящение северного придела и начались регулярные богослужения.
 За последние десять лет при поддержке Министерства культуры РФ, архиепископа Курского и Рыльского Германа, прихожан, организаций и неравнодушных людей частично произведены восстановительные работы: отремонтированы главки храма и колокольни, установлены все окна и двери, восстановлена потолочная часть и настелена новая крыша, частично выполнены штукатурные работы и ремонт пола, в Курске реставрируются башенные часы.