Игуменья старица Августа, как говорят о ней документы, была искусна в чтении и пении, умела шить золотом и писать иконы. При ней было закончено строительство колокольни и каменной ограды вокруг монастыря. Число насельниц увеличивалось, а следовательно, возникла необходимость в построении новой соборной церкви. Мать Августа, по благословению преосвященного Феоктиста, обращалась к опекунам малолетнего графа за помощью в построении каменного храма, но получила отказ. Тогда игумения, по благословению архиерея, стала собирать средства среди благотворителей.
В 1820 г. игумения Августа обратилась к графу Дмитрию Николаевичу, уже вступившему тогда в управление своими имениями, и просила оказать помощь в ее благом начинании. Граф принял ее просьбу, утвердил смету, план и фасад будущего храма.
16 июня 1821 г. епископ Курский и Белгородский Евгений дал благословение на закладку церкви.
4 мая 1822 г. на месте прежнего деревянного Тихвинского храма состоялась торжественная закладка первого каменного храма Борисовской пустыни. При этом присутствовали бывший Курский архипастырь епископ Евгений (незадолго до того переведенный архиепископом в Псков), новый Курский епископ Владимир, архимандрит Белгородского мужского Николаевского монастыря Иоасаф Юнаков и священнослужители Борисовской пустыни и слободы.
В первой четверти XIX в. в Борисовской пустыни было введено новое чиноположение по уставу святых отцов, принятому во многих пустынных обителях. Нововведением монастырь обязан двум девицам-дворянкам Анне и Матроне Яковлевным Толбузиным. Они поступили в обитель в 1815 г. из Севского Троицкого монастыря, где существовал строгий чин и порядок монастырской жизни. В Борисовскую пустынь они перешли по благословению старца Площанской пустыни иеромонаха Василия Кишкина. На следующий год они были пострижены в монашество с наречением имен Акилина и Херувима. В пустыни сестры сразу обрели единомышленниц в лице монахинь– дворянок Евпраксии, Маргариты Симоновой, Аркадии Житковой, Досифеи Веревкиной и Анатолии Еновской, позднее ставшей игуменьей Борисовской пустыни. Игуменья Августа подала прошение владыке Евгению, обратиться за составлением нового чиноположения к строителю Глинской пустыни старцу иеромонаху Филарету. В 1821 г. о. Филарет прибыл в Борисовскую пустынь и завел в ней пустынный устав, несколько облегченный для женских обителей.