А история этого места восходит к 1754 г., когда свт. Иоасаф уезжал из Белгорода на родину в Прилуки. Зная, что обратно он уже не вернется, владыка совершил последнюю литургию в Троицком кафедральном соборе, произнес поучение к пастве, слезно попросил у всех прощение и сам всех простил и благословил. После этого он отправился в путь. На Харьковской горе святитель приказан остановить лошадей, вышел из экипажа и повернулся лицом к городу. Перед ним лежал Белгород, возвышались купола храмов, кафедральный Троицкий собор, под которым он повелел устроить себе склеп. У подножия горы собралось множество народа во главе с духовенством. В последний раз преосвященный Иоасаф окинул взглядом город и благословил его. Это было 29 мая.
Спустя полтора века почитатели святителя решили увековечить место прощания его с паствой. Однако места, где остановился экипаж, к тому времени уже никто не помнил, и поэтому оно было выбрано предположительно.
На Харьковской горе, имевшей второе название – Тавровская, был установлен массивный деревянный крест. Па его лицевой стороне было изображено Распятие Христа, на другой – лики святых: почитаемого белгородцами Николы Ратного, Константинопольского Патриарха Афанасия и свт. Иоасафа Белгородского.
Открытие памятника-креста на Харьковской горе состоялось 5 июля 1915 г.
На торжество собралось множество народа, люди заполнили не только собор, но и всю прилегающую площадь.
Кроме сооружения памятного креста намеревались неподалеку устроить и колодец, чтобы проезжающие и приходящие по Большой дороге люди могли задержаться у памятника и утолить жажду свежей прохладной водой.
Замысел этот осуществить тогда не удалось – шла первая мировая война.
Белгородцы вернулись к давнему замыслу лишь в XXI в. В 2003 г. был освящен святой источник. Он был открыт в год столетия канонизации прп. Серафима Саровского и потому назван его именем. Часовня над источником выполнена в стиле русского деревянного храмового зодчества и представляет собой два строения, соединенные аркой.