Петр Бельковский — сын священника из села Рождествино Каширского уезда Тульской губернии. В 1864 году 23-летний Петр Бельковский окончил Тульскую духовную семинарию со званием студента. Женился, в семье родилось пятеро детей.
5 марта 1867 года рукоположен в сан священника к Александро-Невской церкви, что при больничных заведенияхгорода Тулы. В это время он состоял учителем певческой архиерейской школы, в Тульской местной артиллерийской команде при ТОЗе, в школе Тульского мещанского общества и Михайловского детского приюта и законоучителем в двух земских школах — мужской и женской на Арсенальной улице. С 1873 по 1879 год — член правления Тульского духовного училища. В 1874 году был назначен законоучителем в школу мещанского общества. 17 мая 1875 года перемещен в Тульский кафедральный собор.
1 сентября 1879 года по прошению Тульского мещанского общества перемещен священником и законоучителем к тульской Михайловской церкви при Михайловском детском приюте. 27 июля 1886 года по собственному прошению перемещен к тульской Александро-Невской церкви, что на плац-парадном месте.
В 1883-1890 годах — член наблюдательного комитета по Тульскому епархиальному свечному заводу, член Строительной комиссии по переустройству зданий Тульского духовного училища. С 1882 по 1885 год — уполномоченный на съездах духовенства Тульской епархии, член совета от духовенства Тульского епархиального свечного завода.
При архиерейском служении в кафедральном соборе именно ему чаще других поручалось говорить проповеди. Он устраивал и сам активно участвовал во внебогослужебных религиозных беседах и чтениях.
Много усилий употребил священник на устроение приходской школы, в которой училось в то время восемьдесят детей. Кроме обычных предметов ученики обучались также церковному чтению и пению. Во время некоторых праздников дети целиком исполняли все песнопения литургии. Ученики по очереди читали шестопсалмие и часы, были хорошо обучены богослужебному уставу и сами находили в книгах необходимые тексты.
В 1891 году Тульскую губернию вследствие неурожая поразил голод. Некоторые из крестьянских семейств, чьи дети обучались в школе, остались без средств к пропитанию. Родители не могли дать детям в школу даже куска хлеба. Был случай, когда мать покинула дом, только бы не видеть вернувшегося из школы голодного сына, накормить которого ей было нечем. Видя такое положение, священник Петр при поддержке приходского совета организовал помощь голодающим детям. В устроенной при храме богадельне стал ежедневно готовиться горячий завтрак для учеников — детей беднейших родителей.
Благодаря о. Петру Александро-Невский храм, находившийся на окраине города, где проживало беднейшее население, стал одним из центров просвещения и благотворительности. Здесь образовался крепкий приход, который, несмотря на скудость средств, создал такие благотворительные учреждения, каких не было и в состоятельных приходах города — богадельню и школу. При проведении ревизий церковноприходских школ школа при Александро-Невском храме получала от проверяющих неизменно высокую оценку в постановке преподавания Закона Божия и за успехи учеников в освоении изучаемых предметов.
В 1896 году при Александро-Невской церкви была открыта бесплатная народная библиотека-читальня в помещении местной церковноприходской школы.
9 апреля 1897 года о. Петр был возведен в сан протоиерея. В том же году овдовел.
7 марта 1898 года был пострижен в монашество с именем Алексий с причислением его к братству Тульского архиерейского дома. 13 марта 1898 года был назначен настоятелем Старорусского Спасо-Преображенского монастыря с возведением в сан архимандрита, которое состоялось 14 марта 1898 года в Исаакиевском соборе Санкт-Петербурга. Одновременно с 1898 года архимандрит Алексий был назначен благочинным женских монастырей, Старорусского уезда, Николаевского Косинского и Успенской Рдейской пустыни, а с 1900 года состоял благочинным Новгородских мужских монастырей, причем ему поручено было заведование экономическою частью монастырей: Хутынского, Антониева и Юрьева.
20 августа 1904 года был вызван в Санкт-Петербург, где 5 сентября 1904 года в был хиротонисан во епископа Великоустюжского, викария Вологодской епархии и назначен настоятелем Устюжского Михаило-Архангельского второклассного необщежительного монастыря.
28 сентября прибыл в Великий Устюг.
Насущной потребностью стало в то время образование народа, и в этой связи почти во всех епархиях стали устраиваться педагогические курсы для учащих в церковноприходских школах. Летом 1908 года такие курсы были устроены в Великом Устюге для учащих церковноприходских школ Устюжского викариатства.
С 9 декабря 1909 года — первый викарий Вологодской епархии.
При епископе Алексии было выстроено женское епархиальное училище, в деятельности которого владыка принимал постоянное участие. Во время служения епископа Алексия в Великом Устюге было построено и освящено несколько храмов, один из последних в 1916 году — храм во имя святителя Митрофана, Воронежского чудотворца, выстроенный при Великоустюжском тюремном замке, в котором суждено было умереть владыке через двадцать один год.
С 12 октября 1916 года именуется епископом Великоустюжским и Устьвымским. В начале двадцатых годов епископ Алексий был возведен в сан архиепископа. 30 июля 1923 года вступил в управление Великоустюжской епархией, которая к этому времени стала самостоятельной.
В 1924 году в возрасте восьмидесяти двух лет архиепископ Алексий был уволен на покой. Живя в Великом Устюге при храме преподобного Симеона Столпника, он каждый день совершал литургию. После закрытия этого храма архиепископ стал служить в храмах преподобного Сергия Радонежского и великомученика Димитрия Солунского в Дымковской слободе. Поселившись в церковной сторожке, владыка служил ежедневно, начиная богослужение в четыре часа утра при немногих молящихся. Так продолжалось до начала 1937 года, когда ему по немощи стало трудно передвигаться, и он мог ходить только пользуясь помощью живших при нем монахинь.
Осенью 1937 года был арестован, ему было уже девяносто пять лет. Он не мог выйти из дома по приказу сотрудников НКВД, и они вынесли его сами на простыне.
Скончался в тюрьме в ноябре 1937 года и был погребен на городском кладбище.
