Андрей Грисюк — сын уездного казначея из города Ковеля Волынской губернии. В 1894 году 14-летний Андрей Грисюк окончил Кременецкое духовное училище первым по списку, в 1900 году — Волынскую духовную семинарию и поступил в Киевскую духовную академию. В 1903 году его постригли в монашество с именем Анатолий. В этом же году он был рукоположен в иеромонаха.
В 1904 году окончил Киевскую духовную академию, став профессорским стипендиатом. В 1908 году успешно защитил научную степень магистра богословия, с 1911 года — доцент академии, был возведен в сан архимандрита.
Его научный интерес сосредоточился на изучении истории сирийского монашества до арабского нашествия. Два года он работал с древнейшими рукописями в Патриаршей библиотеке в Константинополе, а знание французского, немецкого, английского, греческого и латинского языков позволило ему ознакомиться с новейшими исследованиями на эту тему.
В 1912 году назначен экстраординарным профессором Киевской духовной академии. В том же году переведён в Москву и назначен инспектором духовной академии.
В 1913 году хиротонисан во епископа Чистопольского, викария Казанской епархии. Вскоре был назначен ректором Казанской духовной академии. И хотя последовал указ от богоборческой власти закрыть все духовные учебные заведения, владыка лишь формально подчинился ему. Академия, сохраняя учебную программу и прежнюю структуру, занималась как бы частным порядком, как частное учебное учреждение. Но через полтора года чекисты вскрыли присланный епископом Анатолием патриарху Тихону пакет с отчётом о учебной деятельности академии. В марте 1921 года еп. Анатолий был арестован. И хотя формально закон нарушен не был, его осудили на год тюремного заключения.
В 1922 году назначен епископом Самарским и Ставропольским. 24 февраля 1923 года был вновь взят под стражу, 4 августа — освобожден. После выхода из заключения был возведен в сан архиепископа.
18 сентября был вновь арестован за сопротивление обновленческому расколу. В застенках ГПУ его жестоко избивали, у него была повреждена челюсть, сломаны два ребра. Из тюремной больницы, где он перенёс тяжёлую операцию, его отправили в 1924 году на три года сначала в Полторацк (ныне Ашхабад), а затем в Красноводск (Туркмения). Несмотря на страдания, он всегда печалился прежде всего о судьбах церкви, о чем свидетельствовали его письма из Красноводска, в которых он постоянно интересовался состоянием церковных дел и церковной науки. Претерпев, помимо бесчеловечного режима заключения, тяжелую операцию, архиепископ Анатолий после окончания тюремного срока в 1927 году поселился в Москве.
Он не отошёл от митрополита Сергия (Страгородского) после выхода его «Декларации» 1927 года и оставался его ближайшим помощником.
С 1928 года владыка назначается архиепископом Одесским и членом Временного синода при заместителе патриаршего местоблюстителя. 21 октября 1932 года он был возведён в сан митрополита. Он выдвигался тогда даже на пост экзарха Украины, но, по смирению своему, от этого высокого поста уклонился.
С 1934 по 1935 годы временно управлял Харьковской епархией. Есть свидетельства, что в 1934 или 1935 году владыка, присутствуя на совещании у епископа Варфоломея (Ремова), вместе с митрополитом Арсением (Стадницким) признал дальнейшее следование завещанию старца Алексия Зосимовского — поминать предержащие власти и не отходить от митрополита Сергия — губительным. На глазах у владыки были уничтожены многие одесские храмы. Сам он преимущественно служил в Успенском соборе. Вокруг него собиралась религиозно настроенная молодёжь из интеллигенции. Святителю желалось подготовить молодых юношей к иерейскому сану. Владыка по характеру своему был очень мягок, сердечен, добр. Жил он очень скромно, «убогенько». К службе, когда еще можно было, ездил на дрожках, часто без сопровождения, а в последнее перед арестом время он ходил пешком, опустив глаза и сосредоточенно молясь. Всегда он был спокоен, сохранял мир души. Когда святитель совершал Божественную литургию, все у него было просто, проникновенно и сосредоточенно.
Последним местом служения святителя стала Свято-Димитриевская церковь, последний открытый храм Одессы. После ареста в 1931 году почти всех одесских священников, Владыка ходил в советские учреждения с просьбою об их освобождении. Его всячески унижали, а затем и самого стали вызывать на ночные допросы в НКВД. Бывало, что даже во время архиерейского богослужения прямо в храм являлись агенты с требованием немедленно пройти на допрос. Всегда кроткий и смиренный, святитель Христов умел в эти моменты, разжегшись Божественной любовью и ревностью, ответить строго и со властью, Богом ему данною, так, что посыльные,чувствуя силу и величие духа его, с трепетом до времени отступали. По окончании продолжительной службы владыка, прибыв по вызову в НКВД, просиживал до самого вечера в приемной, и наконец, уже поздней ночью ему приходилось переносить крики, оскорбления и издевательства.
В последние дни перед арестом последовал запрет облачать митрополита Анатолия посреди церкви, а накануне ареста ему вообще запретили совершать богослужения.
В ночь на 28 июля 1936 года владыку арестовали в Одессе. Власти поспешили вывезти его в Киев. Там его полгода продержали в тюрьме в тяжелейших условиях. В декабре для дальнейшего «следствия» он был отправлен в Москву. В начале 1937 года НКВД объявило приговор: заключение в лагерь сроком на пять лет.
Перед ссылкой на север владыка был уже почти лишён возможности владеть ногами. Но его отправили общим этапом вместе с уголовными преступниками, которые в дороге обворовывали беспомощного старца. От стоянки до стоянки его гнали пешком, подталкивая в спину прикладами. Когда он терял сознание, бросали в грузовик, затем заставляли снова идти пешком. Так святитель оказался в Кылтовском Ухто-Печёрском лагере (республика Коми). Здесь его, хронически больного язвой желудка, миокардитом, с больными лёгкими принудили к тяжёлому труду. В документах лагеря о заключённом митрополите значилось: «Работает добросовестно, к инструментам относится бережно. Дисциплинирован. Качество работы удовлетворительно». В июле владыка заболел воспалением лёгких, но жестокий режим работ не смягчился. Запись охранника сообщает: «Работу выполняет на 62%. По старости работает слабо, но старается». Ещё позднее сообщается, что заключённый «к физической работе не пригоден».
В конце 1937 года святитель почти потерял зрение. К нему приехала его родная сестра Мария, чтобы хоть чем-то помочь страдальцу. Он просил разрешить ему увидеть её родное лицо хотя бы перед смертью, но и эту малость не разрешили.
Несмотря на жестокую атмосферу заключения, священномученик сохранил у себя Евангелие. Он пребывал в спокойствии духа, в глубокой молитве. В узах он веселился надеждой небесной свободы. Перед кончиной к владыке пришли, чтобы отнять нательный крест и Евангелие. Евангелие палачи вырвали, но крест владыка не отдал и, защищая его хладеющими руками, отошёл ко Господу 23 января 1938 года в больнице Ухто-Печерского концлагеря.