На Рыльской кафедре в полной мере проявилась его любовь к храму Божию, к церковным службам, к молитве как основному средству единения с вверенной ему паствой. Везде, во всех храмах, епископ Павлин собирал массы богомольцев торжественным архиерейским служением, радовал паству всем своим неотразимо светлым образом, кротким обхождением со всеми, простыми, безыскусственными, доходчивыми проповедями, которые не блистали красноречием, но были насыщены глубокой верой и искренней любовью к Богу, к человеку, легко воспламеняли сердца слушателей, возбуждая в них стремление к жизни по Божиим заповедям, к покаянию.
 Владыку Павлина отличали мирный нрав и ровное отношение ко всем без исключения прихожанам. Своей любовью он покрывал человеческие немощи, и народ платил ему ответной всеобщей любовью. Он делился с бедными последним своим имуществом, деньгами, продуктами. Простым людям нравилось его крестьянское происхождение, непринужденное общение с народом, скромный монашеский вид, а образованные находили в нём глубокого, вдумчивого, мыслящего собеседника. Библиотека владыки насчитывала около 2000 томов. 
Арестованный 2 октября 1935 года архиепископ Павлин полгода находился в предварительном заключении сначала в Могилеве, а потом — в Минске. На всех допросах он проявил твердую решимость не давать показаний, которые хоть как-то могли бы быть истолкованы во вред епископу Филарету и митрополиту Сергию. Стремясь вывести их из-под удара НКВД, архиепископ Павлин взял на себя всю инициативу действий по упразднению белорусской автокефалии, не смущаясь очевидными противоречиями в своих показаниях. Хотя следователям было ясно, что владыка скрывает истинную картину, добиться от него признаний им не удалось.
У святителя было большое любящее сердце. Примечательно, что в своем саду он поставил мостик через дорожку муравьев, чтобы случайно не наступать на них. Своё заключение праведник в шутку называл «второй академией». Ее архиепископ Павлин окончил мученической смертью в Кемеровском лагере.
3 ноября 1937 года архиепископ Павлин (Крошечкин) был расстрелян вместе с группой духовенства.
На Архиерейском соборе Русской Православной Церкви 13-16 августа 2000 г. архиепископ Павлин был прославлен в сонме новомучеников и исповедников Российских XX века.