Священномученик Сильвестр, в миру — Иустин Ольшевский занимался миссионерской деятельностью. Этому он посвятил более 20 лет жизни.
Из публичной речи: «… среди нас находятся люди, которые без сожаления, со злорадством меняют полученную от предков святую православную веру на веру, чуждую нам, выдуманную немцами недавно, известную под именем …баптизма… Эти люди проматывают полученное от предков дорогое наследство – святую веру, проматывают на пользу, на радость, на потеху нашим внешним и внутренним врагам… Что может быть печальнее этого?»
В 31 год рукоположен в пресвитеры по предложению епископа Полтавского Иллариона. Иустин Львович согласился с предложением преосвященного с условием, что ему будет разрешено посвящение в сущем состоянии, то есть неженатым.
Отец Иустин лично знал отца Иоанна Кронштадского, служил с ним вместе литургию.
В конце 1910 года отец Иустин был призван принять иночество. Из слова при наречении во епископы: «…Ныне более чем когда-нибудь христианская Церковь подобна кораблю, обуреваемому великим волнением житейского моря. Для верных наступают времена исповедничества… Трудно и страшно ныне архипастырствование». Это было сказано в 1911 году.
На следующий день, в воскресенье 16 января, в Свято-Троицком соборе Александро-Невской Лавры состоялась хиротония архимандрита Сильвестра во епископа Прилукского, викария Полтавской епархии. По окончании литургии, вручая жезл новопоставленному архиерею, митрополит Московский Владимир (Богоявленский) обратился к нему со словом, призвав его к стойкости и любви к правде в настоящее трудное время.
Однажды при владыке стали ругать веру и верующих.
– Братцы, – громко и отчетливо произнес архипастырь, – признаете ли вы свободу за всеми людьми? Если признаете свободу, чтобы не веровать, то признайте свободу и за теми, кто желает веровать. Не дозволяйте глумиться над неверующими, но не оскорбляйте и верующих. О чем угодно гражданском говорите и обсуждайте свободно, но не касайтесь Господа Бога и святыни… А желаете узнать насчет религии, спрашивайте тех, кто на это дело поставлен. Ведь насчет лекарства спрашиваете у доктора, насчет суда спрашиваете у адвоката, так насчет религии спрашивайте у пастырей.
В 1915 году был назначен на Омскую кафедру. После проведения общегородского крестного хода к архиерейскому дому прибыл отряд карателей с целью арестовать владыку. При аресте епископа разрывной пулей был убит эконом Николай Цикура (мученик, см. 6 февраля). В этот раз владыку выпустили под подписку о невыезде.
Вскоре началась гражданская война, и белые освободили город от большевиков. Именно владыка Сильвестр привел к присяге адмирала Колчака как Верховного правителя России.
В конце 1919 года войска Колчака начали отступать, и вскоре в Омск вошли большевики. Первым делом они арестовали архипастыря. В течение двух месяцев владыку истязали, требуя, чтобы он принес покаяние за христианскую деятельность.
Ничего не добившись, безбожники зверски убили святителя: прибив его руки гвоздями к полу и таким образом распяв, они раскаленными шомполами прожигали его тело, а затем раскаленным докрасна шомполом пронзили сердце…
Владыка принял мученическую кончину 13 (26 н. ст.) 1920-го года, находясь в заточении в Омске. Причислен к лику святых Новомучеников и Исповедников Российских на Юбилейном Архиерейском Соборе Русской Православной Церкви в августе 2000 года для общецерковного почитания.