Юность провел в Киеве, где окончил школу живописи Мурашко. Затем учился в Петербургской Академии художеств у Михаила Клодта и Павла Чистякова. За время обучения получил серебряные медали: в 1881 году — малую серебряную медаль за работы по пейзажу; в 1884 году — большую серебряную медаль за пейзажный рисунок карандашом; в 1886 году — вторую серебряную медаль за пейзаж «Лес вечером»; в 1888 году — первую серебряную медаль за пейзаж, написанный масляными красками, и восемь этюдов. После окончания Академии в 1891 году переехал в Симбирск, с которым была связана вся его дальнейшая творческая жизнь. Непосредственно по приезду в 1894 году участвует в первой выставке симбирских художников, в 1895 году предпринимает первые шаги по организации художественной студии, с 1896 года становится одним из инициаторов создания проекта Общества изящных искусств. Значительное внимание Пузыревский уделял и такому художественно-просветительскому направлению, как организация популярных лекций: известно, что он читал публичные лекции по истории искусства. В 1911 году Пузыревский был участником II съезда русских художников и любителей искусства, на котором поднимались вопросы, связанные с художественной жизнью российской провинции, в том числе становления музейного дела, художественного образования, устройства периодических выставок. Важнейшим направлением творческой деятельности Пузыревского была целенаправленная работа по воспитанию художественной культуры и популяризации изобразительного искусства. Следуя основным принципам педагогической системы Чистякова, Пузыревский воспитывал в своих учениках “чистяковское” восприятие натуры, ее глубокое изучение, особое отношение к рисунку. Личность Пузыревского-педагога в той или иной степени повлияла на становление в Симбирске своеобразной художественной школы. Среди его учеников выделяется талантливый Дмитрий Архангельский — первый учитель Аркадия Пластова.

Произведения художника хранятся в Ульяновском областном художественном музее, Самарском областном художественном музее, Саратовском государственном художественном музее, Государственном музее изобразительных искусств Республики Татарстан и других музейных и частных собраниях.