Ефим Волков родился в семье фельдшера. С детства увлекался живописью, но семья не одобряла увлечения. Образование мальчик получил в частном пансионе и в петербургской Введенской гимназии. До поступления в 1866 году в Рисовальную школу при Обществе поощрения художеств успел поработать губернским секретарем в канцелярии Министерства юстиции, а также в Департаменте государственных имуществ. В возрасте 22 лет ушел с государственной службы и решил посвятить жизнь искусству. Вместо положенных четырех лет обучения, Волков окончил Рисовальную школу всего за год. Сразу после этого в 1867 году стал вольнослушателем Императорской Академии художеств. По завершении курса, в 1870 году был удостоен звания неклассного (свободного) художника.
В 1872 году пришло творческое признание: пейзаж «Болото осенью» получил на Лондонской Всемирной выставке бронзовую медаль. С этой поры призы и похвалы были частыми. В 1878 году художник стал постоянным участником проектов Товарищества передвижных художественных выставок, а в 1879 году – членом объединения. Сразу после этого вместе с Иваном Шишкиным и Андреем Шильдером совершил путешествие по Крыму. С 1894 года Ефим Волков стал членом Совета Товарищества передвижных художественных выставок, а год спустя получил звание действительного члена Императорской Академии художеств. В 1899 году Волков удостоен статуса академика живописи «за известность на художественном поприще». Помимо живописи, Волков занимался книжной иллюстрацией. В 1918 году в Петербурге состоялась персональная выставка мастера, включившая произведения, созданные за этот период.
Произведения мастера представлены в Государственной Третьяковской галерее, Государственном Русском музее, Омском музее изобразительных искусств им. Врубеля, Государственном музее изобразительных искусств Республики Карелия, Нижегородском и Костромском художественных музеях, Ставропольском музее изобразительных искусств, Рыбинском музее-заповеднике, Дагестанском музее изобразительных искусств, а также в государственных музейных собраниях Украины и Беларуси.