Родился в Москве 7 (19) августа 1858 года в семье купца-старовера, брат К.А.Коровина.  Занимался в Училище живописи, ваяния и зодчества у В.Г.Перова, И.М.Прянишникова и А.К.Саврасова. Был членом «Союза русских художников».

Вошел в историю русской живописи как верный продолжатель «реализма передвижников», хотя и не входивший в их товарищество организационно. Среди его характерных полотен – «В ожидании поезда» (Русский музей), «Перед наказанием в волостном правлении» (Русский музей) и знаменитое «На миру» (Третьяковская галерея) – с центральными фигурами отчаявшегося бедняка и самодовольного кулака-«мироеда», поспоривших на сельской сходке.

Написал также целый ряд жанрово-бытовых этюдов и полотен на военную тему, в 1887 году совершил переход вместе с Сумским гусарским полком. К поэтике национально-романтического модерна особенно близки его рисунки, картины и акварели с образами странников и богомольцев. 

Выступал как журнальный художник (журналы «Радуга» и «Россия») и книжный иллюстратор. Наиболее значителен неизданный цикл его меланхолически-экспрессивных рисунков к Шинели Н.В.Гоголя (Третьяковская галерея).

Плодотворно работал как педагог: с 1888 преподавал в МУЖВЗ.

Умер Коровин в Москве 13 (26) октября 1908 года.