Картина сильно не понравилась императору Александру III и его окружению, в результате чего 1 апреля 1885 года была запрещена к показу, тем самым став первой картиной, подвергшейся цензуре в Российской Империи, а П. М. Третьякову, купившему картину, предписывалось «не допускать для выставок и вообще не дозволять распространения её в публике какими-либо другими способами». Запрет был снят через три месяца, 11 июля 1885 года, по ходатайству художника А.П. Боголюбова, близкого ко двору.
16 января 1913 года картина пострадала от трёх ударов ножом, которые нанёс двадцатидевятилетний иконописец, старообрядец, сын крупного мебельного фабриканта Абрам Балашов, после чего лица изображенных художнику пришлось воссоздавать фактически заново. Хранитель Третьяковской галереи Е.М. Хруслов, узнав о порче картины, бросился под поезд.