Родился 1 ноября в Курской губернии в семье крепостного крестьянина. Окончил историко-филологический факультет Московского университета (1865). По окончании университета преподавал в Московском училище живописи, ваяния и зодчества. С 1870 г. приват-доцент, с 1877 г. профессор кафедры истории и теории искусств Новороссийского университета в Одессе. С 1888 г. профессор Петербургского университета и Высших женских курсов. До 1893 г. работал хранителем отделения Средних веков и Возрождения в Эрмитаже. В 1895 г. один из организаторов Русского Археологического института в Константинополе. С 1898 г. - действительный член (академик) Петербургской Академии наук. Автор фундаментальных работ о русской иконе, русских древностях в памятниках искусства. Годы гражданской войны провел в Одессе и Ялте. С 1920 г. в эмиграции; сначала в Болгарии, затем в Чехословакии. Профессор археологии на историко-филологическом факультете Софийского университета (1920-1923), Пражского Карлова университета (1923-1925). Почетный член Болгарской Академии наук. Скончался в Праге. Архив Н. П. Кондакова хранится в Литературном архиве Музея национальной литературы в Праге.

Биография и библиография Кондакова были изданы в Москве в 1925 году Виктором Лазаревым. Смотри также: "Сборник статей, посвященных памяти Кондакова" (Прага, 1926).

Н. П. Кондаков воспитал значительное количество учеников, которыми в 1925 г. был создан в Праге "Семинарий имени Н. П. Кондакова" (Seminarium Kondakovianum), переименованный в 1931 г. в "Археологический институт имени Н. П. Кондакова". Институт издавал "Сборники статей по археологии и византиноведению" и "Анналы" (до 1940 г. было опубликовно 11 выпусков научных трудов института). Главной задачей института была публикация рукописного наследия Кондакова, изучение древнерусского искусства, педагогическая деятельность. Институт просуществовал до 1952 г.