В 1872 году Цион занял кафедру физиологии Медико-хирургической академии (МХА), и в 1875-м Павлов по окончании университета поступил на 3-й курс МХА «не с целью сделаться врачом, а с тем, чтобы впоследствии, имея степень доктора медицины, быть вправе занять кафедру физиологии». Павлов рассчитывал одновременно с обучением работать у Циона ассистентом. – «Но произошла дикая история: талантливейший физиолог был изгнан из академии». – Либеральное студенчество добилось изгнания Циона – монархиста и консерватора, а заодно и строгого экзаменатора. Павлов «пристроился потом как помощник у проф. К. Н. Устимовича, читавшего физиологию в тогдашнем Ветеринарном институте», который был частью МХА. В 1878 году Павлов возглавил лабораторию при терапевтической клинике Сергея Петровича Боткина (1832–1889), где ему была представлена полная свобода в выборе тем исследований. В этой маленькой лаборатории Павлов и выполнил значительную часть работ по физиологии пищеварения, принесших ему мировую славу. Результаты этих работ были опубликованы в статьях, подписанных учениками и сотрудниками, и, как правило, без имени самого Павлова. Для выяснения того, кто же был истинным автором этих работ, Нобелевский комитет в 1904 году прислал в Петербург Роберта Тигерштедта (Robert Tigerstedt, 1853–1923) и Юхана Юханссона (Johan Johansson) и по их докладу было составлено представление Павлова к премии.

Во время поездок по физиологическим лабораториям Европы в 1870- 1880-е годы самое сильное впечатление на Павлова произвели Рудольф Петер Генрих Гейден-гайн (Rudolf Peter Henrich Heidenhein, 1834–1897) и Карл Людвиг, «всю жизнь, все радости и горе ее положивших в науке и ни в чем другом». В 1883 году Павлов получил степень доктора медицины в Военно-медицинской академии (бывшей МХА).

До сорока лет Павлов и его семья постоянно испытывали материальные затруднения из-за скудного жалования и необходимости тратить личные средства на приобретение собак для опытов. В 1890 году Павлов получил, наконец, кафедру фармакологии Военно-медицинской академии, а в 1891-м – и Отдел физиологии только что созданного Института экспериментальной медицины. В 1895 году Павлов стал приемником князя Ивана Романовича Тарханова (Иван Рамазович Тарханишвили, или Тархан-Моуравов, 1846–1908) в качестве профессора физиологии Военно-медицинской академии.

Поскольку Павлов делом своей жизни считал изучение нервных механизмов регуляции, то после известия об открытии Бейлисса и Старлинга (1902) он полностью оставил физиологию пищеварения и перешел к исследованию высшей нервной деятельности. Впервые мир услышал об условных рефлексах из сообщения ученика Павлова в 1901 году, а через год в Мадриде уже сам Павлов доложил о своих наблюдениях на Международном конгрессе физиологов. Новая идея увлекла Павлова настолько, что он запрещал своим сотрудникам даже говорить о физиологии пищеварения и свою Нобелевскую лекцию посвятил не изложению того, за что был награжден, а рассказу об условных рефлексах. Весь остаток своей долгой жизни Павлов служил этой проблеме.

Первая мировая война и особенно Гражданская война в России значительно осложнили работу Павлова. Голодали и сотрудники, и лабораторные животные. Деньги, полученные Павловым в качестве Нобелевской премии, были экспроприированы вместе с банком. Отношения Ивана Петровича с новой властью складывались трудно. По поводу социального эксперимента, производимого в России, он еще в 1918 году говорил, что: “пожалел бы дать на его проведение даже лягушку”. Кафедру Военно-медицинской академии Павлов покинул в 1924 году в знак протеста против увольнения из академии студентов-непролетариев.