Настоящий успех пришел к Папанову год спустя – в 1964 году. Произошло это при следующих обстоятельствах. В начале 60-х годов на спектакле Театра сатиры «Дамоклов меч» побывал писатель Константин Симонов. Игра Папанова в нем настолько поразила его, что он предложил кинорежиссеру А. Столперу, который в 1963 году решил экранизировать его роман «Живые и мертвые», взять этого актера на роль генерала Федора Серпилина. Поначалу Столпер сомневался, так как знал Папанова как исполнителя в основном отрицательных, комедийных ролей (тот же Боксер был ролью резко отрицательной). Здесь же предстояло сыграть роль положительную, даже героическую. Однако Симонов настаивал на своем выборе, и режиссер в конце концов согласился.

Долго сомневался в своих способностях сыграть положительного героя и сам Папанов. Как вспоминает Н. Каратаева: «У нас в общежитии был длинный коридор, и в нем стоял общий телефон. Ему несколько раз звонили, уговаривали, а мы все стояли и слушали, как он отказывался играть Серпилина: „Ну какой я генерал? Да нет, ну что вы, я не могу…“ И уже после выхода картины он мне часто говорил: „Что это все восторгаются? Чего там особенного я сыграл?“

Действительно, после выхода этого фильма на широкий экран к Папанову пришла всесоюзная слава. Роль генерала Серпилина опрокинула довольно прочно устоявшееся мнение о нем как об актере комедийно-сатирического направления с некоторыми драматическими задатками. В прокате 1964 года «Живые и мертвые» заняли 1-е место, собрав на своих просмотрах 41,5 млн. зрителей. В том же году картина получила призы на фестивалях в Москве, Карловых Варах и Акапулько. В 1966 году фильм был удостоен Государственной премии РСФСР.

Как вспоминает исполнитель главной роли в этом фильме К. Лавров: «Столпер с огромным уважением относился к Папанову. С самого начала чувствовалось, что этот актер – лидер в картине. О Симонове и говорить нечего: Константин Михайлович не однажды рассказывал мне, как ему нравится Толя и точным попаданием в самую сердцевину образа Серпилина, и в других ролях, и просто по-человечески. Забегая вперед, скажу, что к Папанову устремлялись душой сразу, без обычной в человеческих отношениях разведки и приглядывания. Так, в Звездном городке, куда мы привезли только что смонтированный фильм „Живые и мертвые“ в сопровождении Столпера, Папанова и моем, Юрий Гагарин улучил минуту, чтобы остаться наедине с Толей и со мной, увел нас в какую-то из дальних комнат клуба космонавтов, и мы незабываемо пообщались за бутылкой кубинского рома».

После успеха «Живых и мертвых» спрос на актера Папанова среди режиссеров возрос неимоверно. Например, в 1964 году на «Ленфильме» были запущены в производство десять картин, и в восьми (!) из них пригласили пробоваться Папанова. Он в ответ принял все предложения и был утвержден на все восемь фильмов одновременно, что было довольно редким случаем в советском кинематографе. Позднее он через дирекцию своего театра дал всем вежливый отбой: мол, не могу, занят в спектаклях.

Однако от предложений режиссеров с «Мосфильма» – Василия Пронина и Евгения Карелова, поступивших в том же году, Папанов не отказался. Оба режиссера предложили ему главные роли: первый – в картине «Наш дом», второй – в фильме «Дети Дон-Кихота». Съемки обеих картин проходили в Москве, и Папанова это устраивало. Партнер нашего героя по первому фильму – Нина Сазонова – вспоминает: «Такие актеры, как Папанов, сразу же цементируют всю киногруппу, становятся не только ее творческим центром, но и ее совестью, что всегда важнее.