Четвертого марта 1801 г. Джефферсон принес присягу в качестве президента США. Его инаугурационная речь считается одним из важнейших политических документов США. Имея в виду ожесточенную политическую борьбу предыдущих лет, новый президент решительно высказался за национальное примирение. Отвергая партийные пристрастия, он заявил: «Под разными именами мы являемся братьями по одним и тем же принципам. Все мы республиканцы, все мы федералисты». Новый президент имел в виду не принадлежность к определенной партии, а поддержку республиканского строя и федеративного устройства страны.

Хотя Джефферсон, исходя из принципов, провозглашенных в инаугурационной речи, заявил, что сформирует правительство из представителей всех «фракций», важнейшие посты он отдал своим ближайшим сторонникам. Государственным секретарем стал Джеймс Мэдисон, секретарем казначейства – шведский эмигрант, республиканец из Пенсильвании Альберт Галлатин. (Этот последний приложил все силы для экономии государственных средств, в частности настояв на сокращении регулярной армии и сосредоточении ее на западных границах, а также увольнении большого количества федеральных чиновников, численность которых была сведена всего до сотни человек.) Пост военного секретаря занял малоизвестный генерал Генри Дирборн, которого Джефферсон включил в правительство, как он говорил, для «регионального баланса», так как северные штаты в нем почти не были представлены, а генерал был родом из штата Мэн. Бирборн проявил себя с лучшей стороны: в условиях резкого сокращения армии ему удалось успешно отбивать нападения испанцев и французов с юга и набеги индейцев с запада. Во всяком случае, Джефферсон явно проявил талант в выборе помощников. Впрочем, при этом он всегда сохранял приверженность своей партии. Почти во всех случаях оказывалось так, что, провозглашая своей целью национальное примирение, Джефферсон отдавал высшие должности своим однопартийцам. Он оправдывал это тем, что речь шла о людях, чьи способности он хорошо знал по опыту совместной борьбы в течение ряда лет. Помимо этого, назначая на ответственные посты, в частности в судебной системе, своих политических сторонников, Джефферсон создавал определенный баланс, поскольку при Адамсе назначались почти исключительно федералисты.

При всем этом основная часть назначенных ранее федералистов оставалась на своих постах. Они отплатили новому президенту благодарностью, часть из них вообще перешла в лагерь республиканцев-демократов, что наряду с другими факторами способствовало значительному падению влияния федералистской организации. Кадровая политика Джефферсона создала традицию, укоренившуюся в США: при формировании новой президентской администрации оставлять на своих постах часть чиновников, невзирая на их партийную принадлежность. При этом высшие посты отдавались тем, кто наиболее активно поддерживал будущего победителя.

Стремясь к превращению США в правовое государство, президент уделял особое внимание созданию стройной, имеющей четкие полномочия и в то же время экономичной судебной системы. По его предложению были отменены некоторые положения акта Конгресса, принятого в самом конце президентства Адамса, который позволил ему осуществить «полуночные назначения» судей. Число членов Верховного суда сократилось до пяти (вместо шести), что позволяло избежать патового положения (то есть равного числа голосов при вынесении решений). Одновременно были ликвидированы суды графств, полномочия которых передавались судам более высокого уровня (окружным). Это позволило устранить многих судей, назначенных Адамсом, в частности в округе Колумбия (только в нем назначил 42 судей). Их увольнение, которое мотивировалось прежде всего экономией средств, носило политический характер: враждебно настроенные к президенту судьи столичного округа сильно мешали, да и просто раздражали Джефферсона. Теперь обстановка стала более благоприятной. Но главное, из ведения Верховного суда изымались все «конкретные вопросы», то есть не связанные с толкованием Конституции и с определением соответствия федерального законодательства основному закону страны. Так на практике происходила определенная «федерализация» демократа-республиканца Джефферсона, который все более осознавал необходимость сохранения и укрепления централизованного государства.