Создание этой системы началось уже на второй год его правления, когда сначала цезарем, а затем в 286 г. августом был назначен Максимиан, ставший соправителем Диоклетиана и получивший в свое распоряжение Запад государства. Если сам Диоклетиан назывался Иовием (сыном Юпитера), то Максимиан получил титул Геркулия (сына Геркулеса).
Официального разделения империи при этом не было, хотя каждый август имел свою армию, своего преторианского префекта (управлявшего бюрократическим аппаратом) и свою резиденцию. Рим с этого времени утрачивает свое значение как столица: резиденцией Диоклетиана была Никомедия на востоке, а Максимиана – Медиолан (Милан) на западе. Эдикты и рескрипты издавались августами совместно, но инициатором всего законодательства оставался Диоклетиан.
Следующим шагом в создании новой политической системы стало назначение в 293 г. двух цезарей – помощников и заместителей каждого из августов – Гая Галерия (при Диоклетиане) и Констанция Хлора (при Максимиане). Оба цезаря были земляками Диоклетиана, все же четыре правителя были выходцами из низов. Констанций взял в жены Феодору, падчерицу Геркулия, а Галерий женился на дочери Диоклетиана Валерии. Новая система предусматривала переход всей полноты власти к цезарям в случае внезапной смерти или отречения августов. Предполагалось, что через 20 лет оба августа отрекутся от престола и возведут в этот сан своих цезарей, которые, в свою очередь, провозгласят цезарями двух своих полководцев.
Вся Римская империя была разделена на четыре части. «Все галльские земли, лежащие за Альпами, были поручены Констанцию, Африка и Италия – Геркулию, побережье Иллирии вплоть до Понтийского пролива – Галерию; все остальное удержал в своих руках Диоклетиан». Столицами тетрархов стали Медиолан (а затем Равенна) у Максимиана, Трир у Констанция, Сирмий (в Паннонии) – у Галерия и Никомедия – у Диоклетиана. Главными заместителями цезарей и августов по гражданским, финансовым и судебным делам стали префекты претория. (Уже при Константине было завершено оформление из четырех частей империи четырех префектур.) На всей территории империи продолжали действовать одни законы, издаваемые от имени всех четырех тетрархов. Надо отметить, что основание этой системы было весьма хрупким – в принципе она держалась лишь на взаимном согласии четырех правителей и авторитете ее создателя.
Диоклетиан оставался верховным главнокомандующим, хотя воинские контингенты, находящиеся на территориях, подконтрольных другим членам тетрархии, находились под их непосредственным командованием, что в последующем и стало фактором гражданской войны, разгоревшейся после попытки передачи власти по предложенной Диоклетианом схеме. Впрочем, поначалу идея тетрархии оправдала себя именно в военном отношении. Так, Констанций в Галлии нанес поражение лингонам и алеманнам, а в 296 г. его полководцы вновь овладели Британией. В 297–298 гг. Геркулий закончил войну в Африке. Не столь удачно, но, в общем, успешно закончил войну с персами и Галерий.
Диоклетиан впервые посетил Рим в 303 г., когда приехал на празднование двадцатой годовщины своего правления. На следующий год он тяжело заболел, после чего совершил небывалый поступок: 1 мая 305 г. он отказался от власти и заставил поступить так же Максимиана, который вовсе не хотел этого. Власть была передана «младшим тетрархам». Практически сразу между ними и родственниками удалившихся на покой «старших» правителей разгорелась борьба за власть. Системе, созданной Диоклетианом, не суждено было продержаться долго. Она противоречила одновременно созданной им же абсолютистской системе домината: «господин» должен быть один.