Даже в Тбилиси от мусульманства оставались лишь символические следы. На аверсе монет Баграта IV мы видим Богородицу с греческой надписью, а на решке уже нет арабской надписи: есть только грузинские инициалы, хотя в искаженной форме, что подразумевает, что на монетном дворе еще работали арабские мастера. Баграту IV было выгодно приберечь послушный мусульманский эмират, так как с помощью тбилисского эмира легче было запугивать Кахетию и Эрети. В 1040 году он сжег укрепленный дворец Бододжи в верхней долине Иори: усыновленный наследник Квирикэ III, Гагик (ц. 1039–1058), назначил Бододжи своей столицей. Кахетинцам пришлось сделать Телави на реке Алазани своей новой столицей. Но Липарит вдруг перебежал к кахетинцам и заставил Баграта отступить, хотя и понимал, что не может победить без византийской помощи. Чтобы угомонить буйного феодала, Баграт назначил его правителем всей Картли: но честолюбие Липарита не было удовлетворено, и завистливые братья Абазасдзе чувствовали себя обиженными.
Не достигнув цели на востоке, на юго-западе Баграт IV воспользовался небрежностью византийцев, оставивших свою иберийскую фему в руках наместника грузинского происхождения и войск, состоявших из местного населения. Баграт без труда отобрал у византийцев Тао, отрезав морской путь от Константинополя захватом порта Хопа. Империя ответным ударом послала Липарита-мятежника и Деметрэ-самозванца с наемными варягами[53], говорят, под командой будущего норвежского короля Харалда III Хардрады. Усиленные кахетинцами, варяги в Картли одержали победу над Багратом в Сасирети, недалеко от Каспи. (Хронология противоречит летописцам: сасиретская битва состоялась между 1045 и 1047 годами, но Харалд к тому времени, по-видимому, вернулся в Россию.) Затем Липарит вместе с Давитом, «царем» Лоре, византийцами и озлобленными грузинскими феодалами совершили попытку государственного переворота, но все развалилось: самозванец Деметрэ умер в 1042 году, и крепость Атени (на юге от Гори) отбила нападение Липарита.
Повернув на запад, Баграт опередил византийцев, захватив прибережную Анакопию, но на поле битвы ему сообщили, что умер Джаффар III, тбилисский эмир. Баграт предоставил поле битвы своему абхазскому генералу Отаго Шервашидзе (Чачба). Доскакав до Дигоми, на окраине Тбилиси, Баграт соединился с конницей тбилисских грузинских старшин: вместе они подъехали к дворцу эмира – последнему мусульманскому зданию на правом берегу Куры. Там Баграт поставил царский гарнизон. На левом же берегу мусульмане оказывали сопротивление именно тогда, когда прибыли войска Липарита, который намеревался взять Тбилиси для себя. Армии Баграта пришлось выехать из города, чтобы отбить Липарита.
Липарит был неистощим: в 1047 году он добился поддержки кахетинцев, армян и византийцев и еще раз вторгся в Картли, на время поселившись в Уплисцихе, пока Баграт IV не пошел в контратаку. Липарит уже открыто принял сторону Византии, управляя всей территорией, захваченной византийцами в 1020-х годах, помогая генералу Катаколону Магистру и армянину Весту Аарону защищать иберийскую фему от турок-сельджуков. Баграт несказанно обрадовался, когда в 1049 году сельджуки захватили Липарита в плен. Все будто бы наладилось: после столкновения с грузинскими старшинами сыновья Джаффара III, Мансур и Абу’л-Хаиджа, были свергнуты: в 1050-х годах Тбилиси был эмиратом только номинально, а в действительности республикой. Ближайший эмир, Али бин Фадл в Гяндже, не угрожал грузинской власти ни в Тбилиси, ни в Лоре: он сам оказался лицом к лицу с сельджуками и нуждался в союзнической поддержке Баграта.