За сим следовало убийство жандармского офицера Гейкинга в Одессе, бывшее, по показанию Гольденберга, делом бывшего студента Медико-Хирургической Академии, носившего прозвище «Голотупенка», которого Гольденберг знал и встречал в Киеве. Поводом к преступлению служило строгое отношение Гейкинга карестованным.
После того был убит генерал-адъютант Мезенцов.
4 августа… Гольденберг узнал… о совершенном преступлении. Хотя в то время он не имел сведений об участниках этого убийства, но впоследствии ему сделалось известно, что таковыми были: Ипполит Кошурников, Сергей Кравчинский и Андриан Михайлов, из коих Кравчинский был убийцей, а остальные – его ближайшими пособниками.
Последовавшее затем 9 февраля 1879 г. убийство Харьковского губернатора князя Кропоткина выяснено Гольденбергом с значительно большими подробностями, так как, по его словам, преступление это, как по замыслу, так и по исполнению принадлежит всецело ему одному. По показанию
Гольденберга, преступная мысль созрела в нем под влиянием убеждения, что князь Кропоткин был одним из главных виновников тяжелой участи политических преступников, заключенных в центральных тюрьмах, находящихся в Харьковской губернии. Но предварительно исполнения задуманного плана он, Гольденберг, считал необходимым узнать, какое впечатление произведет этот замысел на единомышленников его и вызовет ли он в них сочувствие. С этой целью, будучи в Киеве и затем в Харькове, он выражал свою мысль о необходимости такой меры против князя Кропоткина разным лицам, в том числе в Киеве Павлу Орлову, Афанасию Зубковскому, Валериану Осинскому, Людвигу Кобылянскому, Людмиле Самарской, Вере Ремизовской, Надежде Смирницкой, Игнату Ивичевичу, студенту Богицкому, Дмитрию Буцинскому и в Харькове Ивану Ионычу Глушкову, Воронцу, Евгению Козлову и Алексею Преображенскому.
Все означенные лица, по словам Гольденберга, сочувственно отнеслись к означенной мысли его; причем он лично, Самарская и Игнат Ивичевич высказались за открытое убийство, а остальные в пользу совершения такового из-за угла. Когда, таким образом, вопрос был в принципе решен, осуществление самого преступления представилось необходимым отложить, так как в начале января месяца в центральных тюрьмах допущено было свидание заключенных с их родными, а потому совершение убийства могло вызвать распоряжение о недопущении этих свиданий. Проживая в это время в Киеве, преимущественно в квартире, содержимой на Ивановской улице Софьею Пеховской, где тогда помещался клуб образовавшегося в Киеве социально-революционного кружка, он, Гольденберг, отправился, наконец, в конце января в Харьков, куда одновременно прибыли Кобылянский, Зубовский и Людмила Волькенштейн, которая приняла на себя роль хозяйки конспиративной квартиры, нанятой с двоякою целью: служить местом сходок и затем укрыть участников преступления в первое после убийства время. Устроившись, таким образом, в Харькове и разместившись из предосторожности на разных квартирах, названные лица стали выжидать удобного для убийства случая.
…Наконец, 9 февраля Гольденберг окончательно решился привести в исполнение задуманное преступление, с каковым намерением, пользуясь выездом князя Кропоткина вечером этого дня на спектакль, бывший в здании реального училища, он вместе с Кобылянским уговорились ждать его возвращения около дома, в котором жил князь Кропоткин, и когда около 12 часов ночи карета последнего стала приближаться к дому, Гольденберг подбежал к ней и, схватившись за ручку дверец с левой стороны, произвел выстрел вовнутрь кареты чрез открытое окно и затем упал, не успев сделать второго выстрела. Сообщив о случившемся Волькенштейн и Зубковскому, Гольденберг, по его показанию, в ту же ночь отправился чрез Полтаву в Киев, где виделся с Самарской, Павлом Орловым, Дическулло, Ковалевскою, Иваном и Игнатом Ивичевичами, Бранднером, Дебагорио-Мокриевичем и Феохари; но из них сообщил об убийстве только Самарской, Орлову, Дическулло и Игнату Ивичевичу. Остановившись по приезде в Киев в квартире Самарской, Гольденберг на другой же день должен был уехать, так как в Киеве начались обыски, о чем сообщили ему знакомые Самарской: Марина Избицкая, Банемов, Костицкий и Анна Лисовская.