Положение явно осложнило то обстоятельство, что, памятуя о своих предыдущих связях с лидером швейцарских социал-демократов Робертом Гриммом, продолжавшим руководить Циммервальдским движением, Раковский стал дружески с ним встречаться, когда тот в мае 1917 г. прибыл в Петроград с миссией мира. Между тем в печати появились непроверенные слухи, что Гримм имел тайные связи с германскими официальными органами, которые фактически подталкивали его к мысли о выводе России из мировой войны путем заключения сепаратного мирного договора.

Правда, поначалу Раковского, как и Гримма, тепло встречали в умеренных социалистических кругах. Меньшевистская «Рабочая газета» сообщала, что Раковский прибыл в Петроград из Одессы 4 мая вскоре после освобождения из румынской тюрьмы, что в тот же день он посетил Исполком Петроградского Совета, где в ответ на заявление председательствовавшего К. А. Гвоздева о том, что его приветствуют как вождя румынской социал-демократии, сказал, что просит «смотреть на него не как на иностранца, а как на рядового русской революции».[153]

9 мая он вместе с Гриммом, Мартовым, Аксельродом, Церетели и другими видными меньшевиками участвовал в совещании делегатов Всероссийской конференции РСДРП. Раковский, как и Гримм, был даже избран почетным председателем совещания.[154]

Вскоре, однако, Раковский вынужден был от Гримма отмежеваться. Совместно с П. Б. Аксельродом, А. Балабановой (задолго до этого эмигрировавшей из России и вступившей в Социалистическую партию Италии, а теперь вернувшейся на родину для участия в революции), Л. Мартовым и польским циммервальдовцем П. Лапинским он принял участие в расследовании обвинений, предъявленных Гримму представителями Временного правительства. 2 июня Временное правительство опубликовало решение, предлагавшее Гримму покинуть страну в связи с обвинениями в попытках прозондировать возможность реализации намерений правительства Германии заключить сепаратный мир с Россией.[155]

Комиссия, в которую входил Раковский, 18 июня опубликовала заключение, в котором признала, что инициатива Гримма по «выяснению намерений германского правительства» представляла собой шаг, недопустимый для интернационалиста, в особенности для председателя Интернациональной социалистической комиссии, каковым Гримм являлся. В то же время выражалась уверенность, что Гримм не руководствовался своекорыстными побуждениями и не брал на себя роль агента германской дипломатии. Что же касается высылки Гримма, то Раковский и его коллеги сочли, что этот акт является «принципиально недопустимым для правительства Русской революции и представляет опасный прецедент».[156]

Сказанное свидетельствует, что, несмотря на известную дистанцию, которую прошел Раковский по пути к большевизму, он все еще не завершил этот путь, сохраняя близость к меньшевикам. Еще до истории с Гриммом, в конце мая, он принял участие в совещании циммервальдовцев, на котором было принято решение со звать III Циммервальдскую конференцию в сентябре 1917 г. в Стокгольме. Здесь же, на совещании, Раковский аргументированно спорил с Лениным по вопросу о вооруженном восстании, так как полагал, что власть может перейти в руки Советов легальным путем. Позже он вспоминал: «Я разделял недоверие западных социалистов, даже самого левого оттенка, о возможности построения социализма в России. Под влиянием всей прошлой социал-демократической литературы мы ждали от России только буржуазно-демократической революции».