После недолгой службы в Сенате, а затем работы помощником В. Н. Герарда в 1899 году Гершун отправился в самостоятельное «плавание». Его карьера была блистательной. Гершун стал присяжным поверенным Санкт-Петербургской судебной палаты, в 1906–1917 годах был присяжным стряпчим^>8 Санкт-Петербургского коммерческого суда. Он был юрисконсультом множества торгово-промышленных предприятий, а также великих князей Бориса и Андрея Владимировичей. К 1917 году Гершун владел 17 юрисконсульствами; входил в правления бельгийского Общества доменных печей и фабрик на Ольховой, Общества для постройки экономических путей сообщения и механических приспособлений «Артур Кеппель (Коппель)», Русского общества полевых и узкоколейных путей «Паровоз» и, очевидно, был небедным человеком. Гершун занимался также благотворительной деятельностью: оказывал бесплатную юридическую помощь, был казначеем Общества защиты детей от жестокого обращения. Его профессиональные и человеческие качества нашли признание у коллег: он руководил конференцией помощников присяжных поверенных, был членом Совета присяжных поверенных округа Санкт-Петербургской судебной палаты, после Февральской революции был избран его председателем^>9.

«Момент истины» наступил для присяжных поверенных после большевистского переворота. В итоге адвокаты, по крайней мере большинство из них, решили не становиться советскими «защитниками», наличие университетского диплома у которых власть поначалу не считала обязательным. Понятно, что Гершун был несовместим с властью, упразднившей русскую присяжную адвокатуру^>10. В октябре 1918 года он уехал из Петрограда в Вильно, а в конце года перебрался в Берлин, чтобы провести там последующие 15 лет своей жизни^>11.

В Берлине у Гершуна была солидная практика, которая все же не могла идти в сравнение с практикой петербургского периода. Среди его клиентов были самые разные люди: от торговцев А. Г. Айзенштадта и М. Л. Гешеля, между которыми возникла тяжба о расчетах при продаже бочек табаку, до известного издателя З. И. Гржебина^>12 и графини Брасовой, вдовы великого князя Михаила Александровича. Графиня унаследовала лес, принадлежавший некогда великому князю, а Гершун помогал ей взыскать деньги с неких немецких купцов, эксплуатировавших лес, оказавшийся в период Первой мировой войны на оккупированной германскими войсками территории^>13. Кроме практики Гершун занимался также и теорией – опубликовал несколько статей на юридические темы в германских специальных юридических изданиях.

Гершун не был особенно активен в эмигрантской политике, хотя входил в берлинскую группу Партии народной свободы (кадетов). Бо́льшую часть времени он уделял общественной, нежели политической деятельности, в особенности защите интересов русских беженцев и объединению (в том числе и с целью защиты интересов беженцев) русских юристов за границей. В июне 1920 года он был инициатором, совместно с И. В. Гессеном, И. М. Рабиновичем и М. Д. Ратнером, создания Союза русских присяжных поверенных в Германии. В 1921 году Гершун был избран членом Совета русских общественных организаций в Берлине, в 1923-м – членом правления Общества помощи русским гражданам в Германии, в 1925 году был кооптирован в состав постоянного русского третейского суда в Берлине (предназначенного для урегулирования споров между русскими эмигрантами в досудебном порядке). Кроме того, он был председателем берлинского отделения Комитета съездов русских юристов за границей, инициатором и одним из организаторов Съезда русских юристов за границей (1922), членом Союза русских евреев, германского отделения Американского фонда помощи русским литераторам и ученым, Общества друзей русской печати. По «еврейской линии» Гершун вошел также в правление Союза защиты детей русских евреев в Германии