Окончив училище, Янкель поступил на службу учеником в электротехническую мастерскую Ингера. Монтируя электропроводку в частных домах и конторах, он получал по 30 коп. в день, а ночью подрабатывал в трамвайном парке. В 1915 году юноша примкнул к партии социал-революционеров, или попросту эсеров. Он посещал их собрания, а также водил дружбу с одесскими анархистами. Уже тогда, в столь юном возрасте, за Яшей тянулся шлейф дурных историй и утвердилась слава жестокого человека. Вместе со знаменитым Мишкой Япончиком он занимался грабежами. Во время службы в торговой компании у некого Перемена будущий террорист за крупное вознаграждение умело подделывал подписи чиновников. По Одессе поползли слухи о молодом брюнете, который помогал увиливать от службы в армии. Брюнетом с левым «лисьим» глазом заинтересовалась уголовная полиция. Яков свалил все на своего начальника: мол, это по его требованию он занимался подделкой справок. Перемен, ошарашенный наглостью своего работника, подал на него в суд. Блюмкин проконсультировался у адвоката, можно ли дать судье взятку. Но судьей оказался один из самых честных и принципиальных юристов Одессы. Яша все же купил небольшой подарок и отправил его служителю Фемиды. Каково же было удивление полиции и адвоката, когда молодой проходимец выиграл безнадежный процесс! Позже Блюмкин хвастал, что в отосланный судье презент он вложил визитную карточку своего начальника.

В 1917 году Яша переехал в Харьков. Местные эсеры отправили его проповедовать их идеи в Симбирск, на родину В. И. Ленина. В январе 1918 года социал-революционер записался в Первый Одесский добровольческий железный отряд при штабе шестой армии Румынского фронта. Двадцатилетний боец участвовал в сражениях с войсками Петлюры, штыком и пулей устанавливал советскую власть в нынешнем Приднестровье и в Одесской губернии. За боевые подвиги его ввели в Военный совет армии в качестве комиссара, а в апреле 1918 года Яков стал начальником штаба армии.

И тут опять произошла неприятная история. Блюмкину было поручено экспроприировать деньги в госбанке. Умелый налетчик, а ныне – красный командир, захватил четыре миллиона рублей, предложил взятку в десять тысяч командарму, столько же запросил себе, а остальные деньги был согласен передать на нужды партии. Проходимца припугнули расстрелом, и он отдал три с половиной миллиона, а с полумиллионом сбежал. «Всплыл» Яша в Москве, где его приютили товарищи по партии. Якова Григорьевича зачислили в охрану ЦК партии левых эсеров, а с мая 1918 года он стал работать в ВЧК. Бывший налетчик, полиглот вскоре занял кресло руководителя отдела по борьбе с международным шпионажем. Надо отметить, что некоторые разработки Блюмкина до сих пор используются в работе спецслужб.

Работа в ВЧК сделала его еще более тщеславным. В разговорах со знакомыми Блюмкин выдавал себя за человека, наделенного полномочиями решать, жить человеку или умереть. А своим новым московским приятелям Сергею Есенину и Осипу Мандельштаму будущий террорист не раз предлагал посмотреть, как в подвалах расстреливают контрреволюционеров. Шефу ВЧК Дзержинскому нравился молодой чекист, под него планировались операции, которые максимально могли задействовать его природные качества – авантюризм и изворотливость, умение без грима изменять свою внешность, превращаясь из молодого человека в старика, и наоборот.

Дипломатам Германии в Москве стало известно, что 24 июня 1918 года ЦК партии левых эсеров вынес смертный приговор немецкому послу – графу Вильгельму Мирбаху. Они официально обратились в ВЧК с просьбой обеспечить его безопасность, однако никакой реакции с Лубянки не последовало. Четвертого июля, в день открытия V Съезда Советов, эсеры приняли решение привести приговор в исполнение. По их мнению, это было единственной возможностью сорвать невыгодный для России Брестский договор, заключенный Лениным с Германией в счет платы за помощь ему в захвате власти в России. Исполнителями теракта назначили Якова Блюмкина и Николая Андреева, фотографа ВЧК.