Весной 1860 года группа торговцев и промышленников Кливленда обратилась к молодому Джону Д. с предложением поехать в соседний штат Пенсильванию и на месте проверить, каковы действительные перспективы вложения капиталов в только что открытые там нефтяные месторождения. Рокфеллер вернулся оттуда несколько растерянным. В Титусвилле, где осенью 1859 года Дрейк поставил свою первую нефтяную вышку, Джон Д. увидел обстановку, напоминавшую знаменитую «золотую лихорадку» в Калифорнии десять лет назад. В городке было полно комбинаторов, спекулянтов, проституток, вышки ставили наспех, аварии происходили очень часто, люди обогащались изо дня в день, но также легко теряли состояния. Возникали новые города – хаотично построенные, грязные.

Рокфеллер отсоветовал своим поручителям вкладывать деньги в нефтяные вышки: он считал, что это весьма рискованный бизнес. В то же время Джон Д. придерживался мнения, что полезно и выгодно строить нефтеперегонные заводы, хотя и это дело было связано с определенным риском. Вскоре он стал совладельцем одного из первых заводов в Кливленде. Так начался его пресловутый «роман с нефтью», которая позже стала всепоглощающей страстью Джона Д. и продолжалась до конца его жизни.

Начала нефтяной карьеры Рокфеллера совпадает по времени с Гражданской войной.

Первым компаньоном Рокфеллера в нефтяной промышленности был Сэмюэл Эндрюс, который хорошо знал технику и вопросы переработки нефти. Завод фирмы «Рокфеллер энд Эндрюс» начал приносить немалые доходы, и это поощрило Джона Д. к дальнейшему инвестированию капиталов в данную отрасль промышленности. У него самого еще не было достаточно денег для этого, но он умел находить нужных компаньонов и сотрудников.

В 1864 году Джон Д. женился и вскоре подыскал себе нового компаньона в лице Генри М. Флеглера, зятя известного «короля виски» из Огайо некоего С.В. Харкнесса. Оказывается, Флеглер имел доступ к капиталам тестя и уговорил того одолжить 70 тысяч долларов на строительство нового нефтеперегонного завода. Очень быстро выяснилось, что нефть дает куда большие прибыли, чем виски. В это же время Джон Д. склонил свего младшего брата Уильяма заложить еще один нефтеперегонный завод в Кливленде, причем сам Уильям Рокфеллер стал во главе бюро по продаже нефтепродуктов в Нью-Йорке.

В начале 1870 года Рокфеллер, Флеглер и Эндрюс зарегистрировали новую компанию под названием «Стандард ойл компани оф Огайо», которая стала родоначальником поныне существующих и процветающих концернов. К словам «Стандард ойл» они прибавляют названия штатов, где находятся их резиденции. Первая компания начала дело, имея капитал в 1 миллион долларов, на нее работала тысяча рабочих, и она располагала крупнейшим по тем временам нефтеочистительным заводом.

Фирма «Стандард ойл» приносила огромные доходы, в первые же годы достигшие 100 процентов на инвестированный капитал. Но Джон Д. не довольствовался этим. Уже в то время Рокфеллер нацелился на завоевание позиций монополиста нефтяной промышленности и на оттеснение всех конкурентов. Путь к этому проложили тайные соглашения его фирмы с владельцами железных дорог.

Нефть, добывавшуюся в окрестностях Титусвилла в Пенсильвании, надо было перевозить в Кливленд, штат Огайо, то есть за сто километров. Затем продукты переработки с завода приходилось доставлять потребителям по всей стране, а вскоре и за границу. Существенной проблемой нефтяной промышленности является установление железнодорожных тарифов на перевозку нефти п ее производных. Когда Рокфеллер и его конкуренты приступили к строительству нефтепроводов, возникла необходимость заключить соглашения с владельцами железнодорожных линий, поскольку нефтепроводы, как правило, укладываются вдоль железных дорог.