Джон родился в Ричфорде, штат Нью-Йорк, в июле 1839 года. Его отец был коммивояжером и аферистом, а мать — религиозной женщиной, которая научила Джона работе и финансам. Примерно в четырнадцать лет Джон и его семья переехали в Кливленд, штат Огайо. Там он начал работать на фермеров поблизости, но ему не нравился чрезмерный физический труд, поэтому он решил поступить в торговый колледж Фолсома, где изучал чистописание, бухгалтерские практики и сделки. Окончив университет, он стал искать должность бухгалтера по всему городу Кливленду.
После нескольких неудачных попыток устроиться на работу Джон всё-таки был принят помощником бухгалтера в торговую компанию «Hewitt and Tuttle». Он изучил общепринятые методы ведения бухгалтерского учёта и начал участвовать в торговых предприятиях компании. В 1859 году Рокфеллер оставил «Hewitt and Tuttle», чтобы заняться собственным делом. В итоге ему посчастливилось стать партнёром Морисома Б. Кларка. Они вложили в общей сложности четыре тысячи долларов, чтобы основать компанию «Clark and Rockefeller». Кларк и Рокфеллер были комиссионерами, которые в основном специализировались на продаже продуктов. Они получили значительную прибыль, продавая мясо, зерно и сено федеральному правительству во время Гражданской войны в Америке.
Джон был опытным бизнесменом, который всегда искал новые возможности для бизнеса и желал увеличить свою прибыль. Первая нефтяная скважина была пробурена в Тайтусвилле, штат Пенсильвания, Эдвином Дрейком, который добыл нефть в августе 1859 года. Рокфеллер обратил внимание на это событие и решил воспользоваться возможностью цветущей нефтяной промышленности. Кларк и Рокфеллер сотрудничали с Сэмюэлем Эндрюсом, чтобы основать нефтеперерабатывающий бизнес. Компания была названа «Рокфеллер и Эндрюс» после того, как Рокфеллер выкупил долю Кларка в 1865 году.
Эндрюс и Рокфеллер разработали план по стабилизации цен в нефтяной промышленности. Поскольку нефтяная промышленность была достаточно новой отраслью, цены были непоследовательными из-за ограниченного рынка. Они встретились со своим крупнейшим конкурентом в нефтяной отрасли Кливленда Оливером Х. Пейном, чтобы прийти к партнёрскому соглашению. Компания «Standard Oil» была основана в январе 1870 года, что положило начало многолетнему успеху Джона его экспоненциальному богатству.
Обнаружение нефти в Тайтусвилле в 1859 году ознаменовано началом нефтяного бума в США. Промышленная революция позволила новым технологическим инновациям облегчить добычу природных ресурсов. Компания Pennsylvania Oil Rock Company была ответственна за то, что наняла Эдвина Дрейка для бурения первой нефтяной скважины. К 1860-м годам в Пенсильвании добывались миллионы баррелей нефти. Это привело к нестабильности нефтяного рынка, поскольку цены упали из-за увеличения добычи при незначительном спросе.
Нефтяная промышленность находилась на низком уровне, когда люди больше не нуждались в нефти для освещения своих домов после изобретения Томасом Эдисоном лампы накаливания в 1879 году. Однако участие Джона Рокфеллера в нефтепереработке удержало отрасль на плаву. Он пришёл в нефтяную промышленность как раз вовремя, чтобы создать свою собственную установку по переработке нефти за небольшие деньги. Цель состояла в том, чтобы быть максимально эффективным и использовать как можно больше ресурсов с минимальными потерями. Это позволило «Standard Oil» в конечном итоге выкупить своих конкурентов или вывести их из бизнеса.
Джон и его партнёры разработали план в 1871 году по консолидации нефтеперерабатывающих компаний, чтобы остановить непоследовательные обвалы цен и получить больший контроль над отраслью. В течение следующего десятилетия Рокфеллер обращался к своим конкурентам с просьбой заключить сделку и выкупить их акции.
Стремясь успокоить все стороны, Джон передал своим конкурентам часть акций «Standard Oil», которая была сопоставима со стоимостью их фирм. Некоторые владельцы нефтеперерабатывающих заводов были привлечены в компанию «Standard Oil» и получили руководящие должности. Всего за один год Джон успешно интегрировал или купил большинство нефтеперерабатывающих заводов в Кливленде.
Следующим шагом Рокфеллера в бизнесе было расширение «Standard Oil» за пределы Огайо и заключение соглашений с железными дорогами о сокращении транспортных расходов. Он начал объединяться с нефтеперерабатывающими фирмами в Пенсильвании, а также купил нефтепроводы. Во второй половине 1870-х годов он приобрёл большую часть собственности Empire Transportation Company, которая была дочерней компанией Пенсильванской железной дороги, и ей принадлежали трубопроводы, вагоны-цистерны и терминалы Нью-Йоркской гавани. В это время у Рокфеллера уже была сделка с Пенсильванской железной дорогой. Там перевозилось чуть более половины поставок нефти «Standard Oil». Он также заключал соглашения с другими крупными железными дорогами, такими как железная дорога Эри, Балтимор и Огайо, а также Центральная железная дорога Нью-Йорка. Были заключены соглашения о том, чтобы позже добавить к этому процессу другие железные дороги.
Во время переговоров о железной дороге Джон пообещал перевозить определённое количество вагонов нефти на постоянной основе. Это привлекло железнодорожные компании, поскольку это позволило им иметь стабильный бизнес. К 1878 году «Standard Oil» получила контроль над 90% нефтеперерабатывающих заводов по всей стране. И к сорока годам Джон стал нефтяным магнатом всего за одно десятилетие после основания «Standard Oil Company». Он взял за правило отсеивать любую ненужную деятельность посредников, чтобы получить как можно больше прибыли от своего бизнеса. В течение следующего десятилетия «Standard Oil» стала более агрессивной в своей деловой тактике, что в конечном итоге привело к падению монополии компании.
Сенатор от штата Огайо Джон Шерман предложил антимонопольный закон в 1890 году, чтобы положить конец монополиям, которые захватывали различные отрасли промышленности. Антимонопольный закон Шермана был подписан в июле 1890 года. Закон позволял федеральному правительству вмешиваться в деловые отношения, разрушая трасты, которые захватывали отрасли и выводили конкурентов из бизнеса.
«Standard Oil» попал под огонь критики, когда генеральный прокурор штата Огайо Дэвид К. Уотсон, подал иск против компании за нарушение антимонопольного законодательства Шермана. Компания проиграла дело, тем не менее, решение было отменено, но в скором времени дело возобновилось. «Standard Oil» было приказано распустить, и она распалась на несколько независимых компаний. Однако фирмы по-прежнему работали вместе, и многие по-прежнему носили название «Standard Oil».
Несмотря на то, что компания была распущена, Джону всё ещё удавалось получать огромную прибыль. Спрос на нефть резко возрос, когда на дорогах появились автомобили. Нефтяная промышленность переживала бум, особенно после того, как Генри Форд сделал модель T доступной для среднего класса. К этому времени Рокфеллер стал потихоньку отходить от дел и в конце концов вышел на пенсию, занимаясь филантропией.
Он помог основать Чикагский университет и внёс в общей сложности почти тридцать пять миллионов долларов всего за два десятилетия с момента основания собственной компании. Он также основал Рокфеллеровский институт медицинских исследований для поддержки исследований в области медицины, позже названный Рокфеллеровским университетом. В 1913 году Фонд Рокфеллера был создан в попытке поддержать проблемы общественного здравоохранения.
Джон Д. Рокфеллер был объявлен первым в мире миллиардером благодаря заголовкам газет в 1916 году. Ближе к концу своей жизни он передал большую часть своих денег и активов своим наследникам и благотворительным организациям. Джон умер в своём доме в Ормонд-Бич, штат Флорида, 23 мая 1937 года и был похоронен на кладбище Лейквью в Кливленде.