接着，大比尔又对约翰说：“先不要着急谢我，等你赚了钱之后再谢我也不晚。谷物、牧草、肉食品等经纪商肯定会有大的发展，艾奥瓦、内布拉斯加、堪萨斯，还有加利福尼亚州，将来他们一定会把东西运到这里来。我认为，东部的食品需求一定会越来越大……”
但约翰的一句话却让大比尔非常吃惊，他说：“我要将这些东西运到欧洲去卖，那样才更赚钱。”
大比尔无话可说，是啊，约翰说得很对，自己只想到美国的东部，儿子的眼光已经越过美洲了。他望着这个快有自己高的儿子，心想：儿子长大了，要发展自己的事业了，他比自己要强很多……想到这些，大比尔的内心有了几分欣慰，微笑着点点头，又拍了拍儿子的肩膀。
这是大比尔贷给儿子的众多笔贷款中的第一笔，大比尔是个重视契约的人，事实上，这也是美国人所遵循的精神。无论哪次贷款，他都按照当时所定好的利率计算利息。他认为，这是给儿子施加压力，也是给他动力。后来，成功的约翰也认为，父亲的这种务实的经商精神确实对他的事业有很大的帮助。
约翰的母亲从小就教育孩子们要诚实守信，正直善良，父亲大比尔却不同，他在孩子们很小的时候，就着重让他们认识到这个社会的严峻和冷酷，让他们认识到一切都要靠自己。
约翰还记得在自己很小的时候，非常喜欢从高处往下跳，这时父亲就会用双臂接住他。可是有一次，当他再次从高处跳下来的时候，父亲却将双臂放下了，幼小的约翰一下子摔到了地上，大哭起来。这时父亲告诉他说：“孩子，你要记住，不要轻易相信任何人，包括我在内。”
孩子们长大一些后，大比尔又换了一种教育方法。他说：“我只要有机会就要欺骗他们，我要让他们学会精明。我和他们做买卖，能骗就骗。”约翰刚刚踏入商业界，就表现出足够的精明和老练，这和大比尔的教育方法是有密切关系的。
1859年3月18日，是一个非常值得纪念的日子，颇有远见的约翰和克拉克合开的公司开张了。这是约翰·D.洛克菲勒平生成立的第一家公司，公司名称叫克拉克-洛克菲勒公司，位于克利夫兰的大河街62号。两个人分工合作，各自发挥长处，克拉克当“外场”，负责采购和销售，约翰大部分时间干“内场”，负责融资和记账。约翰对这方面是很精通的，后来，他曾经说：“成为一个老板，我非常满足，内心也非常自豪，我已经和另一个人共同拥有了一家具有4000美元资金的公司。”他沿袭了他做簿记员时锱铢必较的精细传统，克拉克曾经这样叙述他：“有条不紊到极点，留心细节，账目分毫不差。客户欠一分钱，他都要取回来；他欠客户一分钱，也要还回去。”
克拉克仗着自己比约翰的年龄大，又是从英国移居来的，经常摆出一副老大哥的自负样子，动不动就以教训人的口气对约翰说英国如何如何，英国怎样怎样，那副自鸣得意的劲儿让约翰感觉很不快。但约翰知道自己的目标是赚钱，所以这一切他都忍了下来。
公司开业没多久，就遇到了一件倒霉的事。这一年，中西部的农作物遭受霜雪侵袭，受灾严重，几乎颗粒无收，农民们用第二年的谷物收成做抵押要求预付定金。
这时喜欢说大话的克拉克完全不知所措。他胆子很小，不敢冒风险，而且他认为一共就只有4000美元的资本，拿什么来付农民的定金呢？因为霜灾的影响，许多经纪商行都已经倒闭了。克拉克愁眉苦脸地找到约翰说：“约翰，你说我们该怎么办？”
此时的约翰十分镇定地说：“别急，我有办法。”不到20岁的约翰安慰着他的合伙人。他认为，正因为许多同行倒闭了，他们才有了赚钱的好机会。无奈的克拉克只能跟在约翰的身后，一切听他指挥。
但是，应该到哪里去借这么多钱呢？约翰首先找了几个朋友，但朋友们一听说借钱，便都拒绝了。因为他们害怕约翰根本没有能力偿还。约翰这时又明白了一个道理，在关键时刻，友谊是不能当钱用的。没有办法，他只好再次回家去找父亲，虽然他很不情愿这样做。
约翰怀着极大的希望找到了父亲，还没来得及开口，大比尔就先说话了，他让儿子在年底必须将那1000美元还给他。约翰这个时候真的急了，父亲怎么能这样，不借给他钱就罢了，怎么还能让他在这个时候还钱呢？这不是把他往绝路上逼吗？但是，大比尔冷漠地望着他，显然根本没有商量的余地。
约翰大发脾气，第一次对父亲发了火。大比尔什么也没说，转身离开了。愤怒的约翰摔门离去，心中满是失望与焦急。因为他知道，一旦筹不到钱，公司就只能关门了。钱！钱！去哪里弄呢？
约翰这时只有一个办法了，那就是到银行去借钱，除此之外，没有什么更好的办法了。问题是，银行会不会将钱借给他们呢？想到这儿，约翰又想起一个人，他是一家银行的行长，名叫T.P.汉迪。当初约翰在休威特-塔特尔公司做簿记员时，曾在浸礼教会见过他几次。
什么事情都要去努力尝试一下，即使希望是微乎其微的，这一点在约翰的身上体现得非常明显。
约翰直接走进了银行的大门，见到了汉迪。汉迪先生有50多岁了，是一位友好温和的老先生，性格非常好，这些年来，他一直致力于帮助年轻人。约翰坦诚地向汉迪介绍了所有的情况和公司的业务往来，然后又说明了借来的这些钱要用到什么地方等。但是约翰没有任何抵押品，连货物证券都没有，汉迪不免有些怀疑。这时候约翰将公司的账目拿出来给汉迪看。汉迪翻了翻账目表，发现上面的账目非常清晰，丝毫不乱，而且应该付给客户的每一笔钱都及时兑现了。看到这些，汉迪对约翰的信任又增加了几分。他答应借给约翰一笔钱，以仓库的收据为抵押。
这笔贷款就这样谈成了，约翰良好的信誉帮了他的大忙。离开银行后，约翰欣喜若狂，他连蹦带跳地走在大街上，嘴里还得意地哼着小曲，仿佛路上行走的每个人都向他投来赞许的目光，感觉自己已经是这个城市的重要人物了。
这件事给约翰留下了深刻的印象。许多年之后，他还会经常回忆起这件事。在回忆录中，他曾这样描述：“我高昂着头，一想起这件事，一家银行竟信任我，借给我2000美元，就觉得难以置信！我觉得自己现在已是社会上举足轻重的人物了。”
从银行拿到钱后，约翰立即赶回公司，克拉克得知这一消息，也激动万分，约翰却沉静地拍了拍克拉克的后背。自从发生这件事后，一向高傲的克拉克再也不敢以国际人士自居了，再也不摆臭架子了，他们的地位也立即换了个个儿。克拉克从内心开始佩服这个小弟弟了。从这以后，他们勤奋经营，生意也很快好转起来。这一年的年底营业额为45000美元，他们净赚了4400美元。约翰分得了2200美元，这笔巨款相当于他在休威特公司年薪的3倍。第二年，他们继续努力，盈利升至17000美元，比他们预计的要高出好几倍。两个人都极为高兴，他们创立的公司如此顺利，真是吉星高照。
随着公司规模的扩大，为了吸引更多的资金，很快，又有一个叫加德纳的人加入了公司。这个人是克拉克原来的同事，家里也很有钱，而且在当地有一定的影响力，因此，公司的名字改为“克拉克-加德纳公司”。这也说明，约翰在公司的地位是低于克拉克和加德纳的，其中一个原因就是他的年龄比这两个人都要小很多。
虽然约翰内心很不满意，但他并没有表现出来，而是在内心告诫他们说：“不要得意，用不了多久，我就会比你们都强。”
很多方面，约翰和其他两个合作人都表现出很大的不同。作为一名清教徒，他有着明确的目标，对于合作人身上所表现出来的那种贵族子弟的贪图享乐极为不满。而在克拉克和加德纳看来，约翰太严肃了，这也让他们感觉很不舒服。
加德纳是一个非常奢侈的人，很注重个人享受。约翰尤其看不惯他这一点。一次，加德纳和他的朋友们一起出钱，用2000美元买了一艘游艇。加德纳对此非常着迷，经常在本是工作的时间里去泛舟游玩。一天，当加德纳再次准备离开公司时，发现约翰正满脸不高兴地在那里埋头工作，他觉得应该邀请他一起去玩，分享一下自己的快乐。于是，他对约翰说：“约翰，我们准备开游艇出去玩，但愿你也能和我们一起去。
如果你能够适当地放下手中的工作，出去玩玩，对你是有好处的。”
约翰听后不但没有领情，还愤怒地对他说：“加德纳先生，你是我见过的最奢侈的人。你的生活才刚刚开始，却迷恋这种奢侈的东西。
你要知道，你的行为会毁掉你的信誉和公司的信誉。我绝不会上你的船，我连看都不想看到它。”
加德纳也反驳说：“你最喜欢的东西是钱，但我认为，生活中还有一些其他的事情是值得我们去做的，我们应该一边工作，一边为自己找些快乐。”
因为约翰始终看不惯加德纳的那种作风，终于在1862年，将他赶出了公司，公司的名称再次改为“克拉克-洛克菲勒公司”。
尽管取得了一定的成功，但每晚在睡觉之前，约翰都告诉自己：
“你现在已经踏入商业领域，虽然取得了一点点成功，但也许不久你就会失败，会跌倒。现在只是开了个好头，你以为自己是多么了不起的商人了吗？要处处小心，不要骄傲，你的成就是建立在你每日努力之上的。”这种自我警醒的告诫成为他日后多年的习惯，他用这种方式提醒自己不要因为富有而变得骄傲起来，要时常勉励自己，警告自己不要太狂妄。
生意场上，约翰的严谨作风很快就使他建立了非常好的信誉，客户都非常相信他，他的生意做起来更加顺手了。
在公司发展的过程中，经常需要银行的帮助，而约翰也是一个十分善于跟银行斡旋的人。克拉克曾这样评价他：“我从来没有见过像约翰那样能干的借钱高手！”
有一次，公司要购买一家大型的公司，需要筹集几十万美元的现金，而且不能用证券代替。约翰得知这个消息已经是中午了，而筹到钱后他要乘坐下午3点的火车去交易。仅剩下两三个小时的时间了，能筹到这么多钱吗？约翰立即从一家银行奔到另一家银行，和每个银行的行长或者出纳员进行交谈，只是希望他们能在3点以前为他筹集到所需要的现金数目。约翰将这个城市的银行跑遍了，之后又重新跑了一圈去取钱。终于在3点之前筹集上所需要的钱，并赶上3点的火车完成了交易。
和银行不断地打交道，将约翰锻炼成了一个谈判高手。面对比自己实力强的对手，他会大造声势，以期获得对方的信任。经过商场的锻炼，约翰从一个普通的士兵变成了一名能够独当一面的将领，他时刻为他的发财梦努力着。
约翰是在19世纪五六十年代进入商界的，当时美国正处在蓬勃发展的时期，大多数的美国青年都怀着发财的梦想闯入这个商业世界。
约翰也是他们中的一员。他勤奋踏实，有野心，敢冒险，在19岁就开创了自己的公司，而且经营得很好。但是，约翰对此并不满足，他的目标是远大的，他相信自己以后的事业会更好。
