时家中贫穷，喜欢读书，有田地三十亩，仅同哥哥陈伯住在一起。陈伯平常在家种地，听任陈平出外求学。
陈平长得身材高大，相貌堂堂。有人对陈平说：“你家里那么穷，吃了什么长得这么魁梧？”陈平的嫂子恼恨陈平不看顾家庭，不帮丈夫看顾田亩，就说：也不过吃糠咽菜罢了，有这样的小叔子，还不如没有。
陈伯听到这些话，赶走了他的妻子并休弃了她。但乡邻之间，却流传起了‘陈家次子只会夸夸其谈，却连锄头都挥不动’的话语。
陈平的家乡库上里祭祀土地神，陈平做主持割肉的人，把祭肉分配得很均匀。父老乡亲们说：“好，陈家次子分肉很平均。”陈平却哀叹说：“唉，如果让我陈平主宰天下，也会像这次分肉一样呢？”
——这是陈平想要得到天下的野心第一次出现。
陈胜起兵后在陈县称王，派周市平定了魏国地区，立魏咎为魏王，与秦军在临济交战。在这时，陈平和朋友去投靠了魏王，被魏王任命为太仆。
陈平向魏王进言，魏王不听，又有人将陈平的过去告诉魏王，陈平只好羞愧离去。
后来，陈平投靠了项羽，跟随项羽入关攻破秦国，项羽赐给他卿一级的爵位。
项羽东归，在彭城称王，汉王回军平定三秦向东进军，殷王就反叛了楚国。于是项羽封陈平为信武君，让他率领魏王咎留在楚国的部下去讨伐，陈平却只夸夸其谈而不知兵事，终大败而归。
陈平害怕被杀，便封好项王赏给他的黄金和官印，派人送还项王，自己单身拿着宝剑抄小路逃走。
于是到修武投降汉军，通过魏无知求见汉王，汉王召他进去。此时石奋做汉王的中涓，接过陈平的名贴，引陈平进见汉王。
陈平等七个人都进去了，汉王赐给他们饮食。汉王说：“吃完后，到客舍去休息吧。”陈平说：“我有要事前来，所说的话不能拖过今日。”汉王见陈平如此雷厉风行，还以为陈平有本事，就问：“你在楚军时担任什么官职？”
陈平说：“做都尉。”汉王当天就任命陈平为都尉，让他做参乘，主管护军一职的工作。众将都喧哗起来，说：“大王日前刚得到楚国的一个逃兵，还不知道他本领的高低，就跟他同乘一辆车子，并且反让他监督我们这些老将！”
汉王听到这些议论，便将陈平叫到了身边，说道：我任命你做都尉，但众将不服；你要证明自己的能力啊。于是便带着陈平往东讨伐项王。