陈济棠出生在一个亦耕亦读的家庭。父亲名谦受又名金益，系清季秀才，在乡间设私塾，教书多年。大哥陈维周，早年在防城东兴做过星相业，笃信阴阳邪道，对陈济棠的影响极大。他六岁开始入私塾读书，八岁丧母。他性孝，待人接物总显出一片忠诚，故颇受人称颂。

十六岁时应乡试，榜列第三。因感于国家外侮频仍，清室行政腐败不堪，他无心再求仕进，蓄志从戎，曾先在县城习警政，后于1907年入广东陆军小学。次年春，他由陆小教官邓铿介绍加入同盟会。辛亥革命后他转入陆军速成学校步兵科。

陈济棠在陆军小学时，成绩较差，特别是正步老操不好，每逢校阅，他都被留在室内搞卫生。陆小毕业时，他是最末一名。在毕业祝酒时，各同学都向名列榜首的梁安邦祝酒，说梁前途远大。梁喝得醉昏昏，听得乐滋滋，便忘乎所以地说："大家都有办法，除了陈伯南以外。"当时有位同学说："不要小看陈济棠，他可能比别人走得更远"。

梁一听气愤地说："伯南如能出人头地，我给他捧靴。"说得陈济棠面红耳赤，默不作声。后来，陈济棠掌握了广东军政大权，梁为谋取职务，只得来找陈济棠说："伯南!伯南!我给你捧靴来了。"陈济棠说："老同学何必开玩笑，现有一个交通团团长缺，未知你肯屈就吗?"梁喜出望外，但一直当了八年交通团长未升迁过。