张良字子房，韩国（今河南中部山西东南一带）人，因为逃避战乱来到河南南阳，后来又搬到沛国，就算是沛国人了。
童年时，张良有一次到下邳，当时是风雪正猛的冬天，他经过沂水桥时，遇见了一位穿黄单衣系黑头巾的老人。老人故意把自己的鞋扔到桥下，看着张良说：“你这个小家伙，到桥下把我的鞋捡回来！”张良没有丝毫不愿意的表现，马上跑到桥下把鞋捡上来递给老人。老人不接鞋，却伸着脚让张良给穿上，张良就恭恭敬敬地把鞋给老人穿上了。
老人笑了笑说：“你这孩子可以做我的学生了。明天早上你还到这儿来，我将会教给你一些东西。”
第二天，张良天不亮就赶到桥上，见老人已经坐在那里了。老人说：“你比我来得晚，今天不能教你东西。”这样让张良白跑了三次，第四次张良终于比老人先来到桥上。这次老人高兴了，送给张良一部书并说，“你读通了这部书就能给帝王当军师了。以后如果再找我，我是谷城山下的黄石公。”
张良回去后钻研那本书，掌握了在政治和军事斗争中的各种应变策略，后来他辅佐汉高祖刘邦统一了天下。后代把老人给他的那部书称为“黄石公书”。