陶行知的祖上，原籍在浙江绍兴府会稽县陶家堰；后来，迁居到安徽古溪；不久，又移居古城徽州歙县西乡黄潭源村。他的父亲名位朝，字槐卿，接管祖上一片酱园，后因经济萧条，破产倒闭了。从此，家道中落。
他从小就聪敏过人。6岁时，在邻居家厅堂玩耍，看见厅堂墙上挂着对联，就坐在地上，舞棍画地，临摹起来，被邻村秀才方庶咸看见，惊为神童，免费为其开蒙。
后来，他又入家乡蒙童馆，在吴尔宽处就读。
15岁时，母亲在歙县一所教会中学“崇一学堂”帮佣，他经常去帮助母亲做些事情，被学校校长、英国人唐敬贤看中，让他免费读书。
就这样，他进了教会学校。心情激荡下，他就在宿舍墙上挥笔写下——我是一个中国人，应该为中国做出一些贡献来！这看似平淡的豪言壮语，却抒发了他的满腔爱国热情。
在这里，他用两年的时间就学完了三年的课程，并以优异的成绩毕业。
1908年，17岁的他考入了杭州广济医学堂。本想通过学医，解除广大劳动人民的病痛，实现自己的报国志向。然而，由于这所教会学校歧视没有入教的学生，他不愿受外国人摆布，入学仅三天，就愤然退学。