光绪二十八年（1902）三月，蔡元培、蒋智由、章太谈、黄宗仰、林獬等在上海发起组织中国教育会，以便借办教育之名，鼓吹革命。同年冬，中国教育会正式成立于上海，蔡元培被推为会长。该会下设教育、出版、实业三部，揭橥其宗旨为“编订教科书，改良教育，以为恢复国权之基础。”会员共计一百余人。该会为收容南洋公学退学青年，曾创办爱国学社（南京陆师学堂退学学生亦来就学）、爱来女校、镜今书局、军事讲习会、同川学堂、女子俱乐部，编辑过《中国白话报》。该会的常熟支部办有后塔小学，同里支部办有自治学社。该会员亦经常为《苏报》撰稿，还曾在张园组织演说，进行革命宣传活动。光绪二十九年（1903）五月，《苏报》案发生后，该会重要成员章太炎被捕，会长蔡元培逃离上海，该会的活动基本停顿。