华兴会正式成立后，黄兴、刘揆一等立即密谋发动武装起义，商定于光绪三十年（1904）十月初十日，慈禧太后寿辰，将炸弹安放在湖南省城官员贺寿之处，以炸弹引发为起义信号。长沙的起义以武备学堂的华兴会会员和地方军队中倾向革命的士兵为主。萍乡、浏阳、醴陵一带，准备说服当地哥老会首领马福益响应。并派陈天华前往江西说服防营统领服膺革命；在武昌建立华兴会支部的胡瑛、宋教仁负责运动当地新军；章士钊、杨守仁到上海策应联络；还派两人到四川联系会党。形成湖南首义，四处响应的起义计划。不久，黄兴、刘揆一乘夜踏雪赴湘潭矿山，与当地哥老会首领马福益喝酒畅谈，使马福益接受华兴会领导。但起义未发而消息泄露。黄兴在友人帮助下，辗转逃往日本。马福益改名陈右衡逃往广西，随后返回湘西洪江隐匿，其会众交游得胜、萧子金统率。马到湘西后，与黄兴时通信息，互相联络，准备以洪江为根据地，再次组织发动起义。马遂潜往安源联络矿工加入起义。光绪三十一年（1905）春，马福益不幸在湘乡境内被清军逮捕，三月初八日，在长沙被害。