以赤贫之身办义学，旷古未闻，难度可想而知。但武训对此很有信心，他决心以一生的苦行和执著来实现这个伟大的梦想。
1859年，21岁的武训开始行乞集资，掀开了自己人生崭新的一页。他手持铜勺，肩背褡袋，烂衣遮体，边走边唱，四处乞讨，足迹遍及山东、河北、河南、江苏等地。这个日后在教育史上名垂千古的乞丐，就这样拉开了行乞集资办学的非凡人生之序幕。
苦中有“曲”
他一边行乞，一边唱着自己编的歌谣，歌词似诗非诗，但有积极向上的内容，有一定的韵脚，内容全都与兴办义学有关。无论别人问话还是嘲笑，他都以唱歌作答；无论劳作还是休息，他都愉快地歌唱。如：
干活受人欺，不如讨饭随自己。
别看我讨饭，早晚修个义学院。
他到处出卖自己的劳力，苦活累活抢着干，过着牛马式的生活，目的就是为攒钱办学。牲口做的苦力活，武训不以为苦，还快乐地唱道：
出粪，锄草，拉砘子来找，管黑不管了，不论钱多少。
给我钱，我砘田，修个义学不费难。
又当骡子又当牛，修个义学不犯愁。
潇洒之“歌”
谁知，善良的武训再遭欺骗。一年后，武训辛苦积存的一点钱，都被他的姐夫骗去了。武训为此气得水米不进，伤透心了。几天后，他又缓过气来，潇洒地唱道：只见好人盖高楼，没有恶霸行到头。
一些人嘲笑他害了“义学症”，他坦然唱歌回答：“义学症，没火性，见了人，把礼敬，赏了钱，活了命，修个义学万年不能动。”
要饭时，难免遇到吝啬不给东西的人，武训就达观地唱：“不给俺，俺不怨，自有善人管俺饭。”当遭遇声色俱厉的谩骂时，他也不生气，唱歌以对：“大爷大叔别生气，你几时不生气，俺几时就出去。”
勤俭之“乐”
武训把要来的钱都积攒起来，要来的干粮，好的完整的卖掉，换成钱攒起来。自己只吃粗劣、发霉的食物和菜根、地瓜蒂等，并以小曲来唱出自己的心声：
吃杂物，能当饭，省钱修个义学院。
吃的好，不算好，修个义学才算好。
那些岁月，武训不知吃了多少苦。他一天到晚乐此不疲地干那些别人不肯干、不屑干的累活。如推磨、碾米、替人割麦子等。此外，还替人家大清早打扫茅房，出粪晒干后做肥料。有时也帮人挑水浇园、挑粮食、挑笨重东西等，按照路程远近和重量计算报酬，收入还算可观。就这样日积月累，积攒办义学所需的资金。
为了赚点钱来办义学，他有时还像个江湖杂耍艺人一样到各处的庙会集市上耍把戏，以取赏钱。表演全身倒立“扛大鼎”，以手代脚做“蝎子爬”，翻身跳“打车轮”，趴在地上给孩子做马骑，还有锥刺身、刀破头等节目，甚至吃毛虫蛇蝎、吞石头瓦砾，等等。如此作践自己的身体，实在是不容易，—切都是为了兴办义学！他还将自己的辫子剪掉，只在额角上留一小辫，装扮成戏里的小丑模样，以获得别人的施舍。
另外，他还为人做媒红、当邮差、拣收破烂、轧棉花、纺线等。武训就这样到处流浪，打工，要饭，漂泊。晚上就睡在人家的磨房、灶屋，或者是破庙里。每天深夜他还在如豆的灯光下搓捻线绳，绩麻缠线。他边绩麻边唱道：
拾线头，缠线蛋，一心修个义学院。
缠线蛋，接线头，修个义学不犯愁。
辛勤之“蓄”
29岁那年，武训已攒下了一些积蓄，他用这些积蓄买了45亩便宜的低洼盐碱地，并愉快地唱道：
只要该我义学发，要地不怕买碱沙；碱也退，沙也刮，三年以后无碱沙。
只要该我义学发，要地不怕要大坑；水也流，土也壅，三年以后平了坑。
武训38岁那年，山东大旱，饿死不少人。武训用自己的钱买了40担高粱赈济百姓。武训的哥哥不务正业，常向他借钱，一些亲戚朋友也来要求他资助，武训都拒绝了，正色答之：“不顾亲，不顾故，义学我修好几处。”
乡里一对孤寡的婆媳两人，靠要饭为生，好心的武训却慷慨地赠给她们十亩地，还唱道：
这人好，这人好，给她十亩还嫌少。
这人孝，这人孝，给她十亩为养老。
俗语说得好：集腋成裘，聚沙成塔。经过多年的辛劳，武训终于积少成多，存了一笔数目可观的钱。他打听到本县（山东堂邑县）有一位举人杨树芳，为人正直，名声很好，值得信赖，想把钱存放在杨家，于是跑到杨府求见。由于他是乞丐，主人拒而不见，他便在大门口一跪就是两天，最后终于感动了杨举人。武训声泪俱下地把乞讨积钱、兴义学之事原原本本叙述一遍，杨树芳举人深深为之感动，不但答应帮他存钱，并且表示要助他办学，助其完成夙愿。
选自《清朝民事》