1872年9月，明治政府颁布了“散发脱刀令”，提倡武士不带刀（官吏着礼服必须带刀），以破除旧习，提倡“开化文明”。这道命令让武士们陷入了恐慌和不满。自从公元九世纪以来，武士就已成为这个国家的特权阶层，武士刀被视为象征民族传统精神的一项灵器。武士随身携带两把佩刀，走在大街上，农、工、商阶层必须低头避让，否则自认为受侮辱的武士有权挥刀砍人。武士对于“散发脱刀令”的忧虑也由此而来：假如不能带刀，特权如何体现？其他人怎么尊敬我们呢？
实际上，武士们心怀不满由来已久。在颠覆幕府统治的尊王攘夷运动中，武士们立下了汗马功劳。本来对于分享革命果实满怀期待。可革命成功后，绝大多数武士没有获得好处。恰恰相反，因内战导致债台高筑，政府急需减少财政负担。考虑到武士薪俸一直以来为各藩增加了沉重的财政负担，对武士薪俸进行改革就成为了节约开支的明确目标。最终，武士们等来的不是奖赏，世代相传的薪俸反倒被削减。因此在1870年到1871年间，日本各地发生了许多武士动乱，都是由薪俸变动直接或间接导致的。
这些武士动乱事件也让维新政府更加警惕。明治维新的目标之一就是废除藩国，推动国家从封建制度向中央集权民族国家转型，但武士是废藩的主要阻力。数百年来，武士们作为藩国的家臣和战士，只知效忠藩主，不知报效国家。所以政府一边小心翼翼地废除藩国，一边悄然地解除武士们的特权。
1871年8月，天皇发布敕令，宜布终结大名的统治，废藩置县。为达此目的，政府给予了各地大名各种各样的诱感，包括任命其为原领地的知事、发放优厚的退休金、取消各藩的债务，并及时以新的爵秩授予贵族头衔。随后，大名被命令从此长期居住下东京，各藩国军队遭到遣散，许多当地官员被解职。
同一年，明治政府废除封建等级制度，宣布“四民平等”。政府废除了曾经强制执行严格隔离措施的法律规定，解放了贱民群体。所有平民都被要求采用姓氏，同时废止了见到武士要跪倒致敬等传统要求，“散发脱刀令”也是其中的改革措施之一，因为在从前，束发、有名有姓、带刀是武士们的传统特权。
废藩置县让武士们失去了传统上他们作为家臣的薪俸和作为战士、官员和管理者的闲职，“户口”转入中央政府，导致中央政府的财政更加紧张。政府要减薪，特权要消除，武士便成为了社会不安定因素。
为了平息武士们的不满，有些官员提出征召武士入伍，建立国家统一的军队。武士拥有勇气、忠诚和荣誉感等尚武品格，何况千年以来武士都充任军役。一位高级军官提议，留出20%的国家收入以创建一支常备军，并建议国家的准备金要大到足以使所有年龄在20岁到45岁之间的士族人伍。
不过，这个建议遭到了明治政府大多数官员的反对。他们担心武士脾气暴躁、散漫放纵，更忠于他们的同族之人而不是中央政府。军队一旦成为武士们麋集之所，局面很难控制。政府官员们广泛支持普遍征兵制，理由非常堂皇：这是一种已在西方国家施行的制度，行之有效，优点多多。而中国的军事制度备受质疑，因为现实已表明中国军队无力镇压大规模的叛乱，也无力保卫国家免遭相对较小的英国、法国及俄国武装力量的侵扰。
1873年1月10日，政府颁布《征兵令》，所有年满20岁的男性都有服兵役7年（3年常备军，4年预备役）的责任，并要求年龄在17岁到45岁之间的男性进行登记，以备可能的征召。此举的直接目的是缔造一支真正忠于中央政府的国家军队，并适应于新近采用的西方式的高度管制的军事制度。
普遍征兵制的推行让武士们失去了最后的机会。更令他们绝望的是，《征兵令》之后政府发表了一个声明，直言不讳地责备武士阶级“世代过着懒散的生活”，断言如今所创立的兵役制度将为“士兵和农民的团结”扫清道路。政府还特别强调说，在回报国家的服役中，武士与平民之间从此以后不会再受到区别对待。
既然武士对当时的日本已几乎没有什么军事和行政上的贡献，为何不把武士的薪俸转换为一次性总付？彼时，武士年俸花费已成为中央政府的最大一笔支出，难以承受。结束武士享有的薪俸，既可以进一步废除武士特权，还能为殖产兴业节省资金，一举两得。
事实上，在政治上执行这一决策需谨慎小心，愤怒的武士们已经在佐贺叛乱，虽然叛乱很快被平息，但这一事件已使得政治家们不敢轻举妄动，只能逐步调整。直到1876年，明治政府强制以债券（“金禄公债”）交换武士的退休金：政府发放债券代替薪俸，最小的世袭薪俸将以其年值的14倍换取政府的债券，并按7%的利率提供利息；最大的世袭薪俸是按照年值的5倍计算，并按5%的利率提供利息；其余的武术薪俸处于这两个数值之间。生活津贴将按照这些比率的一半换算。
对政府而言，武士薪俸的代偿使政府预算费用减少了大约30%。由于通货膨胀，事实上则减少了更多。对于较为富裕的武士和他们的封建领主来说，国库债券的代偿为他们提供了有用的资本金，可用来投资于土地或其他形式的现代企业。大名和一些上层武士加入到宫廷贵族之中，过着舒适而体面的生活方式。在他们的家臣中，有少数武士在官僚机构和武装部队中谋得职位并飞黄腾达，成为了日本政治精英的核心。
另一方面，绝大多数武士靠这些公债根本无法维持生计，不得不将之变卖。到1884年，已有80%金禄公债被出卖，公债集中到了商人和高利贷者手中。最贫困的武士只能回归土地，或从事其他种类的生产工作，降为农民和工人之列。此外，他们被完全禁止在公共场合佩戴刀剑，日本武士的最后特权和精英痕迹消失了。
武士的暮钟敲响了，可是没有任何一个社会阶层甘愿主动退出历史舞台。1877年西乡隆盛率领武士叛乱，成为了武士们在日本历史舞台上的最后表演。西乡隆盛剖腹自杀是一个时代终结的隐喻，日本武士以如此惨烈的方式退出了历史。
1900年，美国学者巴什福德·迪安（Bashfork Dean）来到日本，考察武士刀的制造工艺，并且找到了几位依然掌握此类技艺的家族。五年后他重返该地，发现这些老人早已离开人世，子孙们已将那些具有历史价值的武士刀贱价卖出。日本各地的古玩店里到处可以买到这些使用古老技艺打造的犀利兵器。在街头，不时有个别衣衫褴褛的浪人，如同旧时代的阴魂一样四处游荡。
