当时中国农村经济、社会的严重危机早已引起国内外各界人士的极大关注，一些人提出了“救济农村”、“建设农村”、“复兴农村”等各种改革农村社会的方案。例如，国际社会委托国联调查组在中国农村进行了深入的调查，研究中国农村经济和商品市场，提出了著名的《拉西曼报告书》，并组织对华技术使用委员会，希望通过兴修道路、水利，改良农作物，发放贷款等措施复兴中国农村。而国内的中华职业教育社进行了广泛的乡村教育，米氏兄弟在河北翟城、晏阳初在河北定县进行乡村自治和建设，阎锡山在山西也以建设新农村为号召。对这些地方进行了广泛的参观和调查研究后，梁漱溟更坚定了以“乡治”、“乡村建设”作为根本解决中国问题的信念。虽然他对这些改革者的努力十分钦佩，但他也看到了这些地方乡村建设的种种问题，如缺乏全局观念，教育不尽符合农民实际需要等。他对阎锡山治下的山西农村建设最为不满，认为问题很多，其根本原因在于政府作用太大，民众作用太小，而且在政治的情况下，所谓建设反而会成为官员敛财的借口。他尤其强调乡民的自觉主动性，反对政府的过多干预管制。“政府愈管则人民愈被动，愈被动，愈不动”，“故山西村政，若作自治看，则自治之生机已绝。”“对于山西村政的批评此两句话可以尽之：一面是太过不注意；一面是太过用力气。”“山西各项新政，原都是好的；而上面用力太过，人民纯处于被动，其易有弊害，理所当然。”所有这些，都是今日也应时时记起的警世之言。

他还形象地比喻说：“中国人民好比豆腐，官府力量强似铁钩。亦许握铁钩的人，好心好意来帮豆腐的忙；但是不帮忙还好点，一帮忙，豆腐必定要受伤。”“现在全国党政各界，有一句时髦的话叫作‘建设’，不知老百姓最怕听建设这句话。然则就不要建设了吗？当然不是。几时自治的习惯能力养成了，政治的大路开出来，则建设自然而始，应有尽有。”总之，他认为乡村建设如果不是由最底层的村民自己动员起来的自己的运动，则必然要失败。

经过一番考察，梁氏先后在河南和山东个别地方进行了乡建实验，其基本特点是在以伦理为本位（他认为这是中国社会的主要特点）的社会条件下，重建乡村自治组织。他认为，乡村组织的关键是借助中国传统的“乡约”制度。之所以说“借助”，是因为中国传统乡约在很大程度上已为“官家”所控制，甚至成为一种官僚统治工具。而梁氏心目中的乡约是一个由乡民自愿发起、自觉维护的社会组织。他承认，农民自发组成乡约并非易事，所以要对农民进行教育。因此，乡村组织的关键其实在于乡学、村学。他说：“乡村建设运动之做法，即为民众教育，此点毫不含糊，清清楚楚，走民众教育的途径完成乡村建设。”

这种希望当政者支持却不干涉具体事务、通过教育实现农村革新的做法，在当地取得了令人瞩目的成绩。但对全国农村而言，就显得杯水车薪。另外，当时农村最迫切需要的是改革或曰调整旧的土地关系，梁氏希望通过改革而反对通过暴力革命来改变这种土地关系，无疑是“体制内”的改革者。但旧体制的主政者并未能“从善如流”，听从体制内的梁氏及其他类似者的意见，未对土地关系作实质性的调整和改革，他的实验之实效不能不大受影响。