1917年元月就任北大校长时，年已半百的蔡元培在政坛和学界的地位早已奠定。此后在北京大学的短短六年，是他壮阔一生中最为辉煌、最具历史意义的一段历程。时至今日，他之所以一直被人们以崇敬之心、景仰之情反复纪念、思念、怀念、探讨、研究，盖因“北大校长”矣。在蔡氏之前之后就任北大校长者不乏其人，而唯独他享此尊荣，足见并非“北大校长”使其有此崇高历史地位，而是他“校长”北大而使中国教育、文化进入新境界。

1916年夏，袁世凯复辟帝制失败，暴毙而亡，中国开始陷入军阀混战。各路军阀忙于你争我夺，无人关注教育，客观上为教育提供了一个相对自由、自主的空间。1916年末，蔡元培在友人的力邀下回国，于1917年元月就任北京大学校长。

北京大学的前身是1898年成立的京师大学堂，所收学生都是京官，被称为老爷，多数学生都雇有当差，是为了做官而求学。而学堂的监督和教员则被称为中堂或大人，多为官僚。由于学生是为今后做官而来，所以教员受欢迎的程度不是由其学问的高低而是由其官阶的高低所决定。1912年民国成立，出任教育总长的蔡元培便想将“衙门”化的京师大学堂改造成真正的大学，将学校改名为北京大学，总督改为校长，各科监督改为各科学长，等等。但他不久即辞职而去，未能实现改造北大的计划。1917年他重返北大时，发现并无根本性变化，他曾谈起当时北大学生“仍报科举时代思想，以大学为取得官吏资格之机关”，北大仍是旧式“衙门”。

1917年1月9日，北京大学举行新学期开学典礼。在校长就职演说中，蔡元培提出“大学者，研究高深学问者也。外人每指摘本校之，以求学于此者，皆有做官发财思想”。“所以诸君须抱定宗旨，为求学而来”。他要求学生抱定研究学问的宗旨，注重道德修养，敬爱师友。以后他多次强调“大学为纯粹研究学问之机关”，不是做官的场所。他在给吴稚晖的信中谈到改变北大校风的计划，首先“在延聘纯粹之学问家，一面教授，一面与学生共同研究，以改造大学为纯粹研究学问之机关”。

是“纯粹之学问家”受重视还是由官僚政客或所谓“学官”主导，这对任何大学都是至关重要的问题。而强调大学是“纯粹研究学问之机关”而不是“衙门”，确实抓住了问题的根本。

任何机构都是一种组织，都要有制度管理，要有管理者，大学自不例外。但把大学作为“纯粹研究学问之机关”，与将其作为“衙门”的管理方式则大不一样。

在蔡元培就任校长之前的北大，实际上就是一个“衙门”，一切都是校长说了算，所有校务都由校长与学监主任、庶务主任等极少数人参与决定，连各科学长都不得与闻，一般教授、讲师更无缘置喙。在德、法游学多年，深受“教授制校”的现代大学制度影响的蔡元培认为，北大这种“组织形式形同专制政府；随着精神的高涨，它必然要被改革掉”。他决心改变这种“衙门”式管理体制，代之以的现代学术机构的管理体制。

1917年，他到北大不久，就设立评议会作为全校最高立法和权力机构，负责学校各种章程、法规的制定。同时，各学科的废立、各门课程的多少及改革、学校的财政安排、聘请新教授等事项，均须经评议会严格审核才能通过。评议会的评议员全部是教授，校长与各科学长为当然评议员，各科评议员由本预科各选两名教授做代表，任期一年。文科学长陈独秀，文本科教授胡适、章士钊，文预科教授沈尹默、周思敬等都曾担任过评议会评议员。1917年底，他主持召开评议会会议，决定设立各学科教授会，教授会会员由各科教授和讲师组成，教授会主任由会员推举。1918年，共成立了国文、英文、数学、物理、化学、法律、政治、哲学、经济、法文、德文等共十一个学科教授会。1919年北大采用分系制后，学科教授会改由各系成立教授会，系主任由本系教授会会员投票选举产生。在学校行政管理方面，蔡元培也采取一系列措施保证教授参与管理。1919年底，在评议会下另设立三个机构：一是行政会议，作为全校最高行政机构和执行机关，负责实施评议会的各项决议，成员必须是教授，由各专门委员会的委员长及教务长、总务长组成，校长兼行政会议议长；二是设立教务会议及教务处，由各系学科主任组成，从中推选教务主任，统一领导全校教学工作；三是设立总务处，设总务长一人，主管全校人事与杂务，总务长也由教授担任。