연세대학교의 음악대학의 본격적인 시작은 일반적으로 신과대학에 종교음악과가 설립되던 1955년부터라고 할 수 있지만, 실제적인 음악활동은 일제 강점기의 연희전문학교 시절로 거슬러 올라간다. 그 계기는 1917년 당시 연희전문학교 수업이 있었던 종로 YMCA빌딩에서 베커 부인이 채플 시간에 찬송가와 합창을 가르친 것이었다. 연희전문학교 설립에 공헌하였던 수물과 교수 베커박사의 아내인 베커 부인은 피아니스트로서 음악교육의 필요성을 인식하게 되었기에 채플 식단을 이용하여 음악수업을 시도하였다. 때맞추어 10조 실내악단도 구성되어 학생들에 의한 기악음악 활동도 시작되었다.

음악교육의 필요성이 강조되어 1918년 한국인 최초로 일본에서 정식으로 음악공부를 한 김영환이 초청되었다. ‘음악부’가 설립된 것은 김영환의 재임 시절인 1923년으로 아직은 전공 학과가 아닌 과외(課外)의 부서로 만들어졌다. 김영환은 베커박사, 언더우드 박사와 함께 음악과의 설립을 결의하고 미국의 재단본부에 설립계획서를 제출하였으나 1개월 후 ‘연희의 창립목적에 비추어 시기상조’라는 거절의 답신이 왔다. 이에 음악과의 설립은 요원하여졌지만 음악부에서의 활동은 꾸준히 전개되었다.

1929년 김영환 교수가 사임한 지 1년 후 제2대 음악부 교수로 현제명이 임명되었다. 미국에서 유학 중이던 현제명은 ‘선교사와 같은 영단으로 그대 민족을 위하여 음악의 개척자가 되어 주기를 바란다.’는 올리버 에비슨의 권유로 연희전문학교에 오게 되었다. 연희전문학교의 음악활동을 한 단계 도약시키는데 중추적인 역할을 담당하였던 현제명 교수는 학생들을 모아 합창단을 만들고 ‘연희전문학교 관현악단’을 발족시켰을 뿐 아니라 다양한 음악회, 강습회, 음악경연대회 등을 마련하여 연희전문학교의 음악이 대외적으로 뻗어나가고 음악교육계에 공헌하도록 하였다.

연희음악의 초석을 다진 현제명은 일제 탄압 하에서 음악활동을 할 수 없게 되자 1943년 사임하였고, 문학준 교수가 그 뒤를 이어받아 1946년부터 2년 간의 과도기동안 ‘연회악우회’를 통해 안정을 찾아나갔다. 1948년 박태준 박사가 제4대 음악부교수로 취임하면서 합창부가 강화되고 강습회가 부활되는 등 음악부가 새롭게 정비되었다. 음악부의 활동은 1950년 6.25전쟁의 발발로 민족의 운명과 더불어 다시 시련을 겪게 되지만, 피난 시절에도 부산 가교사에서 교회음악지도자 강습회를 개최하는 등 계속적으로 음악활동이 이어졌으며 1953년 10월 노천극장에서 ‘환교 기념예술제’를 개최하며 다시 부흥하게 되었다. 1954년 ‘연희화성학회’가 조직되고 같은 해 12월 한국 최초로 헨델의 오라토리오 <메시아>를 연주하는 등 음악부는 독립적인 음악과의 설립을 꿈꾸며 음악적 발판을 다져 나갔다.

연희전문 시절의 초기학제에 관해서는 기록으로 남아 있는 자료가 드물어서 김영환 교수가 문과와 상과 소속의 학생들에게 1주에 2시간씩 악리를 가르치고 합창연습을 시켰다는 사실 정도를 알 수 있을 뿐이다. 그러나 이 시절에도 수많은 음악회와 학생들의 연주 활동이 가능했던 것은 합창 수업과 관현악 수업뿐만이 아니라 개인레슨까지도 병행되었기 때문일 것으로 추측된다. 1954년에는 ‘화성학반’이라는 이름 아래 제1회 작곡발표회가 열렸고 이듬해에도 이어진 것으로 보아 작곡 레슨도 별도로 있었을 것으로 여겨진다.