他们，一群中国孩子，手拿西洋乐器，奏着西方音乐。即使时光流逝了几十载，但说起那些乐器，首先跃入他们脑海的却是流利的法语名称。他们并未受过专业音乐训练，最高学历不过初中；其老师也只是教会里普通的神父和修士，其职业也与音乐并无关系。但就是这些人组成的乐队却频频受邀，到上海各学校和机构演出；每有贵宾到访徐家汇，负责奏乐迎宾的也总是这支乐队。这就是闻名遐迩的土山湾乐队。
西方音乐走进土山湾，最早可追溯到太平天国战争期间。当时很多外国雇佣军开进上海，法国人和中法联队的军队则驻扎在徐家汇一带。当时，法籍耶稣会会士兰廷玉神父(Franciscus Ravary，1823～1891，1856年来华)在徐家汇组建了管弦乐队，这是上海第一支西乐乐队。他从法国运来西方乐器，训练孩子们演奏。乐队包括徐汇公学学生和土山湾孤儿。一次演出前，兰廷玉神父拿出一块银元，让两个最大的孩子去买些糕饼，结果他们买了近十斤馒头。这些小乐师们不到半小时就把馒头全吃光了，一个半小时后却又饿了。据此猜测：这些小乐师们很可能来自贫寒家庭或孤儿院。这支乐队最早的演出是1864年11月22日，圣女则济利亚瞻礼时在洋泾浜天主堂表演《晨曲》和《弥撒曲》。结果大获成功，法国驻沪总领事葛笃对乐队大加赞赏，并附赠三十元银洋以奖励青年演奏者。此后，每逢天主教四大瞻礼日，洋泾浜教堂总要请他们参加演奏。而在一些特殊场合，也g经常会看到其身影，如在蔡家湾育婴堂收满孤儿逾三百人时，兰廷玉神父就率乐队前往“奏乐唱经，以志庆幸”。
1871年，奥地利驻沪领事于布内(Hubner)参观土山湾孤儿工艺院，陪同的谷振声会长盛情邀请他聆听乐队演奏。乐声响起，这位领事惊讶地发现，他们演奏的竟是海顿的交响乐曲。于布内无法相信自己的眼睛，但眼前分明是四个中国人在演奏，连指挥也是“架着奇怪眼镜”的中国神父。回国后，他不无激动地写道：“海顿的作品在中国演出，而且由中国人演奏！有什么理由能让我们不深深陶醉其中？”
管弦乐队成立较早，人数不多，对外活动也很少；真正让土山湾音乐扬名海上的是土山湾军乐队。说起土山湾军乐队，有一群人不能不提，那就是1900年义和团运动期间负责保护上海法租界的法国部队。这些法国海军士兵曾利用周日中午休息时间，来土山湾和孤儿们“交流”，和孤儿们游戏，对孩子们进行军事训练等；同时，还利用闲暇时间教孩子们吹奏军乐。虽然这些法国士兵并未在土山湾组织起一支军乐队，却把西方最流行的音乐和最易学的乐器带给了土山湾的孩子们。从此，西方音乐在土山湾开始普及。
1903年，葡萄牙籍耶稣会士叶肇昌(Francesco Xavier Diniz，1869～1943，字树藩)，创办了土山湾军乐队。1869年叶肇昌生于上海，早年就读于虹口圣方济学校，后从英籍建筑师多德尔学习建筑工程。1896年进耶稣会，被派往徐家汇，是当时几个著名的读书相公之一。1905年晋升神父，旋被派往安徽水东传教，一年后回上海，专务教区建筑，并被上海震旦大学聘任为工程系建筑学教授，负责设计监造了徐家汇大教堂(1910)、余山山顶教堂(1935)及震旦大学、徐汇公学校舍等。此外，叶肇昌还精通乐理，能演奏多种乐器。他在土山湾组建这支乐队，是为了让孤儿院的孩子们多学一些本领，拥有丰富多彩的业余生活，用他的话来说就是：“乃朝后散起心来，可以作作乐，快活快活，免脱多化厌气咤啥。”(译文：从今往后散心的时候，可以作作乐，快活快活，打发许多无聊时间)其实他很清楚，这些孩子最终都会成为普通工人，但他希望能用艺术弥补他们童年心灵的创伤，同时陶冶其情操，让他们在艺术阳光下乐观开朗起来。乐队奉圣若瑟为主保，故叶肇昌将乐队命名为圣若瑟音乐班；又因乐队使用的都是铜管乐器，对外一般又叫圣若瑟军乐队，简称土山湾乐队。协助他训练孩子的是土山湾木工间主任、德籍修士葛承亮和五金间主任、葡籍修士笪光华(Joseph Damazio)，他们也都擅长音乐，会演奏圆号、小号等管乐器，能够胜任这一工作。从此开始，音乐正式成了土山湾孤儿们课余生活的重要部分。P29-31
