Ffurfiwyd cymdeithas operatig ym 1963 yn Eglwys Sant Jude ym Mount Pleasant, Abertawe, i berfformio gweithiau Gilbert a Sullivan. Ym 1965, cynhaliodd yr eglwys ei phen-blwydd yn 50 oed a dysgodd aelodau gwrywaidd y gymdeithas ychydig o eitemau i'w canu yn ystod wythnos o ddathliadau. Roedd y rhain yn cynnwys caneuon fel Myfanwy gan Joseph Parry a Popeth yn y Noson Ebrill. Daeth y gymdeithas opera i ben yn fuan wedyn, ond ceisiodd 14 aelod ailffurfio gyda'r bwriad o ymarfer yn neuadd yr eglwys Gatholig ar Heol Sketty yn Abertawe. Ni lwyddodd hyn i wir ddechrau. Fodd bynnag, heb ofn, cyfarfu'r 14 o gelynion yn Y Gwlith Mynydd, tafarn ym Mount Pleasant, a phenderfynu dysgu ychydig mwy o eitemau a dod yn gôr parhaol. Lluniwyd cyfansoddiad ac felly y ganwyd Cantorion Gwalia.

Dechreuodd yr ymarferion yng nghartref un o'r aelodau. Y Cyfarwyddwr Cerdd oedd Bryan Myles a'r cyfeilydd oedd Mrs. Elizabeth Davies.

Roedd perfformiad cyntaf Cantorion Gwalia am ddim gan y byddai wedi bod yn anodd denu cynulleidfa fawr mor gynnar. Perswadiodd Islwyn Bennett Bwyllgor Neuadd y Pentref i ganiatáu i'r côr berfformio yn Neuadd Horton. 

Cynhaliwyd y Cyngerdd Blynyddol cyntaf mewn capel yn Waunarlwydd.