民國14年（1925年，大正14年）元月，地方士紳群集永樂町(今迪化街)名中醫葉鍊金宅聚會，葉醫師深以臺北市無孔廟為憾，在座詩人陳培根即稱「如建於大龍峒，願捐獻私地」，當日即決定重建孔廟。
沒多久，黃贊鈞、陳培根、與辜顯榮三人聯名，邀請官紳商賈二百多人在江山樓舉行重建孔廟協商會議，決定殿宇規模及募款方法。2月隨即在辜顯榮所經營的大和行對面，設立「臺北聖廟建設籌備處」，共推辜顯榮為主理，李種玉、陳培根、黃純青、楊仲佐、鄭奎璧、陳天來、蔡彬淮、連雅堂等8位為常務理事，綜理募捐及建廟事宜。3月，大龍峒士紳陳培根捐獻田地二千多坪，辜顯榮購地捐獻一千多坪，另外又以捐款購買田地一千多坪，合為約五千坪作為孔廟的建築基地。
土地與經費解決之後，其次就要聘請設計師。當時，臺灣沒有興建孔廟的經驗，所以擬聘請唐山師父來建造。早先於民國9年（1920年，大正9年）時，泉州名匠王益順受邀來 臺北修建艋舺龍山寺及新竹城隍廟。他的設計頗為眾人賞識。所以就聘請他擔任臺北孔廟的總工程師，擔任設計與建造的工作，並由周財繪製設計圖面。
  王益順為泉州惠安縣的溪底村人，為清末福建最有名望的建築木匠，廈門的南普陀寺即由他修建。他將中國南方建築的許多精華，表現在臺北孔廟之中。因此我們今天所見的 臺北孔廟，可說是很典型的閩南式建築。
臺北孔廟開工時，聘鄭孝廉伯嶼勘察風水，定南北方位，民國16年（1927年，昭和2年）8月，東西廡 (含東西廂)興工，12月大成殿亦分別開工，由李種玉任工程總監督，黃贊鈞為助手，因李、黃兩位熱心負責，工程得以順利進行，民國17年（1928年，昭和3年）4月舉行大成殿上樑典禮。同月儀門亦興工。到民國18年（1929年，昭和4年），大成殿落成。民國19年（1930年，昭和5年），崇聖祠、儀門及東西兩廡亦告成，而新雕的聖賢牌位亦完成。
三殿落成，即開始訓練禮、樂、佾諸生，並購備祭器、樂器。並擇吉於農曆八月廿四日恭奉先師、四配、十二哲暨後殿聖祖、兩廡先賢、先儒等神牌陞座，農曆八月二十七日舉行陞座及舉行中斷30多年的祭孔典禮慶祝聖誕釋奠典禮，禮儀之肅穆，佾舞之莊雅，實為數十年所未見。

臺北孔廟大成殿	民國19年(1930年，昭和5年)攝於臺北孔廟前景，圖中只見儀門、東西兩撫、大成殿及崇聖祠。前面仍為空地、櫺星門及萬仞宮牆尚未修建。