台北市の孔子廟の創建は、清朝光緒元年（西曆一八七五年）に台湾北部に台北府が設置されたことに始まります。府の中心区域が光緒五年（一八七九年）に建設を開始されたのに伴い、城壁で囲まれた都市の南門付近に文武の廟を建てることになりました。二つの廟はどちらも南を向いており、孔子を奉る文廟は左、關羽を奉る武廟は右に位置しており、これが台北府の孔子廟の始まりとなりました。

台北市の孔子廟の創建当初は、当時の台湾兵備道夏献綸と台北知府（知事）陳星聚とが工事の監督に当り、光緒七年（一八八一年）には大成殿、儀門と崇聖祠とが完成しました。翌年、台北の名士たちが寄付を募り、礼門、義路，櫺（れい）星門、泮（はん）池、及び万仞宮牆（しょう）などが建てられ、光緒十年（一八八四年）には相当の規模となりました。

その後、劉銘伝が台湾巡撫に任じられた時から、毎年定期的に盛大な儀式を催すようになり、台北の文人の重要な行事となりました。光緒一七年（一八九一年）に邵友濂が巡撫を引き継いでからは、福建にまで祭器や礼器の購入に人を派遣し、また礼や音楽の師を招いて、台北で教習を開始しました。

光緒二十年（一八九四）年に日清戦争が起り、その結果として台湾は日本に割譲されたのです。翌年、日本軍は台湾の占領を開始し、台湾は日本占領時代が始まりました。当初は、抗日の義軍が次々に蜂起し、日本軍は台北の孔子廟に駐屯したため、孔子とその弟子の位牌の多くは壊され、祭器や楽器などは失われ、建物は次第に荒れ果て、毎年の祭典の儀式も中止されました。

光緒三十三年（1907年）、日本人は日本語学校建設のために孔子廟を取り壊し、跡地を利用して第一高等女学校を建設しました、それからほどなくして、日本語学校の内部に小さな社が建てられ、孔子とその弟子の聖人の位牌が改めて祭られるようになり、毎年孔子生誕の日には社が開けられ、学校の先生と学生により祭礼が行われるようになったのでした。

中華民国六年（一九一七年）一月、台北の詩人節団体瀛社と大正協会のメンバーとが孔子を祭る崇聖会を組織し、日本人木村匠が会長、台北の名士顏雲年、李景盛が副会長に選出されました。これから毎年旧暦八月二十七日の孔子生誕の日には、日本語学校の社から孔子の位牌をお迎えし、大稲埕学校や蓬萊女子学校、または万華の龍山寺、大龍峒の保安宮などで祭典を執りうようになりました。無論、主だった人びとは孔子廟の再建を主張しましたが、財政面の問題から再建を進すすめることができませんでした。