타이페이 공자묘는 청 광서제 때 타이완 북부에 대북부(臺北府) 성을 설립하면서부터 인데, 광서 5년(1879년)에 대북부(臺北府) 성을 건설하면서 바로 성 안의 남문 내에 문묘와 무묘를 건설하였다. 두 사당은 모두 남향으로, 문묘는 왼쪽, 무묘는 오른쪽에 세워졌는데, 이것이 바로 대북부 공자묘이다.

대북부 공자묘가 처음 건설될 당시, 타이완 병비도(兵備道, 청대 벼슬 이름. 군사업무를 겸한 ‘도’의 장관)였던 시아시앤룬(夏獻綸)과 타이페이 지부(知府)였던 천싱쮜(陳星聚)등이 감독하여 광서 7년(1881년)에 대성전(大成殿), 의문(儀門), 숭성사(崇聖祠)를 완성하였다. 그 다음 해에 다시 타이페이 인사들의 건의와 기부로, 예문(禮門),의로 (義路), 영성문(櫺星門), 반지(泮池), 만인궁장(萬仞宮牆)을 지어, 광서 10년(1884년)에 준공하면서 상당한 규모를 갖춘 공자묘가 되었다.

이 공자묘는 리우밍추완(劉銘傳)이 타이완 순무(巡撫, 청대 지방 행정 장관) 를 지내던 시절, 매년 같은 시기에 성대한 제사를 지냈는데, 이는 타이완 선비들의 중요한 행사였다. 광서 17년(1891년), 샤오요우리앤(邵友濂)이 순무를 맡으면서 푸지앤(福建)으로 사람을 파견해 제사용 물품을 구입하고, 예관(禮官)과 악사(樂師)를 타이페이로 초빙해 가르침을 받기도 했다.

광서20년(1894년) 중일 갑오전쟁 당시, 타이완은 일본에게 할양되었고, 그 다음해에 일본군은 타이완에 주둔하게 되어, 일제시대가 시작되었다. 일제 초기, 항일군이 봉기하자, 일본군이 타이페이 공자묘에 주둔하면서, 지성선사(至聖先師) 및 선현의 위패가 다수 파기됐으며, 의구(儀具)와 악기 등도 유실되었고, 건물도 점차 황폐해져 결국 석전제도 그 모습을 감추게 되고 만다.

광서 33년(1907년) 일본인은 일어 학교를 세운다는 명목으로, 공자묘를 철거하고 그 곳에 제일고등여학교(第一高等女學校)를 세웠다. 조금 뒤에, 다시 일어 학교 내에 소형 누각을 지어 지성선사와 선현의 위패를 다시 조각하여 봉사하였고, 매년 공자 탄강일에 학교의 선생님과 학생들이 제사를 지냈다.

민국 6년(1917년) 1월, 타이페이 시인 단체인 영사(瀛社)와 대정협회(大正協會) 회원들은 숭성회(崇聖會)를 조직하여, 일본인 나까무라씨(木村匡)를 회장으로, 타이페이 지역 인사인 이앤윈니앤(顏雲年), 리징셩(李景盛)을 부회장으로 추대하였다. 매년 음력 8월27일 공자 탄강일에, 일어 학교의 누각에서 위패를 모셔와 따따오청 공립학교(大稻埕公學校), 펑라이여자 공립 학교(蓬萊女子公學校) 혹은 멍지아(艋舺)의 롱샨쓰(龍山寺), 따롱통의 보안궁(保安宮) 등에서 제사를 봉행하였다. 주최측은 공자묘의 중건을 강력히 주장했지만, 경제적으로 여력이 없어, 계속 그 소원을 이루지 못하였다.