古时立学必祀奉孔子，其各地的孔庙，属于国家祀典内容之一。所以孔庙的特点是庙附于学，和国学、府(州)县学联为一体。庙的位置或在学宫的前部，或偏于一侧。
南京夫子庙是前庙后学的布局。孔庙、学宫与东侧的贡院(通过考试来取士的考场)组成三大文教古建筑群。古时候的孔庙有一定的布局形式。
一般前设照壁、棂星门和东西牌坊形成庙前广场，棂星门前设以半圆形水池，称为“泮池”。泮池是孔庙的特有形制，源自于周礼，而夫子庙凿秦淮河为泮池，是唯一利用天名河道作为泮池的遗例。岸北为石栏，有“天下文枢”牌坊，游人至此可凭栏小憩，浏览秦淮河风光。
夫子庙的大照壁位于秦淮河南岸，建于明万历三年(1575年)，全长110米，为中国照壁之最。
泮池边的石栏为明正德九年1514年所建，现也修饰完整。东有奎光阁，西有聚星亭，象征文风昌盛;庙前广场东西两侧立石柱，上书“文武大臣至此下马”，以示对“至圣文宣王”的崇敬之意。庙门前有“天下文枢”柏木牌坊一座，牌坊后面为“棂星门”，系丈余高石牌坊，六柱三门，中门刻有“棂星门”三字篆文。三门之间嵌有牡丹砖刻浮雕，柱头皆有云雕，形即华表。这是帝王出巡朝圣祀孔的通道，非一般官员百姓所能出入的。平日用木栅栏封闭。
街东西旧有“道冠古今”、“德配天地”两坊，民国以后被拆除。广场左右原有“聚星”、“思乐”二亭。聚星亭重檐六角，夫子庙于1983年复建;思乐亭今移建于东市小广场。
棂星门由三座单间石牌坊组成，石坊之间墙上嵌有牡丹图案的浮雕，中间石坊横楣刻有“棂星门”三个篆字，造型朴实无华。
入棂星门，东西两侧各有持敬门，中间为大成门，又称戟门。在封建时代，每逢朔、望(农历初一、十五)朝圣和春秋祭典，府县官员、教谕、训导学教官由大成门进，士子走持敬门，不得逾矩。下阶为丹墀，东西并立三碑，东为元至顺二年(1331年)封至圣夫人碑，西为四亚圣碑，再西为清康熙修学宫碑记。丹墀左右为两庑，外有走廊通正殿。两庑供奉孔门的七十二贤人牌位。
正中是为“大成殿”，外有露台，是春秋祭奠时舞乐之地，三面环以石栏，四角设有紫铜燎炉，燃桐油火炬，祭祀多在午夜子时，光如白昼。殿内正中供奉“大成至圣先师孔之位”，左右配享四亚圣——颜回、曾参、孟轲、孔汲。殿的东边有小门通学宫。
明清时代的大成门为五间，两侧为耳房，供执事人等休息之用，中为三门，门内陈列戟，东设鼓，西置磬，每逢朔望朝圣和春秋祭典，府县官员由大成门(中门)进，士子执事人等分走旁门。此门 与大殿同毁于日军兵火。1986年新建的大成门面宽三间，门内正中有汉白玉屏风，上镌刻“重修夫子庙记”，树立四块古碑，其中齐永明二年的“孔子问礼图碑”是由南京市人民政府院内迁至此处的一块重要的碑铭。
入大成门循甬道丹墀而上，便是夫子庙的主殿大成殿。现大殿是按清代同治八年(1869年)的建筑为蓝本修建的，取消了原孔庙的后墙，使之与学宫融为一体。大殿七间，高18米，重檐歇山顶。原殿内正中为“大成至圣先师孔子之神位”牌位，两旁配享四亚圣。现殿内有孔子铜像，两旁配有孔子十二弟子汉白玉像。殿前有宽敞的露台，四周绕以石栏板，它是古时祭祀举行乐舞的地方。殿前两侧有廊庑相连，原是供奉孔门七十二贤人和历代大儒，及存放祭器的地方。现改作碑廊，墙上镶嵌陈列当今名流的书法碑石30多块。
孔庙院墙与学宫之间，东西北三面有宽畅的通道，曾种植几百棵柏树，古木参天，郁郁苍苍。那时，在庙外的文德桥上凭栏眺望，大成殿的黄色琉璃瓦屋顶在绿荫丛中显得金碧辉煌，雄伟壮观。殿后为“明德堂”，相传匾额为南宋文天祥楷书，后由曾国藩改为篆书。堂后为“尊经阁”，阁原为教谕讲课讲堂，楼上藏有大量儒教典籍的刻板和诸多圣贤画像。清嘉庆年间又遭战火破坏。
清同治八年(1869年)曾国藩、李鸿章二人相继重修扩建，恢复旧貌。然而，孔庙的主要建筑均于1937年毁于日本侵略军的炮火。解放后，原学宫部分作为秦淮区人民游乐场，“名宦乡贤祠”则改为夫子庙小学;大成殿遗址辟为夫子庙广场。“文化大geming”中，剩余建筑又遭破坏。1983年，政府拨款重建夫子庙古建筑群，主体建筑大致恢复旧貌。
夫子庙两侧的东西市场，原是学宫前甬道。东甬道为学宫正门，门前有坊，上书“泮宫”。坊东为明清两朝状元、榜眼、探花题名牌坊。坊西为会元、解元题名牌坊，坊的背面是武科题名牌坊。东西甬道旁，原各有三祠两署。民国以后废科举，兴学堂，学宫遂渐衰落，祠、署分别改为学校、教育局、图书馆等，学宫甬道也成为摊贩市场，东西市场的名称便从那时开始。
现东西市场于1987年建成，总建筑面积为4400平方米，吸收了我国传统的商业街道的空间形式和尺度，采用明清时代的街市风格，以石板铺地，店铺采用“青砖黛瓦马头墙，回廊挂落花格窗”，店、庙、市、街合一，富有浓郁的地方特色。
尊经阁在明德堂后，始建于明嘉靖年间，原为上下两层各五间，清嘉庆以后曾在此设尊经书院，楼上藏书，楼下讲学。1987年重建的尊经阁高三层，18.7米，重檐丁字脊歇山顶，底层五间，二层、三层均为三间。底层辟为“秦淮彩灯馆”，二层为“秦淮文物古迹陈列室”，三层备有茶座，可供游人休息并眺望夫子庙全景。
位于学宫东侧的“贡院”，始建于宋乾道四年(1168年)。它是当时建康府、县学考试的场所，范围甚小。明太祖朱元璋建都金陵，集乡试、会试于此，考生众多，不敷应用。明成祖永乐年间在此重新兴建，贡院始具规模。虽永乐十九年(1421年)成祖迁都北京，但此地仍为江南乡试所在地，清承明制，一如其旧，道光年间曾重新修建。咸丰年间文庙、学宫俱遭兵火，贡院却独能幸存。同治时又重扩建，范围更大，考棚号舍有2万余间，居中国各省之冠。
当时贡院东起今姚家巷，南至贡院东等和贡院街，西至贡院西街与夫子庙隔街相望，北至今建康路。整个贡院成正方形，内有号舍(俗称考棚)20644间，一人一间，每次考试可容纳2万多人。当时贡院正门在今永和园及秦淮剧场之间。
大门外街之东、西各有木牌坊一座，即东、西辕门。大门外东西有石狮子一对及两座石牌坊，轴线上有门三道，分别称“贡院”、“开天文运”及“龙门”。
龙门后依次有明远楼、至公堂及戒慎堂。堂后有门，门后有飞虹桥。桥之南属外帘，飞虹桥是内外帘的分界线。最后为衡鉴堂，是主考官阅考卷、评定名次的地方。考试期间内外帘分隔很严，不得擅自出入。整个贡院四周围以高墙，墙外为街道，街道另一边为店铺民居。自光绪三十一年(1905年)废科举后，贡院即闲置无用。民国7年决定拆除贡院，开辟市场，只保留了明远楼、飞虹桥和明远楼东西少数号舍及明、清碑刻22方。
明远楼始建于明永乐年间，清道光年间重建。平面正方形，三层木结构建筑。底层四面为墙，各开有圆拱门，四檐柱从底层直通至楼顶，梁柱交织，四面皆窗。登临四顾，整个贡院一目了然。它是考试期间考官和执事官员警戒、发号施令的地方。明远楼内已辟为科举制度陈列馆——江南贡院历史陈列馆，展出了100多幅反映中国科举制度的珍贵文献资料、图片，并按原样复建了40间号舍。原安放在贡院内的22方明清碑刻，现集中陈列于明远楼东西两侧，它是研究明清贡院建制沿革和科举情况的实物资料。