古城有6座城门，各具象征：南门为龟头，面向中都河；城外原来有两眼水井，好似龟之双目；北门为龟尾，是全城的最低处，城内所有的积水均经此流出；东西有4座城门和瓮城双双相对，好像龟爪前伸，惟下东门瓮城的外城门径直向东开，据说是造城的人恐怕乌龟爬走，因此要将其左腿拉直，拴在城外慈相寺内的麓台塔上。整个城池平面布局形似乌龟，有“龟前戏水，山水朝阳”之说，因此平遥也俗称“乌龟城"。平遥古城墙是国内仅存的完整的古代县级城墙之一。最早的夯土城垣相传为西周大将尹吉甫所筑，明洪武年间在原旧城基础上扩建成今日的砖石城墙
这座县城，明、清两代500余年间，先后修葺26次，清代初期，康熙四十三年（公元1703年）因皇帝西巡路经平遥，而筑了四面大城楼。平遥古城墙，始建于公元前827－728年的周宣王时期明朝初年，为防御外族南扰，全国各府、州、县城接等级地位普遍建造城垣，以凭防守，平遥城墙即建于其时。使城池更加壮观
城墙上还建有角楼、城楼、魁星楼、文昌阁和点将台等建筑。城外有护城河环城一周，河上有大吊桥。城门六道，南北各一，东西各二，分别寓义为∶南门为“迎薰门”为龟首，面向中都河，城外原有水井两眼，喻为龟之双眼，可谓“龟前戏水，山水朝阳，城之修建，依此为胜”；北门曰“拱极门”为龟尾，是全城最低处，成内所有积水均经此流出；上西门曰“永定门”下西门曰“凤仪门”，上东门曰“太和门”，此三门形似龟的三腿正常向前屈伸，唯下东门“亲翰门”其外城门径直向东而开，传说是古人怕龟爬走，将其后腿即下东门拉直并用绳绑好拴在距城八公里的麓台塔上。瓮城门开在侧面，以便在大城、瓮城上从两个方向抵御来攻之敌，瓮城设内、外门，平时检查来往过客，需要时即可关上两座门，形成“瓮中之鳖”之势。城墙的各个城门都建有重门翁城，均为方形，与城墙同高
古城墙上据说有垛口3000个、小敌楼72座，象征着孔子三千弟子、七十二贤人，使这座热闹的商业城市不失文采
各城门外曾设吊桥，瓮城上筑重檐歇山顶城楼；四周各有角楼一座；四面墙体，每隔60米，筑观敌楼一座，整个城墙上共有72座观敌楼。平遥古城墙，城池平面呈方形，略偏东南向。城墙周长6157.7米(12.3华里)，墙高6－10米，墙顶宽3~6米，底宽9至12米；墙外筑护城壕，深、宽各1丈，复掘堑深阔3丈。城门共有6座，东西各二，南北各一。城墙形制按照“因地制宜，用险制塞”规划、东、西、北墙为方直，南墙随中都河蜿蜒而筑。瓮城就是围在城门外的小城，或圆或方，平遥的瓮城均为方形，高与大城同，城顶建战棚，瓮城门开在侧面，以便在大城、瓮城上从两个方向抵御来攻之敌。瓮城设内、外门，平时检查来往过客，有可疑时报警即可关上两座门，瓮城内被关之敌人即成“瓮中捉鳖”之势，故名之。东西又筑以瓮城，以利防守。传说，城墙上有垛口3000个，观敌楼72处，是按孔夫子的弟子3000、贤人72的数字修筑的
环城而行，每隔一段距离，筑有一个凸出的马面，供了望和侧射火力之用，马面上建有敌楼，共计72个，城墙顶面用砖墁铺满，内筑女儿墙，外筑垛口，共计三千个。军事用途的城墙配以文道之喻意，文武相衬，独成一趣。据说象征孔子周游列国的三千门徒和七十二贤人。平遥古城，设计严谨，工艺精细，形体完整，既有完善的防御功能，又有传统的文化内涵，是我国现存最完好的古建筑之一