В своята история гр. Нанкин е бил облагодетелстван, но и подложен на страдания заради уникалното си географско местоположение и характеристики. Въпреки многократните поражения от войните, той винаги е успявал да възкръсне от пепелта. По време на окупации от чужди войски властите винаги са избирали Нанкин за място, от където отново да възстановят страната. Затова той се определя като „място за възраждане на китайската нация“ и има специален статут и стойност в китайската история.
В историческите записки в района на Нанкин е регистрирана човешка дейност от преди 1 до 1,2 милиона години. Тук са открити останки от древни хора на повече от 600 000 години. Вкаменелостите от човекоподобни маймуна от Нанкин са от важно значение за ранната човешка еволюция в Източна Азия и археологията. Те за пореден път доказват, че Нанкин е един от районите, първоизточник на китайската цивилизация.
Преди 7 000 години в района Цися се появява земеделска цивилизация. В басейна на река Цинхуай са открити множество примитивни селища, известни като културата Хушу, които са на около 4000 години. Предполага се, че те полагат основите за появата на днешния град Нанкин.
През 571 г. пр. н. е. в границите на царството Чу е основан Тани, който се счита за най-ранното местоположение на днешния Нанкин. През 333 г. пр. н. е., когато войските на царство Чу унищожават царство Юе, царят Чу Уей иска да използва река Яндзъ като бариера, за да завладее по-широки територии. Той построява град с каменни стени, който нарича Дзинлин ( това е едно от имената на Нанкин).
През 229 г. Сун Чуан, владетел на царство У, установява столицата си тук и оттогава започва развитието на Нанкин, превръщайки го в политически център на Китай. Тук установяват столиците си династиите Източна Дзин, Сун, Ци, Лян и Чън. Затова Нанкин става известен като „древна столица на шест династии“ и се прославя с културата си в цяла Източна Азия. От този момент той заема важна позиция в историята на китайските столици. Той е прецедент в симетричното оформление на структурата с централна ос и симетрично разположени около нея сгради, формирайки уникален модел и стил за градовете-столици. Сред дворците на шестте династии най-голям и величествен е дворецът Дзиенкан. Той оцелява 360 години, а оформлението и архитектурният му стил оказват влияние не само върху изграждането на столиците на Северните династии и династиите Суей и Тан, но и на други места в Азия, например в Япония и на Корейския полуостров. В наши дни информация за двореца Дзиенкан се пази в Нанкинската библиотека и Музея на шестте династии.
В периода на Шестте династии град Нанкин е най-големият в света с население от близо един милион души. Историците определят него и древен Рим като „двата центъра на световните цивилизации”. Културата на Южните династии има изключително силно влияние върху човешката история. По време на Шестте династии са поставени основите на Пътя на коприната по море, чийто център е бил Нанкин, а пристанището е било международен център за търговията по море. Тук често са се събирали десетки хиляди китайски и чуждестранни кораби.
По време на династиите Суей и Тан градът загубва важния си статут, тъй като владетелите изместват столицата в северната част на империята. Благодарение на географските си предимства обаче, Нанкин връща имиджа си на икономически и културен център. Тук са живели и гостували поети като Ли Бай, Лиу Юси, Ду Му и Ли Шанин. След падането на династия Тан владетелите на Южна Тан установяват столицата си в Дзинлин(друго име на Нанкин) и градът е разширен. През династия Тан в северната част на империята непрекъснато се водят войни, докато през Южна Тан в продължение на 70 години се установява мир. Икономическият просперитет е придружен от развитието на културата, като през този период от китайската история са създадени различни нови жанрове в поезията, живописта и калиграфията.
През династия Сун Нанкин се превръща в политически, икономически и културен център на Южен Китай. Уан Аншъ е политик от династия Северна Сун, който прекарва целия си живот като ръководи района. В края на династията бедствие е причината за третата голяма миграция на населението от южните райони на империята. Тогава Нанкин остава важен военен, политически и икономически център.
При династия Юан градът е административен център на провинциите Дзянсу, Джъдзян, Дзянси и Хугуан. Като център на китайската текстилна индустрия, в Нанкин има повече от 6000 занаятчии, които изработват бродерии за имепраторското семейство.
През 1356 г. Джу Юанджан превзема Нанкин и го преименува на Ин Тиенфу. През 1368 г. е основана династия Мин, която избира за своя столица Нанкин, и градът отново е важна част от политическия, икономически и културен живот на Китай. В началото на династията там живеят 700 000 души и по това време е най-големият град с най-многобройното население не само в империята, но и в света.
Нанкин е мястото, където се вземат важни решения. Той е база за корабостроенето и начално пристанище за седемте пътувания на Джън Хъ на Запад. В средата на династия Мин населението на Нанкин е близо 1,2 милиона и той продължава да е най-големият град в света. По време на император Уанли от същата династия западният мисионер Матео Ричи пристига в Китай и пише в своите записки, че е очарован от Нанкин. През династия Мин Нанкин е по-величествен дори от европейските градове, а императорът го превръща в място, където могат да се видят чудесата на Изтока.
През 1645 г. армията на Цин напада Нанкин и го преименуван на Дзяннинфу. Той вече не е столица на новата империя, а административен център на провинция Дзяннан. По време на императорите Канси и Юнджън от династия Цин Нанкин е превърнат в база за производството на коприна, задоволявайки нуждите на императорския двор. Тогава той е на водещо място в тази индустрия в Китай.
През 1842 г. на британски военен кораб на река Сягуан в Нанкин правителството на Цин подписва Нанкинския договор, който е първият неравностоен договор в съвременната китайска история. С него се слага краят на Опиумната война и началото на съвременната история на Китай. През 1853 г. армията на тайпините завладява Нанкин и създава държавата Тайпинтиен като преименува града на Тиендзин ( в превод „небесна столица). Това е първата война в китайската история, започната от селяни. Тя се надига на юг и се разпространява в цял Китай. Освен това е безпрецедентна с мащабите си в световната история.
На 29 декември 1911 г. в Нанкин представителите на провинциите избират Сун Ятсен за временен президент на страната. Под негово ръководство се създава Република Китай и на 1 януари 1912 г. е основано временното ѝ правителство. На 18 април 1927 г. е създадено правителство на партията Гуоминдан, което определя Нанкин за столица. Периодът от 1927 г. до 1937 г. се определя като златно десетилетие за Китай. Тогава в Нанкин се извършва мащабно градоустройство, което поставя солидна основа за развитието му като модерен град в бъдеще. На 13 декември 1937 г. японската армия напада Нанкин и в продължение на 40 дни градът е подложен на мащабно клане, известно в историята като Нанкинското клане. В 9 ч. на 9 септември 1945 г. във Военната академия на гр. Нанкин се провежда церемония, на която е обявена капитулацията на Япония.
На 23 април 1949 г. Нанкин е освободен от Китайската народоосвободителна армия и оттогава е административен център на провинция Дзянсу.
