A börtönt az 1843-as nankingi szerződés után Sanghajba érkező külföldiek - britek, amerikaiak, franciák, németek - építtették az általuk lakott városrészek bűnözőinek begyűjtése céljából. Egy nagyobb büntetőintézet felállítására a külföldi imperializmus felszámolására 1899-ben kitört boxer lázadást követően fokozódott az igény, az eredetileg négyemeletes börtön így 1903-ban fogadta első lakóit.  

Az épület fennállásának első negyven évében a világ legnagyobb börtöne volt. A 20. század első évtizedeiben fokozatosan kibővítették, nagysága egykoron a 70 ezer négyzetmétert is meghaladta. Benne a cellákon és az ellátóegységeken kívül egy - a második világháború előtti időszakban egyedülállónak számító - kivégzőkamra is helyet kapott, ahol az akasztottak haláluk után egy csapóajtó beiktatásával közvetlenül a börtön halottasházában végezték.  

A sanghaji könyvtárban fellelhető dokumentumok szerint Tilancsiaoban elsősorban kínai és férfi bűnözőket tartottak fogva, akikre britek és szikh vallású indiaiak ügyeltek. A börtön hírhedt volt szigoráról: a lakóktól folyamatosan és töretlen csendet követeltek, mindennapos volt a testi fenyítés. Jellemző volt a többszörös túlzsúfoltság is, amelynek következtében gyakran pusztított fertőző betegség az elítéltek közt.

A börtön bezárását, illetve átalakítását nem kora, hanem elsősorban fekvése miatt határozták el. A belváros északnyugati részében, a "kínai Duna-part", a Bund északi részén fekvő építményt mostanra érte utol a sanghaji ingatlanfejlesztési láz. A fegyintézet területén céges irodák és lakóházak, kulturális létesítmények kapnak helyet a városvezetés tervei szerint. Az alternatív tervek közt egy börtönmúzeum, könyvtár, jogi oktatási intézmény felállítása is szerepelnek, a városi tervezési bizottság mindenesetre ígéretet tett arra, hogy történelmi jelentőségére tekintettel igyekeznek megőrizni az épület eredeti jellegét.