Materialnych świadectw głębokiej przeszłości zostało w Pile niewiele, ponieważ do lat trzydziestych XIX stulecia posiadała niemal tylko zabudowę drewnianą, a w lipcu 1834 wielki pożar strawił setki domostw. Połowa mieszkańców miasta straciła dach nad głową. Miasto odbudowano. Z tamtego okresu (1834-1844) zachował się do dziś budynek arsenału (zbrojowni Landwehry) przy ulicy 1 Maja. Jeszcze wcześniejszy rodowód ma zrekonstruowany w 1947 roku dom przy ul. Browarnej, w którym mieści się dziś Muzeum Stanisława Staszica.

W ostatnich dwóch dekadach XIX wieku miasto zaczęło się bardzo dynamicznie rozwijać. Reliktem architektury tamtego okresu jest część budynku Telekomunikacji Polskiej (tzw. stara poczta) przy Alei Piastów czyli pochodzący z lat 1893-1895 fragment niegdyś bardzo rozległej siedziby poczty niemieckiej. Z tego samego okresu pochodzi stojący po drugiej stronie Gwdy, przy ul. Browarnej, kiedyś ewangelicki a dziś katolicki kościół pod wezwaniem św. Stanisława Kostki. Z końca XIX stulecia zachował się stojący w Parku Miejskim budynek była siedziba Bractwa Kurkowego, a z przełomu XIX i XX wieku ostały się niektóre budynki przy ul. Kilińskiego, 14 Lutego, Ludowej, Bydgoskiej czy 11 Listopada.

W okresie poprzedzającym pierwszą wojnę światową powstały m.in. budynki stojące dziś przy ul. Okrzei i Buczka a także neobarokowy kościół św. Rodziny (1912-1915).

W latach dwudziestych XX wieku powstały budynki wokół Placu Gdańskiego, (czyli obecnego Placu Staszica). Istnieją do dziś: konsystorz ewangelicki i urząd skarbowy (obecnie Urząd Miasta i siedziba firmy Poszukiwania Nafty i Gazu). Zainteresowanie wzbudza monumentalna architektura kompleksu kiedyś mieszczącego bibliotekę, muzeum i teatr (dziś Pilski Dom Kultury i obiekty Szkoły Policji) oraz gigantyczna siedziba władz prowincji (obecnie Szkoła Policji).

Katolicki kościół pod wezwaniem św. Antoniego przy ul. Ludowej ukończony w 1930 roku, dziś jeszcze intryguje czystością i zwięzłością formy. Dzieło cenionego projektanta wielu innych obiektów sakralnych Hansa Herkommera, inspirowane było założeniami niemieckiego ekspresjonizmu. Wewnątrz kościoła można podziwiać jeden z największych w Europie drewnianych krucyfiksów z figurą Chrystusa (dłuta Bertolda Mullera).

W latach dwudziestych i trzydziestych zbudowano w Pile trzy stadiony sportowe. Największy przy obecnej ul. Źeromskiego był przygotowany jako obiekt rezerwowy do przyjęcia uczestników berlińskiej olimpiady w 1936 roku. Wszystkie trzy stadiony zachowały się do czasów współczesnych. Przebudowane i zmodernizowane w ostatnich piętnastu latach nadal pełnią funkcje sportowe. Stadion przy ul. Bydgoskiej stał się areną przede wszystkim żużlową. Stadion przy ul. Okrzei służy lekkoatletom i piłkarzom, podobnie jak największa pilska arena sportowa stadion przy ul. Żeromskiego, obok którego znajduje się nowoczesna, wielofunkcyjna hala sportowo-widowiskowa, spełniająca międzynarodowe wymogi w grach zespołowych.

Szeroko zakrojoną rozbudowę miasta przerwał wybuch II wojny światowej. Jej efektem było niemal całkowite zniszczenie Piły oraz ucieczka znacznej części niemieckich mieszkańców. Po wojnie do zrujnowanego miasta zaczęli przybywać osadnicy ze wszystkich rejonów Polski, którzy podjęli trud odbudowy. Nowopowstałe budynki zaprojektowano przede wszystkim z myślą o ich funkcjach użytkowych. Charakterystycznymi przykładami architektury lat sześćdziesiątych i siedemdziesiątych są masywne bryły Berpilu (do roku 1989 siedziba władz politycznych regionu) przy ul. Dąbrowskiego i hotelu Gromada – budowle traktowane przez ówczesne władze jako obiekty o charakterze prestiżowym. Więcej twórczej swobody mieli architekci realizujący projekty budowli sakralnych. Przykładem typowym dla owego czasu jest zbudowany wówczas na Osiedlu Górnym kościół NMP Wspomożenia Wiernych.

Z czasem projektanci zaczęli powracać do bogatych tradycji architektonicznych przedwojennej Piły. Ożywczymi inspiracjami okazały się dla nich zarysy starych budynków, fragmenty fasad i malownicze detale. Bogatym źródłem tych natchnień okazały się również muzealne zbiory starych wizerunków miasta, fotografii, grafik i pocztówek. Przykładem tej tendencji jest nowoczesna zabudowa ul. Śródmiejskiej, ul. O.M. Kolbe, osiedla Koszyce, Górne.