Urodził się 26 listopada 1804 roku, w Berthelsdorf (Barcinek koło Jeleniej Góry). Jego rodzicami byli Johann Georg i Juliane Eleonore Jüttner. W 1811 roku, w wieku 7 lat wraz z ojcem przeniósł się do Tarnowskich Gór. Ojciec jego podjął pracę w tutejszych kopalniach. Friedrich zaczął uczęszczać do ewangelickiej szkoły, a od dziesiątego roku życia zaczął pracował w Banku Rudy Ołowianej, aby skromnym zarobkiem wesprzeć rodzinny budżet. Następnie uczył się w szkole górniczej, gdzie poznał Franza Wincklera, w przyszłości jednego z najbogatszych przemysłowców na Górnym Śląsku.
Fryderyk Grundmann pracował na kopalni „Luiza” w Zabrzu, a następnie w Królewskiej Hucie (Chorzów). Kolejnymi kopalniami, na których pracował jako sztygar zmianowy były Królewska Kopalnia Hoym w Niewiadomiu oraz kopalnia Charlotte-Sack w Czernicy (powiat rybnicki). Od 1825 roku Grundmann mieszkał w dzielnicy Radlina, Biertułtowach. Tutaj też poznał Leopoldine Prusowski, córkę kupca z Rybnika, z którą w październiku 1827 roku zawarł związek małżeński. W małżeństwie tym doczekał się jedenaścioro dzieci, z których troje zmarło w wieku dziecięcym.
Od 1833 roku był sztygarem w kopalni „Fryderyk” w Tarnowskich Górach i nauczycielem w tamtejszej szkole górniczej. Prawdziwą karierę rozpoczął jednak dopiero w 1839 roku. Wtedy jego przyjaciel oraz górnośląski przemysłowiec Franz Winckler, powierzył mu stanowisko dyrektora zarządu dóbr katowickich. Dopiero teraz Grundmann mógł się wykazać i skorzystać ze swoich umiejętności. Dzięki niemu mała i nic nieznacząca jeszcze wioska Katowice, zamieniła się w poważne miasto.
Po śmierci Wincklera w 1851 roku, Fryderyk Grundmann stał się zarządcą dóbr całego jego majątku, który jeszcze pomnożył. Nie zapomniał jednak o Katowicach. W 1856 roku zlecił on architektowi H.M.A. Nettbonowi przygotowanie planu rozbudowy miejskiej Katowic. Skutecznie zabiegał o nadanie edyktem króla Prus Katowicom praw miejskich, co nastąpiło 11 września 1865 roku. Kilka lat później Katowice zostały powiatem. Na rzecz miasta Grundmann pracował do 1872 r., kiedy to przeszedł na emeryturę.
W 1857 roku stał się jednym z założycieli cementowni Portland Zementwerke w Opolu. Była to jedna z pierwszych cementowni na świecie, którą cechowała wysoka jakość i wydajności produkcji.
Fryderyk Grundmann zmarł w Katowicach 30 lipca 1887 roku. Został pochowany na cmentarzu ewangelickim, który mieścił się w pobliżu dzisiejszej Biblioteki Śląskiej. Cmentarz został jednak zniszczony w czasach PRL-u. Imieniem Grundmanna nazwano najważniejszą ulicę miasta (obecnie 3 Maja). Był też honorowym mieszkańcem Katowic. Dzisiaj w mieście również istnieje ul. Grundmanna; jest to odcinek obwodnicy śródmiejskiej pomiędzy ulicami Chorzowską a Gliwicką.