Wywodził się ze znanego i szeroko rozgałęzionego, pruskiego rodu szlacheckiego o silnych tradycjach wojskowych. Zarówno jego dziadek jak i ojciec służyli w armii pruskiej. Zgodnie z tą tradycją także i on obrał karierę w armii, w którą rozpoczął w 1866 r. po ukończeniu szkoły oficerskiej. Jako podporucznik wziął udział w wojnie z Austrią. Od chwili promocji na oficera służył do 1877 r. w 2 Pułku Piechoty Gwardii w Berlinie. Uczestniczył także w wojnie francusko-pruskiej (1870-1871 r.) i po jej zakończeniu otrzymał awans na porucznika. W okresie 1877-1881 już jako kapitan służył w sztabie IX Korpusu Armii w Altonie, a następnie do 1884 roku w sztabie 4 Dywizji Piechoty w Bydgoszczy (Bromberg). Później jako major do 1887 roku służył w sztabie II Korpusu Armii w Szczecinie (Stettin), skąd przeszedł następnie do Sztabu Generalnego w Berlinie, w którym pracował do 1890 roku. Okres kolejnych 4 lat, już po awansie na podpułkownika, spędza jako szef sztabu Korpusu Gwardii.
Pułkownik od 1893 roku. W latach 1894-1897 był dowódcą 4 Pułku Piechoty Gwardii w Berlinie, następnie (1897-1901) po awansie na generała majora pracował w Pruskim Ministerstwie Wojny, na stanowisku kierownika jednego z jego departamentów; od 1900 roku generał porucznik. Na przełomie 1901-1902 dowódca 2 Dywizji Piechoty Gwardii w Berlinie, po czym objął stanowisko Głównego Kwatermistrza armii, które piastował do stycznia 1903 roku. Przez kolejne siedem lat (1903-1912) pełnił stanowisko dowódcy III Korpusu Armii z siedzibą w Berlinie, awansując w 1904 roku do stopnia generała piechoty. Mimo osiągnięcia w 1911 r. 65 lat, po którym powinien przejść na emeryturę pozostał w służbie czynnej nie korzystając z tego prawa tym bardziej, iż nikt z władz wojskowych go nie ponaglał. W 1912 roku awansował do stopnia generała pułkownika, przy jednoczesnej nominacji na stanowisko Generalnego Inspektora III Armii w Hanowerze. Przebywał na tym stanowisku do chwili wybuchu wojny w sierpniu 1914 r.
Będąc jednym z niewielu najstarszych wiekiem i najwyższych rangą generałów otrzymał bardzo zaszczytne, ale także nie mniej ważne i odpowiedzialne dowództwo nad II Armią. Wchodziła ona w skład niemieckiego prawego skrzydła, które w ramach „Planu Schlieffena” miało przez neutralną Belgię wkroczyć do Francji i dokonać szerokiego manewru okrążającego od północy. W dniach 21-24.08.1914 r. jego II Armia uczestniczyła w ataku i opanowaniu belgijskiej twierdzy w Namur. Jednocześnie von Bülow pokonał 5 Armię francuską w bitwie pod Charleroi (23-24 sierpnia). Rychło potem II Armia została uszczuplona o jeden korpus, który odesłany został do Prus Wsch. Ponownie zwycięża 5 Armię francuską w bitwie pod Guise – Saint Quentin (29-30 sierpnia). Pomimo sukcesów armii niemieckich prawego skrzydła, poszerzały się pomiędzy nimi coraz większe luki i przerwy, co doprowadziło ostatecznie do zmiany pierwotnego planu ich marszruty. Zrezygnowano z obejścia Paryża od północy.
Pomimo znacznego skrócenia frontu nie udało się przywrócić jednolitej linii pomiędzy trzema atakującymi armiami prawego skrzydła. Doprowadziło to w konsekwencji do wielkiej przegranej w bitwie nad Marną (04-09 wrzesień), a von Bülow został jednym z współwinnych tej porażki, co bardzo negatywnie wpłynęło na jego reputację. W drugiej dekadzie września jego II Armia uczestniczyła w ciężkich walkach nad rzeką Aisne, które zapoczątkowały tzw. „wyścig ku morzu” zakończony ostatecznie późną jesienią ustabilizowaniem się stałego i pozycyjnego frontu. W styczniu 1915 roku otrzymał nominację do stopnia feldmarszałka, w marcu po ataku serca udał się do Niemiec na rekonwalescencję. Rychło potem, bo kwietniu oficjalnie zdał dowództwo nad II Armią i został przeniesiony do rezerwy, jako dowódca bez przydziału pozostawał w dyspozycji Sztabu Generalnego. Przy tej okazji, na osłodę odznaczony został orderem „Pour le Merite”, przyznanym mu za opanowanie twierdzy w Namur. Nie otrzymał już żadnego dowództwa, w czerwcu 1916 r. z uwagi na zły stan zdrowia i podeszły wiek przeszedł ostatecznie w stan spoczynku i udał się na emeryturę, na której spędził resztę życia. Zmarł w 1921 roku w wieku 76 lat. Karl von Bülow pochowany został na berlińskim cmentarzu (Invalidenfriedhof), jego nagrobek stoi na nim do chwili obecnej.
Przebieg służby:
w 2 Pułku Piechoty Gwardii – Berlin
( 07.1866 – 07.1870: ppor. od 1866 )
w 2 Pułku Piechoty Landwehry Gwardii – Berlin
( 07.1870 – 03.1871 )
w 2 Pułku Piechoty Gwardii – Berlin
( 03.1871 – 04.1877: por. od 1871 )
w Korpusie Gwardii – Berlin
( 04 – 07.1877: kpt. od 1877 )
w sztabie IX Korpusu Armii – Altona
( 07.1877 – 03.1881 )
w sztabie 4 Dywizji Piechoty – Bydgoszcz /Bromberg/
( 03.1881 – 01.1884 )
w 96 Pułku Piechoty – Gera
( 01.1884 – 03.1885 )
w Sztabie Generalnym – Berlin
( 03 – 04.1885 )
w obronie wybrzeża – Świnoujście /Swinemünde/
( 04 – 08.1885: mjr. od 1885 )
w sztabie II Korpusu Armii – Szczecin /Stettin/
( 08.1885 – 09.1887 )
w Sztabie Generalnym – Berlin Sep 1887 – June 1890
( 09.1887 – 06.1890 )
szef sztabu Korpusu Gwardii – Berlin
( 07.1890 – 01.1894: ppłk. od 1890; płk. od 1893 )
dowódca 4 Pułku Piechoty Gwardii – Berlin
( 01.1894 – 02.1897 )
szef departamentu w Pruskim Ministerstwie Wojny
( 02.1897 – 04.1901: gen. mjr. od 1897; gen. por od 1900 )
dowódca 2 Dywizji Piechoty Gwardii – Berlin
( 04.1901 – 02.1902 )
Główny Kwatermistrz Armii
( 03.1902 – 01.1903 )
dowódca III Korpusu Armii – Berlin
( 01.1903 – 09.1912: gen. piech. od 1904 )
Generalny Inspektor III Armii – Hannover
( 09.1912 – 08.1914: gen. płk.
od 1912 )
dowódca II Armii – front zachodni
( 08.1914 – 04.1915: feldmarszałek od 1915 )
order : „Pour le Merite”
( 04.1915 )
Metryczka
Data urodzenia: 24.04.1846
Data śmierci: 31.08.1921
Miejsce urodzenia: Berlin
Miejsce śmierci: Berlin