Tadeusz Kościuszko, jeśli udało mu się osiąść gdzieś na dłużej, z upodobaniem oddawał się ogrodnictwu. Jego ogródek w West Point istnieje do dziś. W 200-rocznicę urodzin Kościuszki jego imieniem nazwano czerwoną różę.
Kościuszko, wszechstronnie wykształcony w Szkole Rycerskiej był człowiekiem Oświecenia. To w tej epoce nastąpił czas rozkwitu europejskich ogrodów, wtedy wykształciły się dwa najważniejsze wzorce: formalny ogród francuski i bardziej dziki, pejzażowy - angielski. W Oświeceniu pojawiła się też moda na samodzielne uprawianie ogrodu dla przyjemności. "Istnieje jedna księga otwarta dla wszystkich – Przyroda"- powiedział genewski filozof i pedagog Jean-Jacques Rousseau, który szczycił się pracą w ogrodzie i propagował jej uspokajające zalety.
Gdy Kościuszko przybył w marcu 1778 r. do West Point był wybijającym się inżynierem wojskowym, który wsławił się przygotowaniem bitwy pod Saratogą, pierwszego amerykańskiego zwycięstwa w wojnie o niepodległość. W West Point miał spędzić najbliższe dwa lata. Amerykanie obawiali się, że właśnie w tym regionie mogą połączyć się wojska angielskie rozproszone w pobliżu z oddziałami przerzuconymi z Kanady. Należało zbudować fort - i tym właśnie zajął się Kościuszko.
West Point było malutką miejscowością. Kościuszko początkowo mieszkał w pobliskim pensjonacie, ale gdy groźba brytyjskiego ataku oddaliła się, a tempo robót przy wznoszeniu fortu osłabło, zbudował dom z bali, w którym urządził sobie kwaterę. Początkowo sypiał na podłodze, jesienią 1779 r. przysłano mu łóżko. Kościuszko tak zadomowił się w forcie, że na granitowej skale górującej nad rzeką Hudson urządził sobie ogródek. Do półki w stromym zboczu można było dotrzeć jedynie schodząc po skałach. Kościuszko naniósł tam ziemi - opuszczał ją w koszach na linie - zrobił grządkę kwiatów otoczoną kamieniami i niewielki basen napełniany przez strumień spływający wzdłuż zbocza. To było jego schronienie i miejsce rozmyślań.
Ogródek stał się jedną z atrakcji obozu. Jeden z oficerów, doktor Thecher, który zszedł po kamiennym zboczu, aby obejrzeć sekretne miejsce polskiego inżyniera, opisał je w swoim dzienniku: "Pułkownik Thaddeus Kościuszko, znamienity dżentelmen z Polski (...) podczas stacjonowania w tej placówce wytyczył sobie dla przyjemności osobliwy ogród w głębokiej rozpadlinie, w której było więcej kamieni niż gleby. Z przyjemnością obserwowałem jego niezwykłą fontannę wodną, z kaskadami i strumieniami".
Cytadela West Point uważana była za jedno z najwybitniejszych osiągnięć inżynieryjnych Tadeusza Kościuszki w czasie wojny o amerykańską niepodległość. Wybudowana w rekordowym czasie, wysiłkiem zaledwie 86 robotników, była w stanie pomieścić garnizon złożony z 2,5 tys. żołnierzy. System obronny West Point, oprócz cytadeli, składał się także z czterech dodatkowych fortów, oraz 60-tonowego łańcucha rozwieszonego w poprzek rzeki Hudson, który skutecznie zatrzymał brytyjskie okręty żeglujące w górę rzeki. Forteca ta nie została nigdy zdobyta.
Ze zbudowanych przez Kościuszkę fortyfikacji, nie zachowało się zbyt wiele. Do dziś pielęgnowany jest natomiast jego ogródek - uważany za najstarszy, bez przerw uprawiany ogród w USA.
Założenie ogródka w West Point nie był wyjątkiem w życiu Kościuszki. Gdy w 1784 r. wrócił do rodzinnych Siechnowicz, gdzie spędził prawie pięć lat, samodzielnie zajmował się ogrodem. Także w ostatnim miejscu, gdzie mieszkał - w Solury w Szwajcarii, miał swoją grządkę w przydomowym ogrodzie.
Z okazji przypadającej 15 października 200. rocznicy śmierci Tadeusza Kościuszki, polski hodowca róż Łukasz Rojewski, jedną ze swoich odmian dedykował jego pamięci. Róża "Tadeusz Kościuszko" została wyhodowana w 2012 r. z krzyżówki dwóch czerwono-bordowych róż rabatowych. Jest to odmiana o wysokości 80 cm., kwitnąca od lata do jesieni. Kwiaty ma pełne, o filiżankowym kształcie, w stylu starych róż, o kolorze ciemno-czerwonym z aksamitnym połyskiem.