Gyarmati Dezső Miskolcon, szülővárosában kezdett el sportolni, megismerkedett az ökölvívással és a kézilabdával is. Később mégis a vízilabda lett a sportága, 1940-ben kezdett játszani a Gammánál. Ezután megfordult a Csepeli MTK-nál, az Újpestnél és a Ferencvárosnál is, majd következett a melbourne-i olimpia, ahol a magyar válogatott a vízilabda történetének egyik leghíresebb meccsét vívta a Szovjetunió ellen. Gyarmati Dezső ezután néhány évet külföldön töltött. Hazatérése után, (1958) eltiltás miatt egy ideig segédmunkásként kellett eltartania magát, az 1960-as években művészettörténész és szakedzői diplomát szerzett. 1963-tól dolgozott edzőként a KSI-nél, az FTC-nél, a Budapesti Vasasnál, a BVSC-nél, illetve külföldön is: Kolumbiában (1970), szaktanácsadóként az NSZK-ban (1988) és Bolognában is (1989). Mind sportolóként (többszörös főiskolai világ-, olimpiai, Európa- és magyar bajnok), mind sportvezetőként (többszörös olimpiai-, Európa- és magyar bajnok) nagy sikereket ért el a vízilabdában. Több szervezetnél töltött be elnöki pozíciót (Magyar Vízilabda Szövetség, Minden Idők Legjobb Magyar Sportolói Egyesület), 2005-ben pedig a Magyar Olimpiai Bizottság tagja lett.
Első feleségétől, a szintén sportoló Székely Évától született leánya, Gyarmati Andrea olimpiai ezüstérmes, Európa-bajnok úszónő, gyermekorvos. Második felesége, Bara Margit színésznő volt, közös lányuk Terézia Eszter, unokáik pedig Hesz Máté vízilabdázó és Szilágyi Liliána válogatott úszó.
Gyarmati Dezső 2013. augusztus 18-án hunyt el Budapesten, néhány héttel később, szeptember 4-én helyezték örök nyugalomra a Farkasréti temetőben.
Az alábbi filmekkel tisztelgünk Gyarmati Dezső emléke előtt: az első, 1952-ben készült sportfilm negyed órában foglalja össze a vízilabda lényegét, apró trükkjeit és az edzéseket. A második, 1957-ben készült filmben a sportág kiválóságainak edzését, felkészülését követhetjük nyomon. A harmadik, egészen rövid híradórészletben Gyarmati Dezső mint szövetségi kapitány tűnik fel a filmkockákon - a sportember vezetésével nyerte meg a magyar válogatott az 1973-ban, Belgrádban megrendezett férfi vízilabda-világbajnokságot.
