Urodził się 14 maja 1958 roku w Brzeźnie Wielkim koło Starogardu Gdańskiego. W wieku dziewiętnastu lat ukończył III Liceum Ogólnokształcące, w 1987 roku otrzymał tytuł magistra gdańskiej Akademii Wychowania Fizycznego.

Karierę tenisisty stołowego zaczynał w klubie Neptun Starogard, w którym grał rok (1872-73). Potem przeszedł do AZS Uniwersytet Gdański (73-76), a w latach 1976-85 reprezentował barwy klubu AZS-AWF Gdańsk. W 1985 roku rozpoczął występy w niemieckim TTC Zugbruecke Grenzau, gdzie spędził dwa sezony. Na zakończenie kariery zawodniczej wrócił do AZS-AWF Gdańsk, w 1998 roku, w wieku 40 lat, zakończył oficjalnie karierę.

Na arenie międzynarodowej święcił triumfy jako zdobywca 15 medali mistrzostw świata i Europy, był zwycięzcą turnieju Europa TOP 12 w roku 1985 oraz zdobywcą Pucharu Świata w roku 1988 i dwukrotnie finalistą tych rozgrywek. Jego osiągnięcia zostały docenione w plebiscycie "Przeglądu Sportowego", który uhonorował go tytułem najlepszego sportowca roku 1984.

Był bez wątpienia najlepszym zawodnikiem w historii polskiego tenisa stołowego, choć najgroźniejszy jego rywal w tej klasyfikacji – Leszek Kucharski – występował w tym samych czasach i razem stworzyli bardzo groźną dla każdego parę deblową. Trzykrotnie zdobywał brązowy medal mistrzostw świata (1989 w grze pojedynczej, 1985 w turnieju drużynowym, 1987 w deblu z Kucharskim). W 1982 roku został mistrzem Europy w grze mieszanej z Holenderką Bettiną Vriesekoop. W sumie zdobył 11 medali mistrzostw Europy (4 srebrne i 7 brązowych), a 26 razy okazał się bezkonkurencyjny na arenie krajowej.

Trzy razy występował na igrzyskach olimpijskich. W Seulu w 1988 w grze pojedynczej odpadł w 1/8 finału, a w deblu wraz z Leszkiem Kucharskim zajął szóste miejsce. W Barcelonie (1992) w turnieju indywidualnym powtórzył osiągnięcie sprzed czterech lat, w deblu z Kucharskim odpadł w eliminacjach. Na ostatnich swoich igrzyskach w Atlancie, zarówno w singlu jak i w deblu z Lucjanem Błaszczykiem nie zakwalifikował się do drugiej rundy.

Przed chorobą Andrzej Grubba był trenerem klubu TTC Zugbruecke Grenzau - wielokrotnego mistrza Niemiec, z którym jako grający trener zdobył Puchar Europy. Było to powtórzenie podobnego sukcesu, kiedy jako zawodnik zdobył Puchar Europy, grając jeszcze w barwach AZS AWF Gdańsk. Po zakończeniu kariery sportowej pełnił funkcję dyrektora sportowego Polskiego Związku Tenisa Stołowego. Był także członkiem władz międzynarodowej federacji tenisa stołowego.

Niestety pewnego dnia padła na niego straszna informacja. Otóż okazało się, że ma raka płuc. Po kilku latach walki z chorobą nowotworową zmarł 21 lipca 2005 roku w Sopocie. W testamencie zapisał aż trzy miliony euro na rozwój tenisa stołowego w Polsce. W życiu prywatnym był żonaty i doczekał się dwóch synów. Co ciekawe, jego żona Lucyna 75 razy reprezentowała biało-czerwone barwy w piłce ręcznej.