Mit drei Jahren hat Wang Tao mit Hilfe seines Vaters schon begonnen, Tischtennis zu lernen. Mit acht wurde er von einer Sportschule in Beijing aufgenommen, und noch im gleichen Jahr gewann Wang Tao bei städtischen Wettkämpfen den Titel als Mannschaftsmeister und erzielte den zweiten Platz im Einzelwettbewerb. Mit 13 wurde er Angehöriger der chinesischen Armee und war gleichzeitig auch Tischtennisprofi. 1983 gewann Wang Tao bei der nationalen Jugendmeisterschaft im Einzel den dritten Platz. Vier Jahre später nahm Wang Tao als Athlet der chinesischen Volksbefreiungsarmee an den nationalen Meisterschaften teil, bei denen er den Titel als Mannschaftsmeister und als Einzelmeister gewann. 1988 wurde er in die Nationalmannschaft berufen. Im Jahr 1990 nahm Wang Tao schließlich erstmals für China an den Asienmeisterschaften teil, bei denen er zwei Goldmedaillen gewinnen konnte. Damit wurde er auch zum Führungsspieler der chinesischen Nationalmannschaft.

1991 besiegte das chinesische Team im Finale der Tischtennis-WM Schweden und gewann den Titel als Mannschaftsmeister, und erneut war Wang Tao als Führungsspieler mit dabei. Ein Jahr später konnte Wang Tao bei den Olympischen Spielen in Barcelona zusammen mit Lü Lin die Goldmedaille im Herren-Doppel gewinnen. Insgesamt gehörte Wang Tao zehn Jahre lang der chinesischen Tischtennisnationalmannschaft an und wurde neun Mal Weltmeister.

Nachdem Wang Tao seine aktive Laufbahn beendet hatte, begann er, am Sportinstitut in Xi´an zu studieren. 2002 wurde Wang Tao schließlich zum Generalmajor der chinesischen Volksbefreiungsarmee ernannt. Er ist damit der einzige General unter chinesischen Sportlern geworden. Derzeit ist Wang Tao Cheftrainer der Tischtennismannschaft der chinesischen Volksbefreiungsarmee.

Der größte Wunsch von Wang Tao ist heute, dass sein Schüler Wang Hao bei den Beijinger Olympischen Spielen eine Goldmedaille für China holen kann.