Au sein de l’Armée Rouge, le T-28 intègre les rangs de 4 brigades de chars lourds. Contre la Finlande en novembre 1939, la 20e brigade en monopolise l’essentiel, y perdant pas moins de 285 blindés sous le feu ennemi. La proximité des usines Kirov, usines Putilov rebaptisées après la mort de Kirov, permet cependant d’en réparer la grosse majorité. D’ailleurs, la plupart feront au moins 2 allers-retours vers les usines de Leningrad. Au final, seuls 30 T-28 sont définitivement perdus, 2 étant capturés par les Finlandais.

Pour leur part, les 10e et 2e brigades participent aux opérations militaires contre la Pologne en septembre 1939 conjointement avec l’armée allemande. En 1941, à l’aube de la Grande Guerre Patriotique, l’Armée Rouge aligne 470 T-28, mais seuls 200 sont en réel état de marche. 189 exemplaires nécessitent des réparations importantes au 1er juin 1941. Les chars souffrent de l’usure de leurs mécaniques et du manque criant de pièces de rechange.

L’invasion allemand prend de court les unités dotés de T-28, qui, malgré leur courage, doivent la plupart du temps abandonner leurs montures, victimes de pannes. Bien que la Wehrmacht leur attribue la dénomination de Panzerkampfwagen 746(r), leur réutilisation sera très sporadique, et n’excédera pas les 4 à 5 exemplaires. En 1940, puis en 1941 et 1943, les Finlandais en captureront une dizaine, dont 7 seront remis en état de marche et utilisés jusqu’en 1951. Les Roumains et les Hongrois font également main basse sur quelques exemplaires et un sera envoyé aux arsenaux de Budapest, où les Soviétiques le découvriront en 1945. Une autre part aussi pour Bucarest, en guise de trophée.

Côté soviétique, une vingtaine sont maintenus en état de marche par les usines Kirov durant le siège de Leningrad. Le dernier rapport soviétique mentionnant son utilisation date de février 1944, au moment où les Allemands se replient.