Pour Anton Rubinstein, la création de la Société musicale russe pour gérer les présentations des grands compositeurs européens à Saint-Pétersbourg, ainsi que la fondation du Conservatoire de Saint-Pétersbourg, institution d’éducation supérieure de musique, est une œuvre de vie très importante. Il devient son directeur en 1862 et reste à ce poste jusqu’en 1867 sous la protection de la grande-duchesse Hélène Pavlova et du Tsar Alexandre II. C’est durant cette période que le nationalisme russe prend force avec l’annulation du servage et la création de l’École libre de musique créée par le Groupe des Cinq.
C’est à cette époque qu’il compose : Piano concerto No 4 en Ré majeur, concerto pour violoncelle No 1 en La Mineur, et son poème symphonique Faust, tout en supervisant les professeurs du Conservatoire et leurs programmes d’enseignement. En 1867, la tension entre Rubinstein et Mili Balakirev devient intense. L’école libre de musique s’oppose au Conservatoire en ce qui concerne leur annexion aux systèmes d’écriture musicale, fondées sur des œuvres de compositeurs étrangers. En conséquence, Anton Rubinstein démissionne de sa position de directeur du Conservatoire.
Après avoir quitté la direction du Conservatoire de Saint-Pétersbourg, il part vers Moscou pour rendre visite à son frère Nikolaï, qui depuis son retour d’Allemagne, était devenu un des grands pianistes de la capitale et compositeurs de musique classique utilisant les mêmes structures théoriques que son frère. Nikolaï est le fondateur du Conservatoire de musique de Moscou. Institution qui depuis sa création en 1866, avec la collaboration du prince Nikolaï Troubetzkoy, avait les mêmes lignes directrices que celle de Saint-Pétersbourg. Nikolaï devient son directeur jusqu’à son décès en 1881. Il est le compositeur de Tarentelle en sol mineur, boléro, Polka pour piano et Scène de Bal.
Après sa visite à Moscou, Anton Rubinstein entreprend une tournée musicale en Europe et aux États-Unis jusqu’à son retour à Saint-Pétersbourg en 1887, où il reprendra la direction du Conservatoire. Il occupera ce poste jusqu’en 1891. Ce deuxième mandat lui permet d’améliorer la qualité de l’enseignement et de rehausser les conditions d’admission des élèves à des standards d’excellence. Ces mesures seront souvent critiquées par ses contemporains. En 1791, il décide de quitter Saint-Pétersbourg pour aller donner des concerts en Allemagne et en Autriche, en retournant sporadiquement à Saint-Pétersbourg pour y présenter ses compositions. Il y décèdera en 1894.
