L'établissement, doté d'un Conseil de perfectionnement, est pourvu de trois chaires assurant un « haut enseignement des sciences appliquées à l'industrie ». Les cours de mécanique, de physique et d'économie industrielle se proposent de transmettre aux « auditeurs » les éléments théoriques et surtout les pratiques nécessaires à l'application des procédés industriels. Cet enseignement s'appuie sur des galeries dans lesquelles prennent place des collections organisées thématiquement, sous forme de séries. Des pièces déjà anciennes gardent leur place dans l'établissement : bien qu'elles soient dépassées, elles inscrivent l'innovation dans une perspective historique. C'est par exemple le cas du fardier à vapeur de Joseph Cugnot, entré en 1800, des maquettes d'artisans commandées par madame de Genlis, « gouverneur » des enfants du duc d'Orléans (1802), de la collection d'horlogerie de Ferdinand Berthoud, du cabinet de physique de Jacques Alexandre Charles (acquis par Napoléon Ier) ou d'une partie du cabinet des machines de l'ancienne Académie des sciences (ces ensembles sont attribués au Conservatoire en 1807).
Dédié à la promotion et au soutien de l'activité industrielle, le Conservatoire enrichit régulièrement ses collections. Des machines « en grand », mais également de nombreux modèles, des échantillons et produits manufacturés, des dessins et des photographies, constituent une collection de référence. D’un encombrement réduit, faciles à transporter à travers les galeries, les modèles ont, d’évidence, un rôle pédagogique. Leur mise en mouvement permet d’expliquer aisément le principe mécanique ou physique qui préside au fonctionnement de l’invention ainsi représentée. Tout au long du XIXe siècle, soucieuse de l’organisation des galeries et de leur vocation pédagogique, l’administration du Conservatoire se montre particulièrement attentive à la qualité et à la compréhension des modèles. Elle n’hésite pas à intervenir auprès des fabricants pour exiger une réalisation en coupe ou en écorché, plus propice à l’explication. On peut ainsi venir constater les progrès considérables que l'industrie connaît avec la révolution industrielle, d'abord dans l'agriculture et le textile, mais également dans l'exploitation des mines, la métallurgie, les arts du feu, les chemins de fer puis, dans la photographie ou encore l'électricité.
Les expositions universelles, qui font suite aux expositions des produits de l'industrie nationale, sont autant d'occasions d'enrichir les collections pour illustrer la qualité des productions et des procédés de fabrication, aussi bien français qu'étrangers. À l’issue de ces manifestations, les galeries du musée reçoivent en effet de nombreuses pièces, machines et modèles, mais également des dessins spécialement exécutés. Dans certains cas, les acquisitions reflètent les innovations les plus récentes ; dans d’autres, on recherche au contraire des pièces anciennes voire obsolètes, de manière à initier ou compléter des séries historiques.
C'est d'ailleurs en vue de l'Exposition universelle de Paris en 1855 que l'établissement se dote d'un laboratoire expérimental de mécanique, installé dans l'ancienne église de Saint-Martin-des-Champs. Répondant à sa mission d'expertise à destination des pouvoirs publics et du monde industriel, le Conservatoire met à leur disposition un équipement complet (machines hydrauliques, machines à vapeur, appareils de mesure...) pour tester produits et procédés. Le laboratoire, devenu obsolète et présentant un danger pour les lieux, est finalement démantelé au début des années 1880. Il s'agissait pourtant d'une présentation des plus attractives, particulièrement spectaculaire, et la foule se pressait les dimanches assister dans la nef au ballet des « machines en mouvement ». Il en est de même pour l'expérience du pendule de Foucault, évoquant la rotation de la Terre, toujours visible aujourd'hui dans le chœur de l'église. À une époque où la technique et la grande industrie fascinent bon nombre de contemporains, le Conservatoire est devient un passage obligé.
