Artilleur et ingénieur issu de l’Ecole Polytechnique, il apporta de nombreux perfectionnements aux canons en usage dans l’armée française après la défaite de 1870.
Fils de Jean-Marie Rimailho et de Marie Trolley, Emile François Léon Rimailho est né le 2 mars 1864 à Paris. Admis à l’Ecole Polytechnique en octobre 1884, il en sortira deux ans plus tard pour intégrer l’Ecole d’application de l’Artillerie.
Après quelques années passées dans divers régiments, Rimailho est nommé aux ateliers de Puteaux où il va participer à la mise au point du frein de tir du canon de 75, homologué en 1897, et qui donnera à l’armement français une avance notable, mais momentanée, sur celui des nations voisines. A Puteaux, Rimailho réalise son apprentissage des techniques d’organisation sous les ordres du commandant Gustave Ply, un officier qui joua un rôle historique dans l’introduction de l’interchangeabilité dans les fabrications militaires à la fin des années 1880.
C’est en 1898 qu’il propose le canon auquel son nom est resté attaché, le 155 court à tir rapide, adopté en 1904. Il entreprend ensuite de proposer divers types de matériels d’artillerie lourde, mais essuie toute une série de refus.
En 1899, Émile Rimailho est affecté en Afrique, puis au grade de commandant dirige entre 1906 et 1908 une batterie de 155 CTR au 13e Régiment d’Artillerie stationné à Vincennes. Après une formation d’un an au Centre des hautes études militaires, il est promu au grade de lieutenant-colonel en mars 1911.
Mais bientôt lassé de voir ses projets écartés par la Commission technique de l’Artillerie, il fait valoir prématurément ses droits à la retraite, en février 1913, et entre à la Compagnie des Forges et Aciéries de la Marine et d’Homécourt, l’une des deux plus grosses sociétés métallurgiques françaises avec Schneider.
Mobilisé le 2 août 1914, il est mis à la disposition du ministre de la Guerre dès le mois de novembre de la même année, pour être employé aux usines de Marine-Homécourt à Saint-Chamond. En mars 1915, il devient directeur technique de la compagnie, responsable de la fabrication des matériels d’armement. Parallèlement, Rimailho est entré au Conseil d’administration de la Société des Etablissements Gaumont en 1913, à l’instigation de son ami Léon Gaumont. Il en sera le président entre 1927 et 1929, au moment où la firme tentera de mettre au point un appareil sonore capable de rivaliser avec le matériel cinématographique américain.
Au sortir du conflit, le parc de matériels des compagnies ferroviaires est très largement endommagé et ces dernières ne peuvent assurer seules les réparations nécessaires. C’est alors que son entreprise, ainsi que les compagnies de chemins de fer du Paris-Lyon-Méditerranée et du Paris-Orléans, la firme Schneider et les Forges de Châtillon-Commentry, lui confient la responsabilité d’une toute nouvelle société : le Compagnie Générale de Construction et d’Entretien du matériel de chemin de fer (CGCEM). Il en sera l’administrateur délégué jusqu’au début des années 1950.
La promotion 2012 des élèves ingénieurs militaires de l'ENSIETA porte son nom.