Genzaburō Inoue wurde am 1. April 1829 in Kitahara, Hino-juku, Provinz Musashi (heute Hino-Honcho, Hino-shi, Tokio) geboren und war der dritte Sohn von Tozaemon Inoue, dem Verwalter von Hachioji Sennin Doshin. Um 1847 wurde er ein Schüler von Kondō Shūsuke, dem dritten Leiter des Tennen Rishin-Dōjō. Er trainierte eifrig im von Hikogoro Sato gegründeten Dōjō für Tennen Rishin-ryu zusammen mit Persönlichkeiten wie Hijikata Toshizō, studierte auch unter Kondō Isami und schloss eine enge Freundschaft mit ihm. Nach etwa einem Jahrzehnt strengen Trainings erreichte Genzaburō 1860 die höchste Stufe der Meisterschaft in Tennen Rishin-ryu und erhielt den Menkyo Kaiden. Sein methodischer Fortschritt führte manchmal dazu, dass andere seine Fähigkeiten unterschätzten, was zu dem irrtümlichen Label „schlecht in sowohl akademischen als auch militärischen Künsten“ führte. Seine schulische Ausbildung erhielt er an einer Tempelschule in der Nähe von Kanekobashi in Hino-shuku, die von Hino Yoshitaka geleitet wurde. Im Februar 1862 schloss sich Genzaburō mit Kondō Isami und Hijikata Toshizō den Rōshigumi an. Nach der Säuberung der Serizawa Kamo-Fraktion 1863 wurde er zum stellvertretenden Vize-Kommandanten der Shinsengumi ernannt. Während des Ikedaya-Zwischenfalls 1864 führte er eine Abteilung von Hijikatas Truppe an. Als er von der Infiltration von Kondōs Einheit erfuhr, führte Genzaburō seine Untergebenen beim Sturm auf das Gebäude an, nahm acht Rōnin gefangen und zeigte bemerkenswerte Tapferkeit. Im Juni 1865 wurde Genzaburō während einer Reorganisation zum Anführer der Rokuban-tai (6. Division) ernannt. Bis Juni 1867, als die Shinsengumi offiziell als direkte Vasallen des Bakufu anerkannt wurden, wurde er zum stellvertretenden Chefassistenten befördert. Genzaburō fand sein Ende während der Schlacht von Toba-Fushimi im Januar 1868. Als sich die Shinsengumi in die Yodo-Domäne zurückzogen, kam es am 5. Januar zu einem Zusammenstoß mit Regierungstruppen bei Yodo Senryo-matsu. In diesem Gefecht wurde Genzaburō von einem Schuss in den Bauch getroffen und starb im Alter von 39 Jahren.