Ein junger Junge namens Yaiba Kurogane hat sein ganzes Leben lang mit seinem Vater Kenjuro in einem abgelegenen tropischen Dschungel trainiert, um ein wahrer Samurai zu werden, ohne Kenntnis der modernen Welt. Ihr abgeschiedenes Leben endet abrupt, als sie sich versehentlich in einem Frachtcontainer verstecken, der bis nach Japan verschifft wird. Bei ihrer Ankunft treffen sie auf die Familie Mine, angeführt von Kenjuros altem Rivalen Raizo und seiner Tochter Sayaka. Yaiba stimmt einem Abkommen zu, bei ihnen zu bleiben, und beweist schnell seine außergewöhnliche Stärke, indem er den stärksten Schüler in ihrem Dojo besiegt.

Begierig, seine Fähigkeiten gegen mächtige Gegner zu testen, folgt Yaiba Sayaka zur Schule, wo er ein Kendo-Wunderkind namens Takeshi Onimaru trifft. Ihr heftiger Kampf endet unentschieden, doch die Demütigung, keinen entscheidenden Sieg errungen zu haben, treibt Onimaru auf einen dunklen Pfad. Er entdeckt ein uraltes, bösartiges Katana, das unter seinem Familienhaus verborgen ist: das Fujinken oder Schwert des Windgottes. Als er die Klinge an sich nimmt, wird Onimaru von ihrer dämonischen Macht besessen und verwandelt sich in einen Dämonenfürsten, der entschlossen ist, Japan mit einer Armee von Monstern zu erobern.

Um dieser Bedrohung entgegenzutreten, muss Yaiba das legendäre Gegenstück finden, das Raijinken oder Schwert des Donnergottes. Seine Suche führt ihn zum legendären Schwertkämpfer Miyamoto Musashi, der, obwohl er als lüsterner und gefräßiger alter Mann erscheint, Yaibas Mentor wird. Mit dem Raijinken in der Hand begibt sich Yaiba auf eine Queste, um seine Blitzkräfte zu meistern, und stellt sich Onimarus Acht Dämonen und anderen mythischen Gegnern.

Während der Reise wird Yaiba von einer bunten Gruppe von Verbündeten begleitet, darunter Sayaka, sein feiger Haustiger Kagetora und sein Geier Shonosuke. Mehrere von Onimarus wiedererweckten Handlangern, wie der Froschkrieger Gerozaemon und der legendäre Schwertkämpfer Sasaki Kojiro, wechseln schließlich die Seiten und schließen sich Yaibas Sache an. Die Erzählung folgt Yaibas Entwicklung von einem wilden Dschungeljungen zu einem Helden, wobei er zahlreichen Figuren aus der japanischen Geschichte und Mythologie begegnet.

Die Geschichte schreitet durch mehrere große Handlungsbögen voran. Nachdem er Onimarus Festung gestürmt und ihn zum Rückzug gezwungen hat, eskaliert der Konflikt, als eine schwebende Burg erscheint, was eine Suche nach sieben legendären Kugeln auslöst, um den Drachengott Ryujin zu beschwören. Später zieht das Erwachen von Ryujins Macht die Aufmerksamkeit der Mondprinzessin Kaguya auf sich, einer außerirdischen Bedrohung, die Yaiba versiegeln muss. Weitere Abenteuer umfassen die Erkundung einer mysteriösen Pyramide, die Erdbeben verursacht, Kämpfe gegen die Mächte der Unterwelt und schließlich die Konfrontation mit dem Dämon Yamata-no-Orochi, den Onimaru entfesselt hat.