Die Anfänge der Ninja sind nicht klar zu bestimmen. Auch die Erforschung der historischen „Kunst der Spionage“, ihre Entstehung und ihre Funktion im Lauf der Geschichte fällt schwer, da strikte Geheimhaltung das wichtigste Merkmal spionagedienstlicher Tätigkeit ist und war.
Der chinesische Militärtaktiker Sun Tzu widmete der Spionage in seinem Buch Die Kunst des Krieges ein eigenes Kapitel. Dieses Schriftstück könnte ab dem 6. Jahrhundert von chinesischen Einwanderern nach Japan gebracht und dort in die bereits bestehenden Grundstrukturen der Kriegs- und Militärkunst Bujutsu integriert worden sein.
Prinz ShMtoku Taishi (593–622) war der erste Herrscher, der, angeregt durch die chinesischen Militärklassiker, die Spionage zu seinem Vorteil zu nutzen begann. Der Begriff Ninjutsu (ÍS) oder auch Shinobi-no-jutsu entstand möglicherweise während seiner Herrschaft, wobei es sich bei der ursprünglichen Form des Ninjutsu lediglich um reines Kundschafterwesen gehandelt haben dürfte. Erst in der Heian-Periode (794–1192) begann sich das Ninjutsu als Teil der Kriegsstrategien der Bushi immer stärker zu spezialisieren.
Während des Aufstieges des Militäradels im 12. Jahrhundert beschäftigten viele erfolgreiche Heerführer Ninja, die zu diesem Zeitpunkt allerdings anders genannt wurden (z. B. Rappa, Kusa, Suppa o. ä., je nachdem, ob sie für Sabotage, Attentate oder Aufklärung eingesetzt wurden). Zwar gab es auch zu dieser Zeit schon Samurai, die Krieger wurden aber allgemein Bushi, Kämpfer, genannt. Diese Kämpfer bestanden aus der zahlenmäßig kleinen Schicht der adligen Samurai, darunter dann das Fußvolk (Ashigaru) und darunter dann Bauern, die im Kriegsfall zu den Waffen gerufen werden konnten. Das änderte sich erst Ende des 16. Jahrhunderts, als die vier Stände der Krieger, Bauern, Handwerker und Kaufleute streng getrennt wurden.
