Οι πρώτοι νίντζα ήταν στρατιώτες της δυναστείας Τανγκ όπου μετά από μία στρατιωτική ήττα κατέφυγαν στην Ιαπωνία στις σπηλιές Σάντα της περιοχής Ίγκα και Κόνγκα. Ένας μύθος λέει ότι διέφυγε μόνο ο στρατηγός Γι Γκού με μερικούς σωματοφύλακές του. Ο Γι Γκού ήταν γνώστης της τέχνης Χίτσο Όνγκνο-Τζουτσού (μία μέθοδος όπου υπερβαίνει τις ανθρώπινες δυνατότητες όπως να εξαφανίζεται από το οπτικό πεδίο του αντιπάλου με αποτέλεσμα την εξουδετέρωση του). Μια άλλη εκδοχή λέει ότι ο στρατηγός λέγονταν Cho Busho και κατέφυγε από την Κίνα στην Ιαπωνία μαζί με την πριγκίπισσα στρατηγό Cho Gyokko όπου και εγκαταστάθηκαν στην περιοχή Ίγκα και Κόνγκα που ήταν μακριά από πολιτισμό.
Στα βουνά της Ίγκα και Κόνγκα οι νέοι κάτοικοι επιδόθηκαν στον διαλογισμό ζεν και αναμείχθηκαν με τις αντιλήψεις και τις μεθόδους των ντόπιων. Έτσι οι κινέζικες στρατιωτικές τακτικές μάχης και διδασκαλίες οι οποίες ήταν μετεξέλιξη της εσωτερικής γνώσης της Ινδίας και του Θιβέτ άρχισαν να διδάσκονται στους Ιάπωνες στους ντόπιούς, και στους μοναχούς Γιαμαμπούσι (ιερείς πολεμιστές που ζούσαν στα βουνά).