نینجوتسو ریشه در اثر کلاسیک نظامی چینی یعنی «سان تزو» دارد که توسط سان وو استراتژیست معروف سده پنجم پيش از ميلاد به رشته تحریر درآمدهاست. این اثر در قرن ششم میلادی وارد ژاپن شد و به طور دقیق توسط دربار سلطنتی و خانوادههای متخاصم مورد بررسی قرار گرفت.
بودیسم نیز تقریباً در همان زمان وارد ژاپن شد، پیشینیان نینجاها به دلیل گرایش به بودیسم، یاغی نامیده میشدند. درآن هنگام درگیریهای شدیدی میان هواداران بودیسم و پیروان مذهب ملی ژاپنیها یعنی آئین شینتو جریان داشت و این گروههای یاغی که بعدها به یامابوشی معروف شدند، برای حمایت از خود تمرین هنرهای رزمی و استراتژیهای نظامی را با ترس روانی و قدرتهای اسرار آمیز ترکیب کردند.
پس از آن نینجاها در گروههای کوچک با در پیش گرفتن روشهای کاملاً سری جنگی تا قرن نوزدهم خود را به عنوان نیرویی بسیار با نفوذ در کشور ژاپن مطرح کردند.
بزرگترین تجمع نینجاها در سوم نوامبر ۱۵۸۱ میلادی اتفاق افتاد. در آن روز اُدا نوبونگا قدرتمندترین رهبر نینجا ارتشی ۴۰ هزار نفره را در برابر حدود ۴ هزار نینجا که کنترل ایالت ایگا ( در حال حاضر مه یی) را در اختیار داشتند، رهبری کرد. نبردی که تنها تعداد انگشت شماری از نینجاهای ایگا از آن جان سالم به در بردند.
از آن به بعد نینجاها توانستند با سازمان منسجمی که ایجاد کرده بودند، قدرت پلیسی مطلق را در ادو (توکیو امروزی) و دیگر شهرهای ژاپن در دست داشته باشند.