虽然打败了倭寇，但戚继光心里很不痛快，他看到军队战斗力太弱，还没有交手，都吓得惊慌失措，他知道依靠这样的军队早晚会吃败仗。为了能够很好地防备外寇侵扰，戚继光向浙江总督提出要亲自训练一支人马。
浙江总督与戚继光的父亲戚景通是多年的好朋友，他也很欣赏戚继光。戚继光得到总督的批准，开始着手组建军队。他招兵严格选拔，专门挑选那些身体健壮、肯吃苦的农夫。戚继光知道兵不在多，而在于精，所以他只选拔了3000人。他开始严格训练，规定军纪，而且明确规定违反军纪者，一定严惩不贷。为了增强士兵的爱国之心，他经常教育士兵要树立保卫边防、驱逐倭寇的决心和信心。戚继光又请有军事经验的人才帮助排兵布阵，他本身也熟读兵书，所以经过几年的训练，一支精兵训练出来了，而且创造了“鸳鸯阵”、“两仪阵”等战术。
戚继光一边训练军队，一边加强海防建设，在龙山所又建起了几座烽火台，外寇再想侵犯，可就不那么容易了。
倭寇一直没有停下来，仍旧寻衅骚扰，戚继光带领军队一次次将其打败，使得边防得到巩固。他的3000人马训练完毕之后，他想彻底打垮倭寇，让他们永不敢再犯。