张辅在咸子关筑城，命都督柳升镇守。3月，安南军队残部搦战于富良江，张辅与沐晟夹岸迎战，柳升以水师横冲其阵，大败敌军，斩首数万级，因天旱水浅，安南兵纷纷弃舟逃走，明军追至时江水忽然大涨，遂乘胜急进，安南兵大多被歼。5月，明军追击至日南州奇罗海口，安南军队残部全军覆没，胡氏父子仅以数舟逃遁，明军在当地百姓协助下，擒获胡一元及其子胡澄，随后又擒胡汉苍和伪太子胡芮，全部槛送京师。
至此，明军出师仅一年，就大获全胜，消灭了篡位的胡氏政权，得府州四十八、县一百八十、户三百十二万。朱棣大为欣喜，群臣亦入贺曰：“黎贼父子违天逆命，今悉就擒，皆由圣德合天，神人助顺。”朱棣则说：“天地祖宗之灵，将士用命所致，朕何有焉。”为胜利冲昏头脑的明朝君臣，这时一改初衷，不再寻找所谓陈氏子孙之贤者，而是另谋在安南开设三司及郡县。6月1日，朱棣以平安南诏告天下，改安南为交趾布政使司，以吕毅为都指挥使，黄中为副，黄福为布政使兼按察使，并分设官吏，改置17府，自此安南正式成了明朝的一个行政区。张辅班师回京后，朱棣特于奉天殿赐宴，晋封张辅为英国公，岁禄三千石。
明军之所以能够顺利平定安南，主要是因为胡氏政权多行苛政、民心不附，朱棣应陈天平之请，吊民伐罪，救民于水火，又承诺复立陈氏子孙之贤者，这当然受到了安南人民的欢迎，亦不失为仗义之举，但得胜后自食其言，草率地决定将安南内属，却是明显的失策。纵观中国的历朝历代，安南虽曾多次成为中国属地，但自五代吴权以来，已独立成国，一旦直属中国管理，必然遭到安南各阶层人民的反抗，安南可谓从此进入多事之秋。
朱棣对胡氏父子十分宽容，只将他们二人及少数近臣关押，胡澄、胡芮等人皆获赦免，然而朱棣的安抚却没有使安南平静下来。1408年，张辅大军刚刚班师，以简定、邓悉、阮帅等人为代表的安南地方势力就起兵叛乱，攻击盘滩、咸子关，控扼三江府之交通，慈廉、威蛮、上洪、大堂、应平、石室等地安南民众纷纷响应，明朝驻军镇压不力，致使叛乱不断蔓延。简定起兵后，自称日南王，后为招揽人心，又立所谓陈氏后人陈季扩为大越皇帝，改元重光。陈季扩打着陈氏后人的招牌，得到安南人民支持。
最初，陈季扩曾以陈氏宗亲的名义派人到明朝讨封，不料因使臣无礼，触怒了朱棣而被杀。朱棣在张辅支持下坚持武力进讨的方针，调发云南、贵州、四川都指挥使司和成都三护卫军共四万人，由沐晟领征夷将军印，再征安南，不料这次战局却非常不利。12月，沐晟在生厥江与安南叛军激战，因轻敌遭到惨败，参赞军务的兵部尚书刘俊突围不成，自经而死，交趾都司吕毅、参政刘显等人皆战死，安南形势大乱。
1409年2月，朱棣迫不得已，再度启用张辅督师，发兵二十万与沐晟协同作战，这时的朱棣正准备北征蒙古，因此要求张辅必须尽快平定安南事态。