是的，日本人在广州办学是合法的。根据中国的法律法规，外国人在中国办学需要遵循相关教育法律法规和程序。通常情况下，外国人在中国办学需要成立教育机构，并按照中国教育部的规定进行审批。
在日本人想要在广州办学时，一般需要经过以下步骤：
1. 筹备阶段：确定办学项目、目标、课程设置等。
2. 申请注册：向当地教育行政部门提交申请，包括办学宗旨、教学计划、师资力量、经费来源等材料。
3. 审批：当地教育行政部门对申请材料进行审核，必要时进行现场考察。
4. 设立学校：获得批准后，设立学校，并按照规定进行登记注册。
5. 招生办学：学校设立后，可以按照批准的招生计划和教学计划进行招生和办学。
在整个过程中，需要确保办学活动符合中国的教育法律、法规和政策，尊重中国的教育主权和文化传统。同时，日本人在广州办学还应遵守中国的法律法规，尊重当地的教育市场和教育环境。
