Nats.go 11 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372
  1. package Nats
  2. import (
  3. "ColdVerify_local/Nats/NatsServer"
  4. "ColdVerify_local/conf"
  5. "ColdVerify_local/lib"
  6. "ColdVerify_local/logs"
  7. "ColdVerify_local/models/System"
  8. "ColdVerify_local/models/Task"
  9. "fmt"
  10. "github.com/nats-io/nats.go"
  11. "github.com/vmihailenco/msgpack/v5"
  12. "os"
  13. "strings"
  14. "time"
  15. )
  16. func init() {
  17. logs.Println("============Nats init============")
  18. var err error
  19. // 连接Nats服务器
  20. lib.Nats, err = nats.Connect("nats://"+conf.NatsServer_Url, nats.MaxReconnects(-1),
  21. nats.DisconnectErrHandler(func(nc *nats.Conn, err error) {
  22. logs.Error("nats 断开连接", err.Error())
  23. }),
  24. nats.ReconnectHandler(func(nc *nats.Conn) {
  25. logs.Println("nats 重连...")
  26. }))
  27. nats.RetryOnFailedConnect(true)
  28. if err != nil {
  29. logs.Error("nats 断开连接", err.Error())
  30. }
  31. logs.Println("nats OK!")
  32. // 本地测试,屏蔽本地nats
  33. if !conf.NatsForbidden && lib.Nats != nil {
  34. go NatsInit()
  35. }
  36. }
  37. // 每10分钟重新连接nats
  38. func ReconnectNATS() {
  39. // 循环监测连接状态并重新连接
  40. var err error
  41. for {
  42. time.Sleep(1 * time.Minute)
  43. //time.Sleep(1 * time.Minute)
  44. if (lib.Nats != nil && !lib.Nats.IsConnected()) || lib.Nats == nil {
  45. lib.Nats, err = nats.Connect("nats://" + conf.NatsServer_Url)
  46. if err != nil {
  47. logs.Println("无法重新连接到 NATS:", err)
  48. continue
  49. }
  50. logs.Println("成功重新连接到 NATS...")
  51. }
  52. }
  53. }
  54. type Up_TaskData_Back struct {
  55. T_uuid string `xml:"T_uuid"`
  56. Task Task.Task `xml:"Task_r"`
  57. }
  58. func NatsInit() {
  59. // 打包本地数据
  60. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Import_TaskData", "Import_TaskData", func(m *nats.Msg) {
  61. logs.Debug("ColdVerify_Local_Import_TaskData message: ", string(m.Data))
  62. logs.Info(lib.FuncName(), "任务数据-打包本地数据 开始打包数据...!")
  63. type T_R struct {
  64. T_uuid string `xml:"T_uuid"`
  65. T_task_id string `xml:"T_task_id"`
  66. TaskData_Num int `xml:"TaskData_Num"`
  67. }
  68. var t_r T_R
  69. err := msgpack.Unmarshal(m.Data, &t_r)
  70. if err != nil {
  71. logs.Error("Nats", "msgpack Unmarshal err", string(m.Data))
  72. return
  73. }
  74. T_uuid, T_task_id := t_r.T_uuid, t_r.T_task_id
  75. Task_r, err := NatsServer.Read_Task(T_task_id)
  76. if err != nil {
  77. logs.Error(lib.FuncName(), err)
  78. return
  79. }
  80. if t_r.TaskData_Num == 0 {
  81. // 已采集 无数据
  82. Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  83. //Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  84. Task_r.T_collection_state = 3
  85. err = NatsServer.Update_Task(Task_r)
  86. if err != nil {
  87. logs.Error(lib.FuncName(), err)
  88. }
  89. return
  90. }
  91. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  92. logs.Println("创建sql临时文件失败")
  93. }
  94. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  95. var org string
  96. //导出线上数据
  97. logs.Info("--------开始导出线上数据---------")
  98. i := 0
  99. for i < 10 {
  100. org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  101. if err != nil {
  102. logs.Error(lib.FuncName(), "导出线上数据失败", err)
  103. } else {
  104. System.Add_UserLogs_T(T_uuid, "任务数据-导出线上数据", "z_task_data_"+T_task_id, org)
  105. break
  106. }
  107. i++
  108. }
  109. logs.Info("--------开始导入数据到【本地】---------")
  110. j := 0
  111. flag := false
  112. // 清空表
  113. //Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  114. //time.Sleep(2 * time.Second)
  115. for j < 10 {
  116. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  117. time.Sleep(2 * time.Second)
  118. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  119. if err != nil {
  120. logs.Error("任务数据-打包本地数据", "z_task_data_"+T_task_id, err.Error())
  121. } else {
  122. if Task.Check_TaskData_Num(T_task_id) {
  123. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, org)
  124. flag = true
  125. break
  126. }
  127. }
  128. j++
  129. }
  130. // 重试10次后仍然没有成功导入数据
  131. if !flag {
  132. // 清空本地数据
  133. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  134. time.Sleep(2 * time.Second)
  135. Task_r.T_collection_state = 0
  136. err = NatsServer.Update_Task(Task_r)
  137. if err != nil {
  138. logs.Error(lib.FuncName(), err)
  139. }
  140. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  141. return
  142. }
  143. //删除导出的sql文件
  144. _ = os.Remove(sql_file)
  145. Task_r.T_collection_state = 1
  146. err = NatsServer.Update_Task(Task_r)
  147. if err != nil {
  148. logs.Error(lib.FuncName(), err)
  149. return
  150. }
  151. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, "成功")
  152. logs.Info("--------导入数据到本地【成功】!---------")
  153. })
  154. // 更新线上数据
  155. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Up_TaskData", "Up_TaskData", func(m *nats.Msg) {
  156. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  157. logs.Info(lib.FuncName(), "任务数据-打包本地数据 更新线上数据...!")
  158. var t_r Up_TaskData_Back
  159. err := msgpack.Unmarshal(m.Data, &t_r)
  160. if err != nil {
  161. System.Add_Logs("Nats", "msgpack Unmarshal err", string(m.Data))
  162. return
  163. }
  164. Task_r := t_r.Task
  165. T_uuid, T_task_id := t_r.T_uuid, Task_r.T_task_id
  166. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  167. logs.Println("创建sql临时文件失败")
  168. }
  169. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  170. org, err := Task.Dump_TaskData(T_task_id, conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  171. if err != nil {
  172. logs.Error(lib.FuncName(), "导出本地数据失败")
  173. return
  174. }
  175. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  176. logs.Info("--------开始导入数据到【线上】---------")
  177. i := 0
  178. flag := false
  179. for i < 10 {
  180. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  181. time.Sleep(2 * time.Second)
  182. org, err = Task.Insert_TaskData(conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  183. if err != nil {
  184. logs.Println(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, err.Error())
  185. } else {
  186. if Task.Check_TaskData_Num(T_task_id) {
  187. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  188. flag = true
  189. break
  190. }
  191. }
  192. i++
  193. }
  194. // 重试10次后仍然没有成功导入数据
  195. if !flag {
  196. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  197. time.Sleep(2 * time.Second)
  198. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  199. Task_r.T_delivery_state = 0
  200. err = NatsServer.Update_Task(Task_r)
  201. if err != nil {
  202. logs.Error(lib.FuncName(), err)
  203. }
  204. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据-失败", "z_task_data_"+T_task_id, "重试10次失败")
  205. return
  206. }
  207. //删除导出的sql文件
  208. _ = os.Remove(sql_file)
  209. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  210. Task_r.T_delivery_state = 1
  211. err = NatsServer.Update_Task(Task_r)
  212. if err != nil {
  213. logs.Error(lib.FuncName(), err)
  214. }
  215. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, "成功")
  216. logs.Info("--------导入数据到【线上】成功!---------")
  217. })
  218. // 创建本地任务表
  219. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Create_Table", "Create_Table", func(m *nats.Msg) {
  220. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  221. logs.Info(lib.FuncName(), "任务数据-创建数据库表!")
  222. Task.CREATE_TaskData(conf.Local_AliasName, string(m.Data))
  223. })
  224. // 1.0数据同步到2。0
  225. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Sync1_TaskData", "Sync1_TaskData", func(m *nats.Msg) {
  226. logs.Debug("ColdVerify_Local_Sync1_TaskData message: ", string(m.Data))
  227. logs.Info(lib.FuncName(), "1.0数据同步到2。0!")
  228. T_uuid := "9b6b9f9d-f8f2-46fb-82c8-101d4a309c34"
  229. T_task_id := string(m.Data)
  230. Task_r, err := NatsServer.Read_Task(T_task_id)
  231. if err != nil {
  232. logs.Error(lib.FuncName(), err)
  233. return
  234. }
  235. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  236. logs.Println("创建sql临时文件失败")
  237. }
  238. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  239. var org string
  240. //导出1.0数据
  241. logs.Info("--------开始导出1.0数据---------")
  242. i := 0
  243. for i < 10 {
  244. org, err = Task.Dump_TaskData_Verify(T_task_id, conf.MysqlVerify_Username, conf.MysqlVerify_Password, conf.MysqlVerify_UrlPort, conf.MysqlVerify_Database, sql_file)
  245. if err != nil {
  246. logs.Error(lib.FuncName(), "开始导出1.0数据失败", err)
  247. } else {
  248. System.Add_UserLogs_T(T_uuid, "任务数据-导出1.0数据失败", "z_task_data_"+T_task_id, org)
  249. break
  250. }
  251. i++
  252. }
  253. ChangeTableName(sql_file, T_task_id)
  254. logs.Info("--------开始导入数据到2.0【本地】---------")
  255. j := 0
  256. flag := false
  257. for j < 10 {
  258. // 清空表
  259. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  260. time.Sleep(2 * time.Second)
  261. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  262. if err != nil {
  263. logs.Error("任务数据-导入1.0数据到2.0失败", "z_task_data_"+T_task_id, err.Error())
  264. } else {
  265. if Task.Check_TaskData_Num_Verify1(T_task_id) {
  266. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, org)
  267. flag = true
  268. break
  269. }
  270. }
  271. j++
  272. }
  273. // 重试10次后仍然没有成功导入数据
  274. if !flag {
  275. // 清空本地数据
  276. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  277. time.Sleep(2 * time.Second)
  278. Task_r.T_collection_state = 0
  279. err = NatsServer.Update_Task(Task_r)
  280. if err != nil {
  281. logs.Error(lib.FuncName(), err)
  282. }
  283. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  284. return
  285. }
  286. //删除导出的sql文件
  287. _ = os.Remove(sql_file)
  288. Task.DeleteDeduplicate(T_task_id)
  289. Task_r.T_collection_state = 1
  290. err = NatsServer.Update_Task(Task_r)
  291. if err != nil {
  292. logs.Error(lib.FuncName(), err)
  293. return
  294. }
  295. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, "成功")
  296. logs.Info("--------导入1.0数据到2.0【成功】---------")
  297. })
  298. }
  299. func ChangeTableName(sql_file, T_task_id string) {
  300. // 定义命令行参数
  301. sqlFile := sql_file
  302. oldTableName := "Z_TaskData_" + T_task_id
  303. newTableName := strings.ToLower("z_task_data_" + T_task_id)
  304. // 读取SQL文件内容
  305. sqlBytes, err := os.ReadFile(sqlFile)
  306. if err != nil {
  307. fmt.Println("读取SQL文件失败:", err)
  308. os.Exit(1)
  309. }
  310. // 将SQL文件内容转换为字符串
  311. sqlStr := string(sqlBytes)
  312. // 替换旧表名为新表名
  313. newSqlStr := strings.ReplaceAll(sqlStr, oldTableName, newTableName)
  314. // 将新的SQL字符串写入原文件
  315. err = os.WriteFile(sqlFile, []byte(newSqlStr), 0644)
  316. if err != nil {
  317. fmt.Println("写入SQL文件失败:", err)
  318. os.Exit(1)
  319. }
  320. fmt.Printf("已将SQL文件 %s 中的表名 %s 替换为 %s\n", sqlFile, oldTableName, newTableName)
  321. }