Nats.go 12 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392
  1. package Nats
  2. import (
  3. "ColdVerify_local/Nats/NatsServer"
  4. "ColdVerify_local/conf"
  5. "ColdVerify_local/lib"
  6. "ColdVerify_local/logs"
  7. "ColdVerify_local/models/System"
  8. "ColdVerify_local/models/Task"
  9. "fmt"
  10. "github.com/nats-io/nats.go"
  11. "github.com/vmihailenco/msgpack/v5"
  12. "os"
  13. "strings"
  14. "time"
  15. )
  16. func init() {
  17. logs.Println("============Nats init============")
  18. var err error
  19. // 连接Nats服务器
  20. lib.Nats, err = nats.Connect("nats://"+conf.NatsServer_Url, nats.MaxReconnects(-1),
  21. nats.DisconnectErrHandler(func(nc *nats.Conn, err error) {
  22. logs.Error("nats 断开连接", err.Error())
  23. }),
  24. nats.ReconnectHandler(func(nc *nats.Conn) {
  25. logs.Println("nats 重连...")
  26. }))
  27. nats.RetryOnFailedConnect(true)
  28. if err != nil {
  29. logs.Error("nats 断开连接", err.Error())
  30. }
  31. logs.Println("nats OK!")
  32. // 本地测试,屏蔽本地nats
  33. if !conf.NatsForbidden && lib.Nats != nil {
  34. go NatsInit()
  35. }
  36. }
  37. // 每10分钟重新连接nats
  38. func ReconnectNATS() {
  39. // 循环监测连接状态并重新连接
  40. var err error
  41. for {
  42. time.Sleep(1 * time.Minute)
  43. if (lib.Nats != nil && !lib.Nats.IsConnected()) || lib.Nats == nil {
  44. lib.Nats, err = nats.Connect("nats://" + conf.NatsServer_Url)
  45. if err != nil {
  46. logs.Println("无法重新连接到 NATS:", err)
  47. continue
  48. } else {
  49. logs.Println("成功重新连接到 NATS...")
  50. }
  51. }
  52. }
  53. }
  54. type Up_TaskData_Back struct {
  55. T_uuid string `xml:"T_uuid"`
  56. Task Task.Task `xml:"Task_r"`
  57. }
  58. func NatsInit() {
  59. // 打包本地数据
  60. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Import_TaskData", "Import_TaskData", func(m *nats.Msg) {
  61. logs.Debug("ColdVerify_Local_Import_TaskData message: ", string(m.Data))
  62. logs.Info(lib.FuncName(), "任务数据-打包本地数据 开始打包数据...!")
  63. type T_R struct {
  64. T_uuid string `xml:"T_uuid"`
  65. T_task_id string `xml:"T_task_id"`
  66. TaskData_Num int `xml:"TaskData_Num"`
  67. }
  68. var t_r T_R
  69. err := msgpack.Unmarshal(m.Data, &t_r)
  70. if err != nil {
  71. logs.Error("Nats", "msgpack Unmarshal err", string(m.Data))
  72. return
  73. }
  74. T_uuid, T_task_id := t_r.T_uuid, t_r.T_task_id
  75. Task_r, err := Task.Read_Task(T_task_id)
  76. if err != nil {
  77. logs.Error(lib.FuncName(), err)
  78. return
  79. }
  80. if t_r.TaskData_Num == 0 {
  81. // 已采集 无数据
  82. Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  83. //Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  84. Task_r.T_collection_state = 3
  85. err = NatsServer.Update_Task(Task_r)
  86. if err != nil {
  87. logs.Error(lib.FuncName(), err)
  88. }
  89. return
  90. }
  91. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  92. logs.Println("创建sql临时文件失败")
  93. }
  94. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  95. var org string
  96. //导出线上数据
  97. logs.Info("--------开始导出线上数据---------")
  98. i := 0
  99. for i < 10 {
  100. org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  101. if err != nil {
  102. logs.Error(lib.FuncName(), "导出线上数据失败", err)
  103. } else {
  104. System.Add_UserLogs_T(T_uuid, "任务数据-导出线上数据", "z_task_data_"+T_task_id, org)
  105. break
  106. }
  107. i++
  108. }
  109. logs.Info("--------开始导入数据到【本地】---------")
  110. j := 0
  111. flag := false
  112. // 清空表
  113. //Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  114. //time.Sleep(2 * time.Second)
  115. for j < 10 {
  116. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  117. time.Sleep(2 * time.Second)
  118. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  119. if err != nil {
  120. logs.Error("任务数据-打包本地数据", "z_task_data_"+T_task_id, err.Error())
  121. } else {
  122. if Task.Check_TaskData_Num(T_task_id) {
  123. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, org)
  124. flag = true
  125. break
  126. }
  127. }
  128. j++
  129. }
  130. // 重试10次后仍然没有成功导入数据
  131. if !flag {
  132. // 清空本地数据
  133. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  134. time.Sleep(2 * time.Second)
  135. Task_r.T_collection_state = 0
  136. err = NatsServer.Update_Task(Task_r)
  137. if err != nil {
  138. logs.Error(lib.FuncName(), err)
  139. }
  140. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  141. return
  142. }
  143. //删除导出的sql文件
  144. _ = os.Remove(sql_file)
  145. // 删除重复数据
  146. _, err = Task.DeleteDeduplicate(T_task_id)
  147. if err != nil {
  148. logs.Error(lib.FuncName(), err)
  149. return
  150. }
  151. Task_r.T_collection_state = 1
  152. err = NatsServer.Update_Task(Task_r)
  153. if err != nil {
  154. logs.Error(lib.FuncName(), err)
  155. return
  156. }
  157. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, "成功")
  158. logs.Info("--------导入数据到本地【成功】!---------")
  159. })
  160. // 更新线上数据
  161. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Up_TaskData", "Up_TaskData", func(m *nats.Msg) {
  162. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  163. logs.Info(lib.FuncName(), "任务数据-打包本地数据 更新线上数据...!")
  164. var t_r Up_TaskData_Back
  165. err := msgpack.Unmarshal(m.Data, &t_r)
  166. if err != nil {
  167. System.Add_Logs("Nats", "msgpack Unmarshal err", string(m.Data))
  168. return
  169. }
  170. Task_r := t_r.Task
  171. T_uuid, T_task_id := t_r.T_uuid, Task_r.T_task_id
  172. //if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  173. // logs.Println("创建sql临时文件失败")
  174. //}
  175. //sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  176. //
  177. //var org string
  178. //
  179. ////导出线上数据
  180. //logs.Info("--------开始导出本地数据---------")
  181. //i := 0
  182. //for i < 10 {
  183. // org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  184. // if err != nil {
  185. // logs.Error(lib.FuncName(), "导出本地数据失败", err)
  186. // } else {
  187. // System.Add_UserLogs_T(T_uuid, "任务数据-导出本地数据失败", "z_task_data_"+T_task_id, org)
  188. // break
  189. // }
  190. // i++
  191. //}
  192. //
  193. //logs.Info("--------开始导入数据到【线上】---------")
  194. //j := 0
  195. //flag := false
  196. //for j < 10 {
  197. // Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  198. // time.Sleep(2 * time.Second)
  199. // org, err = Task.Insert_TaskData(conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  200. // if err != nil {
  201. // logs.Println(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, err.Error())
  202. // } else {
  203. // if Task.Check_TaskData_Num(T_task_id) {
  204. // System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  205. // flag = true
  206. // break
  207. // }
  208. // }
  209. // j++
  210. //}
  211. //// 重试10次后仍然没有成功导入数据
  212. //if !flag {
  213. // Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  214. // time.Sleep(2 * time.Second)
  215. // // 线上数据更新后 将当前任务 交付审核 标志 为 1
  216. // Task_r.T_delivery_state = 0
  217. // err = NatsServer.Update_Task(Task_r)
  218. // if err != nil {
  219. // logs.Error(lib.FuncName(), err)
  220. // }
  221. // System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据-失败", "z_task_data_"+T_task_id, "重试10次失败")
  222. // return
  223. //}
  224. //
  225. ////删除导出的sql文件
  226. //_ = os.Remove(sql_file)
  227. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  228. Task_r.T_delivery_state = 1
  229. err = NatsServer.Update_Task(Task_r)
  230. if err != nil {
  231. logs.Error(lib.FuncName(), err)
  232. }
  233. // 删除绑定数据区间外的数据
  234. NatsServer.Del_TaskData_ByT_BindDeviceDataTime(T_task_id)
  235. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, "成功")
  236. logs.Info("--------导入数据到【线上】成功!---------")
  237. })
  238. // 创建本地任务表
  239. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Create_Table", "Create_Table", func(m *nats.Msg) {
  240. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  241. logs.Info(lib.FuncName(), "任务数据-创建数据库表!")
  242. Task.CREATE_TaskData(conf.Local_AliasName, string(m.Data))
  243. })
  244. // 1.0数据同步到2。0
  245. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Sync1_TaskData", "Sync1_TaskData", func(m *nats.Msg) {
  246. logs.Debug("ColdVerify_Local_Sync1_TaskData message: ", string(m.Data))
  247. logs.Info(lib.FuncName(), "1.0数据同步到2。0!")
  248. T_uuid := "9b6b9f9d-f8f2-46fb-82c8-101d4a309c34"
  249. T_task_id := string(m.Data)
  250. Task_r, err := Task.Read_Task(T_task_id)
  251. if err != nil {
  252. logs.Error(lib.FuncName(), err)
  253. return
  254. }
  255. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  256. logs.Println("创建sql临时文件失败")
  257. }
  258. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  259. var org string
  260. //导出1.0数据
  261. logs.Info("--------开始导出1.0数据---------")
  262. i := 0
  263. for i < 10 {
  264. org, err = Task.Dump_TaskData_Verify(T_task_id, conf.MysqlVerify_Username, conf.MysqlVerify_Password, conf.MysqlVerify_UrlPort, conf.MysqlVerify_Database, sql_file)
  265. if err != nil {
  266. logs.Error(lib.FuncName(), "开始导出1.0数据失败", err)
  267. } else {
  268. System.Add_UserLogs_T(T_uuid, "任务数据-导出1.0数据失败", "z_task_data_"+T_task_id, org)
  269. break
  270. }
  271. i++
  272. }
  273. ChangeTableName(sql_file, T_task_id)
  274. logs.Info("--------开始导入数据到2.0【本地】---------")
  275. j := 0
  276. flag := false
  277. for j < 10 {
  278. // 清空表
  279. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  280. time.Sleep(2 * time.Second)
  281. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  282. if err != nil {
  283. logs.Error("任务数据-导入1.0数据到2.0失败", "z_task_data_"+T_task_id, err.Error())
  284. } else {
  285. if Task.Check_TaskData_Num_Verify1(T_task_id) {
  286. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, org)
  287. flag = true
  288. break
  289. }
  290. }
  291. j++
  292. }
  293. // 重试10次后仍然没有成功导入数据
  294. if !flag {
  295. // 清空本地数据
  296. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  297. time.Sleep(2 * time.Second)
  298. Task_r.T_collection_state = 0
  299. err = NatsServer.Update_Task(Task_r)
  300. if err != nil {
  301. logs.Error(lib.FuncName(), err)
  302. }
  303. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  304. return
  305. }
  306. //删除导出的sql文件
  307. _ = os.Remove(sql_file)
  308. Task.DeleteDeduplicate(T_task_id)
  309. Task_r.T_collection_state = 1
  310. err = NatsServer.Update_Task(Task_r)
  311. if err != nil {
  312. logs.Error(lib.FuncName(), err)
  313. return
  314. }
  315. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, "成功")
  316. logs.Info("--------导入1.0数据到2.0【成功】---------")
  317. })
  318. }
  319. func ChangeTableName(sql_file, T_task_id string) {
  320. // 定义命令行参数
  321. sqlFile := sql_file
  322. oldTableName := "Z_TaskData_" + T_task_id
  323. newTableName := strings.ToLower("z_task_data_" + T_task_id)
  324. // 读取SQL文件内容
  325. sqlBytes, err := os.ReadFile(sqlFile)
  326. if err != nil {
  327. fmt.Println("读取SQL文件失败:", err)
  328. os.Exit(1)
  329. }
  330. // 将SQL文件内容转换为字符串
  331. sqlStr := string(sqlBytes)
  332. // 替换旧表名为新表名
  333. newSqlStr := strings.ReplaceAll(sqlStr, oldTableName, newTableName)
  334. // 将新的SQL字符串写入原文件
  335. err = os.WriteFile(sqlFile, []byte(newSqlStr), 0644)
  336. if err != nil {
  337. fmt.Println("写入SQL文件失败:", err)
  338. os.Exit(1)
  339. }
  340. fmt.Printf("已将SQL文件 %s 中的表名 %s 替换为 %s\n", sqlFile, oldTableName, newTableName)
  341. }