Nats.go 12 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392393394
  1. package Nats
  2. import (
  3. "ColdVerify_local/Nats/NatsServer"
  4. "ColdVerify_local/conf"
  5. "ColdVerify_local/lib"
  6. "ColdVerify_local/logs"
  7. "ColdVerify_local/models/System"
  8. "ColdVerify_local/models/Task"
  9. "fmt"
  10. "github.com/nats-io/nats.go"
  11. "github.com/vmihailenco/msgpack/v5"
  12. "os"
  13. "strings"
  14. "time"
  15. )
  16. func init() {
  17. logs.Println("============Nats init============")
  18. var err error
  19. // 连接Nats服务器
  20. lib.Nats, err = nats.Connect("nats://"+conf.NatsServer_Url, nats.MaxReconnects(-1),
  21. nats.DisconnectErrHandler(func(nc *nats.Conn, err error) {
  22. logs.Error("nats 断开连接", err.Error())
  23. }),
  24. nats.ReconnectHandler(func(nc *nats.Conn) {
  25. logs.Println("nats 重连...")
  26. }))
  27. nats.RetryOnFailedConnect(true)
  28. if err != nil {
  29. logs.Error("nats 断开连接", err.Error())
  30. }
  31. logs.Println("nats OK!")
  32. // 本地测试,屏蔽本地nats
  33. if !conf.NatsForbidden && lib.Nats != nil {
  34. go NatsInit()
  35. }
  36. }
  37. // 每10分钟重新连接nats
  38. func ReconnectNATS() {
  39. // 循环监测连接状态并重新连接
  40. var err error
  41. for {
  42. time.Sleep(1 * time.Minute)
  43. //time.Sleep(1 * time.Minute)
  44. if (lib.Nats != nil && !lib.Nats.IsConnected()) || lib.Nats == nil {
  45. lib.Nats, err = nats.Connect("nats://" + conf.NatsServer_Url)
  46. if err != nil {
  47. logs.Println("无法重新连接到 NATS:", err)
  48. continue
  49. }
  50. logs.Println("成功重新连接到 NATS...")
  51. }
  52. }
  53. }
  54. type Up_TaskData_Back struct {
  55. T_uuid string `xml:"T_uuid"`
  56. Task Task.Task `xml:"Task_r"`
  57. }
  58. func NatsInit() {
  59. // 打包本地数据
  60. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Import_TaskData", "Import_TaskData", func(m *nats.Msg) {
  61. logs.Debug("ColdVerify_Local_Import_TaskData message: ", string(m.Data))
  62. logs.Info(lib.FuncName(), "任务数据-打包本地数据 开始打包数据...!")
  63. type T_R struct {
  64. T_uuid string `xml:"T_uuid"`
  65. T_task_id string `xml:"T_task_id"`
  66. TaskData_Num int `xml:"TaskData_Num"`
  67. }
  68. var t_r T_R
  69. err := msgpack.Unmarshal(m.Data, &t_r)
  70. if err != nil {
  71. logs.Error("Nats", "msgpack Unmarshal err", string(m.Data))
  72. return
  73. }
  74. T_uuid, T_task_id := t_r.T_uuid, t_r.T_task_id
  75. Task_r, err := NatsServer.Read_Task(T_task_id)
  76. if err != nil {
  77. logs.Error(lib.FuncName(), err)
  78. return
  79. }
  80. if t_r.TaskData_Num == 0 {
  81. // 已采集 无数据
  82. Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  83. //Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  84. Task_r.T_collection_state = 3
  85. err = NatsServer.Update_Task(Task_r)
  86. if err != nil {
  87. logs.Error(lib.FuncName(), err)
  88. }
  89. return
  90. }
  91. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  92. logs.Println("创建sql临时文件失败")
  93. }
  94. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  95. var org string
  96. //导出线上数据
  97. logs.Info("--------开始导出线上数据---------")
  98. i := 0
  99. for i < 10 {
  100. org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  101. if err != nil {
  102. logs.Error(lib.FuncName(), "导出线上数据失败", err)
  103. } else {
  104. System.Add_UserLogs_T(T_uuid, "任务数据-导出线上数据", "z_task_data_"+T_task_id, org)
  105. break
  106. }
  107. i++
  108. }
  109. logs.Info("--------开始导入数据到【本地】---------")
  110. j := 0
  111. flag := false
  112. // 清空表
  113. //Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  114. //time.Sleep(2 * time.Second)
  115. for j < 10 {
  116. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  117. time.Sleep(2 * time.Second)
  118. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  119. if err != nil {
  120. logs.Error("任务数据-打包本地数据", "z_task_data_"+T_task_id, err.Error())
  121. } else {
  122. if Task.Check_TaskData_Num(T_task_id) {
  123. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, org)
  124. flag = true
  125. break
  126. }
  127. }
  128. j++
  129. }
  130. // 重试10次后仍然没有成功导入数据
  131. if !flag {
  132. // 清空本地数据
  133. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  134. time.Sleep(2 * time.Second)
  135. Task_r.T_collection_state = 0
  136. err = NatsServer.Update_Task(Task_r)
  137. if err != nil {
  138. logs.Error(lib.FuncName(), err)
  139. }
  140. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  141. return
  142. }
  143. //删除导出的sql文件
  144. _ = os.Remove(sql_file)
  145. // 删除重复数据
  146. _, err = Task.DeleteDeduplicate(T_task_id)
  147. if err != nil {
  148. logs.Error(lib.FuncName(), err)
  149. return
  150. }
  151. Task_r.T_collection_state = 1
  152. err = NatsServer.Update_Task(Task_r)
  153. if err != nil {
  154. logs.Error(lib.FuncName(), err)
  155. return
  156. }
  157. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, "成功")
  158. logs.Info("--------导入数据到本地【成功】!---------")
  159. })
  160. // 更新线上数据
  161. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Up_TaskData", "Up_TaskData", func(m *nats.Msg) {
  162. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  163. logs.Info(lib.FuncName(), "任务数据-打包本地数据 更新线上数据...!")
  164. var t_r Up_TaskData_Back
  165. err := msgpack.Unmarshal(m.Data, &t_r)
  166. if err != nil {
  167. System.Add_Logs("Nats", "msgpack Unmarshal err", string(m.Data))
  168. return
  169. }
  170. Task_r := t_r.Task
  171. T_uuid, T_task_id := t_r.T_uuid, Task_r.T_task_id
  172. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  173. logs.Println("创建sql临时文件失败")
  174. }
  175. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  176. var org string
  177. //导出线上数据
  178. logs.Info("--------开始导出本地数据---------")
  179. i := 0
  180. for i < 10 {
  181. org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  182. if err != nil {
  183. logs.Error(lib.FuncName(), "导出本地数据失败", err)
  184. } else {
  185. System.Add_UserLogs_T(T_uuid, "任务数据-导出本地数据失败", "z_task_data_"+T_task_id, org)
  186. break
  187. }
  188. i++
  189. }
  190. logs.Info("--------开始导入数据到【线上】---------")
  191. j := 0
  192. flag := false
  193. for j < 10 {
  194. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  195. time.Sleep(2 * time.Second)
  196. org, err = Task.Insert_TaskData(conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  197. if err != nil {
  198. logs.Println(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, err.Error())
  199. } else {
  200. if Task.Check_TaskData_Num(T_task_id) {
  201. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  202. flag = true
  203. break
  204. }
  205. }
  206. j++
  207. }
  208. // 重试10次后仍然没有成功导入数据
  209. if !flag {
  210. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  211. time.Sleep(2 * time.Second)
  212. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  213. Task_r.T_delivery_state = 0
  214. err = NatsServer.Update_Task(Task_r)
  215. if err != nil {
  216. logs.Error(lib.FuncName(), err)
  217. }
  218. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据-失败", "z_task_data_"+T_task_id, "重试10次失败")
  219. return
  220. }
  221. //删除导出的sql文件
  222. _ = os.Remove(sql_file)
  223. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  224. Task_r.T_delivery_state = 1
  225. err = NatsServer.Update_Task(Task_r)
  226. if err != nil {
  227. logs.Error(lib.FuncName(), err)
  228. }
  229. // 删除绑定数据区间外的数据
  230. NatsServer.Del_TaskData_ByT_BindDeviceDataTime(T_task_id)
  231. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, "成功")
  232. logs.Info("--------导入数据到【线上】成功!---------")
  233. })
  234. // 创建本地任务表
  235. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Create_Table", "Create_Table", func(m *nats.Msg) {
  236. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  237. logs.Info(lib.FuncName(), "任务数据-创建数据库表!")
  238. Task.CREATE_TaskData(conf.Local_AliasName, string(m.Data))
  239. })
  240. // 1.0数据同步到2。0
  241. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Sync1_TaskData", "Sync1_TaskData", func(m *nats.Msg) {
  242. logs.Debug("ColdVerify_Local_Sync1_TaskData message: ", string(m.Data))
  243. logs.Info(lib.FuncName(), "1.0数据同步到2。0!")
  244. T_uuid := "9b6b9f9d-f8f2-46fb-82c8-101d4a309c34"
  245. T_task_id := string(m.Data)
  246. Task_r, err := NatsServer.Read_Task(T_task_id)
  247. if err != nil {
  248. logs.Error(lib.FuncName(), err)
  249. return
  250. }
  251. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  252. logs.Println("创建sql临时文件失败")
  253. }
  254. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  255. var org string
  256. //导出1.0数据
  257. logs.Info("--------开始导出1.0数据---------")
  258. i := 0
  259. for i < 10 {
  260. org, err = Task.Dump_TaskData_Verify(T_task_id, conf.MysqlVerify_Username, conf.MysqlVerify_Password, conf.MysqlVerify_UrlPort, conf.MysqlVerify_Database, sql_file)
  261. if err != nil {
  262. logs.Error(lib.FuncName(), "开始导出1.0数据失败", err)
  263. } else {
  264. System.Add_UserLogs_T(T_uuid, "任务数据-导出1.0数据失败", "z_task_data_"+T_task_id, org)
  265. break
  266. }
  267. i++
  268. }
  269. ChangeTableName(sql_file, T_task_id)
  270. logs.Info("--------开始导入数据到2.0【本地】---------")
  271. j := 0
  272. flag := false
  273. for j < 10 {
  274. // 清空表
  275. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  276. time.Sleep(2 * time.Second)
  277. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  278. if err != nil {
  279. logs.Error("任务数据-导入1.0数据到2.0失败", "z_task_data_"+T_task_id, err.Error())
  280. } else {
  281. if Task.Check_TaskData_Num_Verify1(T_task_id) {
  282. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, org)
  283. flag = true
  284. break
  285. }
  286. }
  287. j++
  288. }
  289. // 重试10次后仍然没有成功导入数据
  290. if !flag {
  291. // 清空本地数据
  292. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  293. time.Sleep(2 * time.Second)
  294. Task_r.T_collection_state = 0
  295. err = NatsServer.Update_Task(Task_r)
  296. if err != nil {
  297. logs.Error(lib.FuncName(), err)
  298. }
  299. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  300. return
  301. }
  302. //删除导出的sql文件
  303. _ = os.Remove(sql_file)
  304. Task.DeleteDeduplicate(T_task_id)
  305. Task_r.T_collection_state = 1
  306. err = NatsServer.Update_Task(Task_r)
  307. if err != nil {
  308. logs.Error(lib.FuncName(), err)
  309. return
  310. }
  311. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, "成功")
  312. logs.Info("--------导入1.0数据到2.0【成功】---------")
  313. })
  314. }
  315. func ChangeTableName(sql_file, T_task_id string) {
  316. // 定义命令行参数
  317. sqlFile := sql_file
  318. oldTableName := "Z_TaskData_" + T_task_id
  319. newTableName := strings.ToLower("z_task_data_" + T_task_id)
  320. // 读取SQL文件内容
  321. sqlBytes, err := os.ReadFile(sqlFile)
  322. if err != nil {
  323. fmt.Println("读取SQL文件失败:", err)
  324. os.Exit(1)
  325. }
  326. // 将SQL文件内容转换为字符串
  327. sqlStr := string(sqlBytes)
  328. // 替换旧表名为新表名
  329. newSqlStr := strings.ReplaceAll(sqlStr, oldTableName, newTableName)
  330. // 将新的SQL字符串写入原文件
  331. err = os.WriteFile(sqlFile, []byte(newSqlStr), 0644)
  332. if err != nil {
  333. fmt.Println("写入SQL文件失败:", err)
  334. os.Exit(1)
  335. }
  336. fmt.Printf("已将SQL文件 %s 中的表名 %s 替换为 %s\n", sqlFile, oldTableName, newTableName)
  337. }