Nats.go 11 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380
  1. package Nats
  2. import (
  3. "ColdVerify_local/Nats/NatsServer"
  4. "ColdVerify_local/conf"
  5. "ColdVerify_local/lib"
  6. "ColdVerify_local/logs"
  7. "ColdVerify_local/models/System"
  8. "ColdVerify_local/models/Task"
  9. "fmt"
  10. "github.com/nats-io/nats.go"
  11. "github.com/vmihailenco/msgpack/v5"
  12. "os"
  13. "strings"
  14. "time"
  15. )
  16. func init() {
  17. logs.Println("============Nats init============")
  18. var err error
  19. // 连接Nats服务器
  20. lib.Nats, err = nats.Connect("nats://"+conf.NatsServer_Url, nats.MaxReconnects(-1),
  21. nats.DisconnectErrHandler(func(nc *nats.Conn, err error) {
  22. logs.Error("nats 断开连接", err.Error())
  23. }),
  24. nats.ReconnectHandler(func(nc *nats.Conn) {
  25. logs.Println("nats 重连...")
  26. }))
  27. nats.RetryOnFailedConnect(true)
  28. if err != nil {
  29. logs.Error("nats 断开连接", err.Error())
  30. }
  31. logs.Println("nats OK!")
  32. // 本地测试,屏蔽本地nats
  33. if !conf.NatsForbidden && lib.Nats != nil {
  34. go NatsInit()
  35. }
  36. }
  37. // 每10分钟重新连接nats
  38. func ReconnectNATS() {
  39. // 循环监测连接状态并重新连接
  40. var err error
  41. for {
  42. time.Sleep(1 * time.Minute)
  43. //time.Sleep(1 * time.Minute)
  44. if (lib.Nats != nil && !lib.Nats.IsConnected()) || lib.Nats == nil {
  45. lib.Nats, err = nats.Connect("nats://" + conf.NatsServer_Url)
  46. if err != nil {
  47. logs.Println("无法重新连接到 NATS:", err)
  48. continue
  49. }
  50. logs.Println("成功重新连接到 NATS...")
  51. }
  52. }
  53. }
  54. type Up_TaskData_Back struct {
  55. T_uuid string `xml:"T_uuid"`
  56. Task Task.Task `xml:"Task_r"`
  57. }
  58. func NatsInit() {
  59. // 打包本地数据
  60. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Import_TaskData", "Import_TaskData", func(m *nats.Msg) {
  61. logs.Debug("ColdVerify_Local_Import_TaskData message: ", string(m.Data))
  62. logs.Info(lib.FuncName(), "任务数据-打包本地数据 开始打包数据...!")
  63. type T_R struct {
  64. T_uuid string `xml:"T_uuid"`
  65. T_task_id string `xml:"T_task_id"`
  66. TaskData_Num int `xml:"TaskData_Num"`
  67. }
  68. var t_r T_R
  69. err := msgpack.Unmarshal(m.Data, &t_r)
  70. if err != nil {
  71. logs.Error("Nats", "msgpack Unmarshal err", string(m.Data))
  72. return
  73. }
  74. T_uuid, T_task_id := t_r.T_uuid, t_r.T_task_id
  75. Task_r, err := NatsServer.Read_Task(T_task_id)
  76. if err != nil {
  77. logs.Error(lib.FuncName(), err)
  78. return
  79. }
  80. if t_r.TaskData_Num == 0 {
  81. // 已采集 无数据
  82. Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  83. //Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  84. Task_r.T_collection_state = 3
  85. err = NatsServer.Update_Task(Task_r)
  86. if err != nil {
  87. logs.Error(lib.FuncName(), err)
  88. }
  89. return
  90. }
  91. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  92. logs.Println("创建sql临时文件失败")
  93. }
  94. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  95. var org string
  96. //导出线上数据
  97. logs.Info("--------开始导出线上数据---------")
  98. i := 0
  99. for i < 10 {
  100. org, err = Task.Dump_TaskData(T_task_id, conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  101. if err != nil {
  102. logs.Error(lib.FuncName(), "导出线上数据失败", err)
  103. } else {
  104. System.Add_UserLogs_T(T_uuid, "任务数据-导出线上数据", "z_task_data_"+T_task_id, org)
  105. break
  106. }
  107. i++
  108. }
  109. logs.Info("--------开始导入数据到【本地】---------")
  110. j := 0
  111. flag := false
  112. // 清空表
  113. //Task.CREATE_TaskData(conf.Local_AliasName, T_task_id)
  114. //time.Sleep(2 * time.Second)
  115. for j < 10 {
  116. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  117. time.Sleep(2 * time.Second)
  118. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  119. if err != nil {
  120. logs.Error("任务数据-打包本地数据", "z_task_data_"+T_task_id, err.Error())
  121. } else {
  122. if Task.Check_TaskData_Num(T_task_id) {
  123. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, org)
  124. flag = true
  125. break
  126. }
  127. }
  128. j++
  129. }
  130. // 重试10次后仍然没有成功导入数据
  131. if !flag {
  132. // 清空本地数据
  133. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  134. time.Sleep(2 * time.Second)
  135. Task_r.T_collection_state = 0
  136. err = NatsServer.Update_Task(Task_r)
  137. if err != nil {
  138. logs.Error(lib.FuncName(), err)
  139. }
  140. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  141. return
  142. }
  143. //删除导出的sql文件
  144. _ = os.Remove(sql_file)
  145. // 删除重复数据
  146. _, err = Task.DeleteDeduplicate(T_task_id)
  147. if err != nil {
  148. logs.Error(lib.FuncName(), err)
  149. return
  150. }
  151. Task_r.T_collection_state = 1
  152. err = NatsServer.Update_Task(Task_r)
  153. if err != nil {
  154. logs.Error(lib.FuncName(), err)
  155. return
  156. }
  157. System.Add_UserLogs_T(T_uuid, "任务数据-打包本地数据", "z_task_data_"+T_task_id, "成功")
  158. logs.Info("--------导入数据到本地【成功】!---------")
  159. })
  160. // 更新线上数据
  161. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Up_TaskData", "Up_TaskData", func(m *nats.Msg) {
  162. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  163. logs.Info(lib.FuncName(), "任务数据-打包本地数据 更新线上数据...!")
  164. var t_r Up_TaskData_Back
  165. err := msgpack.Unmarshal(m.Data, &t_r)
  166. if err != nil {
  167. System.Add_Logs("Nats", "msgpack Unmarshal err", string(m.Data))
  168. return
  169. }
  170. Task_r := t_r.Task
  171. T_uuid, T_task_id := t_r.T_uuid, Task_r.T_task_id
  172. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  173. logs.Println("创建sql临时文件失败")
  174. }
  175. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  176. org, err := Task.Dump_TaskData(T_task_id, conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  177. if err != nil {
  178. logs.Error(lib.FuncName(), "导出本地数据失败")
  179. return
  180. }
  181. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  182. logs.Info("--------开始导入数据到【线上】---------")
  183. i := 0
  184. flag := false
  185. for i < 10 {
  186. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  187. time.Sleep(2 * time.Second)
  188. org, err = Task.Insert_TaskData(conf.MysqlServer2_Username, conf.MysqlServer2_Password, conf.MysqlServer2_UrlPort, conf.MysqlServer2_Database, sql_file)
  189. if err != nil {
  190. logs.Println(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, err.Error())
  191. } else {
  192. if Task.Check_TaskData_Num(T_task_id) {
  193. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, org)
  194. flag = true
  195. break
  196. }
  197. }
  198. i++
  199. }
  200. // 重试10次后仍然没有成功导入数据
  201. if !flag {
  202. Task.Truncate_TaskData(conf.Server_AliasName, T_task_id)
  203. time.Sleep(2 * time.Second)
  204. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  205. Task_r.T_delivery_state = 0
  206. err = NatsServer.Update_Task(Task_r)
  207. if err != nil {
  208. logs.Error(lib.FuncName(), err)
  209. }
  210. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据-失败", "z_task_data_"+T_task_id, "重试10次失败")
  211. return
  212. }
  213. //删除导出的sql文件
  214. _ = os.Remove(sql_file)
  215. // 线上数据更新后 将当前任务 交付审核 标志 为 1
  216. Task_r.T_delivery_state = 1
  217. err = NatsServer.Update_Task(Task_r)
  218. if err != nil {
  219. logs.Error(lib.FuncName(), err)
  220. }
  221. System.Add_UserLogs_T(T_uuid, "任务数据-更新线上数据", "z_task_data_"+T_task_id, "成功")
  222. logs.Info("--------导入数据到【线上】成功!---------")
  223. })
  224. // 创建本地任务表
  225. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Create_Table", "Create_Table", func(m *nats.Msg) {
  226. logs.Debug("ColdVerify_Local_Up_TaskData message: ", string(m.Data))
  227. logs.Info(lib.FuncName(), "任务数据-创建数据库表!")
  228. Task.CREATE_TaskData(conf.Local_AliasName, string(m.Data))
  229. })
  230. // 1.0数据同步到2。0
  231. _, _ = lib.Nats.QueueSubscribe("ColdVerify_Local_Sync1_TaskData", "Sync1_TaskData", func(m *nats.Msg) {
  232. logs.Debug("ColdVerify_Local_Sync1_TaskData message: ", string(m.Data))
  233. logs.Info(lib.FuncName(), "1.0数据同步到2。0!")
  234. T_uuid := "9b6b9f9d-f8f2-46fb-82c8-101d4a309c34"
  235. T_task_id := string(m.Data)
  236. Task_r, err := NatsServer.Read_Task(T_task_id)
  237. if err != nil {
  238. logs.Error(lib.FuncName(), err)
  239. return
  240. }
  241. if err = lib.Create_Dir(conf.Sql_Temp_Dir); err != nil {
  242. logs.Println("创建sql临时文件失败")
  243. }
  244. sql_file := fmt.Sprintf("%sz_task_data_%s.sql", conf.Sql_Temp_Dir, T_task_id)
  245. var org string
  246. //导出1.0数据
  247. logs.Info("--------开始导出1.0数据---------")
  248. i := 0
  249. for i < 10 {
  250. org, err = Task.Dump_TaskData_Verify(T_task_id, conf.MysqlVerify_Username, conf.MysqlVerify_Password, conf.MysqlVerify_UrlPort, conf.MysqlVerify_Database, sql_file)
  251. if err != nil {
  252. logs.Error(lib.FuncName(), "开始导出1.0数据失败", err)
  253. } else {
  254. System.Add_UserLogs_T(T_uuid, "任务数据-导出1.0数据失败", "z_task_data_"+T_task_id, org)
  255. break
  256. }
  257. i++
  258. }
  259. ChangeTableName(sql_file, T_task_id)
  260. logs.Info("--------开始导入数据到2.0【本地】---------")
  261. j := 0
  262. flag := false
  263. for j < 10 {
  264. // 清空表
  265. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  266. time.Sleep(2 * time.Second)
  267. org, err = Task.Insert_TaskData(conf.MysqlServer_Username, conf.MysqlServer_Password, conf.MysqlServer_UrlPort, conf.MysqlServer_Database, sql_file)
  268. if err != nil {
  269. logs.Error("任务数据-导入1.0数据到2.0失败", "z_task_data_"+T_task_id, err.Error())
  270. } else {
  271. if Task.Check_TaskData_Num_Verify1(T_task_id) {
  272. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, org)
  273. flag = true
  274. break
  275. }
  276. }
  277. j++
  278. }
  279. // 重试10次后仍然没有成功导入数据
  280. if !flag {
  281. // 清空本地数据
  282. Task.Truncate_TaskData(conf.Local_AliasName, T_task_id)
  283. time.Sleep(2 * time.Second)
  284. Task_r.T_collection_state = 0
  285. err = NatsServer.Update_Task(Task_r)
  286. if err != nil {
  287. logs.Error(lib.FuncName(), err)
  288. }
  289. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0-失败", "线下导入数据z_task_data_"+T_task_id, "重试10次失败")
  290. return
  291. }
  292. //删除导出的sql文件
  293. _ = os.Remove(sql_file)
  294. Task.DeleteDeduplicate(T_task_id)
  295. Task_r.T_collection_state = 1
  296. err = NatsServer.Update_Task(Task_r)
  297. if err != nil {
  298. logs.Error(lib.FuncName(), err)
  299. return
  300. }
  301. System.Add_UserLogs_T(T_uuid, "任务数据-导入1.0数据到2.0", "z_task_data_"+T_task_id, "成功")
  302. logs.Info("--------导入1.0数据到2.0【成功】---------")
  303. })
  304. }
  305. func ChangeTableName(sql_file, T_task_id string) {
  306. // 定义命令行参数
  307. sqlFile := sql_file
  308. oldTableName := "Z_TaskData_" + T_task_id
  309. newTableName := strings.ToLower("z_task_data_" + T_task_id)
  310. // 读取SQL文件内容
  311. sqlBytes, err := os.ReadFile(sqlFile)
  312. if err != nil {
  313. fmt.Println("读取SQL文件失败:", err)
  314. os.Exit(1)
  315. }
  316. // 将SQL文件内容转换为字符串
  317. sqlStr := string(sqlBytes)
  318. // 替换旧表名为新表名
  319. newSqlStr := strings.ReplaceAll(sqlStr, oldTableName, newTableName)
  320. // 将新的SQL字符串写入原文件
  321. err = os.WriteFile(sqlFile, []byte(newSqlStr), 0644)
  322. if err != nil {
  323. fmt.Println("写入SQL文件失败:", err)
  324. os.Exit(1)
  325. }
  326. fmt.Printf("已将SQL文件 %s 中的表名 %s 替换为 %s\n", sqlFile, oldTableName, newTableName)
  327. }