数据是互联网的灵魂、没有数据互联网就是一个无用的空壳子，像人工智能、大数据、智能算法等。都是需要基础数据来验证模型是否是可用的，来进行调参矫正算法的可用性、帮助算法的落地，对算法起到最关键的作用。所以数据的获取以及对数据的处理就是非常重要的。
通常的数据格式是txt、sql、excel以及word，其中最重要的还是SQL中的数据、SQL数据包括MySQL、SQLServer、SQLite、Oracle等，导出的数据格式。 常用的数据处理语言是Python、因为Python是个胶水语言，没有Python搞不定的事。 Python比较适合做些快速、时间紧、参与人员较少，切性能要求不高的项目，而且Python成熟的库很多、这也是它 被称为 胶水语言的原因 。
技术要求需要懂得python3的基础语法以及对正则表达式有基础了解。
实现步骤
1.读取SQL文件中的数据、去除多余的内容并提取需要的数据、追加到集合中；
# -*- coding: utf-8 -*-
# !/usr/bin/python3
# desc by: 两行代码实现SQL文件中数据提取，后期可以结合geogle浏览器插件应用
# author by : rainNight
# weChatPublicNumber: 雨夜的博客
import re
import json
"""
第一步：读取area.sql文件，去除多余内容提取需要添加的数据
第二步：定义转换后的文件地址，写入文件
"""
opens = open("./data/area.sql", encoding="utf-8")
codeline = opens.readlines() # 一行一行的读取
jsonList = []
for line in codeline:
if re.match("INSERT", line):
jsonList.append(re.findall(re.compile(r'[(](.*?)[)]', re.S), line))
2.将集合中的数据转成json格式；
3.定义转换后的文件地址并写入文件中
jsonArray = json.dumps(jsonList)
jsonOpen = open("./data/areaToJson.txt", "w")
jsonOpen.writelines(str(jsonArray))
opens.close()
jsonOpen.close()
所有代码：
# -*- coding: utf-8 -*-
# !/usr/bin/python3
# desc by: 两行代码实现SQL文件中数据提取，后期可以结合geogle浏览器插件应用
# author by : rainNight
# weChatPublicNumber: 雨夜的博客
import re
import json
"""
第一步：读取area.sql文件，去除多余内容提取需要添加的数据
第二步：定义转换后的文件地址，写入文件
"""
opens = open("./data/area.sql", encoding="utf-8")
codeline = opens.readlines() # 一行一行的读取
jsonList = []
for line in codeline:
if re.match("INSERT", line):
jsonList.append(re.findall(re.compile(r'[(](.*?)[)]', re.S), line))
jsonArray = json.dumps(jsonList)
jsonOpen = open("./data/areaToJson.txt", "w")
jsonOpen.writelines(str(jsonArray))
opens.close()
jsonOpen.close()
实现的结果：
细微思路的发现、并将该思维实现产品中逐渐放大化，最终实现体系走向产品运营。
