数据采集工程师

性别:女

电话:188-8888-8888

邮箱:email@jianli1.com 所在地:广东省珠海市

生日:1990.05

基础信息

学历:本科

学校:延边大学

专业:导航与位置服务

身体状况:健康

求职意向

意向城市:广东省珠海市

教育经历

延边大学

2015.09 ~ 2019.06

导航与位置服务

本科

主修课程:地形测量、卫星定位测量、工程施工测量、数字摄影测量、外业导航地理数据采集、导航电子地图制作与维护、地理信息系

统常用软件应用、遥感数据采集、现代控制测量、遥感数据采集与处理。

工作经历

中升集团控股有限公司

2019-2-1 ~ 2021-2-1

数据采集工程师

承担华星光电能源管理系统(物联网)数据采集工程师,主要为从上游包商采集点位数据转发至 mqtt、postgres 数据库等。

使用到的工具有 kepserver、smc(Intouch 通道模式)。

华星光电项目科室报表开发(基于帆软开发)。

华星光电能源管理系统产品责任人,主要有厂端功能设计、实施、基于 pg 数据库和 python 厂端数据分析。

华星光电能源管理系统基于 pg 数据库函数接口开发(基于函数构造后端需要的数据和格式,传给后端)。

中国铝业股份有限公司

2021-3-1 ~ 2023-1-1

数据采集工程师

基于一些社交网站的爬虫的分布式设计;

通过设计 XML 模板,利用新闻 app 的 json 数据返回接口,构建 200 个新闻 app 的多线程采集程序

项目经验

中升相关项目

2019-2-1 ~ 2021-2-1

中升集团控股有限公司

数据采集工程师

该项目实现驾驶员实际道路考试系统的车载信号采集,考试过程评判,考试过程音视频监控,考车与控制中心数据的传输、指令信

息的交互。

个人职责:

制定车载信号采集模块与上位机的通讯协议,采集模块电路原理图设计,编写采集板的单片机程序(C 语言),样机调试,功能测

试,发布开发文档。

中国铝业相关项目

中国铝业股份有限公司

2021-3-1 ~ 2023-1-1

数据采集工程师

开发环境:Windows、Python3、scrapy、MongoDB、redis

使用 scrapy+redis 分布式框架抓取蜂鸟论坛图片,文章,用户信息

分析网页加载数据方式,url 规律及变化,表单数据,请求头数据

创建 scrapy 框架,编写 UA 中间件,获取 html

分析网页源码,使用 xpath 匹配并获取相关数据

对获取的数据及图片作进一步处理

将处理后的数据存入 MongoDB 数据库中

编写定时器扩展定时从 api 接口获取 proxy,自动管理代理池,编写 proxy 中间件添加代理

设置 redis 参数,配置调度器,去重逻辑,测试分布式逻辑及爬取速度调整

技能列表

C:一般

Ada:熟练

D 语言:良好

Erlang:精通

自我评价

熟练使用 sas 编程进行数据采集、变换、加载等 ETL 数据处理,对网站建设有一定经验,可以撰写相关的技术文档和基础资料。

熟悉 Spss 软件、有数据处理、分析相关项目经验,对机器学习算法和挖掘技术较为感兴趣,热爱在工程业务当中自助完成任何事

情。

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注