项目合作厂商的FTP、关系型、非关系型以及消息中间件数据源接入收容,调研可行性的数据抽取同步组件,以简化数据抽取流程、方便管理,减少维护成本;项目业务需求调研对接,收容数据统一管理,城市安全管理、周边要素等不同主题域数仓搭建,离线指标统计开发;离线指标统计需求包括:人事物组织威胁排名、城市事件统计等业务离线指标,使用Spark程序开发;实时动态大屏展示需求:大屏实时勤务点位、风险点位、实时投诉等,使用Flink实时程序开发;同时,数据资产平台、元数据、数据安全、数据质量、数据血缘等数据治理方法论调研,参与一站式大数据服务平台架构设计;此外,还提供日常项目技术方案支撑,如HDP集群搭建维护、Ranger、Hue等组件整合,日常组件Bug维护,数据、集群、程序迁移等。

大数据服务平台建设:数据接入、数仓搭建、指标统计、实时展示、数据治理

原文地址: https://www.cveoy.top/t/topic/liQw 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录