首页 > 上海 > 宝山区 > 大数据平台(大数据平台架构详解)

大数据平台(大数据平台架构详解)

来源:整理 时间:2022-11-23 09:27:39 编辑:上海天气 手机版

  平台NVR中存储的数据可同时供多个客户端随时查询,点播,当用户需要查看多个已保存的视频监控数据时,可通过授权的视频监控客户端直接查询并点播相应位置的视频监控数据进行历史图像的查看。由于数据管理服务器具有监控系统所有监控点的录像文件的索引,因此通过平台CMS授权,视频监控客户端可以查询并点播整个监控系统上所有监控点的数据,这个过程对用户而言也是透明的。

(3)基于云技术的存储方案

  当前,安防行业可谓“云”山“物”罩。随着视频监控的高清化和网络化,存储和管理的视频数据量已有海量之势,云存储技术是突破IP高清监控存储瓶颈的重要手段。云存储作为一种服务,在未来安防监控行业有着可观的应用前景。

  与传统存储设备不同,云存储不仅是一个硬件,而是一个由网络设备、存储设备、服务器、软件、接入网络、用户访问接口以及客户端程序等多个部分构成的复杂系统。该系统以存储设备为核心,通过应用层软件对外提供数据存储和业务服务。

  一般分为存储层、基础管理层、应用接口层以及访问层。存储层是云存储系统的基础,由存储设备(满足FC协议、iSCSI协议、NAS协议等)构成。基础管理层是云存储系统的核心,其担负着存储设备间协同工作,数据加密,分发以及容灾备份等工作。应用接口层是系统中根据用户需求来开发的部分,根据不同的业务类型,可以开发出不同的应用服务接口。访问层指授权用户通过应用接口来登录、享受云服务。其主要优势在于:硬件冗余、节能环保、系统升级不会影响存储服务、海量并行扩容、强大的负载均衡功能、统一管理、统一向外提供服务,管理效率高,云存储系统从系统架构、文件结构、高速缓存等方面入手,针对监控应用进行了优化设计。数据传输可采用流方式,底层采用突破传统文件系统限制的流媒体数据结构,大幅提高了系统性能。

  高清监控存储是一种大码流多并发写为主的存储应用,对性能、并发性和稳定性等方面有很高的要求。该存储解决方案采用独特的大缓存顺序化算法,把多路随机并发访问变为顺序访问,解决了硬盘磁头因频繁寻道而导致的性能迅速下降和硬盘寿命缩短的问题。

针对系统中会产生PB级海量监控数据,存储设备的数量达数十台上百台,因此管理方式的科学高效显得十分重要。云存储可提供基于集群管理技术的多设备集中管理工具,具有设备集中监控、集群管理、系统软硬件运行状态的监控、主动报警,图像化系统检测等功能。在海量视频存储检索应用中,检索性能尤为重要。传统文件系统中,文件检索采用的是“目录-》子目录-》文件-》定位”的检索步骤,在海量数据的高清视频监控,目录和文件数量十分可观,这种检索模式的效率就会大打折扣。采用序号文件定位可以有效解决该问题。

  云存储可以提供非常高的的系统冗余和安全性。当在线存储系统出现故障后,热备机可以立即接替服务,当故障恢复时,服务和数据回迁;若故障机数据需要调用,可以将故障机的磁盘插入到冷备机中,实现所有数据的立即可用。

  对于高清监控系统,随着监控前端的增加和存储时间的延长,扩展能力十分重要。市场中已有友商可提供单纯针对容量的扩展柜扩展模式和性能容量同步线性扩展的堆叠扩展模式。

  云存储系统除上述优点之外,在平台对接整合、业务流程梳理、视频数据智能分析深度挖掘及成本方面都将面临挑战。承建大型系统、构建云存储的商业模式也亟待创新。受限于宽带网络、web2.0技术、应用存储技术、文件系统、P2P、数据压缩、CDN技术、虚拟化技术等的发展,未来云存储还有很长的路要走。

4. 大数据平台架构详解图

具体就业方向

1.大数据系统架构师

大数据平台搭建、系统设计、基础设施。

2.大数据系统分析师

面向实际行业领域,利用大数据技术进行数据安全生命周期管理、分析和应用。

3.hadoop开发工程师。

解决大数据存储问题。

4.数据分析师

不同行业中,专门从事行业数据搜集、整理、分析,并依据数据做出行业研究、评估和预测的专业人员。在工作中通过运用工具,提取、分析、呈现数据,实现数据的商业意义。

5. 大数据平台 架构

1.找出过去事件的特征

大数据工程师一个很重要的工作,就是通过分析数据来找出过去事件的特征。比如,腾讯的数据团队正在搭建一个数据仓库,把公司所有网络平台上数量庞大、不规整的数据信息进行梳理,总结出可供查询的特征,来支持公司各类业务对数据的需求,包括广告投放、游戏开发、社交网络等。

文章TAG:大数据平台大数据数据数据平台

最近更新

  • 饕餮,象征节约粮食劝人勿贪吃

    饕餮也象征劝人节约粮食,所以饕餮纹身出现在大量的饮食器具中,也是为了实现劝诫,甚至是增强这种劝诫,饕餮的来历如下:饕餮是传说中的恶兽,贪吃到把自己的身体都吃光了,所以形状一般是没有 ......

    宝山区 日期:2023-05-06

  • 上海市杨浦区定海街道137,杨浦区延吉东路137的邮编是多少

    杨浦区延吉东路137的邮编是多少杨浦区延吉东路137邮编:200093以上供您参考希望能帮到您还望采纳谢谢2,上海市杨浦区定海社区卫生服务中心怎么走定海社区卫生服务中心地址:杨浦区 ......

    宝山区 日期:2023-05-06

  • 感冒可以吃鱼吗,感冒能吃鱼吗

    感冒能吃鱼吗2,感冒能吃鱼么1,感冒能吃鱼吗病情分析:感冒病人不宜多吃鱼意见建议:鱼为矿物质极佳的来源,其中以磷、铜、碘、纳、钾、镁、铁、氟较为多。海水鱼含碘丰富,是碘可靠的来源。 ......

    宝山区 日期:2023-05-06

  • 上海市有二个秘书长吗,上海市市长秘书共有哪些人

    上海市市长秘书共有哪些人2,上海有多少个冯煦尧3,上海市城乡建设和交通委员会秘书长是什么级别4,上海市政府任命两位副秘书长他们的履历如何5,上海市市长秘书是谁6,上海市二级以上医院 ......

    宝山区 日期:2023-05-06

  • 蜜枣的功效,吃蜜枣有什么作用

    吃蜜枣有什么作用2,吃蜜枣有什么好处1,吃蜜枣有什么作用滋补养颜~~还可以解馋啊2,吃蜜枣有什么好处枣制成的果脯一般称为蜜枣。由于其表现带有许多细纹,故又称之为金丝蜜枣。制蜜枣的原 ......

    宝山区 日期:2023-05-06

  • 上海市瑞金卢湾分院电话,嘉定瑞金医院皮肤科预约

    嘉定瑞金医院皮肤科预约2,上海瑞金医院地址3,上海瑞金医院卢湾分院是不是总院啊4,上海瑞金医院卢湾分院是不是总院啊5,上海南站到瑞金医院具体路线怎么走车费要多少6,上海瑞金医院在哪 ......

    宝山区 日期:2023-05-06

  • 陪伴的近义词,陪伴的近义词是什么

    陪伴的近义词是什么陪伴近义词:伴随,陪同,随同,奉陪。释义:随同做伴。元乔吉《小桃红·点鞋枝》曲:“月牙脱出宫莲嬱,虽然草木,不堪憔悴,陪伴玉纤纤。”伴随{0}2,陪伴的近义词伴随 ......

    宝山区 日期:2023-05-06

  • 上海市虹桥王磊,上海王磊形象公社在哪

    上海王磊形象公社在哪2,上海佩奇品牌管理有限公司怎么样3,上海王磊造型好吗4,王磊的运动生涯5,上海王磊应聘设计师一般什么要求啊需要交押金不6,上海王磊形象公社大致消费是多少1,上 ......

    宝山区 日期:2023-05-06