从零开始设计环保监测物联网系统(二)

从零开始设计环保监测物联网系统(二),第1张

IOT网关,接收sensor数据的总入口,主要是日志,安全防护,流控,协议转换等功能,

图1 IOT网关

之前有提到IOT网关是基于python的twisted框架实现的,初期的时候该IOT网关主要实现的功能是 数据接收和转换功能 安全防护

数据接收和转换功能 ,这里很简单,拟定好数据交互格式后,IOT网关按照约定好的格式进行解析,然后转发给后端服务进行进一步的处理

安全防护设备的区分主要是依靠烧录到硬件的SN号来实现,SN号包含的信息比较多,如生产批次,设备型号等,受制于厂商我安全防护不能做的非常完善,同时sensor与IOT网关的交互不能非常复杂。安全防护这一块理论上是设备接入要一型一密或者一机一密,协议上还应该启用tls/ssl安全通信协议。

图2 鉴权

安全防护要做ssl这类的安全通信协议的话,要考虑设备厂商实现通信模块能力,设备功耗,设备性能(低端设备cpu性能可能比较差,可考虑对称加密形式),IOT网关也需要引入相应模块。

另外认证从性能方面考虑,后期在设备比较多的情况下,可以加入redis等内存型key-value数据库,缓存设备信息,提高鉴权模块性能。

实践中,我们的sensor基本都是依靠电池供电,因此我们的IOT网关基本是面向短链接(后期我们有监测设备,依靠外部电源直接供电,为长连接),因此在每次发起连接我们都要进行一次鉴权,鉴权通过后,设备方可上传传感器监测数据和设备自身状态。

图3 数据交互流程

这一块的调试工作长达半年左右,才基本稳定下来,主要集中在设备商处除了硬件稳定性,还有在调试中发现传输的字符串乱码(c语言处理问题),沾包(厂商开发人员tcp协议不熟),优化传输效率,关闭cork或者 Nagle 算法(传输包很小)。

因为IOT网关不能主动断连接,理论 *** 作中,IOT网关应该和sensor有心跳协议,保证连接的有效性。设备商在数据流程交互完成后,竟然没有close 连接,直接休眠,导致网关所在服务器的连接的文件描述符一直没有正常释放,后面为了预防这种现象,我开启了 *** 作系统层面的keepalve定时器,回收失效连接(系统默认时间是2小时左右,我缩短了失效时间),理论上来说应该是应用层面去实现心跳协议。

整个IOT网关的设计,是无状态,可伸缩的,单网关在普通型ecs上可轻松达到数百tps。

  简单网络管理协议SNMP(Simple Network Management Protocol)用于网络设备的管理。SNMP作为广泛应用于TCP/IP网络的网络管理标准协议,提供了统一的接口,从而实现了不同种类和厂商的网络设备之间的统一管理。
  SNMP协议分为三个版本:SNMPv1、SNMPv2c和SNMPv3。

  SNMP系统由网络管理系统NMS(Network Management System)、SNMP Agent、被管对象Management object和管理信息库MIB(Management Information Base)四部分组成。

  SNMP查询是指NMS主动向SNMP Agent发送查询请求,如图1-3所示。SNMP Agent接收到查询请求后,通过MIB表完成相应指令,并将结果反馈给NMS。SNMP查询 *** 作有三种:Get、GetNext和GetBulk。SNMPv1版本不支持GetBulk *** 作。

  不同版本的SNMP查询 *** 作的工作原理基本一致,唯一的区别是SNMPv3版本增加了身份验证和加密处理。下面以SNMPv2c版本的Get *** 作为例介绍SNMP查询 *** 作的工作原理。假定NMS想要获取被管理设备MIB节点sysContact的值,使用可读团体名为public,过程如下所示:
  SNMP设置是指NMS主动向SNMP Agent发送对设备进行Set *** 作的请求,如下图示。SNMP Agent接收到Set请求后,通过MIB表完成相应指令,并将结果反馈给NMS。

  不同版本的SNMP Set *** 作的工作原理基本一致,唯一的区别是SNMPv3版本增加了身份验证和加密处理。下面以SNMPv3版本的Set *** 作为例介绍SNMP Set *** 作的工作原理。
假定NMS想要设置被管理设备MIB节点sysName的值为HUAWEI,过程如下所示:

  SNMPv1和SNMPv2c的Set *** 作报文格式如下图所示。一般情况下,SNMPv3的Set *** 作信息是经过加密封装在SNMP PDU中,其格式与SNMPv2c的Set *** 作报文格式一致。
  SNMP Traps是指SNMP Agent主动将设备产生的告警或事件上报给NMS,以便网络管理员及时了解设备当前运行的状态。
  SNMP Agent上报SNMP Traps有两种方式:Trap和Inform。SNMPv1版本不支持Inform。Trap和Inform的区别在于,SNMP Agent通过Inform向NMS发送告警或事件后,NMS需要回复InformResponse进行确认。
  在Ensp中搭建网络环境,在R2上启用SNMP作为SNMP agent,Linux主机作为NMS;为方便观察SNMP报文格式,在R2使用SNMP的版本为v2c。
通过下面的Python脚本获取R2的系统信息与当前的主机名

运行结果如下

  在R2接口上抓包结果如下,Linux主机向R2的161端口发送SNMP get-request报文,可以看到SNMP使用的版本为v2c,设置的团体名为public,随机生成了一个request-id,变量绑定列表(Variable bindings),即要查询的OID,但Value为空;值得注意的是这些信息都是明文传输的,为了安全在实际环境中应使用SNMPv3。

通过下面的Python脚本获取R2的接口信息。

运行结果如下:

在R2接口抓包结果如下,getBuikRequest相比get-request设置了一个max-repetitions字段,表明最多执行get *** 作的次数。Variable bindings中请求的OID条目只有一条。

下面Python脚本用于设置R2的主机名为SNMPv2R2。

运行结果如下

在路由器上可以看到主机名有R2变为了SNMPv2R2。

get-response数据包内容与set-request中无异。

下面Python脚本用于接收,R2发送的Trap,并做简单解析。

先运行该脚本,之后再R2上手动将一个接口shutdown,结果如下:

接口上抓包结果如下,此时团体名用的是public,data部分表明是trap。

由于Ensp中的通用路由器认证算法只支持des56,而pysnmp不支持该算法,因此使用AR路由器配置SNMPv3。
使用下面Python脚本发送snmpv3 get报文获取设备系统信息。

抓包结果如下,首先发送get-resques进行SNMPv3认证请求,随机生成一个msgID,认证模式为USM,msgflgs中Reportable置1要求对方发送report,其他为置0,表示不进行加密与鉴权;另外安全参数,认证参数、加密参数都为空,此时不携带get请求数据。

路由器给NMS回复report,msgID与resquest一致,Msgflgs中各位都置0,同时回复使用的安全引擎,认证与加密参数为空,不进行认证与加密,因此能看到data中的数据。

AR1收到请求后进行回复,数据包中msgflags标志位中除reportable外其他位都置1,表示不需要回复,同时进行加密与鉴权。同样也可以看到认证用户为testuser,认证参数与加密参数都有填充,data部分也是同样加密。

参考:
什么是SNMP - 华为 (huaweicom)
AR100-S V300R003 MIB参考 - 华为 (huaweicom)
SNMP library for Python — SNMP library for Python 44 documentation (pysnmpreadthedocsio)

python作为当下最热门的计算机编程语言之一,是许多互联网大厂(如阿里腾讯等)在招聘时会作出要求的能力之一。学好python对于将来大数据方向、云计算方向等物联网时代新兴岗位的学习很有帮助。

想要学习Python,需要掌握的内容还是比较多的,对于自学的同学来说会有一些难度,不推荐自学能力差的人。我们将学习的过程划分为4个阶段,每个阶段学习对应的内容,具体的学习顺序如下:

Python学习顺序:

①Python软件开发基础

掌握计算机的构成和工作原理

会使用Linux常用工具

熟练使用Docker的基本命令

建立Python开发环境,并使用print输出

使用Python完成字符串的各种 *** 作

使用Python re模块进行程序设计

使用Python创建文件、访问、删除文件

掌握import 语句、From…import 语句、From…import 语句、方法的引用、Python中的包

②Python软件开发进阶

能够使用Python面向对象方法开发软件

能够自己建立数据库,表,并进行基本数据库 *** 作

掌握非关系数据库MongoDB的使用,掌握Redis开发

能够独立完成TCP/UDP服务端客户端软件开发,能够实现ftp、>

能开发多进程、多线程软件

③Python全栈式WEB工程师

能够独立完成后端软件开发,深入理解Python开发后端的精髓

能够独立完成前端软件开发,并和后端结合,熟练掌握使用Python进行全站Web开发的技巧

④Python多领域开发

能够使用Python熟练编写爬虫软件

能够熟练使用Python库进行数据分析

招聘网站Python招聘职位数据爬取分析

掌握使用Python开源人工智能框架进行人工智能软件开发、语音识别、人脸识别

掌握基本设计模式、常用算法

掌握软件工程、项目管理、项目文档、软件测试调优的基本方法

想要系统学习,你可以考察对比一下开设有IT专业的热门学校,好的学校拥有根据当下企业需求自主研发课程的能力,建议实地考察对比一下。

祝你学有所成,望采纳。

可以的,要实现远程控制,必须要有一台服务器作为消息交流媒介。
比如在同一个局域网内,香橙派搭建一个服务器1921681101:80,客户端安卓设备连接到该服务进行消息判断及响应对应代码。反之安卓设备搭建一个服务器1921681102:80,对客户端香橙派发来的消息进行判断及响应对应代码。
如果不在同一个局域网内,必须要有一个公网IP作为服务器 或 公网IP映射内网服务器。

影响物联网IoT实施的最主要因素之一是人才缺口:现有市场供应无法跟上拥有物联网技术的工程师的需求。根据Canonical的研究,大约68%的公司正在努力为他们的物联网项目雇佣开发人员。但技能短缺的另一面是,职业前景对于具有物联网技术的专业人员来说是非常光明的。在这里,我们重点关注物联网中最常用的编程语言,即Java,C,C ++,Python,JavaScript和Go,然后分析专门从事这些语言的专业人员可以获得多少收入。我们还会考虑资历和地点等因素。

作为一个技术强国,美国在IT 薪资标准方面常常成为世界其他国家的基准。以下是根据Payscale的数据对美国顶级物联网IoT编程语言以及相应的开发者薪资数据的简要统计。

美国最热门的物联网编程语言的平均工资统计

平均而言,Java和C开发人员可以获得比物联网中使用其他语言的开发人员更高的薪水,尽管高级Go编程人员的薪水潜力最高、尽管初级和中级Go开发人员与其他同行相比低调,但Skilled Go的开发人员却是业内薪酬最高的开发人员之一。

从Java开始,我们来看看物联网IoT中最流行的编程语言的平均薪水。

Java:物联网技术最流行的编程语言

Java有多个应用领域,从后端编程到Android的移动应用。根据 Eclipse基金会执行的2017年物联网开发者调查,Java首次提供了用于物联网开发的编程语言列表,专门用于网关和云。

使用Java进行物联网开发的一个主要好处是便携性。Java没有任何硬件限制,这意味着您可以在计算机上编写和调试Java代码,并将其部署到几乎任何运行Java虚拟机的设备上。出于这个原因,许多公司选择聘请Java开发人员进行物联网项目。

根据Payscale的数据,美国Java开发者的平均薪水约为88万美元。瑞士的Java开发者的平均收入较高,每年约为96,000美元。与此同时,英国和以色列的Java开发人员的平均薪水则明显较低,分别为4万5千美元和33万美元。

Java开发人员的平均工资

但是,Java开发人员的平均工资可能不具代表性,因为根据相关技术人员的经验和资历,个人薪酬差别很大。例如,从Java初级到高级Java开发人员的薪酬跳跃在美国是66万美元到97万美元,在英国是从41,000美元到61,000美元。

Java在美国和英国的平均初级,中级和高级Java开发人员工资

我们对美国Java开发者工资的研究表明,不同州的平均薪水可能远高于全国平均水平。例如,加利福尼亚州的开发人员对美国开发人员的平均薪水最高(133万美元)。这一事实在很大程度上是该州IT总体高技能需求的一个功能。

C:嵌入式设备的关键编程语言

C编程语言接下来成为物联网IoT堆栈最喜欢的语言。然而,根据Eclipse基金会的说法,它被认为是受限设备开发的领先技术。

该编程语言提供对低级硬件API的直接访问。由于其与机器语言的相似性,C非常快速且灵活,使其成为处理能力有限的物联网系统的完美选择。

与Java类似,C开发人员的薪酬在世界各地差异很大。在美国,C开发人员每年可赚取约10万美元,而在瑞士,C开发人员的平均年薪为92,000美元。在我们分析的国家中,C专家的最低工资在英国。据Payscale称,英国年平均C开发人员薪水仅略高于4万美元。

C开发人员的平均工资。来源:Payscale

C级初级和高级开发人员的薪酬差异也很大。高级C开发人员的收入几乎是美国和英国入门级员工的两倍。

C在美国和英国的初级,中级和高级C开发人员的平均工资

C ++:Linux的第一语言

与其前身C一样,C ++已广泛用于嵌入式系统开发。但是,C ++的主要优势在于处理能力,在任务更加复杂时使其成为C的有用替代方案。

C ++最适合编写硬件特定的代码。它可与Linux,第一大物联网技术 *** 作系统配合使用。但是,与Java相比,它具有有限的可移植性。

与C开发人员相比,C ++工程师的薪水更低。我们的研究发现,C ++开发人员在以色列和丹麦的预计收入约为82-86,000美元,而在美国,这个数字仅为71,000美元。

平均C ++开发人员工资统计。来源:Payscale

然而,尽管美国的C ++开发人员平均费用较低,但经验丰富的专家在职业生涯后期可以达到六位数。

美国和英国的初级,中级和高级C ++开发人员的平均工资。

Python:面向数据的物联网系统的解决方案

作为最受欢迎的网络编程语言之一,以及科学计算的前沿技术,Python在物联网开发中也获得了巨大的推动力。 对于数据密集型应用程序,Python是一个不错的选择,特别是在管理和组织复杂数据时。

此外,由于语言的清晰语法,用Python编写的源代码非常紧凑且非常易读。这对于计算能力和内存有限的小型设备来说效果特别好,尽管速度不如C / C ++快。

美国的平均Python开发人员薪水约在71k美元左右,而拥有类似技能的开发人员则分别在以色列和瑞士分别可以获得约68-67k的薪水。

Python开发人员的平均工资。来源:Payscale

与其他一样,初级和高级Python开发人员之间的薪酬差距很大。

美国和英国的平均初级,中级和高级Python开发人员薪水

仔细观察数据显示,尽管全国平均水平相对较低,但在美国,Python开发人员的薪水可能会非常高。由于开发商需求迫切,供应量有限,某些州的薪酬可能高达14万美元。传统上,加利福尼亚州是为技术专家提供最高工资的州之一。当地的Python开发人员平均赚取了大约135万美元。

JavaScript:事件驱动物联网应用的最佳解决方案

根据年度StackOverflow开发者调查显示,JavaScript是过去五年来最流行的编程语言之一,是现代Web开发中的核心技术。

在许多其他应用领域中,JavaScript是物联网编程语言中最常用的构建事件驱动系统。它可以管理连接设备的大型网络,并且在需要处理多个任务而无需等待其他任务完成时可以胜任。JavaScript对IoT的主要优势之一是非常节约资源。

随着IBM和三星等主要公司在他们的物联网项目中积极采用JavaScript(即Nodejs),对具有物联网(IoT)体验的JavaScript开发人员的需求仍然很高。这意味着能够全面的提高薪水。

瑞士的JavaScript开发者平均可以赚取约96k美元。令人惊讶的是,美国JavaScript专家的平均薪水要低得多,开发者可以得到69万美元。

全球JavaScript开发人员的平均工资。来源:Payscale

不同州之间的薪资数据差别很大:例如,研究发现,康涅狄格州,马萨诸塞州,加利福尼亚州和纽约州是JavaScript开发者收入最高的美国州,平均薪资介于10万美元至14万美元之间。

同样,根据经验,JavaScript开发人员的工资差别很大:美国的专业JavaScript开发人员平均可赚取10万美元,英国则可赚取6万美元左右。

美国和英国的平均初级,中级和高级JavaScript开发人员工资

Go:坚固的技术堆栈为复杂的物联网网络提供动力

Go是一款开源编程语言,由Google创建。尽管它不能像语言那样拥有同样广泛的用途,但我们之前专注于这一点,它是在您的物联网系统内建立通信层的强大技术。

Go语言关于物联网的主要优势是并发性和同时运行多个进程(数据输入和输出)的能力。这使得构建由多个传感器和设备组成的复杂IoT网络变得更加容易。

虽然它已被评为美国最高收入技术(根据最新的StackOverflow开发者调查),但美国的Go平均薪水相当平稳 - 约为73,000美元,而英国则为43,000美元。

根据最近的调查显示,由于全球Go开发者工资数据不足,我们将重点关注美国和英国这些Go开发者人数最多的国家的薪水。

在美国和英国的平均Go开发者工资。来源:Payscale

高技能的Go开发者在美国可以获得高达14万美元的收入 - 几乎是初级Go程序员的三倍,是英国高级Go开发者的两倍。

在美国和英国的平均初级,中级和高级Go开发人员工资

结论

正如我们所看到的,物联网中最热门编程语言的开发人员的工资差别很大,并且取决于许多关键方面。为了理解这些信息,重要的是要看到更大的空间,并能够识别现有的市场趋势。

以上由物联传媒提供,如有侵权联系删除

为何人工智能(AI)首选Python?

读完这篇文章你就知道了。我们看谷歌的TensorFlow基本上所有的代码都是C++和Python,其他语言一般只有几千行 。如果讲运行速度的部分,用C++,如果讲开发效率,用Python,谁会用Java这种高不成低不就的语言搞人工智能呢?

Python虽然是脚本语言,但是因为容易学,迅速成为科学家的工具(MATLAB也能搞科学计算,但是软件要钱,且很贵),从而积累了大量的工具库、架构,人工智能涉及大量的数据计算,用Python是很自然的,简单高效。

Python有非常多优秀的深度学习库可用,现在大部分深度学习框架都支持Python,不用Python用谁?人生苦短,就用Python。

python新手学习交流扣扣群,如果有想学习python或者交流经验的都可以加入,一起互相学习交流:→→→点击我即可加入圈子,群里有不错的学习教程和开发工具。学习大数据有任何问题(学习方法,学习效率,如何就业),可以随时来咨询我

二、Python现状与发展趋势

python现在的确已经很火了,这已是一个不需要争论的问题。如果说三年前,Matlab、Scala、R、Java
和 还各有机会,局面尚且不清楚,那么三年之后,趋势已经非常明确了,特别是前两天 Facebook 开源了 PyTorch 之后,Python
作为 AI 时代头牌语言的位置基本确立,未来的悬念仅仅是谁能坐稳第二把交椅。

Python 已经是数据分析和 AI的第一语言,网络攻防的第一黑客语言,正在成为编程入门教学的第一语言,云计算系统管理第一语言。

Python 也早就成为Web 开发、游戏脚本、计算机视觉、物联网管理和机器人开发的主流语言之一,随着 Python 用户可以预期的增长,它还有机会在多个领域里登顶。

三、Python与人工智能

如果要从科技领域找出最大的变化和革新,那么我们很难不说到“人工智能”这个关键词。人工智能催生了大量新技术、新企业和新业态,为个人、企业、国家乃至全球提供了新的经济增长点,上到谷歌、苹果、百度等巨头,下到各类创业公司,人工智能已成为一个现象级的风口。短短几年时间,自动归类、人脸识别已经成为非常通用的功能,自然语言作为一种交互方式正在被各种语音助理广泛运用,无人车驾驶突飞猛进,AlphaGo战胜围棋冠军,仿生机器人的技术迭代,未来几十年的城市交通和人类的生活方式都将会被人工智能所改变。

Python作为人工智能首选编程语言,随着人工智能时代的到来,Python开发效率非常高,Python有非常强大的第三方库,基本上你想通过计算机实现任何功能,Python官方库里都有相应的模块进行支持,直接下载调用后,在基础库的基础上再进行开发,大大降低开发周期,避免重复造轮子,还有python的是可移植性、可扩展性、可嵌入性、少量代码可以做很多事,这就是为何人工智能(AI)首选Python。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://www.outofmemory.cn/dianzi/13379299.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-07-24
下一篇 2023-07-24

发表评论

登录后才能评论

评论列表(0条)

保存