基于Spark大数据平台日志审计系统的设计与实现

摘要:审计是通过跟踪客户访问内容和访问方式来定位系统的安全问题,以便制定相应的安全措施,以弥补现有出现的漏洞问题。系统架构的基础上,系统需求分析结果表明,设计的目标和原则,同时也进一步提出了物理架构和系统的总体架构。通常来说位置的物理架构系统物理环境条件下,一般来说系统的体系结构,包括完成整个系统的这些功能模块。本课题探究的是日志审计系统基于Spar大数据平台,这里有着比较高速度以及较为良好的可扩展性和处理大量的数据,处理结果比较好,对目前日志审计系统的分析和研究做出了有益的尝试。

关键词:信息安全;大数据;日志审计;云计算

中***分类号:TP391 文献标识码:A 文章编号:1009-3044(2016)15-0010-02

1基于Spark大数据平台日志审计系统架构设计

1.1系统设计目标和原则

本课题中日志审计系统通过对杂志收集监测设备采集模块,并且日志记录用户访问记录,系统运行日志以及整个系统运行状态信息。这里实现的是基于火花大数据平台日志审计系统的设计目标和原则主要表现在传统日志审计系统的基本功能和依赖大数据技术为整个扩展传统的日志审计系统。这里我们知道日志信息收集后解析XML日志将大量的数据和格式变量复杂源日志信息标准化伪日志信息的规范,一般来说在合并后单位时间函数在同一IP和报警分析等处理,同时这个日志集中管理存储在我们的一个存储系统中,能够有比较丰富的日志数据,实现我们的一整个全面的IT环境的审计日志。

本文探究的集中管理平台,能够较好地提供视***显示和操作更为方便的实现原理。通常来说对于集中管理平台通过***表清晰直观地显示实时分析的结果分析模块。我们能够对这份报告总结了历史时期的安全状况。同时,具体来说集中管理平台提供的管理系统,如日志收集管理或者是我们的安全管理,还有整个用户管理等等,在利用维持整个系统的管理功能。一般来说在对大数据技术来完成一些基本的日志审计系统的这样一个要求。并且在对我们的日志进行一个采集系统来取代传统的模块。一般来说我们的日志采集系统高可用性、同时还有比较好的一个可伸缩性和可以接受各种优秀的源格式;使用大数据平台的分析引擎日志审计系统,能够完成我们的这个上游的日志收集日志信息标准化。

1.2系统技术架构设计

本课题中我们知道对于审计系统,一般来说关键就是探究由大数据平台,同时集中管理平台,作为一个Mysql服务器主机。具体来看大数据平台上运行的一组服务器。另外在利用我们的大数据平台上运行的服务器日志信息标准化以及完成我们的分析,同时能够将整个结果存储在数据库中。通常来看我们数据库只保留一天的日志信息,同时这些所有的日志信息存储在分布式文件系统的大数据平台。其中一些数据在数据库中为方便安全管理人员查询日志信息,并且我们的这个报告信息和设置。具体来看我们大数据平台本身包含了分布式文件系统可以用作持久性存储。倘若我们在这个查询太古代历史日志信息或者需要探索分析报告***表的信息,一般来说也是需要完成的Spark大数据平台。

安全管理审计系统通过个人电脑连接,通常看看当前操作系统的日志信息,分析,同时还有具体报告只需要查询的数据可以保存在一个Mysql数据库。通常来说这样不仅有利于保护数据持久性,同时已经被证明是更长一段时间所有的数据挖掘,并防止频繁的影响信息查询日志分析的大数据平台。并且我们在集中管理平台提供了一个WEB服务,能够利用我们的网络查询系统分析结果,最后完成整个的操作和管理系统等基本信息。

2系统功能架构

2.1 系统功能组成

2.1.1日志采集

本课题探究的基于Spark大数据平台日志收集日志审计系统关键就在于这个可伸缩性和可用性。同时因为我们IT的现实工作环境会改变的可能性,并且一般来说不是改变更复杂的也可能是流线型的,通常来说这个具体日志收集应该根据实际监测网络的大小,从而来以确保你占用物理资源的大小,同时利用具体增加的方便和灵活的采集能力或释放多余的资源。一般来看我们的日志标准化基于标准化规范匹配所有的日志文件和日志信息是唯一可识别的格式。另外整个的日志标准化后的分析工作的前提下,仅仅是在实现了所有的标准化可以有效分析日志的日志格式。通常来说我们的可用性是反映在日志收集能够接收各种各样的方式,而不是说处理现在常见的发展云计算的企业环境。收购后的日志需要标准化日志。

2.1.2集中管理平台

集中管理平台提供了一个有效的访问接口,也就是说被视为视觉层,这里也得到了最后的整个分析结果。通常来说我们的安全管理员是能够实现审计日志的基本信息查询,同时还可以完成我们的查询统计查询等功能。另外,我们是可以利用整个基本的配置,来完成终端管理,完成整个系统的某些配置信息的管理。

2.1.3日志分析

日志分析是在大数据平台上来实现的。通常来说我们的这个日志分析主要有三种方法的分析:第一部分,也就是一个具体日志信息信息匹配分析;其次,我们的这个单位时间日志频率分析;第三,有关于多个日志的这样一个关联分析。

3集中管理平台

集中管理平台作为日志审计系统的外部接口,课题中是对本身需要的安全保证。一般来说,我们的这个集中管理平台安全部分作为一个关键在这一节中描述。使每个角色,从而能够更好确保其业务案例系统中最小权限的功能。另外课题系统分别建立了三个角色,分别是这个安全管理员还有我们的审计管理员,以及我们的系统管理员。一般来看,对于这个传统的双因素登录作为保证,能够较好集中管理平台使用SparkSecurity安全框架,以确保他们的安全。而且还能较好根据三权分立的思想设计的不同的角色不同的权限。并且我们的系统管理员负责系统配置相关业务,审计经理负责审计系统操作日志用户的内部审计制度。

本课题中探究了集中管理平台系统中非常关键的这样一个作用,并且我们的集中管理平台负责显示整个系统的运行结果,通常情况下配置管理系统,同时在与其他功能,并且可以再具体外部系统的性能。一般来说集中管理平台的主要部分资产管理、用户管理、规则、管理、安全中心,日志语句。报道的集合可以配置配置文件,检查报告已经操作日志。通常具体在安全中心是环境安全审计结果的监测系统的总体性能,并实时审计结果显示日志审计系统。一般情况下,对于管理这些资产可以输入或删除日志审计系统来管理资产信息,同时具体的资产配置日志文件标准化;以及在我们用户管理的操作用户管理平台,同时还需要能够保证平台的安全;一组规则,课题中对于规则管理是一个管理系统;同时多模块用于实现Spring框架,Spring框架是其中一个最流行的Web框架,;另外具体相关论文不再是一些信息,因此我们这里不将集中管理平台的实现模块被描述为主要内容之一。

后设置不同角色的权限需要限制用户的这样一个集中管理平台能够访问的内容是不同的,同时还不可以完成这个访问超出他们能力的内容,一般来说是使用直接访问URL。同时还有里利用这个Springsecurity框架,以确保我们的这个授权。通常情况下我们的Springsecurity除了授权和身份验证功能,主要就是我们的这个身份验证是识别用户和角色信息。能够较好地完成整个访问控制也可以称为资源访问控制,并且还可以较为直观是控制的表达一个URL访问请求权限。Springsecurity当一个URL请求许可的URL和用户身份验证的作用之下,倘若说能够较好符合要求离开,另外如果不符合拦截请求。通常情况下Springsecurity身份验证和访问控制需要通过XML配置信息。另外在这个身份验证是指用户身份认证,具体是验证用户登录时的用户名和密码,验证后的用户名、密码,角色和状态的信息,如认证信息,用户会话的认证信息已经被Sparksecurity保存存在。挺且我们的使用者在进行这个身份验证、会话管理,除了登录可用于访问控制。

访问控制的主要功能和主要步骤有:Springsecurity负荷数据库中的数据资源,一般来看是相应的资源数据和角色关系,同时这里的这个具体操作在以下loadResourceDefine()原来来达到目的,通常情况下我们的系统第一次运行时调用这个方法需要URL和角色的键-值对的形式存储记忆。另外当这个具体访问请求送达是,这里的URL和用户角色和资源数据对应关系能不能符合我们的角色。

4结语

网络安全已成为全球性的这样一个问题,目前已经是全世界各界都在关注。对于这个隐藏的安全威胁,一般来说消除系统通常采用加密、安全措施,如这个身份验证、授权和审计,同时来达到我们的这个网络的安全性。并且通常来看是在详细设计的基础上,另外我们在描述了具体的实现和测试工作内容的一部分。对于我们的水槽的采集模块配置文件,一般这里的分析主要功能模块的代码和我们整个系统运行情况等。同时基于火花大数据平台,我们的具体日志审计系统的应用做了简单的介绍,并进行了最后的这个总结,课题中完成大数据平台日志审计系统的发展进行了探讨。另外对于详细设计包括总体结构设计、模块设计和数据库设计。这里完成了整个设计的结构分为横向和纵向两个方面的设计。同时对于数据库设计了数据库的总体结构设计。

参考文献:

[1] 朱宏.安全日志统一收集平台的数据架构设计与实现[J].计算机安全,2010(10).

[2] 郝漩.基于Apache Flume的分布式日志收集系统设计与实现[J].软件导刊,2014(7).

[3] 王倩,陆展,龚俭.一种基于规则的安全日志范式分析模型[J].计算机工程,1999(S1):53-55

[4] 陈世强,蔡超.审计系统中基于数据挖掘的关联规则自动发现技术研究[J].计算机应用与软件,2007(1).

[5] 刘芳,肖铁***.XML应用的基石:XML解析技术[J].计算机工程与设计,2005(10).

[6] 韦成府,吴旭,张华.网络行为安全审计系统Web应用的设计与实现[J].现代***书情报技术,2009(2).

[7] 王伟钊,李承,李家滨.网络安全审计系统的实现方法田[J].计算机应用与软件,2002(11).

[8] 陈玮.网络信息安全审计系统关键技术研究[J].计算机与现代化,2009(3).

转载请注明出处学文网 » 基于Spark大数据平台日志审计系统的设计与实现

学习

2014,银行业改革转型年

阅读(29)

本文为您介绍2014,银行业改革转型年,内容包括银行业转型在路上完整版,什么是银行业转型发展规划。2014年,金融改革将进一步深化。中国银行业所要经历的经济调结构及去杠杆、资产质量压力突现、行业准入有序放开等都将对银行业绩增长形成

学习

刘志峰:30岁青年9年创业挣得3亿元身家

阅读(30)

本文为您介绍刘志峰:30岁青年9年创业挣得3亿元身家,内容包括刘志峰的坎坷创业路,刘志峰创业失败的案例及原因。2007年7月的一天,内蒙古鄂尔多斯市影剧院座无虚席,台下观众兴高采烈的观看着中国残疾人艺术团的精彩表演,这是一个年轻企业家为

学习

Synchro在减少交叉口排放的应用

阅读(28)

【摘要】对于日趋严重的环境问题和城市交通问题,优化交叉口对减少排放,环境拥堵显然有大可为之出,希望能通过本篇文章的简单分析给建设低碳交通和美好环境提出可借鉴支出。【关键词】环境问题;城市交通问题;优化随着世界工业经济的发展,世界气

学习

大众心理学论文范文

阅读(19)

本文为您介绍大众心理学论文范文,内容包括大众心理学论文,普通心理学论文范文。大众心理学论文范文第1篇既然勒庞把那些受集体精神支配的人称之为“乌合之众”,那么人们为什么会加入到群体中去,又如何形成大众心理的呢?首先,人们从个体组织

学习

论中国第六代导演的艺术风格

阅读(35)

本文为您介绍论中国第六代导演的艺术风格,内容包括中国第六代导演的美学风格,第六代导演的艺术特征和成就。中国的电影学界一般以“代际”来划分导演。第六代导演一般指北京电影学院85级以后,90年代左右开始执导的一批年轻导演。代表导演

学习

中国版“BDI指数”推出

阅读(38)

本文为您介绍中国版“BDI指数”推出,内容包括bdi指数深度解析,中国最新bdi指数。“BDI指数”是指波罗的海干散货指数,它是干散货运输市场的晴雨表。中国版“BDI指数”已于11月底推出。上海航运交易所(上海航交所)总裁张页表示11月28日已正

学习

美景美食两江水重庆的风雅河鲜滋味

阅读(21)

本文为您介绍美景美食两江水重庆的风雅河鲜滋味,内容包括重庆旅游美食山城步道,重庆山清水秀美景。别出心裁的“江上宫殿”最早的餐船可以追溯到春秋时期。传说吴王阖闾船行江上,举行宴饮,将吃剩下的鱼脍倾入江中,霎时化为一条条银白色的小

学习

现代中学生价值观浅析

阅读(33)

本文为您介绍现代中学生价值观浅析,内容包括浅析中美价值观差异,现代中学生价值观。价值观是指人们以自身需要为尺度对事物重要性的认识观念体系[1],它代表一个人对周围事物的是非善恶和重要性的评价。国内对于价值观的研究起步较晚,以杨

学习

坚守自己的信念 但拥有一颗拥抱变化的心

阅读(30)

本文为您介绍坚守自己的信念 但拥有一颗拥抱变化的心,内容包括拥抱自己的信念,面对变化坚守本心的句子。美国微宏公司中国技术中心知识产权总监从专利情报工程师的岗位做起,历任专利事务部经理、知识产权部经理,直至知识产权总监,张勇进入

学习

系统生物学的研究现状及应用

阅读(21)

本文为您介绍系统生物学的研究现状及应用,内容包括系统生物学研究的主要流程,系统生物学综述。【摘要】系统生物学是一门将生物作为一个系统来进行研究的科学,其整合了多个学科知识,通过对生物进行全方面的定量数据收集后,模拟和预测生物系

学习

楼梯的抗震设计浅析

阅读(19)

本文为您介绍楼梯的抗震设计浅析,内容包括楼梯是抗震还是非抗震,楼梯锚固长度要不要算抗震。摘要:建筑物中的楼梯是震时疏散的生命通道,起着举足轻重的作用。然而,2008年5月12日汶川大地震显示许多楼梯造成严重破坏,失去其应有的功能。本文

学习

背包问题求解算法研究

阅读(19)

本文为您介绍背包问题求解算法研究,内容包括设计实现背包问题求解算法,经典算法01背包问题。01背包问题(KnapsackProblem)是运筹学中一个经典的NP难问题,这意味着背包问题不存在多项式时间算法,但大部分问题存在伪多项式算法,如何找到最有效

学习

论医学背景对当代作家文学创作的影响

阅读(28)

本文为您介绍论医学背景对当代作家文学创作的影响,内容包括浅谈医学与文学的关系文库,中国现代医学文学研究成就。医学与文学分别属于自然科学和人文科学,有相当大的差异;但是在研究人性本质的层面,两者是殊途同归的。当代文坛上,一些作家具

学习

陈竞文娱舞台上的时尚主播

阅读(82)

很多人爱看陈竞主持的BTV文艺《每日文娱播报》,时尚、帅气的他很有观众缘,有人说他主持节目很睿智,有人说他给人的感觉很大气,简言之陈竞清新自然、活泼大方的主持风格让人一看就有眼前一亮的感觉。他喜爱主持这个职业,最大的愿望就是成为一

学习

论“大数据”时代下的公安数据采集

阅读(33)

本文为您介绍论“大数据”时代下的公安数据采集,内容包括公安手机数据采集仪器,大数据时代的公安管理思维。[摘要]在“大数据”时代,谁率先拥有大数据、善于利用大数据,谁就能掌握主动、赢得未来。为下好先手棋、打好主动仗,有效维护社会信

学习

奥迪A7电动机械式转向系统剖析

阅读(26)

本文为您介绍奥迪A7电动机械式转向系统剖析,内容包括奥迪a7的整体主动转向系统,14款奥迪a7转向辅助照明。奥迪A7Sportback是奥迪车系中的全新车型,其车身长度接近5m,车身尺寸介于A8与A6之间,是一款大中型房车。奥迪A7Sportback搭载两款动力

学习

员工考勤系统的设计及实现

阅读(34)

本文为您介绍员工考勤系统的设计及实现,内容包括员工考勤平台设计与实现,考勤系统设计。企业管理中的重要组成部分之一就是员工考勤管理,当下不管是国营企业还是一些私营企业,都应经对企业中的考勤管理加以重视。在考勤管理制度相对完善的

学习

工业园区的园林景观设计

阅读(16)

本文为您介绍工业园区的园林景观设计,内容包括工业园区园林景观方案,厂房园林景观设计。摘要:随着社会的不断进步,工业园区的设计也向系统化发展,怎样才是一个好的工业园区景观设计,这是一个值得探讨的问题。现代新型的工业园区设计是严谨

学习

浅谈建筑结构设计中的PKPM应用

阅读(22)

本文为您介绍浅谈建筑结构设计中的PKPM应用,内容包括pkpm建筑结构可靠性设计统一标准,pkpm建筑结构设计的一般步骤。PKPM系列软件作为结构通用设计软件,被广泛的用于各个建筑设计院以及科研教学机构。PKPM软件具有简单易学,操作直观,计算可

学习

适用于高职的网页制作课件和课件管理系统

阅读(28)

本文为您介绍适用于高职的网页制作课件和课件管理系统,内容包括精品课件制作系统,网页版课件制作。本文通过ASP技术搭建基于Web的课件管理系统,提出了CAI课件在网络教育环境中的应用,给出了系统的总体结构及功能说明,并对数据库设计进行了

学习

上海市水灾系统的风险识别

阅读(35)

本文为您介绍上海市水灾系统的风险识别,内容包括上海市洪水风险图制作与管理系统,银行洪涝灾害应急预案。【摘要】全球变暖,海平面上升,沿海城市水灾的强度、频度和广度不断增长,以上海为代表的大都市因人口众多、经济繁荣,而表现出更大的灾

学习

现代主义设计范文

阅读(14)

本文为您介绍现代主义设计范文,内容包括现代主义设计论文1000字,新现代主义设计的特征1000字。现代主义设计范文第1篇关键词:设计现代主义设计现代艺术客观化趋势现代主义设计是人类设计史上最重要的、最具影响力的设计活动之一,它兴起于2