信息过滤技术及应用

【摘要】信息过滤作为解决网络信息超载问题而发展起来的技术与方法,目前主要集中运用于不良信息过滤和获取与用户需求密切相关的信息。本文对信息过滤技术的分类及应用进行了研究探讨。

【关键词】信息过滤;技术;应用

信息过滤(information filtering,IF)作为解决网络信息超载问题而发展起来的技术与方法,最初运用于新闻和电子邮件过滤,后来被用于各类信息源过滤。目前国内外关于信息过滤的研究主要集中在两个方面:一是不良信息过滤,主要目的在于维护网络信息的健康,净化网络环境;二是获取相关信息过滤,过滤掉无用或不相关的信息,主要目的在于获取与用户需求密切相关的信息。

本文着重探讨网上不良信息的过滤,不良信息是一个主观的、相对的概念,同一信息相对于不同的用户、不同的监管者和不同的环境条件来说,可能会有不同的定位。我国自1996年以来,已经制定了20多个涉及互联网非法内容的法律文件。一般情况下,凡是违背社会主义精神文明建设要求,违背中华民族优良文化传统与习惯,以及其他违背社会公德的各类文字、***片、音视频信息都可视为不良信息。

1.信息过滤技术的分类

目前国内外的各种不良信息过滤软件或系统,在网页信息鉴别上主要使用四种过滤技术,即基于因特网内容分级平台过滤(PICS)、数据库过滤(IP库、URL库)、关键词过滤以及基于内容理解的过滤。

1.1基于因特网内容分级平台过滤(PICS)

为了保护用户免受网络不良信息的侵扰, W3C(World Wide Web Consortium)于1995年8月组织当时因特网上的主导力量共同商讨制定一套技术规范,即因特网内容分级平台( platform for Internet content selection,简称PICS),它是一种分级过滤软件标准,为网上信息内容的标记、分级提供一个平台,使用户或组织能够根据各自认同的分级体系对网络内容进行分级,分级体系(rating system)规定了分级的类目、类目的级别和分级的标准。

分级得到被称为分级标记(content rating)的数据集,分级标记产生以后,凡是遵循PICS技术规范开发的软件都可以对其进行处理。用户可以通过分级标记了解到分级机构和分级体系的情况,从而在使用时***合适的过滤系统分级档案,并在浏览器中设置不同的向度,在浏览网页时,浏览器会依据用户设定的向度级别筛选出合适的信息。

利用网页内容分级法,采取人工分级方法过滤不良信息,其错误率相对较低,并可以准确地对***像、视频等多媒体信息进行准确分级,尤其是网页作者能主动采用标准的分级体系分级时,将对过滤不良信息、净化网络环境有较大的推动作用。但这与网页作者希望更多的人浏览其网页的初衷是相违背的,如果网页作者是恶意地传播不良信息的话,用户对其是无法控制的。

1.2数据库过滤

数据库过滤就是通过对网上各种信息进行分类后,精确地匹配URL和与之对应的页面内容,形成一个预分类的***库。***库有两种类型的列表,一种为“黑名单”,包括禁止访问的目标网站的URL,另一个是“白名单”,包括允许访问的目标网站的URL。在用户访问网页时,依据数据库中的IP地址或URL来判定是否需要过滤掉相应的内容。数据库必须依赖事先列出的特定***,对非法URL的覆盖程度不高,此外这种方法对许多寄生在综合性网站内的不良信息也无法过滤。但数据库过滤的过滤速度快,准确率比较高,且经过系统的不断训练反馈,通过一定时间一定规模的积累之后,禁用地址数据库将动态地修改完善,在一定程度上可以满足用户要求。

1.3基于关键词的过滤

基于关键词的过滤原理简单,就是给定一系列描述文档特征的关键字或索引词,或者时间、作者姓名等个性信息。在过滤过程中,它以数据流中是否包含关键词或衡量与关键词的相似度,判断是否要过滤掉该页面。这种方法的性能取决于是否建立精确完备的禁用关键词库,它过滤速度快,但往往不考虑上下文的关联性,漏报、错报率较高,而且有些信息内容的者可能有意避开使用这些词,用其他的词或***片替代,使得基于关键词的信息过滤机制不能识别。

1.4基于内容理解的过滤

基于内容理解的过滤是指对获取的网络信息内容进行识别、判断、分类,确定其是否为需要过滤的目标内容,并对已确定的目标内容进行过滤等检测控制的技术。它是根据不良信息的一些内容所呈现的特征来进行判断的一种识别过滤方法。基于内容理解的过滤技术具有适应性强、精度高等特点,能有效地解决基于数据库和关键词的过滤技术不能处理好的问题,包括文本内容理解过滤、***像内容分析过滤、视频内容分析过滤和智能混合过滤等。

1.5其他过滤策略

基于提高过滤不良信息的整体性能和运行速度考虑,分级匹配过滤的策略也被提出来。第一级过滤是基于查询关键词的过滤和基于数据库的过滤,这两种过滤方式过滤速度快,可以快速剔除一部分不良信息,缓解了系统压力。第二级过滤是基于内容理解的过滤,是主要的过滤环节。两种过滤方式的有机结合,在一定程度上提高了过滤的效率和准确率。

2.信息过滤技术的应用

通过在服务器端或是计算机终端安装过滤产品,信息过滤技术已经被广泛地应用于网络环境的净化。公安、安全网络***门广泛采用各种信息过滤产品,实现对互联网接入单位网络出口的信息审计管理。***、***、工业和信息化部、***新闻办2009年4月下发通知,为各中小学校联网的计算机终端免费提供绿色上网过滤软件,以净化校园网络环境。中国电信、中国网通等运营商也陆续在全国各地推出绿色上网业务,为用户提供不良信息过滤服务,这些举措都可以为部队网络管理部门所借鉴。

目前,经过***审核颁发销售许可证的硬件或软件的信息过滤产品已达30余种,可以实现IP过滤、自动收集、识别网上的各种信息,具有智能化地提取摘要和关键词、建立索引、提供查询和对不良信息的报警等功能。基于中间服务器过滤的网络安全管理系统或网关型产品,对于部队网络管理部门来说是一个良好的选择,所有的信息都要经过它的过滤才能进出内网,可以对不良信息进行有效控制,实现把内网安全管理由被动防护转变为主动检测,根据用户工作性质设置管理策略,对用户网上行为进行监管、审计、追踪等,能够有效提高网络信息管理水平。

依靠专门的网络信息过滤产品,在隔离不良信息方面虽然能起到明显的作用,但任何一种过滤策略不可能剔除网上所有的不良信息。创建良好的网络环境,引导和督促使用者养成良好的上网习惯,加强对上网行为的严格管理是关键。在现实生活中,管理者往往只关注系统是否完备、应用是否通畅,以及设备的检修维护等,却忽视了对上网人员的行为管理和教育。

上网行为管理,又称网络行为管理,就是对上网人员在网上进行的各种个人或社会活动,进行合理的、规范的管理。近几年来,上网行为管理已经引起各国***府的关注,上网行为管理产品也逐渐形成了***的系统。这些产品以网络行为记录和控制为主要手段,可以对BBS发帖内容等进行关键词过滤,并对此类行为自动记录;对流量进行控制,保障重要用户和核心用户的带宽;进行网络行为客观评估,形成详尽的网络流量日志、邮件日志、网络监控日志等统计报表,并向管理者报告;对不规范网络行为进行阻断,实现带宽资源的合理利用,保障健康网络文化的传播。上网行为管理支持网关模式、网桥模式等多种方式,由用户根据需要自由选择,与各种网络安全软件和防病毒、防入侵技术相互补充,为各个内部网络安全建设和管理提供帮助。在平时的管理工作中,准确把握不良信息传播的动向,及时采取有效的过滤处理技术,堵住不良信息来源路径,切断传播渠道,并教育和引导用户增强识别不良信息的判断力、抵抗力,有效防止和控制不良信息侵入内部网络。

信息过滤技术及应用

转载请注明出处学文网 » 信息过滤技术及应用

学习

论缑姓源流

阅读(34)

本文为您介绍论缑姓源流,内容包括缑姓的由来,关于缑姓的历史和现状。关键词:缑姓;来源;周朝;鲜卑

学习

审计制度

阅读(27)

本文为您介绍审计制度,内容包括审计管理制度全文,审计准则全文。一、引言:由补充审计引发的思考

学习

车辆荷载极值估算

阅读(44)

本文为您介绍车辆荷载极值估算,内容包括车辆荷载应用范围及计算图示,车辆上坡载荷计算。本文作者:李植淮李春前孙健康李全旺单位:中国路桥工程有限责任公司清华大学土木工程系天津市宝坻区公路局

学习

江湖骗术揭秘

阅读(66)

一气功师表演喷火之术。但见其口中“赤炎烈火山呼来,烁焰炙焚飞灰灭。管教魑魅魍魉鬼,遇之魂飞踪影绝。”真乃是:能遇大师功无量,烧香拜佛菩萨王,传吾绝世神功艺,骗尔钱财多冤枉!

学习

检验检测报告抽查方法

阅读(22)

本文为您介绍检验检测报告抽查方法,内容包括检验报告单抽查,抽查检验报告有效期。摘要:检测是提供数据,检验是提供数据和结论,检查是人的主观判定,授权签字人是签发检验检测报告的人员,须经资质认定部门考核合格,检验检测报告就是产品在进入市

学习

高炉矿渣在道路基层施工中的应用

阅读(39)

本文为您介绍高炉矿渣在道路基层施工中的应用,内容包括高炉矿渣的特点及利用途径,说明矿渣在道路工程上的应用。摘要:高炉矿渣具有天然碎石所罕见的水硬性,用高炉矿渣筑成的道路基层在长期使用过程中,还将进一步硬化,提高承载能力。本文就高

学习

广州市轨道交通六号线七标海珠广场站

阅读(29)

本文为您介绍广州市轨道交通六号线七标海珠广场站,内容包括广州地铁海珠区站点最新通告,广州地铁6号线海珠广场站。摘要目前我国城市地铁明暗挖上下立体重叠相结合的车站同时施工的情况并不多见,考虑到存在一定的施工风险,往往在规划设计

学习

企业项目投资效益评估

阅读(22)

本文为您介绍企业项目投资效益评估,内容包括投资效益评估,项目投资效益评估的方法。1信息化项目投资成本分析

学习

常规林木播种育苗技术

阅读(24)

本文为您介绍常规林木播种育苗技术,内容包括林木育苗技术规程,林木播种育苗的生产程序。摘要:播种育苗一般在苗圃中进行,播种育苗可以采用苗圃常规育苗、容器育苗等方式,林业生产人员要积极学习掌握常规播种育苗技术,培育出生命力旺盛、能够

学习

焊接裂纹产生的原因及预防措施

阅读(21)

本文为您介绍焊接裂纹产生的原因及预防措施,内容包括怎么预防焊接裂纹,焊接裂纹产生的原因及防治措施pdf。摘要裂纹是焊接结构最危险的一种缺陷,不仅会使产品报废,而且还可能引起严重的事故。所以如何避免裂纹的产生是保证焊接质量的关键

学习

旅行,灵感之源

阅读(25)

本文为您介绍旅行,灵感之源,内容包括旅行灵感记,旅行中的灵感故事。“探险中最艰难的是决定走哪条路或做什么。一旦决定了,剩下的就只是去做了。”

学习

论鄂温克语社会语言学研究

阅读(24)

提要:鄂温克语是我国北方三少民族之一的鄂温克族使用的语言,属于阿尔泰语系满通古斯语系通古斯语支语言。鄂温克语跟满通古斯语族语言、蒙古语族语言、突厥语族语言以及与日本语、日本阿伊努语、朝鲜语、北欧的萨米语、北美的印第安语和

学习

周树华:孵化中国的“世界500强”

阅读(67)

“对不起,来晚了。”3月3日下午3点30分,刚刚赶回公司的周树华,风尘仆仆地拿着茶杯走进会客室接受《投资者报》记者专访。没有笔挺的西装以及入时的领带,这一切似乎同北极光创投考究的装饰有些格格不入,很难想象,这样一位“风一样的男子”就是

学习

集成技术

阅读(33)

本文为您介绍集成技术,内容包括集成技术,技术集成创新案例。肠道微生物与人体健康综述

学习

宝钢电车轨道更换技术总结

阅读(53)

本文为您介绍宝钢电车轨道更换技术总结,内容包括上海宝钢生产轨道钢,宝钢附近电车。摘要:宝钢焦炉电车轨道更换技术一直以来都是个难点,本文结合现场实际情况以及多年来积累的经验,对电车轨道更换技术进行阐述。

学习

关于鸭雏的养殖技术探讨

阅读(28)

本文为您介绍关于鸭雏的养殖技术探讨,内容包括死鸭雏怎么养殖,小雁鸭雏的养殖技术。[摘要]在经济快速发展的大背景下,我国各行各业都取得长远的成效。我国养殖业也得到发展,在养殖技术上得到极大的提升。就目前来说,我国养殖业要想继续快速

学习

浅谈卫星广播电视技术

阅读(23)

本文为您介绍浅谈卫星广播电视技术,内容包括卫星电视广播的优点,广播电视卫星技术发展表现。摘要:有线传输、无线传输和卫星传输是人们已熟知的电视信号的三大主流传输方式。在这三大主流传输方式中,卫星广播电视覆盖是跨地域的、覆盖区

学习

青皮冬瓜高产栽培技术

阅读(35)

本文为您介绍青皮冬瓜高产栽培技术,内容包括青皮冬瓜和白皮冬瓜的区别,青皮巨型冬瓜批发价多少钱。摘要:青皮冬瓜具有耐贮运,质地清凉可口,水分多,味清淡的特点,适应性强,生长势强。瓜长筒形,顶部钝圆,瓜型较大,外皮青绿色,肉厚6cm。产量高,每667m2

学习

浅谈多媒体网络通信接入技术

阅读(28)

本文为您介绍浅谈多媒体网络通信接入技术,内容包括多媒体网络传输技术的研究进展,多媒体通信网络的技术的发展现状。摘要:Intemet和计算机技术的发展改变了商业和个人计算的传统做法。经过多年的发展,万维网(WWW)备受欢迎。廉价的网络工具

学习

信息安全保护的安全基线研究

阅读(39)

本文为您介绍信息安全保护的安全基线研究,内容包括信息安全的防护策略,信息安全脆弱性评估高风险。《上海信息化杂志》2014年第十二期

学习

柔道背负投技术与训练

阅读(30)

本文为您介绍柔道背负投技术与训练,内容包括柔道背负投动作要领,柔道如何练腰马合一。随着柔道技术水平的不断提高,在柔道训练和比赛中由于个人的技术特点不同,技术动作的复杂多样化在训练比赛场上瞬息万变,这就需要运动员应变能力,但万变不