基于神经网络模糊聚类的研究

基于神经网络模糊聚类的研究

丁亚明[1]2007年在《模糊聚类研究及其在水文分区中的应用》文中指出聚类分析是数据挖掘中的一个分支,模糊聚类是聚类中的重要方法,已经取得了丰富的成果,其中的模糊C-均值(FCM)算法具有良好的性能和广泛的应用价值。然而,FCM算法对初始聚类中心的敏感问题影响了实际应用的质量和效果。本文针对这一问题展开研究,并将研究成果应用于安徽省淮河流域水文分区。主要工作如下:(1)研究分析了数据挖掘及模糊聚类的现状及存在问题,描述了模糊理论中的相关方法。(2)研究了神经网络和模拟退火聚类算法。分别对基于模糊逻辑的神经元网络聚类和使用Cauchy训练的模拟退火聚类算法进行了单独和混合实验,对聚类过程中能量的变化、聚类有效性和聚类耗时等方面做出了分析和总结。(3)在研究分析FCM模糊聚类算法的基础上,提出了模糊聚类算法NFC。该算法首先运用基于模糊逻辑的神经元网络和Cauchy训练的模拟退火聚类算法求解初始聚类中心,然后运用FCM进行聚类,解决了FCM对初始聚类中心敏感和局部极值的问题,在随机给出初始聚类中心的实验中有效率高达99%。(4)将所提出的NFC算法应用于安徽省淮河流域的水文分区。对采集的124716个原始水文数据,首先采用主成分分析法获得主成分属性,然后运用NFC算法聚类。实验表明,与传统分区方法相比,有效地改善了时间性能,提高了求解精度,为水文站网规划做出了有益的尝试。

张旭[2]2012年在《基于模糊聚类的自组织神经网络的用户模式挖掘算法研究》文中研究表明目前,兴起的个性化信息推荐技术已经成为当前Web使用挖掘的热门领域之一。个性化信息推荐是根据Web用户浏览站点的Web日志以及其他用户的相关信息,推测其喜好和兴趣,并为其提供个性化信息服务。本文主要研究个性化推荐过程中的用户聚类算法,对Web日志进行分析从而获取用户的多种兴趣。本文提出基于聚类中心集的合并聚类算法来确定样本集的聚类数目。采用了自组织神经网络作为实施算法,预设一个较大的聚类数目进行网络学习和训练,得到聚类中心集。利用该算法对聚类中心集进行合并操作,利用夹角余弦公式计算各聚类中心的相似度,构建评价函数来判断聚类中心是否可以满足合并的要求,最后根据样本隶属聚类中心的隶属度的分布是否均匀来合并聚类中心集,从而得到样本集的新的聚类中心集和聚类数目。本文将模糊C均值聚类算法应用于自组织神经网络的拓扑结构,提出一个模糊聚类神经网络。利用自组织神经网络的拓扑结构和强大的训练学习能力,能够有效解决模糊C均值聚类中大数据量运算缓慢和中心权值初始化等一些问题;同时,模糊C均值聚类在处理复杂问题上,为其增加模糊的特性,对聚类效果有明显的改进,并且可以挖掘用户的多兴趣。在模糊聚类神经网络的应用阶段,竞争模糊层的神经元权值设置为之前训练阶段的权值,并保持稳定,不再进行更新调整。根据隶属度函数更新每个输入样本到输出神经元的隶属度。学习率根据隶属度进行自适应的调整,避免对邻域的选择与调整。最后根据隶属度的分布特征,设定输出阈值,若输入样本到某一输出神经元的隶属度大于该阂值,则输出该神经元所对应的类别信息。最后,利用本文设计的挖掘模型对预处理后的数据进行训练,使该模型能够自动聚类。然后随机从输入样本中抽取数据,对模型的性能进行测试和评估,实验证明,改进后的模糊聚类神经网络聚类效果明显,能准确刻画出用户的模糊特性,即用户的多种兴趣和喜好。

程冰[3]2005年在《模糊神经网络研究》文中研究表明现代科技的飞速进步,促使控制理论向着更复杂、严密的方向发展。这其中模糊控制和神经网络控制由于其非线性和不依赖对象的数学模型等特点倍受人们的关注。模糊系统善于表达知识,推理类似于人的思维,但过于依赖人的主观因素,缺乏学习和适应的能力;神经网络结构可变,具有较强的自组织、自学习的能力,但是不具有结构性知识表达能力,网络参数缺乏物理意义,且在学习过程中易陷入局部极值。所以将二者的特点结合起来形成模糊神经网络就成了一种必然的趋势。 本论文主要在综合介绍模糊逻辑控制原理和神经网络理论以及模糊神经网络的理论知识基础上,针对系统输入空间难以优化,规则提取困难的缺点,提出了将聚类算法引入模糊神经网络,利用聚类算法来提取系统特征,优化输入空间,从而生成自适应的系统模型,并通过仿真实验进行验证。论文的主要工作如下: 1.综合介绍了模糊控制、神经网络、模糊神经网络、聚类算法知识。 2.由于T—S模型是一种新颖的模糊推理模型,它以线性局域方程取代了一般推理过程中的常数,因此可以用少量的模糊规则生成较复杂的非线性函数。本文对两种应用模糊聚类技术的基于神经网络的T-S模糊推理模型的模糊神经网络进行了研究,前者是,由模糊聚类技术得出规则数,每条规则的适应度和后件部分由神经网络系统构成;后者在此基础上对结构进行简化,由模糊C聚类生成规则适应度,由简化的神经网络构成规则的结论部分,将无导师的学习算法与基于梯度的信息寻优算法相结合,并根据数据分布的密度自适应的调整聚类点的分布情况。 3.由于ANFIS系统的灵活性结合MATLAB软件强大计算、仿真功能,提出了基于减法聚类算法的ANFIS模糊神经网络,并给出了MATLAB实现的仿真实例。该系统能够依照聚类结果自适应的生成规则数目和确定系统结构,设定初始值,并利用算法对参数加以修正。以函数逼近为例说明新算法在自适应能力,建模精度及计算量等方面均优于原算法。

张晓琴[4]2008年在《基于模糊神经网络盲均衡算法的研究》文中认为无线和数字通信系统中,由于信号在传输过程中会受到复杂传播机制的影响,从而产生码间干扰。为了消除码间干扰,要在接收端进行均衡,以补偿信道特性,正确恢复发送序列。传统的均衡器由于需要不断地发送训练序列,已经不能满足数字通信技术发展的要求。盲均衡技术不需要训练序列,仅利用接收序列的统计特性便能自适应地调节参数,也就是说,盲均衡技术本身完全不用训练序列,就可以自启动收敛并防止失锁情况,且能使滤波器的输出与要恢复的输入信号相近。盲均衡技术有效克服了传统均衡器的缺点,对于信道的经常性衰落、严重的非线性及时变特性、多径传播等的影响,以及接收机无法跟踪上信道特性而出现的通信中断,盲均衡器会自动调整参数,跟踪信道特性,完成对信号的最佳估计。目前已在通信、雷达,地震勘探,图像处理等领域中得到应用。本文所做的主要工作有:(1)系统分析了盲均衡算法原理以及盲均衡技术的发展现状,研究了模糊神经网络特点、结构及确定方法,分析了隶属函数的选取原则,阐述了模糊神经网络的学习算法,首次提出叁种基于模糊神经网络的盲均衡算法,并分析其实现原理。(2)分析了传统固定步长恒模盲均衡算法,针对步长大小会影响算法的收敛效果,提出变步长盲均衡算法的设计思想。利用模糊神经网络的控制功能,提出基于模糊神经网络控制步长因子的盲均衡算法,以提高步长控制的精度。通过误差信号和误差信号的变化大小及相关的规则,控制步长的实时变化,使得在算法初期采用大步长提高算法的收敛速度,在算法收敛后采用小步长,提高算法的收敛精度,从而解决了收敛速度和精度之间的相互制约。(3)根据传统前馈神经网络盲均衡算法中非线性修正因子α对算法收敛性能的影响,提出利用模糊神经网络控制α因子,得到优化的神经网络盲均衡算法的设计思想。通过误差信号及其变化作为模糊神经网络的输入信号,经过模糊神经网络的控制算法,得到时变的非线性修正因子α值,使得α在算法开始阶段信号畸变较为严重时取值较大,加快信号盲均衡的收敛速度,在算法逐渐收敛的同时,α因子也逐渐减小,以降低收敛后的剩余误差,从而有效地改进算法。(4)分析研究了模糊聚类的原理、分类及特点应用,并基于模糊神经网络聚类的特点提出了利用模糊神经网络作为分类器的盲均衡算法思想。传统的盲均衡技术将均衡后的信号经过判决器直接判决归类,恢复发送信号,但判决器一般用阈值进行判决,属于硬划分。模糊神经网络分类器利用模糊算法对被分类的信号进行动态的归类,属于软判决,可以有效地提高信号分类的正确率。(5)认真研究了动态模糊神经网络的原理及分类,分析了无线通信系统中,信道的时变性和不确定性决定了盲均衡过程是一个动态的均衡过程,针对动态模糊神经网络可以利用系统的当前数据和历史数据,符合盲均衡过程中信道动态变化的特性,提出利用动态模糊神经网络取代横向滤波器,直接进行盲均衡的算法。

张志红[5]2004年在《基于神经网络模糊聚类的研究》文中进行了进一步梳理随着人类社会的发展与科学技术的进步,在实际问题中经常遇到分类的问题。聚类是一个古老的问题,它伴随着人类社会的产生和发展而不断深化,人类要认识世界就必须区别不同的事物并认识事物间的相似性,而每个概念的最初形成无不借助于事物的聚类分析。因此,聚类分析的研究不仅具有重要的理论意义,也具有重要的工程应用价值和人文价值。 聚类算法虽然经过多年发展,取得的丰硕的成果,新算法的提出层出不穷,但是仍然无法找到一个普遍适用的方法,有很多问题现在还是无法解决。随着现代算法的研究深入,将会有助于加速模糊聚类的发展。 本文以模糊数学理论为基础,面向模糊聚类算法,系统介绍了模糊聚类的面向目标函数的算法,研究分析了对FCM算法产生影响的相似性准则、原始数据集、聚类原型叁个问题,指出FCM算法当前存在的优点和不足。本文着重讨论了基于模糊逻辑神经元的聚类网络、Cauchy训练的模拟退火算法、FCM算法,并对算法进行了改进和混合,给出了基于模糊逻辑神经元的聚类网络和Cauchy训练的模拟退火算法为基础的FCM算法,试验证明该算法的有效性非常高,在随机给出的初始聚类中心的试验中有效率高达99%,具有非常好的性能。 对聚类分析的前期工作,样品数据规格化、距离计算、关联程度的计算方法进行了归类和评述。介绍了模糊数学的相关概念,对模糊聚类使用到的模糊理论做些相关分析研究。通过模糊数学的引入,为聚类引入模糊概念,更好的模拟现实完成聚类任务。对模糊聚类方法进行了介绍,分析了现阶段国内外模糊聚类的研究进展。 对基于模糊神经元的聚类网络算法进行了深入研究,主要在聚类过程中能量的变化,聚类有效性和聚类耗时,该算法对聚类原型的影响等方面做出分析总结。同时采用了引入频率参数和模拟退火算法,使单一的模糊神经元的聚类网络算法避免陷入局部极小值,提高了算法性能。 对模拟退火算法进行了系统分析,实现Cauchy训练改善模拟退火算法。对改进算法在能量变化、聚类有效性和聚类耗时加以分析。提出其和神经元算法混合改善神经元算法,减少神经元算法对初始聚类中心的敏感性。 本文共分六章,第一章讨论了聚类的基本理论和聚类的基础知识;第二章介绍了模糊聚类的数学基础模糊数学,对模糊聚类方法进行了介绍,分析了现阶段国内外模糊聚类的研究进展;第叁章讨论了面向目标函数的模糊聚类法,着重讨论模糊C-均值算法;第四章讨论了神经网络算法在模糊聚类中的应用和不足,提出了改进;第五章提出了基于模糊逻辑神经元的聚类网络和Cauchy训练的模拟退火算法为基础的FCM算法,具有非常好的性能;第六章是全文的总结和研究工作的展望。

张喆[6]2007年在《智能聚类方法中的克隆网络聚类算法研究与应用》文中提出近年来兴起的数据挖掘技术是一种能够自动处理海量数据资源并将其转化为有意义知识的有利工具。聚类分析作为数据挖掘领域的关键技术,近年来已经逐渐成为业界内的研究热点,是一个富有挑战性的研究课题。它可以按照事物间的相似性用数学的方法研究和处理给定对象的分类,在此过程中并没有教师的指导,是一种无监督的分类方法。本文对现有聚类技术进行了较深入的研究。首先,在分析传统聚类算法的基础上,针对传统算法的不足,基于智能融合互补的观点,将研究重点放在了基于智能融合技术的聚类算法方面,讨论基于计算智能的聚类方法。计算智能的方法具有良好的优化特性和自学习、自适应能力。将其引入到聚类分析中,得到的智能聚类算法不仅可以克服传统算法的缺点,而且具有较高的聚类有效性和可用性。其次,本文通过对现有的几种智能聚类方法的深入分析和讨论,综合其缺点和不足,以数据分析为中心,提出了解决方案,即基于克隆网络的聚类算法。该算法将免疫克隆策略用于网络结构聚类中,结合改进的变异算子和禁忌克隆操作对原始数据进行学习,进化出一个克隆网络来反映原始数据在状态空间中的分布。这种无监督的聚类算法不仅能够有效克服一般方法对初始化敏感、依赖聚类原型、收敛速度慢等缺点,而且与数据分布无关,能够处理海量、多维、属性复杂的网络数据。本文通过仿真实验严格的验证了算法的有效性。同时,探讨了克隆网络聚类算法的应用研究,将其用于网络数据分析,通过异常检测实验验证了算法的可用性和可解释性。

张绪青[7]2008年在《基于图模型的聚类算法研究》文中研究说明随着互联网技术的高速发展和网络资源信息的日益丰富,海量互联网网页同时涵盖文本、图像、视频和音频等媒体数据以及多种语言并存,呈现出跨媒体的特性。如果缺乏一套有效的检索机制,从海量的跨媒体资源中搜寻信息无疑是大海捞针,因此,研究海量信息的跨媒体检索机制至关重要。一般而言,用户需要的检索信息并不直接存在于被检索资源中,而是需要搜索引擎对潜在的检索结果作诸如摘要生成、分类、排重、聚类等智能处理,才能满足用户的检索需求。本文在广泛阅读相关文献、深入了解聚类算法的原理与应用的基础上,主要针对基于图模型的聚类算法,在算法的改进、应用上做了如下工作:1.结合基于因数图的仿射传播聚类算法和k-中值多数投票算法的优点,提出了使用松弛多根最小生成树分配算法的投票分割式仿射传播聚类算法,实验结果证实了该算法的有效性。2.提出了一种基于随机分块和投票聚类融合策略的聚类大规模数据集合的算法框架,并使用该算法框架对仿射传播聚类算法进行了扩展,使其能够处理任意形状的更大规模的数据集合,并验证了该扩展的可行性和有效性。3.对聚类分析在图像搜索领域的应用进行了探索,提出了一个基于投票分割式仿射传播聚类算法的图片搜集模型。本文的贡献和创新主要体现在算法的改进和应用上:1.提出了分割式仿射传播聚类算法,它在实际聚类个数大于本质聚类个数时能在本质聚类上产生随机的划分,从而使其满足投票策略对聚类生成器的随机性的要求。2.提出了松弛多根最小生成树分配算法,在基本保持聚类结果的随机性的基础上,减小了误分配的概率。3.将使用松弛多根最小生成树算法的分割式仿射传播聚类算法和投票策略结合在一起,并结合划分一致性索引指标讨论了如何选取合适的域值参数的问题。4.提出了一种将时间复杂度和空间复杂度较高的聚类算法扩展到大规模数据集合应用上的算法框架——随机分块再融合,并用其对仿射传播聚类算法进行了扩展,使其能处理更大规模的、任意形状分布的数据集合。5.提出了一个基于投票分割式仿射传播聚类算法的图片搜集模型,使开发人员能够基于此模型构造一个应用程序来帮助用户从现有图片搜索引擎上方便的获取相关主题的图片资料集合。

孙云山[8]2006年在《基于信号估计的模糊神经网络分类器盲均衡算法的研究》文中研究表明盲均衡是数字通信系统中消除码间干扰的关键技术,它能够不借助训练序列,而仅仅利用所接收到的信号序列的先验信息对信道进行均衡。传统盲均衡器中采用固定的判决电平,造成高的判决误差。模糊神经网络结合了神经网络和模糊理论各自的优点,模糊神经网络分类器可对不确定信息作出定量描述,具有很高的识别精度,可以有效降低判决误差。 本文所做的主要工作有: (1) 简要概述了现有基于神经网络盲均衡算法的各种实现方法及其发展动态,分析了其特点。同时,阐述了模糊神经神经网络在均衡器中的应用以及现有的盲信道估计的实现方法。提出了模糊神经网络在盲均衡算法中的几种可行的应用方式及其原理。 (2) 针对原有盲均衡器采用固定电平进行判决的特点,提出了一种由模糊神经网络分类器代替原有判决器的盲均衡算法。该算法将盲信道估计、反卷积和模糊神经网络分类器相联系。文中给出了高阶累积量盲信道估计的推导公式,利用反卷积获得输入信号的初步估计值,再利用模糊神经网络分类器进行判决。计算机仿真表明,新算法相对于前馈神经网络盲均衡算法在性能上有一定的提高与改善,不仅加快了收敛速度,而且减小了稳态剩余误差。 (3) 提出了一种模糊神经网络聚类盲均衡算法。该算法根据聚类

李飞宇[9]2008年在《城市给水管网水质安全性评价体系研究》文中研究指明城市给水管网的水质安全评价对于提高供水调度与管理水平十分重要,是向各类用户提供符合国家相应水质标准水的有力保障。水在传输过程中由于在管内滞留,很容易在管道中发生的物理、化学变化以及生物作用,导致水质监测指标结果的严重恶化,因此有必要建立相对安全的城市给水管网水质评价体系。本文对水质管网模型进行了研究,通过对给水管网中余氯、水龄、叁卤甲烷和微生物水质模型的分析,为采用何种评价方法对给水管网水质进行评价提供了理论基础和保证。在对给水管网的水质评价体系构建中,首先对模糊聚类进行了理论分析,并在计算机上设计了一个将其应用于给水管网水质分析的模型,此方法很好地提高了给水管网水质评价的有效性和客观性,加快了评估的速度。由于模糊聚类的结果单一性,不能直观形象的反映水质状况,故研究中尝试性地构建自组织特征映射网络(Self-Organizing Feature Map,简称SOM)聚类评价体系对管网进行水质评价。较目前国内外已有水质状况评价模型及多采用的等级评价而言聚类评价人为干预少评价结果更为客观。通过实测给水管网运行数据并结合计算机模拟,以前文介绍的给水管网中各节点和管段的水质指标1h数据为基础,使用MATLAB高级语言编写聚类评价程序。将SOM算法应用于哈尔滨市给水管网的水质聚类评价体系中,以节点将水质状况划分为5种类型,第5类水质最差,不能满足水质标准要求。与单指标评价相比,SOM网络能兼顾对单个水质指标监测数据和整体数据的分析,客观反映水质在整个管网中的格局分布。得到的分类结果与实际供水状况相符,对合理布置水质监测点,指导水质运行安全调度、优化改扩建等供水水质安全的高层次管理有重要意义。

李盼盼[10]2008年在《基于T-S模型的非线性系统模糊辨识方法研究》文中指出由于实际的复杂工业过程常常具有强非线性、不确定性、多变量、强耦合以及工况变化频繁等特点,很难建立其精确的数学模型描述,即使能够建立其数学模型,也往往过于复杂,使得传统控制难以达到理想的控制效果。查德提出的模糊集合理论为不能用精确数学模型表达的复杂或病态系统提供了一种有效的建模方法。自此,人们开始将模糊概念引入到了模糊建模中,并进行了大量的研究。然而由于非线性复杂系统是非常复杂的,有很多尚待解决的问题。本文仅仅围绕着非线性系统的模糊建模和辨识方法展开讨论和研究。本文针对传统FCM(Fuzzy c-means)算法对初始值设定敏感而影响聚类效果、训练速度慢、在迭代时容易陷入局部极小等缺点,提出了将减法聚类和FCM算法相结合的方法用于T-S模糊模型结构的辨识。首先用减法聚类算法找到模糊聚类中心的迭代初值,然后再用FCM算法进行聚类的方法来提高聚类的收敛速度和聚类效果。接着采用最小二乘法进行结论参数的辨识,从而得到初始的T-S模糊模型,在此基础上构造基于T-S模糊模型的神经网络结构来进行参数精调,取得了比较满意的效果。由于最小二乘法属于梯度法,存在容易陷入局部极小的缺点,且以往的模型的结构和参数是分开来进行优化的,通常是两个步骤反复交替无数次才能获得最终的模型。为了进一步提高T-S模糊模型的辨识精度和收敛速度,达到全局最优,本文还提出了一种新颖的基于全局收敛的遗传算法(Genetic Algorithms)整体优化模糊系统模型的方法。即将模型的结构和结论参数整体进行编码,通过制定合理的编码规则,选择合适的遗传算子,达到模型优化的目的。该方法解决了模型的结构和参数同时优化的问题,在加快收敛速度和提高辨识精度方面取得了很好的效果。最后通过选取具有代表性和普遍性的实例在MATLAB中对所提出的算法进行仿真分析和比较,结果验证了本文提出的方法具有辨识精度高、逼近能力强和全局收敛等优点,为非线性复杂系统的建模提供了一条实际有效的途径。

参考文献:

[1]. 模糊聚类研究及其在水文分区中的应用[D]. 丁亚明. 合肥工业大学. 2007

[2]. 基于模糊聚类的自组织神经网络的用户模式挖掘算法研究[D]. 张旭. 南昌大学. 2012

[3]. 模糊神经网络研究[D]. 程冰. 广东工业大学. 2005

[4]. 基于模糊神经网络盲均衡算法的研究[D]. 张晓琴. 太原理工大学. 2008

[5]. 基于神经网络模糊聚类的研究[D]. 张志红. 安徽大学. 2004

[6]. 智能聚类方法中的克隆网络聚类算法研究与应用[D]. 张喆. 兰州理工大学. 2007

[7]. 基于图模型的聚类算法研究[D]. 张绪青. 浙江大学. 2008

[8]. 基于信号估计的模糊神经网络分类器盲均衡算法的研究[D]. 孙云山. 太原理工大学. 2006

[9]. 城市给水管网水质安全性评价体系研究[D]. 李飞宇. 哈尔滨工业大学. 2008

[10]. 基于T-S模型的非线性系统模糊辨识方法研究[D]. 李盼盼. 江苏大学. 2008

标签:;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  ;  

基于神经网络模糊聚类的研究
下载Doc文档

猜你喜欢