时间：2023-03-16 15:51:19
绪论：在寻找写作灵感吗？爱发表网为您精选了8篇挖掘技术论文，愿这些内容能够启迪您的思维，激发您的创作热情，欢迎您的阅读与分享！
数据挖掘是指从数据集合中自动抽取隐藏在数据中的那些有用信息的非平凡过程，这些信息的表现形式为：规则、概念、规律及模式等。它可帮助决策者分析历史数据及当前数据，并从中发现隐藏的关系和模式，进而预测未来可能发生的行为。数据挖掘的过程也叫知识发现的过程。
二、数据挖掘的方法
1.统计方法。传统的统计学为数据挖掘提供了许多判别和回归分析方法，常用的有贝叶斯推理、回归分析、方差分析等技术。贝叶斯推理是在知道新的信息后修正数据集概率分布的基本工具，处理数据挖掘中的分类问题，回归分析用来找到一个输入变量和输出变量关系的最佳模型，在回归分析中有用来描述一个变量的变化趋势和别的变量值的关系的线性回归，还有用来为某些事件发生的概率建模为预测变量集的对数回归、统计方法中的方差分析一般用于分析估计回归直线的性能和自变量对最终回归的影响，是许多挖掘应用中有力的工具之一。
2.关联规则。关联规则是一种简单，实用的分析规则，它描述了一个事物中某些属性同时出现的规律和模式，是数据挖掘中最成熟的主要技术之一。关联规则在数据挖掘领域应用很广泛适合于在大型数据集中发现数据之间的有意义关系，原因之一是它不受只选择一个因变量的限制。大多数关联规则挖掘算法能够无遗漏发现隐藏在所挖掘数据中的所有关联关系，但是，并不是所有通过关联得到的属性之间的关系都有实际应用价值，要对这些规则要进行有效的评价，筛选有意义的关联规则。
3.聚类分析。聚类分析是根据所选样本间关联的标准将其划分成几个组，同组内的样本具有较高的相似度，不同组的则相异，常用的技术有分裂算法，凝聚算法，划分聚类和增量聚类。聚类方法适合于探讨样本间的内部关系，从而对样本结构做出合理的评价，此外，聚类分析还用于对孤立点的检测。并非由聚类分析算法得到的类对决策都有效，在运用某一个算法之前，一般要先对数据的聚类趋势进行检验。
4.决策树方法。决策树学习是一种通过逼近离散值目标函数的方法，通过把实例从根结点排列到某个叶子结点来分类实例，叶子结点即为实例所属的分类。树上的每个结点说明了对实例的某个属性的测试，该结点的每一个后继分支对应于该属性的一个可能值，分类实例的方法是从这棵树的根结点开始，测试这个结点指定的属性，然后按照给定实例的该属性值对应的树枝向下移动。决策树方法是要应用于数据挖掘的分类方面。
5.神经网络。神经网络建立在自学习的数学模型基础之上，能够对大量复杂的数据进行分析，并可以完成对人脑或其他计算机来说极为复杂的模式抽取及趋势分析，神经网络既可以表现为有指导的学习也可以是无指导聚类，无论哪种，输入到神经网络中的值都是数值型的。人工神经元网络模拟人脑神经元结构，建立三大类多种神经元网络，具有非线形映射特性、信息的分布存储、并行处理和全局集体的作用、高度的自学习、自组织和自适应能力的种种优点。
6.遗传算法。遗传算法是一种受生物进化启发的学习方法，通过变异和重组当前己知的最好假设来生成后续的假设。每一步，通过使用目前适应性最高的假设的后代替代群体的某个部分，来更新当前群体的一组假设，来实现各个个体的适应性的提高。遗传算法由三个基本过程组成:繁殖(选择)是从一个旧种群(父代)选出生命力强的个体，产生新种群(后代)的过程；交叉〔重组)选择两个不同个体〔染色体)的部分(基因)进行交换，形成新个体的过程；变异(突变)是对某些个体的某些基因进行变异的过程。在数据挖掘中，可以被用作评估其他算法的适合度。
7.粗糙集。粗糙集能够在缺少关于数据先验知识的情况下，只以考察数据的分类能力为基础，解决模糊或不确定数据的分析和处理问题。粗糙集用于从数据库中发现分类规则的基本思想是将数据库中的属性分为条件属性和结论属性，对数据库中的元组根据各个属性不同的属性值分成相应的子集，然后对条件属性划分的子集与结论属性划分的子集之间上下近似关系生成判定规则。所有相似对象的集合称为初等集合，形成知识的基本成分。任何初等集合的并集称为精确集，否则，一个集合就是粗糙的(不精确的)。每个粗糙集都具有边界元素，也就是那些既不能确定为集合元素，也不能确定为集合补集元素的元素。粗糙集理论可以应用于数据挖掘中的分类、发现不准确数据或噪声数据内在的结构联系。
8.支持向量机。支持向量机(SVM)是在统计学习理论的基础上发展出来的一种新的机器学习方法。它基于结构风险最小化原则上的，尽量提高学习机的泛化能力，具有良好的推广性能和较好的分类精确性，能有效的解决过学习问题，现已成为训练多层感知器、RBF神经网络和多项式神经元网络的替代性方法。另外，支持向量机算法是一个凸优化问题，局部最优解一定是全局最优解，这些特点都是包括神经元网络在内的其他算法所不能及的。支持向量机可以应用于数据挖掘的分类、回归、对未知事物的探索等方面。
事实上，任何一种挖掘工具往往是根据具体问题来选择合适挖掘方法，很难说哪种方法好，那种方法劣，而是视具体问题而定。
三、结束语
目前，数据挖掘技术虽然得到了一定程度的应用，并取得了显著成效，但仍存在着许多尚未解决的问题。随着人们对数据挖掘技术的深人研究，数据挖掘技术必将在更加广泛的领域得到应用，并取得更加显著的效果。
参考文献:
苏新宁杨建林邓三鸿等:数据挖掘理论与技术[M].北京:科学技术文献出版社,2003
[关键词]数据挖掘客户关系管理应用步骤
根据波特的影响企业的利益相关者理论，企业有五个利益相关者，分别是客户、竞争对手、供应商、分销商和政府等其他利益相关者。其中，最重要的利益相关者就是客户。现代企业的竞争优势不仅体现在产品上，还体现在市场上，谁能获得更大的市场份额，谁就能在竞争中占据优势和主动。而对市场份额的争夺实质上是对客户的争夺，因此，企业必须完成从“产品”导向向“客户”导向的转变，对企业与客户发生的各种关系进行管理。进行有效的客户关系管理，就要通过有效的途径，从储存大量客户信息的数据仓库中经过深层分析，获得有利于商业运作，提高企业市场竞争力的有效信息。而实现这些有效性的关键技术支持就是数据挖掘，即从海量数据中挖掘出更有价值的潜在信息。正是有了数据挖掘技术的支持，才使得客户关系管理的理念和目标得以实现，满足现代电子商务时代的需求和挑战。
一、客户关系管理（CRM）
CRM是一种旨在改善企业与客户之间关系的新型管理方法。它是企业通过富有意义的交流和沟通,理解并影响客户行为,最终实现提高客户获取、客户保留、客户忠诚和客户创利的目的。它包括的主要内容有客户识别、客户关系的建立、客户保持、客户流失控制和客户挽留。通过客户关系管理能够提高企业销售收入，改善企业的服务，提高客户满意度，同时能提高员工的生产能力。
二、数据挖掘（DM）
数据挖掘（DataMining，简称DM），简单的讲就是从大量数据中挖掘或抽取出知识。数据挖掘概念的定义描述有若干版本。一个通用的定义是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中提取人们感兴趣的知识，这些知识是隐讳的、事先未知的、潜在有用的信息。
常用的数据挖掘方法有：（1）关联分析。即从给定的数据集中发现频繁出现的项集模式知识。例如，某商场通过关联分析，可以找出若干个客户在本商场购买商品时，哪些商品被购置率较高，进而可以发现数据库中不同商品的联系，进而反映客户的购买习惯。（2）序列模式分析。它与关联分析相似，其目的也是为了控制挖掘出的数据间的联系。但序列模式分析的侧重点在于分析数据间的前后（因果）关系。例如，可以通过分析客户在购买A商品后，必定（或大部分情况下）随着购买B商品，来发现客户潜在的购买模式。（3）分类分析。是找出一组能够描述数据集合典型特征的模型，以便能够分类识别未知数据的归属或类别。例如，银行可以根据客户的债务水平、收入水平和工作情况，可对给定用户进行信用风险分析。（4）聚类分析。是从给定的数据集中搜索数据对象之间所存在的有价值联系。在商业上，聚类可以通过顾客数据将顾客信息分组，并对顾客的购买模式进行描述，找出他们的特征，制定针对性的营销方案。（5）孤立点分析。孤立点是数据库中与数据的一般模式不一致的数据对象，它可能是收集数据的设备出现故障、人为输入时的输入错误等。孤立点分析就是专门挖掘这些特殊信息的方法。例如，银行可以利用孤立点分析发现信用卡诈骗，电信部门可以利用孤立点分析发现电话盗用等。
三、数据挖掘在客户关系管理中的应用
1.进行客户分类
客户分类是将大量的客户分成不同的类别，在每一类别里的客户具有相似的属性，而不同类别里的客户的属性不同。数据挖掘可以帮助企业进行客户分类，针对不同类别的客户，提供个性化的服务来提高客户的满意度，提高现有客户的价值。细致而可行的客户分类对企业的经营策略有很大益处。例如，保险公司在长期的保险服务中，积累了很多的数据信息，包括对客户的服务历史、对客户的销售历史和收入，以及客户的人口统计学资料和生活方式等。保险公司必须将这些众多的信息资源综合起来，以便在数据库里建立起一个完整的客户背景。在客户背景信息中，大批客户可能在保险种类、保险年份和保险金额上具有极高的相似性，因而形成了具有共性的客户群体。经过数据挖掘的聚类分析，可以发现他们的共性，掌握他们的保险理念，提供有针对性的服务，提高保险公司的综合服务水平，并可以降低业务服务成本，取得更高的收益。
2.进行客户识别和保留
(1)在CRM中,首先应识别潜在客户,然后将他们转化为客户
这时可以采用DM中的分类方法。首先是通过对数据库中各数据进行分析，从而建立一个描述已知数据集类别或概念的模型，然后对每一个测试样本，用其已知的类别与学习所获模型的预测类别做比较，如果一个学习所获模型的准确率经测试被认可，就可以用这个模型对未来对象进行分类。例如，图书发行公司利用顾客邮件地址数据库，给潜在顾客发送用于促销的新书宣传册。该数据库内容有客户情况的描述，包括年龄、收入、职业、阅读偏好、订购习惯、购书资金、计划等属性的描述，顾客被分类为“是”或“否”会成为购买书籍的顾客。当新顾客的信息被输入到数据库中时，就对该新顾客的购买倾向进行分类，以决定是否给该顾客发送相应书籍的宣传手册。
(2)在客户保留中的应用
客户识别是获取新客户的过程，而客户保留则是留住老顾客、防止客户流失的过程。对企业来说，获取一个新顾客的成本要比保留一个老顾客的成本高。在保留客户的过程中，非常重要的一个工作就是要找出顾客流失的原因。例如，某专科学校的招生人数在逐渐减少，那么就要找出减少的原因，经过广泛的搜集信息，发现原因在于本学校对技能培训不够重视，学生只能学到书本知识，没有实际的技能，在就业市场上找工作很难。针对这种情况，学校应果断的抽取资金，购买先进的、有针对性的实验实训设备，同时修改教学计划，加大实验实训课时和考核力度，培训相关专业的教师。
(3)对客户忠诚度进行分析
客户的忠诚意味着客户不断地购买公司的产品或服务。数据挖掘在客户忠诚度分析中主要是对客户持久性、牢固性和稳定性进行分析。比如大型超市通过会员的消费信息，如最近一次消费、消费频率、消费金额三个指标对数据进行分析,可以预测出顾客忠诚度的变化，据此对价格、商品的种类以及销售策略加以调整和更新，以便留住老顾客，吸引新顾客。
(4)对客户盈利能力分析和预测
对于一个企业而言，如果不知道客户的价值，就很难做出合适的市场策略。不同的客户对于企业而言，其价值是不同的。研究表明，一个企业的80%的利润是由只占客户总数的20%的客户创造的，这部分客户就是有价值的优质客户。为了弄清谁才是有价值的客户，就需要按照客户的创利能力来划分客户，进而改进客户关系管理。数据挖掘技术可以用来分析和预测不同市场活动情况下客户盈利能力的变化，帮助企业制定合适的市场策略。商业银行一般会利用数据挖掘技术对客户的资料进行分析，找出对提高企业盈利能力最重要的客户，进而进行针对性的服务和营销。
(5)交叉销售和增量销售
交叉销售是促使客户购买尚未使用的产品和服务的营销手段，目的是可以拓宽企业和客户间的关系。增量销售是促使客户将现有产品和服务升级的销售活动，目的在于增强企业和客户的关系。这两种销售都是建立在双赢的基础上的，客户因得到更多更好符合其需求的服务而获益，公司也因销售增长而获益。数据挖掘可以采用关联性模型或预测性模型来预测什么时间会发生什么事件，判断哪些客户对交叉销售和增量销售很有意向，以达到交叉销售和增量销售的目的。例如，保险公司的交叉营销策略：保险公司对已经购买某险种的客户推荐其它保险产品和服务。这种策略成功的关键是要确保推销的保险险种是用户所感兴趣的，否则会造成用户的反感。
四、客户关系管理应用数据挖掘的步骤
1.需求分析
只有确定需求，才有分析和预测的目标，然后才能提取数据、选择方法，因此，需求分析是数据挖掘的基础条件。数据挖掘的实施过程也是围绕着这个目标进行的。在确定用户的需求后,应该明确所要解决的问题属于哪种应用类型,是属于关联分析、分类、聚类及预测，还是其他应用。应对现有资源如已有的历史数据进行评估，确定是否能够通过数据挖掘技术来解决用户的需求，然后将进一步确定数据挖掘的目标和制定数据挖掘的计划。
2.建立数据库
这是数据挖掘中非常重要也非常复杂的一步。首先,要进行数据收集和集成，其次,要对数据进行描述和整合。数据主要有四个方面的来源：客户信息、客户行为、生产系统和其他相关数据。这些数据通过抽取、转换和装载，形成数据仓库，并通过OLAP和报表，将客户的整体行为结果分析等数据传递给数据库用户。
3.选择合适的数据挖掘工具
如果从上一步的分析中发现，所要解决的问题能用数据挖掘比较好地完成，那么需要做的第三步就是选择合适的数据挖掘技术与方法。将所要解决的问题转化成一系列数据挖掘的任务。数据挖掘主要有五种任务：分类，估值预测，关联规则，聚集，描述。前三种属于直接的数据挖掘。在直接数据挖掘中，目标是应用可得到的数据建立模型，用其它可得到的数据来描述感兴趣的变量。后两种属于间接数据挖掘。在间接数据挖掘中，没有单一的目标变量，目标是在所有变量中发现某些联系。
4.建立模型
建立模型是选择合适的方法和算法对数据进行分析，得到一个数据挖掘模型的过程。一个好的模型没必要与已有数据完全相符，但模型对未来的数据应有较好的预测。需要仔细考察不同的模型以判断哪个模型对所需解决的问题最有用。如决策树模型、聚类模型都是分类模型，它们将一个事件或对象归类。回归是通过具有已知值的变量来预测其它变量的值。时间序列是用变量过去的值来预测未来的值。这一步是数据挖掘的核心环节。建立模型是一个反复进行的过程，它需要不断地改进或更换算法以寻找对目标分析作用最明显的模型，最后得到一个最合理、最适用的模型。
5.模型评估
为了验证模型的有效性、可信性和可用性，从而选择最优的模型，需要对模型进行评估。我们可以将数据中的一部分用于模型评估，来测试模型的准确性，模型是否容易被理解模型的运行速度、输入结果的速度、实现代价、复杂度等。模型的建立和检验是一个反复的过程，通过这个阶段阶段的工作，能使数据以用户能理解的方式出现，直至找到最优或较优的模型。
6.部署和应用
将数据挖掘的知识归档和报告给需要的群体，根据数据挖掘发现的知识采取必要的行动，以及消除与先前知识可能存在的冲突，并将挖掘的知识应用于应用系统。在模型的应用过程中，也需要不断地对模型进行评估和检验，并做出适当的调整，以使模型适应不断变化的环境。
参考文献:
[1]罗纳德．S．史威福特．客户关系管理[M]．杨东龙译．北京：中国经济出版社，2002
[2]马刚:客户关系管理[M]大连：东北财经大学出版社，2008
[3]朱美珍:以数据挖掘提升客户关系管理[J]．高科技产业技术与创新管理，2006，（27）
[4]顾桂芳何世友:数据挖掘在客户关系管理中的应用研究[J].企业管理，2007，（7）
数据挖掘技术是一种新型的技术，在现代数据存储以及测量技术的迅猛发展过程中，人们可以进行信息的大量测量并进行存储。但是，在大量的信息背后却没有一种有效的手段和技术进行直观的表达和分析。而数据挖掘技术的出现，是对目前大数据时代的一种应急手段，使得有关计算机数据处理技术得到加快发展。数据挖掘技术最早是从机器学习的概念中而产生的，在对机器的学习过程中，一般不采用归纳或者较少使用这种方法，这是一种非常机械的操作办法。而没有指导性学习的办法一般不从这些环境得出反馈，而是通过没有干预的情况下进行归纳和学习，并建立一种理论模型。数据挖掘技术是属于例子归纳学习的一种方式，这种从例子中进行归纳学习的方式是介于上述无指导性学习以及较少使用归纳学习这两种方式之间的一种方式。因此，可以说，数据挖掘技术的特征在出自于机器学习的背景下，与其相比机器主要关心的是如何才能有效提高机器的学习能力，但数据挖掘技术主要关心如何才能找到有用、有价值的信息。其第二个特征是，与机器学习特点相比较而言，机器关心的是小数据，而数据挖掘技术所面临的对象则是现实中海量规模的数据库，其作用主要是用来处理一些异常现象，特别是处理残缺的、有噪音以及维数很高的数据项，甚至是一些不同类型数据。以往的数据处理方法和现代的数据挖掘技术相比较而言，其不同点是以往的传统数据处理方法前提是把理论作为一种指导数据来进行处理，在现代数据挖掘技术的出发角度不同，主要运用启发式的归纳学习进行理论以及假设来处理的。
2、数据挖掘技术主要步骤
数据挖掘技术首先要建立数据仓库，要根据实际情况而定，在易出现问题的有关领域建立有效的数据库。主要是用来把数据库中的所有的存储数据进行分析，而目前的一些数据库虽然可以进行大量的存储数据，同时也进行了一系列的技术发展。比如，系统中的在线分析处理，主要是为用户查询，但是却没有查询结果的分析能力，而查询的结果仍旧由人工进行操作，依赖于对手工方式进行数据测试并建模。其次，在数据库中存储的数据选一数据集，作为对数据挖掘算法原始输入。此数据集所涉及到数据的时变性以及统一性等情况。然后，再进行数据的预处理，在处理中主要对一些缺损数据进行补齐，并消除噪声，此外还应对数据进行标准化的处理。随后，再对数据进行降维和变换。如果数据的维数比较高，还应找出维分量高的数据，对高维数数据空间能够容易转化为检点的低维数数据空间进行处理。下一步骤就是确定任务，要根据现实的需要，对数据挖掘目标进行确定，并建立预测性的模型、数据的摘要等。随后再决定数据挖掘的算法，这一步骤中，主要是对当前的数据类型选择有效的处理方法，此过程非常重要，在所有数据挖掘技术中起到较大作用。随后再对数据挖掘进行具体的处理和结果检验，在处理过程中，要按照不同的目的，选择不同的算法，是运用决策树还是分类等的算法，是运用聚类算法还是使用回归算法，都要认真处理，得出科学的结论。在数据挖掘结果检验时，要注意几个问题，要充分利用结论对照其他的信息进行校核，可对图表等一些直观的信息和手段进行辅助分析，使结论能够更加科学合理。需要注意的是要根据用户来决定结论有用的程度。最后一项步骤是把所得出的结论进行应用到实际，要对数据挖掘的结果进行仔细的校验，重点是解决好以前的观点和看法有无差错，使目前的结论和原先看法的矛盾有效解除。
3、数据挖掘技术的方法以及在电力营销系统中的应用和发展
数控挖掘技术得到了非常广泛的应用，按照技术本身的发展出现了较多方法。例如，建立预测性建模方法，也就是对历史数据进行分析并归纳总结，从而建立成预测性模型。根据此模型以及当前的其他数据进行推断相关联的数据。如果推断的对象属于连续型的变量，那么此类的推断问题可属回归问题。根据历史数据来进行分析和检测，再做出科学的架设和推定。在常用的回归算法以及非线性变换进行有效的结合，能够使许多问题得到解决。电力营销系统中的数据挖掘技术应用中关联规则是最为关键的技术应用之一。这种应用可以有效地帮助决策人员进行当前有关数据以及历史数据的规律分析，最后预测出未来情况。把关联规则成功引入电力营销分析，通过FP-Growth算法对电力营销的有关数据进行关联规则分析，从中得出各种电量销售的影响因素以及外部因素、手电水平等的关联信息，以便更好地为电力的市场营销策略提供参谋和决策。对电力营销系统的应用中，时间序列挖掘以及序列挖掘非常经典、系统，是应用最为广泛的一种预测方法。这种方法的应用中，对神经网络的研究非常之多。因此，在现实中应用主要把时间序列挖掘以及神经网络两者进行有效地结合，然后再分析有关电力营销数据。此外，有关专家还提出应用一种时间窗的序列挖掘算法，这种方式可以进行有效地报警处理，使电力系统中的故障能够准确的定位并诊断事故。此算法对电力系统的分析和挖掘能力的提高非常有效，还可判定电力系统的运行是否稳定，对错误模型的分析精度达到一定的精确度。
4、结语
电子商务既包括了低层次的电子贸易等，还包括了利用Internet网络开展的贸易活动，在多个环节中实现。电子商务的发展极大地改变了销售商和顾客之间的关系，在纺织业电子商务采用Web数据挖掘主要包括以下几点作用。电子商务进行Web数据挖掘的数据源主要包括查询数据、Web页面、在线市场数据等。服务器数据主要是指用户在访问电子商务网站中所产生的各种信息，如服务器Web日志文件。查询数据通过搜索引擎产生的查询数据，是一种比较典型的数据。服务器数据是网络信息的中转站，服务器数据一般具有防火墙功能，是网络信息的中转站，采用缓存功能，能够大大减少服务器的网络流量，加快运行速度。任何一个电子商务网站在Web数据挖掘过程开始之前需要进行数据挖掘，包括数据的准备、挖掘操作以及解释过程等。Web数据挖掘应用到纺织业电子商务中，能够帮助企业更好的掌握生产状态，更加快速的提出企业的销售信息，准确把握市场销售的变化，进而提高纺织企业对市场的应对能力，也能提高企业对生产的控制和管理能力，最大程度利用人力资源和物理资源，提高经济效益。客户关系管理是一种以客户为中心的经营策略，指导企业的开发发展和销售，提高企业的竞争能力，采用Web数据挖掘技术能够最大限度的利用客户资源，对客户进行分类，寻找潜在的价值，加强纺织业客户的管理工作。企业的信用状况将会严重影响企业的发展，利用Web数据挖掘技术能够跟踪调查企业的经营情况，为保证体系提供数据资料。客户在选择任何一种销售商并没有太大差别，企业本身想要留住客户，就需要想办法让客户驻留更长的时间，想要根据客户的习惯来设计，就需要了解客户的兴趣和需求，动态调整页面，满足用户的需求，挖掘客户访问信息，进而了解客户的需求。根据序列发现客户浏览行为的信息，明白客户的需求，根据顾客的需求来设计别出心载的界面，增加客户的驻留时间。Web数据挖掘在应用中能够帮助纺织企业更好的挖掘潜在的信息，商家可以根据潜在客户的需求和愿望来进行分类，正确的分类新客户，判断潜在的新客户，强化显示客户的需求，保证企业获得更高的客户收益。纺织业电子商务在应用Web数据挖掘中能够改进Web站点的设计，提高站点的效率。纺织业电子商务Web数据挖掘的使用不在依照专家来进行设计，而是根据客户的意愿来进行设计，利用关联规则来进行推理，发现潜在的规律，为客户的下次访问提供帮助。纺织业电子商务应用Web数据挖掘能够改变营销机制，在一般企业的宣传中可以看到，花费大量的资金来进行宣传，所起到的效果不是很好，若是通过电子产品的的方式就能得到更好的营销效果。
2、纺织业电子商务面向Web挖掘的新型架构
2.1Web数据挖掘的流程
采用数据挖掘技术流程为特征信息的识别制定目标问题的描述关联分析聚类决策树等。纺织业电子商务网络在挖掘数据中首先需要记录调库眼特征，包括购买历史、广告历史等信息。目标制定流程是寻找不同的隐含模式，关联分析主要是发现顾客喜爱的商品组合，聚类则是找到能够提供访问者特征的报告，决策树就是流程图，采用最少的步骤解决问题。先记录访问者的条款特征，当访问者访问网站时能够逐渐积累访问者的数据，交互信息包括广告历史等。在网上进行交易的最大优点在于能够有效的评估访问者的反应，采用数据挖掘技术能够得到更好的效果。电子商务网站想要将顾客购买信息这些信息集中在一起，容易出现浏览中出现遗漏的情况，在流程设计中采用聚类，能够确定网站的数据，向不同的访问者提供相应的报告。
2.2纺织业电子商务面向Web挖掘的新型架构
2.2.1Web挖掘关键技术
Web服务的体系结构主要动作构成包括服务注册中心、服务请求者、服务提供者等，服务提供者就是一种可通过网络地址访问的实体，服务请求者是一个应用程序的服务，服务注册中心是联系服务提供者和请求者。Web服务协议可以分为网络传输层、消息层、模型层等。网络传输层是Web服务协议栈的基础，可以采用任何格式，要求具有安全性、性能以及可靠性。数据表示层主要是提供数据描述手段，标准数据建模语言主要是XML。基于XML的消息层提供一个松散的、分布环境，是在分布式的环境中交换信息的轻量级协议。服务描述层主要是提供认识机制，服务分线层在实现中创建一个独立的开放框架，发现Web服务的功能，Web服务工作流语言是协议栈顶层的标准语言。Web服务的关键技术主要包括SOAP协议、WSDL描述方式等，SOAP协议是分布式环境中交换信息的简单协议，能够与现有通信技术最大程度地兼容，独立于应用程度对象模型、语言和运行平台等，本身不定义任何应用语义，一个SOAP信息是一个XML文档，AOAP规范主要由信封、编码规则、绑定等组成，AOAP信封定义整体的消息表示框架。移动Agent技术应用到电子商务中有非常大的优势，移动Agent技术具有响应性、自主性以及主动性等特征，应用到电子商务系统中能够减少电子商务活动的通信代价，减少网上原始数据的流量。电子商务中的教育要求包括访问流程信息，要求系统对环境的变化做出实时的反应，由中央处理器将移动Agent派遣到系统局部点激活消除隐患。
2.2.2Web挖掘平台设计
产品的功能实现在Web数据挖掘平台的设计中至关重要，要求数据挖掘平台具有动态、可伸缩性，能够根据市场需求的变化而随之变化，还要求具有足够的稳定性和可靠性。在进行架构设计时，需要注意架构的合理性、简洁性和可扩展性。根据数据挖掘、Web服务和相关结束，设计数据挖掘架构，见图1所示，Web服务的组合由Agent负责，待返回结果后，能够有效解决数据的分布性、可扩展性等，负责服务之间的通信，降低网络通信的负担，减少相应时间，实现挖掘算法库的动态管理。在挖掘平台的设计中，各种挖掘算法均采用采用Web服务封装，实现挖掘系统与算法的耦合。各个Agent模块之间相互独立。架构逻辑层主要分为4层，数据存储层为最底层，数据处理层主要包括Web服务的架构和数据挖掘的是吸纳，在Agent环境中将XML文件转换，将查询结果再打包成XML文档，形成模式集合最后提供给客户信息，把访问层和逻辑层设计为数据访问的功能封装。客户端的设计主要包括胖客户端和瘦客户端，大部分的系统功能集中在胖客户端。典型的Agent结构应用到Web服务，其他的Agent搜寻和定位这些系统。移动Agent应用到Web数据挖掘中能够弥补很多的不足。在Web挖掘架构设计中，独立出了搜索引擎，使得搜索引擎更加具有灵活性。传统的数据挖掘引擎主要包括算法调用模块和算法管理模块等，算法分布Agent子模块股则命令的传输，向UDDI请求，删除已有的挖掘算法等功能，UDDI服务器与Agent相互交换信息生成算法的WSDL文档，将信息保存到UDDI服务器上，完成任务。
3、Web挖掘原型系统的实现
要了解Web数据挖掘技术，首先就必须要了解数据挖掘技术。数据挖掘是指从大量不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、有用的信息和知识的过程。它的表现形式为概念（Concepts）、规则(Rules)、模式(Patterns)等形式。数据挖掘技术是人们长期对数据库技术进行研究和开发的结果。起初各种商业数据是存储在计算机的数据库中的，然后发展到可对数据库进行查询和访问，进而发展到对数据库的即时遍历。数据挖掘技术是人们长期对数据库技术进行研究和开发的结果。起初各种商业数据是存储在计算机的数据库中的，然后发展到可对数据库进行查询和访问，进而发展到对数据库的即时遍历。Web数据挖掘是一种综合的技术，它主要是使用数据挖掘技术在互联网挖掘各种有用的、有趣的、隐藏起来的信息或者是有用的模式。与传统的数据挖掘相比，Web数据挖掘所挖掘的信息更加的海量，这些信息具有异构和分布广的特点。对于服务器上的日志与用户信息的挖掘仍然属于传统的数据挖掘。Web数据挖掘由于Web的逻辑结构其所挖掘到的模式有可能是关于Web内容的，也有可能是关于Web结构的。同时有些数据挖掘技术也不能直接运用到Web数据挖掘中。Web数据挖掘的研究范围十分广泛，它的研究主要包括了数据库技术、信息获取技术、统计学、神经网络等。Web数据挖掘根据所处理的对象可以分为三类：Web文档的内容挖掘、Web文档的结构挖掘、Web使用的挖掘。Web文档的内容挖掘指的是从Web文档及对其的描述内容中获取到有用的信息，即是对Web上大量的各种文档集合的内容进行处理，例如摘要、分类、聚类、关联分析等。同时内容挖掘还可以对各种多媒体信息进行挖掘。Web上的内容摘要是用简洁的语言和方式对文档的内容进行描述和解释，让用户在不用浏览全文的情况下就可以对全文的内容和文章写作的目的有一个总体的了解。文章写作的目的有一个总体的了解。而Web内容挖掘的这种方式非常有用，例如应用到检索结果的显示中。Web分类则指的是根据已经确定好的类别，为每一个获得的Web文档确定一个大类。聚类则是指的在没有确定类别之前，将相似度高的文档归为一类。关联分析指的是从文档集合中找出不同语词之间的具有的关系。Web文档的结构挖掘指的是从互联网的整体结构和网页之间的相互链接以及网页本身的结构中获取有用的信息和知识。目前为止针对结构的挖掘主要还是链式结构模式。对于Web结构的挖掘主要源于对引文的分析，引文分析的主要内容就是通过对网页的链接数和被连接数以及对象的分析来建立一个链接结构模式，这种模式可以用来对网页进行归类，同时还可以获取网页之间的相似度和关联度等信息。Web使用的挖掘一般情况下指的是对Web日志的挖掘。其挖掘的对象是用户与互联网交互过程中所抽取出来的各种信息，例如访问记录、用户名、用户注册信息以及用户所进行的操作等。在这一方面的研究已经比较成熟，同时也有很多较为成熟的产品例如NETPERCERPION公司的Netpercerptions，Accrue公司的AccrueInsight和AccrueHitList等都是技术较为成熟的产品。
二、Web数据挖掘技术的工作流程
Web数据挖掘技术的主要工作流程可以分为以下几个步骤：第一步，确立目标样本，这一步是用户选取目标文本，以此来作为提取用户的特征信息；第二步，提取特征信息，这一步就是根据第一步得到的目标样本的词频分布，从现有的统计词典中获取所要挖掘的目标的特征向量，并计算出其相应的权值；第三步，从网络上获取信息，这一步是利用通过搜索引擎站点选择采集站点，然后通过Robot程序采集静态的Web页面，最后再获取这些被访问站点的网络数据库中的动态信息，然后生成WWW资源库索引；第四步，进行信息特征匹配，通过提取源信息的特征向量，去和目标样本的特征向量进行匹配，最后将符合阈值条件的信息返回个用户。
三、Web数据挖掘技术在高校数字图书馆中的应用
高校数字图书馆为师生主要提供以下功能：查找图书、期刊论文、会议文献等数字资源；图书借阅、归还等服务；图书信息、管理制度；导航到图书光盘、视频资源等数据库系统。师生时常登录到网站中查找其需要的信息，根据师生所学专业、研究方向不同，关注目标也不同。通常这类师生会到常用的图书馆网站上，查找自己所需要的特定领域的资源；浏览一下有哪些内容发生变化，是否有新知识增加，而且所有改变常常是用户所关注的内容；另外，当目标网页所在的位置有所改变或这个网站的组织结构、层次关系有所变动时，所有这些问题只要稍加改动，容易使用户难以找到所需内容。本课题采用Web挖掘技术与搜索技术相结合。首先允许用户对感兴趣的内容进行定制，构造数据挖掘的先验知识，然后通过构造浏览器插件，捕获用户在浏览器上的行为数据，采用Web数据挖掘的方法，深入分析用户的浏览行为数据，获得用户的信息资料集，最终为用户提供不同的个性化服务页面，并提供用户对站内信息进行搜索功能，同时可以满足师生对于图书馆资源进行查找访问的需求，实现高校图书馆网站资源真正意义上的个性化服务。
1、为开发网络信息资源提供了工具
数字图书馆需要的是一种可以有效的将信息进行组织管理，同时还能够对信息进行深层的加工管理，提供多层次的、智能化的信息服务和全方位的知识服务，提供经过加工、分析综合等处理的高附加值的信息产品和知识产品的工具。目前许多高校数字图书馆的查询手段还只局限于一些基本的数据操作，对数据只能进行初步的加工，不具有从这些数据中归纳出所隐含的有用信息的功能，也使得这些信息不为人知，从而得不到更好的使用，这些都是对网络信息资源的一种浪费。而通过Web数据挖掘技术科研有效的解决这一问题。这种技术可以用于挖掘文档的隐含的有用的内容，或者可以在其他工具搜索的基础上进一步进行处理，得到更为有用和精确的信息。通过Web数据挖掘技术科研对数字图书关注中的信息进行更加有效地整合。
2、为以用户为中心的服务提供帮助
通过浏览器访问数字图书馆后，可被记载下来的数据有两类，一类是用户信息，另一类是用户访问记录。其中用户信息包括了用户名，用户访问IP地址，用户的职业、年龄、爱好等。用户名师用户登录图书馆时输入，用户访问IP地址通过程序获得，其他的信息都是用户在注册时所填写的，访问记录则是在用户登录时所记录的，也是由程序获得。对这些用户信息进行分析可以更加有效的了解用户的需求通过分析服务器中用户请求失败的数据，结合聚集算法，可以发现信息资源的缺漏，从而指导对信息资源采集的改进，让高校数字图书馆的信息资源体系建设的更加合理。对数字图书馆系统的在线调查、留言簿、荐书条等的数据进行收集整理，并使之转化为标准的结构化数据库，然后在通过数据挖掘，皆可以发现用户所感兴趣的模式，同时还可以预先发现用户群体兴趣的变迁，调整馆藏方向，提前做好信息资源的采集计划。通过Web数据挖掘，可以对用户的信息需求和行为规律进行总结，从而为优化网络站点的结构提供参考，还可以适当各种资源的配置更加的合理，让用户可以用更少的时间找到自己所需要的资源。例如可以通过路径分析模式采掘捕捉确定用户频繁浏览访问的路径，调整站点结构，并在适当处加上广告或荐书条。
3、Web数据挖掘技术在图书馆采访工作中的应用
在图书馆的工作中有一步十分的重要，这就是采访工作，采访工作的做的好坏程度会直接的对图书馆的服务质量产生影响。通常情况图书馆的工作人员会根据图书馆的性质、服务对象及其任务来决定采访的内容。但是这种采访局限性很大，很多时候会受采访人员的主观意识的影响，同时这种方式也会显得死板不灵活。很多时候会出现应该购进的文献没有买，不应该买的文献却买了很多等与读者的需求不符的现象。这些现象的产生都是因为缺乏对读者需求的了解和分析。要解决这些问题就必须对读者的需求进行全面的了解和分析，而Web数据挖掘则为解决该问题提供了一种较好的方法。通过对各种日志文件和采访时获得的数据进行分析，可以很清楚的得到读者需要的是什么样的书籍、不需要的又是什么样的书籍，从而为采购提供各种科学合理的分析报告和预测报告。根据对分析还能帮组图书馆管理人员确定各种所需书籍的比例，从而确定哪些文献应该及时的进行补充，哪些文献应该进行剔除，对馆藏机构进行优化，真正的为高校里的师生提供所需要的文献和资料。
4、使用Web数据挖掘技术提供个性化服务
传统的信息检索工具在友好型、可理解性、交互性方面都存在着很大的缺陷。通常情况下都只是将各种查询结果毫无逻辑的简单的进行罗列，用户很难从其中获取自己需要的信息，通过数据挖掘，可以对图书馆网站上的在线调查、留言簿、读者调查表等数据进行收集整理，对不需要的冗余信息进行剔除。通过分析可以获知用户所喜好的浏览模式是哪种，他们常访问的网站的路径是什么，他们对图书馆中的那些资源比较有兴趣。然后再根据用户的普遍需求与每个人的个性需求，建立起相应的规则，从而帮助网站设计人员对网站进行设计和优化，使得这些信息检索变得更加的个性化、智能化，并根据每个用户的偏好等特征将检索到的信息排列处理，使得读者可以用最快的速度获得想要检索的文献信息。通过Web数据挖掘技术可以对用户的特征信息进行总结，将那些从没有发出过信息的潜在用户进行归类，同时还可以免费的为他们提供各种他们所感兴趣的信息和资料，把这些潜在的用户转变为正式的用户使用Web数据挖掘可以对用户的检索日志进行分析，从而得知用户所感兴趣的内容、他们的研究方向，并根据这些内容为用户指定个性化服务的内容，为用户提供各种他们所感兴趣的各种信息。
关键字：数据挖掘金融数据
金融部门每天的业务都会产生大量数据，利用目前的数据库系统可以有效地实现数据的录入、查询、统计等功能，但无法发现数据中存在的关系和规则，无法根据现有的数据预测未来的发展趋势。缺乏挖掘数据背后隐藏的知识的手段，导致了数据爆炸但知识贫乏”的现象。与此同时，金融机构的运作必然存在金融风险，风险管理是每一个金融机构的重要工作。利用数据挖掘技术不但可以从这海量的数据中发现隐藏在其后的规律，而且可以很好地降低金融机构存在的风险。学习和应用数扼挖掘技术对我国的金融机构有重要意义。
一、数据挖掘概述
1.数据挖掘的定义对于数据挖掘，一种比较公认的定义是W.J.Frawley，G.PiatetskShapiro等人提出的。数据挖掘就是从大型数据库的数据中提取人们感兴趣的知识、这些知识是隐含的、事先未知的、潜在有用的信息，提取的知识表示为概念(Concepts)，规则(Rules)、规律(Regularities)、模式(Patterns)等形式。这个定义把数据挖掘的对象定义为数据库。
随着数据挖掘技术的不断发展，其应用领域也不断拓广。数据挖掘的对象已不再仅是数据库，也可以是文件系统，或组织在一起的数据集合，还可以是数据仓库。与此同时，数据挖掘也有了越来越多不同的定义，但这些定义尽管表达方式不同，其本质都是近似的，概括起来主要是从技术角度和商业角度给出数据挖掘的定义。
从技术角度看，数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在的和有用的信息和知识的过程。它是一门广义的交叉学科，涉及数据库技术、人工智能、机器学习、神经网络、统计学、模式识别、知识库系统、知识获取、信息检索、高性能计算和数据可视化等多学科领域且本身还在不断发展。目前有许多富有挑战的领域如文本数据挖掘、Web信息挖掘、空间数据挖掘等。
从商业角度看，数据挖掘是一种深层次的商业信息分析技术。它按照企业既定业务目标，对大量的企业数据进行探索和分析，揭示隐藏的、未知的或验证已知的规律性并进一步将其模型化，从而自动地提取出用以辅助商业决策的相关商业模式。
2.数据挖掘方法
数据挖掘技术是数据库技术、统计技术和人工智能技术发展的产物。从使用的技术角度，主要的数据挖掘方法包括：
2.1决策树方法：利用树形结构来表示决策集合，这些决策集合通过对数据集的分类产生规则。国际上最有影响和最早的决策树方法是ID3方法，后来又发展了其它的决策树方法。
2.2规则归纳方法：通过统计方法归纳，提取有价值的if-then规则。规则归纳技术在数据挖掘中被广泛使用，其中以关联规则挖掘的研究开展得较为积极和深入。
2.3神经网络方法：从结构上模拟生物神经网络，以模型和学习规则为基础，建立3种神经网络模型：前馈式网络、反馈式网络和自组织网络。这种方法通过训练来学习的非线性预测模型，可以完成分类、聚类和特征挖掘等多种数据挖掘任务。
2.4遗传算法：模拟生物进化过程的算法，由繁殖(选择)、交叉(重组)、变异(突变)三个基本算子组成。为了应用遗传算法，需要将数据挖掘任务表达为一种搜索问题，从而发挥遗传算法的优化搜索能力。
2.5粗糙集(RoughSet)方法：Rough集理论是由波兰数学家Pawlak在八十年代初提出的一种处理模糊和不精确性问题的新型数学工具。它特别适合于数据简化，数据相关性的发现，发现数据意义，发现数据的相似或差别，发现数据模式和数据的近似分类等，近年来已被成功地应用在数据挖掘和知识发现研究领域中。
2.6K2最邻近技术：这种技术通过K个最相近的历史记录的组合来辨别新的记录。这种技术可以作为聚类和偏差分析等挖掘任务。
2.7可视化技术：将信息模式、数据的关联或趋势等以直观的图形方式表示，决策者可以通过可视化技术交互地分析数据关系。可视化数据分析技术拓宽了传统的图表功能，使用户对数据的剖析更清楚。
二、数据挖掘在金融行业中的应用数据挖掘已经被广泛应用于银行和商业中，有以下的典型应用：
1.对目标市场(targetedmarketing)客户的分类与聚类。例如，可以将具有相同储蓄和货款偿还行为的客户分为一组。有效的聚类和协同过滤(collaborativefiltering)方法有助于识别客户组，以及推动目标市场。
2..客户价值分析。
在客户价值分析之前一般先使用客户分类，在实施分类之后根据“二八原则”，找出重点客户，即对给银行创造了80%价值的20%客户实施最优质的服务。重点客户的发现通常采用一系列数据处理、转换过程、AI人工智能等数据挖掘技术来实现。通过分析客户对金融产品的应用频率、持续性等指标来判别客户的忠诚度；通过对交易数据的详细分析来鉴别哪些是银行希望保持的客户；通过挖掘找到流失的客户的共同特征，就可以在那些具有相似特征的客户还未流失之前进行针对性的弥补。
3.客户行为分析。
找到重点客户之后，可对其进行客户行为分析，发现客户的行为偏好，为客户贴身定制特色服务。客户行为分析又分为整体行为分析和群体行为分析。整体行为分析用来发现企业现有客户的行为规律。同时，通过对不同客户群组之间的交叉挖掘分析，可以发现客户群体间的变化规律，并可通过数据仓库的数据清洁与集中过程，将客户对市场的反馈自动输人到数据仓库中。通过对客户的理解和客户行为规律的发现，企业可以制定相应的市场策略。
4.为多维数据分析和数据挖掘设计和构造数据仓库。例如，人们可能希望按月、按地区、按部门、以及按其他因素查看负债和收入的变化情况，同时希望能提供诸如最大、最小、总和、平均和其他等统计信息。数据仓库、数据立方体、多特征和发现驱动数据立方体，特征和比较分析，以及孤立点分析等，都会在金融数据分析和挖掘中发挥重要作用。
5.货款偿还预测和客户信用政策分析。有很多因素会对货款偿还效能和客户信用等级计算产生不同程度的影响。数据挖掘的方法，如特征选择和属性相关性计算，有助于识别重要的因素，别除非相关因素。例如，与货款偿还风险相关的因素包括货款率、资款期限、负债率、偿还与收入(payment——to——income)比率、客户收入水平、受教育程度、居住地区、信用历史，等等。而其中偿还与收入比率是主导因素，受教育水平和负债率则不是。银行可以据此调整货款发放政策，以便将货款发放给那些以前曾被拒绝，但根据关键因素分析，其基本信息显示是相对低风险的申请。
6.业务关联分析。通过关联分析可找出数据库中隐藏的关联网，银行存储了大量的客户交易信息，可对客户的收人水平、消费习惯、购买物种等指标进行挖掘分析，找出客户的潜在需求;通过挖掘对公客户信息，银行可以作为厂商和消费者之间的中介，与厂商联手，在掌握消费者需求的基础上，发展中间业务，更好地为客户服务。
7.洗黑钱和其他金融犯罪的侦破。要侦破洗黑钱和其他金融犯罪，重要的一点是要把多个数据库的信息集成起来，然后采用多种数据分析工具找出异常模式，如在某段时间内，通过某一组人发生大量现金流量等，再运用数据可视化工具、分类工具、联接工具、孤立点分析工具、序列模式分析工具等，发现可疑线索，做出进一步的处理。
数据挖掘技术可以用来发现数据库中对象演变特征或对象变化趋势，这些信息对于决策或规划是有用的，金融
行业数据的挖掘有助于根据顾客的流量安排工作人员。可以挖掘股票交易数据，发现可能帮助你制定投资策略的趋势数据。挖掘给企业带来的潜在的投资回报几乎是无止境的。当然，数据挖掘中得到的模式必须要在现实生活中进行验证。
参考文献：
丁秋林，力士奇.客户关系管理.第1版.北京：清华人学出版社，2002
张玉春.数据挖掘在金融分析中的应用.华南金融电脑.2004
目前的垃圾短信过滤的方法主要有黑名单和白名单监控技术，但是短信中心对黑白名单处理数量有上限要求；基于关键字的过滤技术，但是这种技术不能灵活识别和更新关键字；基于内容的过滤技术，可分为基于规则的过滤和基于概率统计的过滤；基于数据挖掘方法的垃圾短信用户识别，目前基本上都使用IBMSPSSModeler平台的决策树和逻辑回归经典算法识别垃圾短信用户，由于选取的建模数据不全面以及算法本身各自存在不足使得建模效果受到影响。为建立白名单和科学封堵模型相结合的垃圾短信治理模式，实现精细化、行为级、高效性的垃圾短信治理，本方案提出了基于客户综合特征分析的垃圾短信治理技术方案：基于随机森林分类的垃圾短信用户预测模型。通过客户入网属性，客户通信行为信息、客户账单信息等多个维度构建模型，对垃圾短信号码进行识别和治理。相比传统基于短信内容识别、发送量控制的事中控制，本系统能够进行垃圾短信发送行为预测，配合垃圾短信拦截系统将垃圾短信在未形成大规模发送前拦截。实验结果证明该模型能够有效的识别垃圾短信号码，对监控系统拦截垃圾短信起到很好的辅助作用。
2大数据挖掘的原理与优势
大数据是指数据量很大（一般是TB到PB数量级）的巨量资料，无法通过主流软件工具，在合理时间内完成数据处理并获取有价值的信息。数据大多以非结构化或者半结构化数据为主，大数据具有4V特点：Volume、Velocity、Variety、Veracity。大数据处理的一般思路是数据压缩、数据抽样、数据挖掘等。数据挖掘是一种新的信息处理技术，其主要特点是对商业数据库中的大量业务数据进行抽取、转换、分析和其它模型化处理，从中提取辅助商业决策的关键性数据。利用数据挖掘进行数据分析常用的方法主要有分类、回归分析、聚类、关联规则、推荐系统等，它们分别从不同的角度对数据进行挖掘。大数据挖据的数据源和处理方式对比。
3数据挖据流程和模型选取
3.1数据挖掘的主要流程
数据挖掘主要包括以下6大步骤。
（1）商业理解：确定挖掘目标以及产生一个项目计划。
（2）数据理解：知晓有哪些数据，以及数据的特征是什么。
（3）数据准备：对数据作出转换、清洗、选择、合并等工作。
（4）建模：根据挖掘目标确定适合的模型，建模并对模型进行评估。
（5）模型评估：评估建模效果，对效果较差的结果我们需要分析原因。
（6）结果部署：用所建挖掘模型去解决实际问题，它还包括了监督、维持、产生最终报表、重新评估模型等过程。
3.2垃圾短信治理指标体系设计
垃圾短信用户识别建模数据主要从信令监测系统、经营分析系统获取，所获取的用户行为数据主要包括用户通信行为信息、用户基础业务属性、用户通信业务信息等7个维度。其中，用户通信行为信息包括活动轨迹、终端IMEI和数据业务访问等信息。
3.3模型的选取
对白名单用户的识别可以利用社交网络模型与业务规则相结合的方法。利用社交网络进行白名单用户识别，重点考虑用户之间发生的通信行为、增值业务交互行为等群体行为，通过对用户之间关系的辨识。本文建模的重点着眼于垃圾短信用户的识别及其治理。
3.3.1现有垃圾短信识别模型的优势与不足
识别垃圾短信用户是数据挖掘中的分类问题，数据挖掘中常用的分类算法主要有逻辑回归、决策树、贝叶斯网络等算法。其中，神经网络因本身算法的复杂性，造成模型结果解释性较差，模型落地较困难而很少在实际项目中使用。目前识别垃圾短信的数据挖掘模型基本上为逻辑回归模型和决策树模型。决策树模型主要具有以下优势：模型非常直观，容易让人理解和应用；决策树搭建和应用的速度比较快；决策树对于数据分布没有严格要求；受缺失值和极端值对模型的影响很小。但是，使用决策树作为垃圾短信用户识别模型主要存在以下不足。
（1）决策树最大缺点是其原理中的贪心算法。贪心算法总是做出在当前看来最好的选择，却不从整体上思考最优的划分，因此，它所做的选择只能是某种意义上的局部最优选择。
（2）决策树缺乏像回归或者聚类那样丰富多样的检测指标和评价方法。
（3）容易出现过拟合。当某些自变量的类别数量比较多，或者自变量是区间型时，决策树过拟合的危险性会增加。
（4）决策树算法对区间型自变量进行分箱操作时，无论是否考虑了顺序因素，都有可能因分箱丧失某些重要信息。尤其是当分箱前的区间变量与目标变量有明显的线性关系时，这种分箱操作造成的信息损失更为明显。
相比于数据挖掘建模常用的其它算法如决策树、神经网络、支持向量机等，逻辑回归技术是最成熟，得到广泛应用，逻辑回归模型主要存在以下不足。
（1）变量之间的多重共线性会对模型造成影响。
（2）应删除异常值，否则它会给模型带来很大干扰。
（3）逻辑回归模型本身不能处理缺失值，所以应用逻辑回归算法时，要注意针对缺失值进行适当处理，或者赋值，或者替换，或者删除。
3.3.2垃圾短信识别预测模型选取
鉴于目前研究者对垃圾短信识别使用的决策树和逻辑回归模型存在较多不足之处，本文从模型算法上对其进行改进，力求得到更加科学合理的垃圾短信识别预测模型。本文使用的数据挖掘模型为随机森林模型。
3.3.2.1模型简介
随机森林（RandomForest）算法是一种专门为决策树分类器设计的优化方法。它综合了多棵决策树模型的预测结果，其中的每棵树都是基于随机样本的一个独立集合的值产生的。随机森林和使用决策树作为基本分类器的Bagging有些类似。以决策树为基本模型的Bagging在每次自助法（Boostrap）放回抽样之后，产生一棵决策树，抽多少样本就生成多少棵树，在生成这些树的时候没有进行更多的干预。而随机森林也是进行许多次自助法放回抽样，所得到的样本数目及由此建立的决策树数量要大大多于Bagging的样本数目。随机森林与Bagging的关键区别在于，在生成每棵树的时候，每个节点变量都仅仅在随机选出的少数变量中产生。因此，不但样本是随机的，就连每个节点变量产生都有相当大的随机性。随机森林让每棵树尽可能生长，而不进行修剪。随机森林算法主要包括决策树的生长和投票过程。随机森林中单棵树的生长可概括为以下几步。
（1）使用Bagging方法形成个别的训练集:假设原始训练集中的样本数为N，从中有放回地随机选取N个样本形成一个新的训练集，以此生成一棵分类树。
（2）随机选择特征(指评估指标，以下同)对分类树的节点进行分裂:假设共有M个特征，指定一个正整数m<M，在每个内部节点，从M个特征中随机抽取m个特征作为候选特征，选择这m个特征上最好的分裂方式对节点进行分裂。在整个森林的生长过程中，m的值保持不变。
（3）每棵树任其生长，不进行剪枝。Bagging方法形成新的训练集和随机选择特征进行分裂，使得随机森林能较好地容忍噪声，并且能降低单棵树之间的相关性；单棵树不剪枝能得到低偏差的分类树，同时保证了分类树的分类效能(Strength)，分类树的分类效能是指分类树对新的测试数据的分类准确率。
3.3.2.2随机森林分类预测模型的主要优势
（1）随机森林的预测精度高，它可以产生高准确度的分类器。
（2）可以处理相当多的输入变量。随机森林不惧怕很大的维数，即使有数千个变量，也不必删除，它也会给出分类中各个变量的重要性。
（3）当在构建随机森林模型时候，对GenerlizationError估计是无偏估计。
（4）随机森林在设计上具有很快训练速度，训练出结果模型不必花费大量时间。
（5）对缺失值和极端值具有很强容忍能力，即使有较多缺失数据仍可以维持准确度。
（6）当遇到分类数据不平衡时，可以较好地平衡误差。
（7）随机森林算法并不会导致过拟合。定义组合分类器的总体分类效能s为：s=Ex,ymg(x,y)。若用ρ表示每棵分类树之间相关度的均值，则随机森林的泛化误差PE的上界可由下式给出:PE*≤ρ(1-s2)/s2。当随机森林有相当多的分类树时，随机森林的泛化误差几乎处处收敛于一个有限值。因此，随着森林中分类树数目的增长，随机森林算法并不会导致过拟合。
（8）随机森林在模型训练过程中，能够对特征之间的相互影响行为做出检测。随机森林算法具有以上优势，在垃圾短信治理预测中具有应用的优势，本文采用随机森林模型作为垃圾短信用户的分类预测。综上所述，随机森林模型主要在不会出现过拟合、训练精度高、能处理大量输入变量并输出变量重要性3个方面优越于决策树模型；在容忍缺失值和极端值方面明显优越于逻辑回归模型。随机森林模型在算法设计上有效弥补了决策树和逻辑回归模型的不足之处，在垃圾短信识别分类预测中具有较好的应用价值。
3.3.2.3垃圾短信数据挖掘模型构建
通过前述的商业理解确定了垃圾短信识别业务需求，并进行数据理解构建了垃圾短信识别指标体系，再抽取需要的数据，并进行数据清洗、转换、衍生变量计算等步骤，具备了建模的目标数据，接下来的任务就是通过随机森林模型构建垃圾短信分类预测模型，对垃圾短信用户进行识别。
3.4用户分类治理策略
通过随机森林模型的识别，根据用户是垃圾短信发送者的可能性评估，制定不同的治理策略，如图3所示。实际的执行过程中，需要根据清单的范围大小，适当的调整预测概率门限，以保证策略执行的效果，同时避免过多的正常用户的业务感知受到影响。
4垃圾短信治理平台的实现
4.1系统架构
垃圾短信治理平台的数据来源较多，需要处理的数据量也非常大，因此，数据采集和数据处理过程是相互影响的过程。垃圾短信治理平台的系统架构图如图4所示。
（1）数据采集层：是垃圾短信治理平台与多个数据库来源的安全访问接口，通过数据采集层实现数据挖掘和分析所需要的基础信息：用户属性信息、用户卡号信息、用户业务记录、用户的位置信息和消费记录。
（2）数据处理层：需要根据数据挖掘的需求，将采集的基础数据转换为业务服务层可以使用的数据，通过对基础数据进行整形、清洗和预处理，为后续的数据挖掘做好数据准备。
（3）业务服务层：主要包括应用和安全服务两个部分，应用包括数据查询统计服务、用户查询服务和GIS应用服务，同时，补充报表服务和文件管理服务以方便日常的工作。通过外部接口服务，可以部署相应的权限管理、数据管理维护以及注册服务等，降低系统的风险，保证信息的安全传递。
（4）功能模块：主要是根据客户需求，定制开发的功能单元，功能模块的个数以实际部署的情况为准。以图4垃圾短信治理平台的系统架构图某省公司的定制模块为例，主要包括指标查询模块、垃圾短信治理模块、用户综合信息分析模块和市场支撑应用模块4个部分。
4.2效果展现
针对不同的部门或用户，垃圾短信治理平台展现不同的数据，主要包括以下的结果展现方式。
（1）治理效果掌控：通过指标查询系统，及时掌握垃圾短信的治理效果，发现工作的成果和风险，达到及时发现问题并快速响应的目的。
（2）治理效率提升：通过垃圾短信治理模块，快速准确识别垃圾短信源头并定位区域，下发至地市公司快速处理，减小垃圾短信带来的不良社会影响。
（3）实现预先管控：通过用户综合信息分析模块，可以对潜在的具有垃圾短信源头特征的风险终端进行监控、通过外呼、资费信息等情况，提前发现和治理潜在垃圾短信源。
（4）渠道规范化：市场部门通过渠道信息和卡号信息，对一些垃圾短信来源集中的渠道的发卡进行监督和严格控制，从源头上减少垃圾短信的源头。
关键词：数据挖掘；决策树；C4.5算法；教学管理；高校教学
中图分类号：TP391 文献标识码：A 文章编号：1009-3044（2012）30-7150-04
随着数字信息化社会的飞速发展，计算机技术和数据库管理系统被广泛应用于科学探索、商业、金融业、电子商务、企业生产等各种行业，已逐渐发展成为一种智能管理过程。数据挖掘作为一种新兴的数据分析技术，它的研究成果取得了令人瞩目的成就[1]。利用数据库技术，通过对教务管理的大量数据进行多层次、多维度的加工处理，从而实现人性化管理，为科学决策提供支持。
毕业论文在教学体系中占有十分重要的位置，是本科生培养计划中衡量教学质量的重要指标。提高毕业论文教学质量是一项系统工程，为研究在当前的教学条件下如何提高毕业论文教学质量，本文采用数据挖掘技术对影响毕业论文成绩管理的多方面因素进行了深入分析和挖掘，以期发现对学校毕业论文教学管理有用的知识，将这些知识应用于本科学生毕业论文教学实践中，为学校管理者提供有用的信息，进而获得更好的管理效益，为学校未来的发展提供更广阔的空间，发挥重要的作用。
1 数据挖掘简介
数据挖掘（Data Mining），又称数据库中的知识发现（Knowledge discovery in Database. KDD）[2]，是通过分析每一个具体数据，从大量的、有噪声的、模糊的、随机的海量数据中寻找其规律的技术，它是数据库研究中的一个很有应用价值的新领域。
1.1 数据挖掘的定义
H包含如下功能：
综上所述，数据挖掘具有三大特点：其一是处理大型数据；其二应用数据挖掘的目的是发现未知的、有意义的模式或规律；其三是一个对大量数据处理的过程，有特定的步骤[3]。
1.2 数据挖掘的主要方法
数据挖掘是一个多学科交叉领域，它由人工智能、机器学习的方法起步，并与统计分析方法、模糊数学和可视化技术相融合，以数据库为研究对象，围绕面对应用，为决策者提供服务。
数据挖掘的方法主要可分为六大类：统计分析方法、归纳学习方法、仿生物技术、可视化技术、聚类方法和模糊数学方法。归纳学习法是目前重点研究的方向，本文根据给定的训练样本数据集，采用归纳学习法中的决策树技术构造分类模型，将事例分类成不同的类别。
2 决策树算法基本理论
2.1 决策树方法介绍
决策树[4]方法是以事例学习为基础的归纳推算法，着眼于从一组无序的，无规则的事例中推断出类似条件下会得到什么值这类规则的方法，它是一种逼近离散值函数的方法，也可以看作一个布尔函数[5]。决策树归纳方法是目前许多数据挖掘商用系统的基础，可以应用于分析数据，同样也可以用来作预测。建模过程中，即树的生长过程是不断的把数据进行切分，采用“自顶向下，分而治之”的方法将问题的搜索空间划分为若干个互不交叉的子集，通常用来形成分类器和预测模型。如图1所示，为决策树的示意图。
决策树一种类似流程图的树形结构，是一种知识的表现形式。为了对未知样本进行分类，生成具体的分类规则，信息样本的各个属性值要在决策树上进行测试。主要分为两个阶段：在第一阶段中生成树。决策树最上面的节点为根节点，是整个决策树的开始，然后递归的进行数据分区，每次切分对应一个问题，也对应着一个节点；在第二阶段中对树进行修剪，此过程中去掉一些可能是噪音或异常的数据，防止决策树的过匹配，进而保证生成决策树的有效性和合理性。当一个节点中的所有数据都属于同一类别，或者没有属性可以再用于数据进行分割时，分割工作停止。具体的工作流程如图2所示。
2.2 C4.5算法
1986年Ross Quinlan首次提出了ID3决策树算法，它是最早的决策树算法之一。ID3算法运用信息熵理论，选择当前样本中具有信息增益值的属性作为测试属性，对样本的划分则依据测试属性的取值[6]。C4.5算法是在ID3算法基础上发展起来的，它继承了ID3算法的全部优点，并增加了新的功能改进了ID3算法中的不足，可以进行连续值属性处理并处理未知值的训练样本。在应用单机的决策树算法中，C4.5算法不仅分类准确而且执行速度快。
C4.5通过两个步骤来建立决策树：第一阶段树的生成，第二阶段树的剪枝。C4.5算法采用信息增益率来记录字段不同取值的选择，首先计算各个属性的信息增益率，寻找到规则信息的优劣，选出信息增益率最大的属性作为结点，自顶向下生成决策树。C4.5算法构造决策树的基本策略如下：
首先计算出给定样本所需的期望信息，设S为一个包含s个数据样本的集合，对于类别属性，可以取m个不同取值，分别对应于m个不同的类别[Ci（i∈1，2，...，m）]。假设类别[Ci]中的样本个数为[si]，期望信息为：
其中，[Pi]是任意样本属于[Ci]的概率，并用[sis]估计。
接着，计算当前样本集合所需用的信息熵，设一个属性A具有n个不同的值[（a1，a2，...an）]，利用属性A可以将集合S划分为n个子集[S1，S2，...Sn]，其中[Sj]包含了S集合中属性A取[aj]值的样本数据。如果属性A被选作测试属性，设[Sij]为[Sj]中属于[Ci]类别的样本集，根据A划分计算的熵为：
然后利用属性A对当前分支结点进行相应样本集合划分计算信息增益：
最后，求信息增益率，表达式为：
C4.5算法的伪代码如下：
输入：训练样本Samples；目标属性Target—attribute；候选属性的集合Attributes
输出：一棵决策树
1）创建根节点root；
2）If Samples都在同一类C Then；
3）返回label=类C的单结点树root；
4）If Attributes为空Then；
5）返回单结点树root，[label=Samples]中最普遍的Target-Atribute值；
6）Else；
7）For each测试属性列表Attributes中的属性；
8）IF测试属性是连续的Then；
9）对测试属性进行离散化处理，找出使其信息增益比率最大的分割阈值；
10）Else；
11）计算测试属性的信息增益比率；
20）添加子树Generate Tree C4.5；
21）对已建立的决策树计算每个结点的分类错误，进行剪枝，并返回根结点Root。
3 毕业论文成绩管理系统的设计和实现
利用数据挖掘技术对学生的成绩数据进行提炼，所产生的结果和信息会对以后的教学管理工作提供有用的信息，进而获得更好的管理效益。解决问题的重点在于怎样对学生的毕业论文成绩进行全面且深度的分析，从而挖掘出成绩与其他因素之间隐藏的内在联系。本文采用决策树技术挖掘信息时，主要操作步骤如下：
1）确定挖掘来源：清晰地定义挖掘对象，明确挖掘目标是数据挖掘所有工作中重要的一步。本文中应用于挖掘的数据信息是毕业生的毕业论文成绩，旨在通过对大量成绩数据进行各层次的挖掘，全面了解具体影响学生毕业论文成绩的各方面因素，正确的针对问题拟定分析过程。
2）获取相关知识：数据是挖掘知识最原始的资料，根据确定的数据分析对象，抽象出数据分析中所需要的特征信息模型。领域问题的数据收集完成之后，与目标信息相关的属性也随之确定。这些数据有些是可以直接获得的，有些则需要对学生进行调查才能的得到。
3）数据预处理：此过程中是对已收集的大量数据进行整合与检查。因为存放在数据库中的数据一般是不完整的、不一致的，通常还含有噪声的存在。因此就需要对数据库中数据进行清理、整理和归并，以提高挖掘过程的精度和性能。
4）数据转换：对预处理后的数据建立分析模型，对于特定的任务，需要选择合适的算法来建立一个准确的适合挖掘算法的分析模型。本文采用决策树技术进行分类建模来解决相应的问题。
5）分类挖掘知识和信息：此阶段的工作目的是根据系统最终要实现的功能和任务来确定挖掘的分类模型。选择合适的数据挖掘技术及算法，并采用恰当的程序设计语言来实现该算法，对净化和转换过得数据训练集进行挖掘，获得有价值的分析信息。
6）知识表示：将数据挖掘得到的分析信息进一步的解释和评价，生成可用的、正确的、可理解的分类规则呈现给管理者，应用于实践。
7）知识应用：将分析得到的规则应用到教学管理中，教师可以利用所得到的知识针对性的开展毕业设计的教学活动，进一步指导教学工作，提高教学水平和学生的毕业论文质量。
4 结论
最终发现影响学生毕业论文成绩主要的因素不是指导教师的职称，学生的基础及感兴趣程度，而是指导教师的学历高低。根据具体分类规则的结论，学校教学管理工作应加重对教师的素质及能力培养，合理的分配每个教师的毕业论文指导工作，不仅能够有效的完成毕业课题指导工作，更有助于学生整体论文质量的提高。
在高校教学数字化的时代趋势下，利用数据挖掘技术来挖掘提取教学工作中的全面而有价值信息，可以为教育管理者的教学工作提供有效的参考信息，改进教学管理方法，提高教学质量和学生的综合素质，是高校保持良好的可持续发展的有力工具。
参考文献：
[1] 刘玉文.数据挖掘在高校招生中的研究与应用[D].上海：上海师范大学，2008.
[2] 魏萍萍，王翠茹，王保义，张振兴.数据挖掘技术及其在高校教学系统中的应用[J].计算机工程，2003.29（11）：87-89.
[3] 刘林东. Web挖掘在考试系统中的应用[J].计算机应用研究，2005（2）：150-154.
[4] Tom M Mitchell.（美）卡内基梅隆大学.机器学习[D].曾华军，张银奎，译，北京：机械工业出版社，2003.
购物车(0)