基于入侵检测的特征提取方法

第２７卷第６期　２０１０年６月　计算机应用与软件　Ｃｏｍｐｕｔｅｒ　Ａｐｐｌｉｃａｔｉｏｎｓ　ａｎｄ　Ｓｏｆｔｗａｒｅ　ＶｏｌＩ　２７　Ｎｏ．６　Ｊｕｎ．２０１０　基于入侵检测的特征提取方法　朱笑荣杨德运　（泰山学院信息科学技术学院　山东泰安２７１０２１）　摘要　利用核主成份分析对入侵检测的训练样本进行特征提取，有效地提取出样本的分类信息，降低了维数。在此基础上，进　一步将简约支持向量机ＲＳＶＭ（Ｒｅｄｕｃｅｄ　ＳＶＭ）方法应用到非线性的ＰＳＶＭ中，降低了核矩阵的计算量。两种方法相结合提高了训练　速度和入侵检测的分类效果，并且一定程度上还改善了分类的正确率和误报率，数值试验证明算法的有效性。　关键词　ＲＳＶＭ　ＰＳＶＭ特征提取　ＦＥＡＴＵＲＥ　ＥＸＴＲＡＣＴＩｏＮ　ＭＥＴＨｏＤ　ＢＡＳＥＤ　ｏＮ　ＩＮＴＲＵＳＩｏＮ　ＤＥＴＥＣＴＩｏＮ　Ｚｈｕ　Ｘｉａｏｒｏｎｇ　Ｙａｎｇ　Ｄｅｙｕｎ　（Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｔｅｃｈｎｏｌｏｇｙ，Ｔａ￣ｈａｎ　Ｃｏｌｌｅｇｅ，Ｔａｉａｎ　２７１０２１，Ｓｈａｎｇｄｏｎｇ，Ｃｈｉｎａ）　Ａｂｓｔｒａｃｔ　Ｉｎ　ｔｈｅ　ｐａｐｅｒ　ｗｅ　ｕｓｅ　ｔｈｅ　ｋｅｒｎｅｌ　ｐｒｉｎｃｉｐａｌ　ｃｏｍｐｏｎｅｎｔ　ａｎａｌｙｓｉｓ　ｔｏ　ｅｘｔｒａｃｔ　ｆｅａｔｕｒｅｓ　ｆｒｏｍ　ｉｎｔｒｕｓｉｏｎ　ｄｅｔｅｃｔｉｏｎ　ｔｒａｉｎｉｎｇ　ｓａｍｐｌｅｓ．Ｔｈｅ　ｍｅｔｈｏｄ　ｅｘｔｒａｃｔｓ　ｆｅａｔｕｒｅｓ　ａｎｄ　ｒｅｄｕｃｅｓ　ｔｈｅ　ｄｉｍｅｎｓｉｏｎｓ　ｖｅｒｙ　ｅｆｆｅｃｔｉｖｅｌｙ．Ｉｎ　ａｄｄｉｔｉｏｎ，ｗｅ　ｆｕｒｔｈｅｒ　ｍａｋｅ　ｕｓｅ　ｏｆ　ＲＳＶＭ　ｍｅｔｈｏｄ　ｔｏ　ｎｏｎｌｉｎｅａｒ　ｐｒｏｘｉｍａｌ　ＳＶＭ（ＰＳＶＭ）ａｎｄ　ｔｈｉｓ　ｒｅｄｕｃｅｓ　ｔｈｅ　ｃｏｍｐｕｔａｔｉｏｎ　ｃｏｍｐｌｅｘｉｔｙ　ｏｆ　ｋｅｒｎｅｌ　ｍａｔｉｒｘ．Ｔｈｅ　ｃｏｍｂｉｎａｔｉｏｎ　ｏｆ　ｔｈｅ　ａｂｏｖｅ　ｔｗｏ　ｍｅｔｈｏｄｓ　ｉｍｐｒｏｖｅｓ　ｔｈｅ　ｔｒａｉｎｉｎｇ　ｓｐｅｅｄ　ａｎｄ　ｔｈｅ　ｃｌａｓｓｉｉｆｃａｔｉｏｎ　ｅｆｆｅｃｔ　ｏｆ　ｉｎｔｕｒｓｉｏｎ　ｄｅｔｅｃｔｉｏｎ．Ｂｅｓｉｄｅｓ，ｉｔ　ｍｅｌｉｏｒａｔｅｓ　ｔｈｅ　ｃｏｒｒｅｃｔｉｏｎ　ｒａｔｅ　ａｎｄ　ｆｌａｓｅ　ａｌａｒｍ　ｒａｔｅ　ｏｆ　ｔｈｅ　ｃｌａｓｓｉｉｆｃａｔｉｏｎ　ｔｏ　ｃｅｒｔａｉｎ　ｅｘｔｅｎｔ，ｎｕｍｅｒｉｃａｌ　ｔｅｓｔ　ａｌｓｏ　ａｔｔｅｓｔｓ　ｔｈｅ　ｖａｌｉｄｉｔｙ　ｏｆ　ｔｈｅ　ａｌｇｏｒｉｔｈｍ．　Ｋｅｙｗｏｒｄｓ　Ｒｅｄｕｃｅｄ　ｓｕｐｐｏｒｔ　ｖｅｃｔｏｒ　ｍａｃｈｉｎｅ（ＲＳＶＭ）ＰＳＶＭ　Ｆｅａｔｕｒｅ　ｅｘｔｒａｃｔｉｏｎ　０　引　言　１　ＫＰＣＡ方法　用ＳＶＭ方法解决入侵检测问题时，维数高、数量大的数据　ＫＰＣＡ是ＰＣＡ方法的非线性推广形式。它在任意维数的特　集导致核矩阵的计算量很大，使得ＳＶＭ方法难以应用于此类数　征空间中起到类似于ＰＣＡ的作用，并且当核函数取线性核函数　据集上。这就需要一种简化数据的方法，对数据进行特征提取，　时，ＫＰＣＡ等价于ＰＣＡ。ＫＰＣＡ方法并不是直接计算样本协方差　消除数据的相关性和噪声，提取样本信息的主元，降低样本空间　矩阵的特征向量，而是将其转化为求核矩阵的特征值和特征向　的维数，在这些新特征上应用数据挖掘的算法。主成份分析　量问题，避免了在整个特征空间上求特征向量。与其它非线性　ＰＣＡ（Ｐｒｉｎｃｉｐａｌ　Ｃｏｍｐｏｎｅｎｔ　Ａｎａｌｙｓｉｓ）为输入数据由高维降为低维　特征提取方法相比，它不需要解非线性优化问题，本质上它与　提供了一个很好的方法，但现实中变量之间的关系往往是非线　ＰＣＡ一样是一个线性代数问题。图１形象地说明了ＰＣＡ和ＫＰ．　性的，ＫＰＣＡ　作为一种非线性的ＰＣＡ方法可以有效地提取输　ＣＡ的特征提取过程。　入数据的非线性信息。文献［２］表明经过特征提取之后的ＳＶＭ　分类算法具有更好的分类精度和分类速度，并且ＫＰＣＡ特征提　取后的效果明显优于ＰＣＡ和独立成份分析ＩＣＡ（Ｉｎｄｅｐｅｎｄｅｎｔ　Ｃｏｍｐｏｎｅｎｔ　Ａｎａｌｙｓｉｓ），在达到同样分类性能的前提下，ＫＰＣＡ所　需的主元个数要少于ＰＣＡ。　当样本数量很大时，仅使用ＫＰＣＡ的ＳＶＭ方法仍难以应用　于大数据量的问题　』。因此在输入数据由高维降为低维以后，　若在样本数量方面进一步进行约简，并能在不影响分类性能的　前提下仅使用一部分样本代替整个样本来进行计算，则可以进　一步减少计算量提高计算速度。　本文研究了入侵检测的特征提取方法，利用ＫＰＣＡ方法进　图１　ＫＰＣＡ特征提取　行了特征提取，并在此基础上提出了将ＲＳＶＭ方法应用到非线　性的ＰＳＶＭ中去的方法，进一步地提高了训练的速度，并且一定　程度上还改善了分类的正确率和误报率，数值试验证明算法的　收稿日期：２００９—０７—２２。国家自然科学基金（６０８７２１６１）。朱笑　有效性。　荣，硕士，主研领域：优化方法与应用。　第６期　朱笑荣等：基于入侵检测的特征提取方法　３１　２　Ｒｅｄｕｃｅｄ　ＳＶＭ方法　ＰＳＶＭ　方法通过对标准ＳＶＭ方法在目标函数以及约束函　数上的进一步改进，使原来的优化问题从一个不等式约束问题　转化为等式约束问题，从而使问题简单快速地得以解决。其中，　非线性ＰＳＶＭ解如下问题：　４数值实验　实验在Ｗｉｎｄｏｗｓ平台下Ｍａｔ］ａｂ　７．１上进行，计算机ＣＰＵ为　Ｐｅｎｔｉｕｍ４　２．８０　ＧＨｚ，内存２５６Ｍ。实验中核函数选用常用的高斯　核函数Ｋ（　，Ｙ）＝ｅｘｐ（一　一Ｙ　／２ｖ　）。对预处理后的数据　集，利用ＫＰＣＡ进行核主成分分析，有效地提取出原来数据各属　ｆ　予　＋寺（ｕ　＋ｙ２）　ｆ１１　性的非线性关系。表１在样本个数取不同值情况下，对标准ＰＳ—　ＶＭ方法，应用ＫＰＣＡ和ＲＳＶＭ的ＰＳＶＭ方法按照入侵检测分类　ｌ　．￡．Ｏ（Ｋ（Ａ，Ａ，）Ｄ　一ｅ　）＋　：ｅ　分类超平面为Ｋ（　，Ａ　）Ｄｕ一　＝０。　假设训练样本矩阵　是一个ｍ　ｘ　的矩阵，则核矩阵Ｋ（　，　Ａ　）是一个ｍ×ｍ的矩阵。Ｒｅｄｕｃｅｄ　ＳＶＭ技术　用一个训练集　的很小的子集Ａ代替　（』４，Ａ　）中的第二个Ａ，即用Ｋ（Ａ，Ａ　）代替　（Ａ，Ａ　），Ａ是随机选择的整个样本集　的一个子集，通常只占　Ａ的１％到１０％，相应地用与Ａ相对应的Ｄ和“代替（１）式中约束　函数括号内的　和“。这样核矩阵的计算由ｍ　ｘ　ｍ大小变成ｍ　×ｍ大小，而约束仍然是ｍ个。此时分类超平面相应地变为Ｋ　（　，Ａ　）Ｄｕ—　：０。即一旦训练得到了分类超平面，就不必再　存储整个样本集Ａ，这样既降低了内存需要又减少了判断新样　本类别的计算时间。　Ａ是随机选择的整个样本集Ａ的一个子集，通常只占Ａ的　１％到１０％。用　（Ａ，Ａ　）代替　（Ａ，Ａ　）可以理解成一种基于实　例的学习，即通过在原始数据集Ａ与约简后的数据集Ａ之间形　成核函数Ｋ（Ａ，Ａ　），使Ａ从Ａ中进行学习，数值实验证明了此种　方法是非常有效的。与其形成鲜明对比的是，如果用　（』４，Ａ　）　代替Ｋ（Ａ，Ａ　），方法对Ａ的选择很敏感，而且测试集准确率很不　理想。这实际上相当于只用ｍ个样本进行训练，效果肯定不如　Ｒｅｄｕｃｅｄ　ＳＶＭ所采取的方法。　３改进的ＰＳＶＭ方法　采用ＲＳＶＭ技术后式（１）变为：　ａｒｉ　ｎ号ＩＩ￣：Ｉ　＋吉（一ｕ＇ｕ＋２）　（２）　ｔｓ．ｔ．Ｄ（Ｋ（Ａ，Ａ　）Ｄ　Ｍ—ｅｙ）＋　＝。　记Ｋ＝　（　，Ａ　），式（２）的Ｌａｇｒａｎｇｅ函数为：　（　，　，　，／３）＝÷　ｌ　ｌ＋÷ｌＩ（　，　）ｌ　Ｉ一　卢　（Ｄ（ＫＤ“一　ｙ）＋　一ｅ）　（３）　由ＫＫＴ充要条件，可得：　ｕ＝ＤＫ　＝一ｅ　＝—　（４）　Ｄ（ＫＤ　Ｍ—ｅｙ）＋　＝ｅ　（５）　将式（２）一式（４）代入式（５），可得：　＝（　，＋ＧＧ　）一ｅ　其中Ｇ＝Ｄ［Ｋ—ｅ］通过求解出　，得到了“、　，进而得到最终的非　线性分类面Ｋ（ｘ．Ａ　）Ｄｕ—　＝０。　假设训练集有ｍ个样本，当ｍ非常大时，在引入了核函数　Ｋ（Ａ，Ａ　）后就将一个ｍ×ｍ大小的核矩阵缩减为一个大小为ｍ　ｘ　的小很多的核矩阵，提高了计算速度。　器的检测率ＤＲ（Ｄｅｔｅｃｔｉｏｎ　Ｒａｔｅ）、误报率ＦＰ（Ｆａｌｓｅ　Ｐｏｓｉｔｉｖｅ　Ｒａｔｅ）、训练时间Ｔｒ（Ｔｒａｉｎｉｎｇ　Ｔｉｍｅ）进行了对比。参数Ｃ指非线　性ＰＳＶＭ目标函数中的惩罚参数，参数　指核函数中的参数，　‘——’指计算量已超出内存，ｒｒ即ｒｅｄｕｃｅｄ　ｒａｔｅ，指Ｒｅｄｕｃｅｄ　ＳＶＭ　方法中子集Ａ的样本个数与整个集合Ａ的样本个数的比如表１　所示。　表１　ＫＤＤＣＵＰ９９的实验结果　ＰｓＶＭ　ＫＰＣＡ＋ＲＳＶＭ　Ｌｉｎｅａｒ　ＰｓＶＭ　Ｎｏｎｌｉｎｅａｒ　ＰｓＶＭ　Ｌｉｎｅａｒ　ＰＳ、Ｍ　Ｎｏｎｌｉｎｅａｒ　ＰＳＶＭ　样本数　ＤＲ　ＤＲ　ＤＲ　ＤＲ　参数　ＦＰ　ＦＰ　参数　ＦＰ　ＦＰ　（ｅ）　ＴＩ＂　参数　１Ｔｒ　（ｃ）　Ｔｒ　参数　Ｔｒ　９１．３７　ｌ０ｏ　９２．３３　Ｃ＝１ｏｏ　９４　５２　ｃ：ｌ０００　３５４　ｌ００　ｌ５．ｏｏ　８．００　１ｏｏ　１２　１４　ｖ＝２　２３　５　ｍ　ｖ：２　２３　０．００４　０　０７　０　Ｏ０２　１Ｔ＝１　０　ｏ６　８９．５２　９７　２８　９２　８Ｏ　Ｃ＝１００　９８　ｌ３　Ｃ＝ｌｏ００　７０ｏ　ｌ７．４０　１６．０６　１ｏ０ｏ　１４　２Ｏ　ｖ＝２．２３　ｌ０　３２　１０００　ｖ＝２　２３　Ｏ．【）１　２　９８　Ｏ　０ｏ６　１Ｔ＝０．３　２　７Ｏ　８５　５３　９３．叭　Ｃ＝０．２　９６．２１　ｌ６ｏ０　ｌ４　４０　０　５　１４．５２　ｖ＝１．５　８．８９　０　５　０．２２　Ｏ．２１　ＩＴ＝０．２　５　４３　８６．２５　９ｌ　０ｌ　Ｃ：０　ｌ　９７　２５　３１０ｏ　ｌ４　３Ｏ　１３．８０　ｖ＝ｌ　８．３４　Ｏ．１　０．１　０．２３　０　２３　Ｈ＝０．１　１２　３１　８２．Ｏ５　９ｏ　５６　Ｃ＝０．５　９８　６７　８ｌｏ０　０　ｌ　１３．４０　Ｏ．１　ｌ２　Ｏ１　ｖ＝１．５　６．６８　０　２９　０　２８　ＩＴ：０．０５　３８．３２　通过实验结果可以发现，与标准的ＰＳＶＭ方法相比，不论线　性情况还是非线性情况，应用ＫＰＣＡ进行特征提取后检测的检　测率和误报率都进一步得到改善。而当样本个数达到１０００时，　在近４０维的数据集上，传统的非线性ＰＳＶＭ方法将溢出内存，　而应用了ＲＳＶＭ技术的ＰＳＶＭ方法则可以大大地降低对内存的　要求。　经过ＫＰＣＡ方法有效的特征提取以及ＲＳＶＭ对样本个数的　约简，再结合快速的ＰＳＶＭ方法，最终的ＳＶＭ方法不论在速度　还是在准确率上都有了显著的改善。　参考文献　［１］Ｂｅｒｎｈａｒｄ　Ｓｃｈ￣ｌｋｏｐｆ，Ａｌｅｘａｎｄｅｒ　Ｊ．Ｓｍｏｌａ，Ｋｌａｕｓ．Ｒｏｂｅｒｔ　Ｍａｉｌｅｒ．Ｋｅｒｎｅｌ　Ｐｒｉｎｃｉｐａｌ　Ｃｏｍｐｏｎｅｎｔ　Ａｎａｌｙｓｉｓ［Ｊ］．Ｎｅｕｒａｌ　Ｃｏｍｐｕｔ，１９９８，１２（１０）：　１２９９—１２９３．　（下转第９４页】　９４　计算机应用与软件　２０１０皇　Ｓｐａｇｅｌｄ＋（１一ａ）　Ｖ）　／／判断是否加入当前会话　｛ｓｔｍｐｓｅｔ．ａｄｄｌｏｇ（１ｏｇ［ｒｉｎｄｅｘ］）；　ｌｏｇ［ｒｉｎｄｅｘ］．ｆｌａｇ＝ｔｒｕｅ；　ｆｉｎｄｅｘ＝ｒｉｎｄｅｘ；　Ｖ＝（Ｖ＋（１０ｇ［ｒｉｎｄｅｘ］．ａｃｃｅｓｓＴｉｍｅ—ｌｏｇ［１ｏｇｉｄ］．ａｃｃｅｓｓ—　Ｔｉｍｅ））／２｝　／／平均访问时间阈值　ｅｌｓｅ　｛ｉｆ（ＮｅｗＳｅｓｓｉｏｎｌｎｄｅｘ＝０）　ＮｅｗＳｅｓｓｉｏｎｌｎｄｅｘ：ｒｉｎｄｅｘ；｝　ｒｉｎｄｅｘ＋＋；｝　ＳＳｅｔ＝ＳＳｅｔｕ　ｓｔｍｐｓｅｔ；　／／将当前用户会话合并到会话集合中　Ｉｆｆ　ＮｅｗＳｅｓｓｉｏｎＩｎｄｅｘ≠０）　｛ｌｏｇｉｄ＝ＮｅｗＳｅｓｓｉｏｎＩｎｄｅｘ；　ＮｅｗＳｅｓｓｉｏｎＩｎｄｅｘ＝０：｝　ｅｌｓｅ　ｌｏｇｉｄ＝ｒｉｎｄｅｘ；｝｝｝　３　实验　实验的关键为两个时间阈值权值比例的确定，即“访问时　间＜＝ｎ×ｓ…＋（１一ｎ）×　”中。的取值为多少最为合理；实　验比较本算法与其他基于访问时间算法会话识别的差异。　实验之前首先要对Ｗｅｂ日志进行预处理。　１）数据清理从Ｅｔ志中清理图像文件请求记录及Ｗｅｂ　Ｒｏｂｏｔ的浏览记录、出错记录等。　２）识别用户　对于清理之后的数据使用基于日志／站点的　方法，使用ＩＰ地址识别出每个访问网站的用户。　３）会话识别　在进行了用户识别之后的数据集之上进行　会话识别。首先，为确定页面时间阈值权重ａ的最佳值，依次取　ａ从０．１开始以０．１为增量进行实验，计算会话识别的准确率　确定页面时间阈值权重ａ的最佳取值后，记录下实验数据，再用　同样的样本数据，采用传统的对所有页面使用单一的先验阈值　进行会话识别的方法来划分会话，这种方法设置的上限闯值为　１０ｒａｉｎ；并对结果进行比较。　实验中的１３志文件是浙江万里学院网上课堂ｈｔｔｐ：／／ｗｓｊｘ．　ＺＷＨ．ｅｄｕ．ｃｎ　６１．１５３．１５０．３１）日志文件。为研究学生假期学习情　况，选取暑假第二周日志进行分析，经过数据清理后的日志数据　有１８３８４条。　设访问时间阈值初始值１０ｒａｉｎ，表１列出了当ａ为０．１、０．５　和０．９时的实验数据。　表１不同页面时间阈值权重下会话识别情况　页面时间　会话识别情况统计　阈值权重　（识别出的会话）Ｍ　（真实会话）Ｎ　Ｎ：Ｍ％　ａ＝０．１　３０２２　２５３７　８３％　ａ＝０．５　３ｌ２５　２９３４　９３％　ａ＝０．９　２８９６　２６２８　９０％　从表１中可以看出，在会话识别准确率上ａ取值为０．５时　最高，此时识别出的会话数也最多。经详细分析所有实验数据，　发现０．６为会话识别准确率临界点。为进一步精确ａ的合理取　值，设ａ从０．６开始至０．７以０．０１为增量进一步实验，实验发　现ａ取０．６５时Ｓｅｓｓｉｏｎ—Ｔ２算法会话识别准确率为最高，可　达９５％。　对于相同的样本数据，笔者同时也进行了对所有页面使用　单一的先验阈值法来划分会话，取时间阀值为１０ｒａｉｎ，单一的先　验阈值法识别出的会话有２９１５个，其中真实会话有２５６３个。　Ｓｅｓｓｉｏｎ＿Ｔ２算法当ａ取０．６５，访问时间阈值初始值为ｌＯｍｉｎ时　发现的会话有３１６０个，其中真实会话有３００２个。通过手工检　查样本数据，单一的先验阈值会话识别方法会话识别效率为　７９％，Ｓｅｓｓｉｏｎ一１２算法会话识别效率为８５％。　从上述实验结果可以看出，Ｓｅｓｓｉｏｎ—Ｔ２算法相对于固定时　间阈值的识别方法，能够识别出更多的会话，从而有效地提高了　会话识别的质量，保证了会话的全面识别。　４结束语　会话识别是Ｗｅｂ日志挖掘数据预处理的重要环节。本文提　出的会话识别算法Ｓｅｓｓｉｏｎ＿Ｔ２，考虑了不同用户的个体差异和页　面的差异，在会话识别效率和正确率上相对其他基于时间的会话　识别算法有较大的提高，但它同样存在着不足，在站点有较大变　动时需要重新计算页面时间阀值集合，要求日志比较完整等。　参考文献　［１］Ｓｐｉｌｉｏｐｏｕｌｏｕ　Ｍ，Ｍｏｂａｓｈｅｒ　Ｂ，Ｂｅｒｅｎｄｔ　Ｂ，ｅｔ　ａ１．Ａ　ｆｒａｍｅｗｏｒｋ　ｆｏｒ　ｔｈｅ　ｅｖａｌｕａｔｉｏｎ　ｏｆ　ｓｅｓｓｉｏｎ　ｒｅｃｏｎｓｔｕｒｃｔｉｏｎ　ｈｅｕｒｉｓｔｉｃｓ　ｉｎ　Ｗｅｂ　ｕｓａｇｅ　ａｎａｌｙｓｉｓ　［Ｊ］．Ｉｎｆｏｒｍｓ　Ｊｏｕｒｎａｌ　ｏｆ　Ｃｏｍｐｕｔｉｎｇ，Ｓｐｅｃｉａｌ　Ｉｓｓｕｅ　ｏｎ　Ｍｉｎｉｎｇ　Ｗｅｂ　Ｂａｓｅｄ　Ｄａｔａ　ｆｏｒ　Ｅ－Ｂｕｓｉｎｅｓｓ　Ａｐｐｌｉｃａｔｉｏｎｓ，２００３，１５（２）：１７１—１９０．　［２］Ｃｈｅｎ　Ｍ　Ｓ，Ｐａｒｋ　Ｊ　Ｓ，Ｙｕ　Ｐ　Ｓ．Ｄａｔａ　ｍｉｎｉｎｇ　ｏｆｒ　ｐａｔｈ　ｔｒａｖｅｒｓａｌ　ｐａｔｔｅｒｎｓ　ｉｎ　ａ　Ｗｅｂ　ｅｎｖｉｒｏｎｍｅｎｔ［Ｃ］／／Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　１６ｔｈ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒ－　ｅｎｅｅ　ｏｎ　Ｄｉｓｔｉｒｂｕｔｅｄ　Ｃｏｍｐｕｔｅ　Ｓｙｓｔｅｍ．Ｈｏｎｇ　Ｋｏｎｇ：ＩＥＥＥ　Ｐｒｅｓｓ，１９９６：　３８５—３９２．　［３］蔡浩，贾宇波，黄成伟，等．Ｗｅｂ日志挖掘中的会话识别算法［Ｊ］．　计算机工程与设计，２００９，３０（６）：１３２１—１３２３．　［４］方元康，胡学钢，夏启寿．一种改进的Ｗｅｂ日志会话识别方法［Ｊ］．　计算机技术与发展，２００８，１８（１１）：２１４—２１６．　［５］殷贤亮，张为．Ｗｅｂ使用挖掘中的一种改进的会话识别方法［Ｊ］．　华中科技大学学报：自然科学版，２００６，３４（７）：３３—３５．　（上接第３ｌ页）　［２］郭辉，王玲，刘贺平．基于核主成份分析与最小二乘支持向量机结　合处理时间序列预测问题［Ｊ］．北京科技大学学报，２００６，２８（３）：　３０３—３０６．　［３］ＣＡＯ　Ｌ　Ｊ，ＣＨＵＡ　Ｋ　Ｓ，ＣＨＯＮＧ　Ｗ　Ｋ．Ａ　Ｃｏｍｐａｒｉｓｏｎ　ｏｆ　ＰＣＡ，ＫＰＣＡ，　ａｎｄ　ＩＣＡ　ｆｏｒ　Ｄｉｍｅｎｓｉｏｎａｌｉｔｙ　Ｒｅｄｕｃｔｉｏｎ　ｉｎ　Ｓｕｐｐｏｒｔ　Ｖｅｃｔｏｒ　Ｍａｃｈｉｎｅ［Ｊ］．　Ｎｅｕｒｏ—ｃｏｍｐｕｔｉｎｇ，２００３，５５（２）：３２１—３３６．　［４］ＦＵＮＧ　Ｇ，ＭＡＮＧＡＳＡＲＩＡＮ　Ｏ　Ｌ．Ｐｒｏｘｉｍａｌ　Ｓｕｐｐｏｒｔ　Ｖｅｃｔｏｒ　Ｍａｃｈｉｎｅ　Ｃｌａｓｓｉｉｆｅｒｓ［Ｒ］．Ｄａｔａ　Ｍｉｎｉｎｇ　ＩｎｓｔｉｔｕｔｅＴｅｅｈｎｉｅａｌ　Ｒｅｐｏｒｔ　Ｏ１－０２，Ｆｅｂｒｕｒａｙ　２００１．Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ＫＤＤ－２００１，Ｓａｎ　Ｆｒａｎｃｉｓｃｏ，Ａｕｇｕｓｔ　２６—２９，．Ａｓ—　ｓｏｃｉａｔｉｏｎ　ｆｏｒ　Ｃｏｍｐｕｔｉｎｇ　Ｍａｃｈｉｎｅｒｙ，Ｎｅｗ　Ｙｏｒｋ，２００１：７７—８６．　［５］ＬＥＥ　Ｙ　Ｊ，ＭＡＮＧＡＳＡＲＩＡＮ　Ｏ　Ｌ．ＲＳＶＭ：Ｒｅｄｕｃｅｄ　Ｓｕｐｐｏｒｔ　Ｖｅｃｔｏｒ　Ｍａ・　ｃｈｉｎｅｓ［Ｒ］．Ｄａｔａ　Ｍｉｎｉｎｇ　Ｉｎｓｔｉｔｕｔｅ　Ｔｅｃｈｎｉｃａｌ　Ｒｅｐｏｒｔ　００—０７，Ｊｕｌｙ　２０００．Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　Ｆｉｒｓｔ　ＳＩＡＭ　Ｉｎｔｅｒｎａｔｉｏｎａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｎ　Ｄａｔａ　Ｍｉｎｉｎｇ，Ｃｈｉｃａｇｏ，Ａｐｒｉｌ　５—２７，２００１，ＳＩＡＭ，Ｐｈｉｌａｄｅｌｐｈｉａ，ＣＤ—ＲＯＭ　Ｐｒｏｃｅｅｄｉｎｇ．