51Testing软件测试论坛

标题: 序列模式挖掘 [打印本页]

作者: 巴黎的灯光下 时间: 2017-7-4 16:36
标题: 序列模式挖掘
所谓序列模式，我的定义是：在一组有序的数据列组成的数据集中，经常出现的那些序列组合构成的模式。跟我们所熟知的关联规则挖掘不一样，序列模式挖掘的对象以及结果都是有序的，即数据集中的每个序列的条目在时间或空间上是有序排列的，输出的结果也是有序的。
举个简单的例子来说明，关联规则一个经典的应用是计算超市购物中被共同购买的商品，它把每个顾客的一次交易视作一个transaction，计算在不同transaction中不同item组合的规律性。而如果我们考虑一个用户多次在超市购物的情况，那么这些不同时间点的交易记录就构成了一个购买序列，N个用户的购买序列就组成一个规模为N的序列数据集。考虑这些时间上的因素之后，我们就能得到一些比关联规则更有价值的规律，比如关联挖掘经常能挖掘出如啤酒和尿布的搭配规律，而序列模式挖掘则能挖掘出诸如《育儿指南》->婴儿车这样带有一定因果性质的规律。所以，序列模式挖掘比关联挖掘能得到更深刻的知识。
在实际当中，序列模式挖掘被广泛地应用于各种序列数据集中，如生物信息学上的基因微阵列数据，从中挖掘哪些基因组合模式在某类病人中会频繁出现；以单词作为item的文档序列，研究在不同文档中单词序列的出现模式；用户点击流数据，用于挖掘用户的频繁点击模式，建立用户模型，完善网站功能与UI结构。除此之外还有很多，只要是序列数据集，都可以考虑利用序列模式挖掘获得规律。
图1是一个序列数据库，及其以0.75作为最小阈值（min_sup）的频繁序列模式。借此介绍序列挖掘中的几个主要概念。
[attach]106943[/attach]
序列（Sequence）：以SID表示，一个序列即是一个完整的信息流。
项目（Item）：序列中最小组成单位的集合，比如在这个样例中的项目为{A, B, C}。
事件（Event）：通常用时间戳标志，标识事件之间的前后关系。又叫Itemset，是Item的集合，样例中以EID表示。
k频繁序列：如果频繁序列的项目个数为k，则称之为k频繁序列，以Fk表示（图1的F1,F2,F3）。
序列的包含关系：对于序列x和y，如果存在着一个保序的映射，使得x中的每个事件都被包含于y中的某个事件，则称为x被包含于y（x是y的子序列），例如序列B->AC是序列AB->E->ACD的子序列。
支持度（support）：某序列x的支持度是指在整个序列集中包含x的序列的频次。
有了以上概念之后，序列模式挖掘的问题就定义为：给定一个序列数据库以及最小支持度min_sup，找出所有支持度大于min_sup的序列模式。
解决这个问题的一个著名的算法叫SPADE，以及加入各种约束限制后的cSPADE，它们来自同一个作者Zaki。SPADE是无约束的序列频繁模式挖掘算法，其基本思想是利用一个S后缀等价类（suffixequivalence class）的概念[S]，从F1开始计算，由F1张出以F1中的频繁序列为[S]的F2，再以F2张出以F2中的频繁序列为[S]的F3，以此类推。由于引入了后缀等价类这个概念，使得整个算法对数据库的遍历次数与计算量大大降低，是一个现实中有效的算法。cSPACE在前者的基础上引入了对序列模式的约束，其中包括：
（1）序列长度与宽度的约束（序列的长度是指序列中事件的个数，宽度是指最长事件的长度）；
（2）最小间隔的约束，即事件之间的最小时间间隔；
（3）最大间隔的约束，即事件之间的最大时间间隔；
（4）时间窗的约束，即整个序列都必须发生在某个时间窗内；
（5）其它，如只限制为某些Item，序列数据库存在分类标签。
以上的约束基本已经覆盖了实际应用中所有可能碰到的限制情况，实际上约束并不常用到，通常SPADE算法已经够用了。
由于数学表述过多，而且整个过程比较繁琐，这里不打算详细叙述两个算法的计算流程，有兴趣的可以参看文后附上的参考文献。
很幸运的是，万能的R已经有序列挖掘的包，对SPADE算法与cSPADE算法有了完整的实现，即使对算法并不充分了解，也可以把它们用于自己的场景中。它就是arulesSequences，以下以一个例子简单介绍一下它的用法。
library(arulesSequences)
data(zaki)
s1 <- cspade(zaki, parameter =list(support = 0.4), control =list(verbose = TRUE))
summary(s1)
as(s1, "data.frame")
s2 <- cspade(zaki, parameter =list(support = 0.4, maxwin = 5))
as(s2, "data.frame")
第2行导入数据库zaki，它的结构类似于图1所示的那种序列-事件集，第3行设定最小支持度为0.4，并用无约束的SPADE算法搜索频繁序列模式，第6行引入了时间窗的限制，用cSPADE算法进行搜索。整个过程十分简洁明了。
更多使用的例子可在R的终端用?cspade命令查看。

作者: jingzizx 时间: 2017-7-4 20:41

欢迎光临 51Testing软件测试论坛 (http://bbs.51testing.com/)