mahout API英文解释:https://builds.apache.org/job/Mahout-Quality/javadoc/



推荐数据的处理是大规模的,在集群环境下一次要处理的数据可能是数GB,所以Mahout针对推荐数据进行了优化。

Preference

在Mahout中,用户的喜好被抽象为一个Preference。包括了userId,itemId和偏好值(user对item的偏好)。Preference是一个接口,它有一个通用的实现是GenericPreference。

Preference

但由于用户的喜好数据是大规模的,我们一般会选择把它放入集合或者数组。可是由于Java的对象的内存消耗机制,在大数据量下使用Collection<Preference>和Preference[]是很低效的。

为什么呢?

     

在Java中,一个对象占用的字节数 = 主要的8字节 + 基本数据类型所占的字节 + 对象引用所占的字节

(1)先说这主要的8字节

在JVM中,每一个对象(数组除外)都有一个头。这个头有两个字,第一个字存储对象的一些标志位信息。如:锁标志位、经历了几次gc等信息;第二个字节是一个引用,指向这个类的信息。

JVM为这两个字留了8个字节的空间。

这样一来的话。new Object()就占用了8个字节。那怕它是个空对象

(2) 基本类型所占用的字节数

    byte/boolean 1bytes

    char/short 2bytes

    int/float 4bytes

    double/long 8bytes

(3)对象引用所占用的字节数

    reference 4bytes

注:实际中,有数据成员的话,要把数据成员按基本类型和对象引用分开统计。基本类型按(2)进行累加。然后对齐到8个倍数;对象引用按每一个4字节进行累加,然后对齐到8的倍数。

class test {

    Integer i;

    long l;

    byte b;

}

占 8(基本) + 16(数据成员——基本类型:8 + 1。对齐到8) + 8(数据成员——对象引用Integer。4。对齐到8) = 32字节



如此一来的话。一个GenericPreference的对象就须要占用28个字节,userId(8bytes) + itemId(8bytes) + preference(4bytes) + 主要的8bytes = 28。假设我们使用了Collection<Preference>和Preference[]。就会浪费非常多这主要的8字节。设想假设我们的数据量是上GB或是上TB,这种开销是非常难承受的。

为此Mahout封装了一个PreferenceArray,用于保存一组用户喜好数据,为了优化性能,Mahout给出了两个实现类:GenericUserPreferenceArray和GenericItemPreferenceArray,分别依照用户和物品本身对用户偏好进行组装,这样就能够压缩用户ID或者物品ID的空间。

PreferenceArray
GenericUserPreferenceArray

我们看到,GenericUserPreferenceArray包括了一个userId,一个itemId的数组long[],一个用户的喜好评分数据float[]。而不是一个Preference对象的集合。它仅仅有较少的对象须要被创建和gc的检查。



用《Mahout in action》一书中的原话“mahout has alreadly reinvented an 'array of Java objects'”——"mahout已经又一次改造了Java对象数组"。PreferenceArray和它的详细实现降低的内存开销远远比它的的复杂性有价值。它降低了近75%的内存开销(相对于Java的对象集合)



除了PreferenceArray。Mahout中还大量使用了像Map和Set这些很典型的数据结构。可是Mahout没有直接使用像HashMap和TreeSet这些经常使用的Java集合实现,取而代之的是专门为Mahout推荐的须要实现了两个API。FastByIDMap和FastIDSet。之所以专门封装了这两个数据结构。主要目的是为了降低内存的开销,提高性能。

它们之间主要有下面差别:

* 和HashMap一样。FastByIDMap也是基于hash的。只是FastByIDMap使用的是线性探測来解决hash冲突,而不是分离链。

* FastByIDMap的key和值都是long类型。而不是Object,这是基于节省内存开销和改善性能所作的改良;

* FastByIDMap类似于一个缓存区。它有一个“maximum size”的概念,当我们加入一个新元素的时候。假设超过了这个size,那些使用不频繁的元素就会被移除。



FastByIDMap和FastIDSet在存储方面的改进很显著。FastIDSet的每一个元素平均占14字节,而HashSet而须要84字节;FastByIDMap的每一个entry占28字节,而HashMap则须要84字节。



DataModel

Mahout推荐引擎实际接受的输入是DataModel。它是对用户喜好数据的压缩表示。DataModel的详细实现支持从随意类型的数据源抽取用户喜好信息。能够非常easy的返回输入的喜好数据中关联到一个物品的用户ID列表和count计数。以及输入数据中全部用户和物品的数量。详细实现包含内存版的GenericDataModel,支持文件读取的FileDataModel和支持数据库读取的JDBCDataModel。

DataModel

GenericDataModel是DataModel的内存版实现。适用于在内存中构造推荐数据。它仅仅仅是作为推荐引擎的输入接受用户的喜好数据,保存着一个依照用户ID和物品ID进行散列的PreferenceArray,而PreferenceArray中相应保存着这个用户ID或者物品ID的全部用户喜好数据。

GenericDataModel

FileDataModel支持文件的读取,Mahout对文件的格式没有太多严格的要求,仅仅要满足一下格式就OK:

* 每一行包括一个用户Id。物品Id。用户喜好

* 逗号隔开或者Tab隔开

* *.zip 和 *.gz 文件会自己主动解压缩(Mahout 建议在数据量过大时採用压缩的数据存储)

FileDataModel从文件里读取数据,然后将数据以GenericDataModel的形式加载内存。详细能够查看FileDataModel中的buildModel方法。



JDBCDataModel支持对数据库的读取操作,Mahout提供了对MySQL的默认支持MySQLJDBCDataModel,它对用户喜好数据的存储有下面要求:

* 用户ID列须要是BIGINT并且非空

* 物品ID列须要是BIGINT并且非空

* 用户喜好值列须要是FLOAT

* 建议在用户ID和物品ID上建索引



有的时候,我们会忽略用户的喜好值,仅仅仅仅关心用户和物品之间存不存在关联关系,这样的关联关系在Mahout里面叫做“boolean preference”。 之所以会有这类喜好,是由于用户和物品的关联要么存在,要么不存在,记住仅仅是表示关联关系存不存在,不代表喜欢和不喜欢。实际上一条“boolean preference”可有三个状态:喜欢、不喜欢、没有不论什么关系。

在喜好数据中有大量的噪音数据的情况下,这样的特殊的喜好评定方式是有意义的。 同一时候Mahout为“boolean preference”提供了一个内存版的DataModel——GenericBooleanPrefDataModel

GenericBooleanPrefDataModel

能够看到,GenericBooleanPrefDataModel没有对喜好值进行存储。仅仅仅仅存储了关联的userId和itemId。注意和GenericDataModel的区别。GenericBooleanPrefDataModel採用了FastIDSet。仅仅有关联的Id,没有喜好值。

因此它的一些方法(继承自DataModel的)如getItemIDsForUser()有更好的运行速度。而getPreferencesFromUser()的运行速度会更差,由于GenericBooleanPrefDataModel本来就没存储喜好值。它默认用户对物品的喜好值都是1.0

@Override

public Float getPreferenceValue(long userID, long itemID) throws NoSuchUserException {

  FastIDSet itemIDs = preferenceFromUsers.get(userID);

  if (itemIDs == null) {

    throw new NoSuchUserException(userID);

  }

  if (itemIDs.contains(itemID)) {

    return 1.0f;

  }

  return null;

}

提问:

在mahout框架下,我现阶段学习到的是仅仅实用户对某些物品进行评分了,才干对这个用户进行推荐。可是假设用户刚登陆,没有其它的操作,如何进行推荐呀(我知道在mahout有个匿名用户的推荐方式)?可是,用户已经输入了他的一些兴趣爱好了。如何依据这些兴趣爱好对用户进行推荐呀。 



还有,就是新增加的物品。仅仅有这些物品的一些属性,没有不论什么人对它进行评分,怎样依据属性将它推荐给用户呢? 



还有我有一些好友了。如何依据好友的喜欢的物品进行推荐给我呀,在评分表中不是仅仅要用户id。物品id,和偏好。如何在当中区分出好友来呢?????

回答:

首先纠正你问题中的一点错误,Mahout
中有一个 Preference 的特殊实现 —— BooleanPreference(“布尔喜好值”)。通过这个特殊的 Preference 实现,Mahout 将不会关注用户对物品的详细评分。而仅仅是关注用户和物品之间有没有某种关联(比方点击、购买等),所以你的问题中提到的即使用户没有对物品进行评分。Mahout 也能够完毕对用户的推荐。 



对于你的问题,我发现主要是疑惑怎样利用 Mahout 去解决推荐时的冷启动,包含用户冷启动(新用户)和物品冷启动(新物品)。这应该说是每个推荐系统都会面临着的问题,因此推荐系统的研究者们想出了非常多的解决方式,只是非常抱歉,Mahout 中对于冷启动问题并没有专门的实现。原因非常easy,眼下的 Mahout
仅仅是一个机器学习算法库(框架),它不是一个推荐系统或推荐引擎。只是。我们还是能够利用 Mahout 中提供的一些算法帮助我们解决冷启动。 



对于新用户。(1)假设是一个注冊用户而且已经登录。但没有发生不论什么用户行为(比方评论、分享、收藏、购买),那么我们能够拿他的注冊信息,依据他的性别、年龄、所在地等信息进行推荐,也就是基于人口统计特征的推荐(Demographic-based)。(2)假设是一个注冊用户但没有登录,那么我们能够通过 cookie
去识别用户,这个时候 cookie 和 userId 有同等的功效。解决的办法也就和(1)类似了。顺便罗嗦几句,一个成熟的推荐系统可以做到在用户未登录的情况下也能进行推荐,这就告诉我们。标识用户的除了 userId,还有 cookie,所以可以在记录用户喜好的表里添加一列用来存储用户的 cookie。这个视实际情况而定(对于 SNS 站点。如微博须要登录才干使用,不存在此类问题。可是对于淘宝就存在此问题);(3)对于未注冊的新訪客。由于没有人口统计信息,所以一般通过一些热卖推荐、随机推荐引导用户浏览、点击、收藏、注冊,让用户在站点上发生一些有价值的行为,然后再依据这些行为进行推荐。

对于新物品,仅仅要有物品的属性,那怕没有不论什么人对它进行评分,也是能够进行推荐的,方法就是依据物品的属性去推荐,也就是基于内容的推荐(Content-based)。通过物品的属性去计算物品之间的相关度。举个样例。如果新增加的物品是一本刚出版的《HBase: The Definitive Guide》,没有不论什么用户对它进行过评分或购买,如果这个时候有一个用户对《Hadoop
in Action》有了非常高的评分。那么我们就能够把《HBase: The Definitive Guide》推荐给这个用户,由于这两本书用着共同的属性和特点:计算机、分布式、大数据 ... 



那么怎样利用 Mahout 帮忙解决新用户和新物品的冷启动问题呢?一个简单的方法是聚类。对于新用户,我们依据他们的人口统计信息去聚类。把用户划分成一个一个的簇;新物品也是一样的,能够利用物品的属性。假设没有属性。能够对物品的介绍和描写叙述进行分词,抽取出物品的属性和关键词描写叙述,然后依据属性和关键词去聚类,把物品划分成一个一个的簇。Mahout
中对聚类有专门的实现,能够关注我后面的日记和博文。 



你的最后一个问题,怎样依据好友的喜好进行推荐?说直接点,也就是怎样利用社交数据进行推荐?随着 SNS 的流行,这样的推荐方法也逐渐被重视,推荐的方法也非常easy:从社交站点获取用户的好友列表。然后在目标站点中搜索好友列表中每个好友喜欢的物品。然后推荐给用户。

通经常使用户的好友列表是来源于外部的 SNS 站点。最普遍的就是通过开放的
API 授权后获取(微博、QQ空间都是这样),而用户的喜好 userId、itemId、preference 存储在目标站点的 MySQL 或者缓存中。须要做的仅仅仅是 查找、过滤、排序 那么简单。 



推荐的书籍和资料:《Mahout in Action》、《推荐系统实践》。ReSysChina

学习mahout,可是苦于网上资源太少,太零散,只是这边博文讲得比較清楚和细致:网址:http://www.douban.com/note/204399134/

Mahout--(一)数据承载的更多相关文章

  1. Mahout之数据承载

    转载自:https://www.douban.com/note/204399134/ 推荐数据的处理是大规模的,在集群环境下一次要处理的数据可能是数GB,所以Mahout针对推荐数据进行了优化. Pr ...

  2. Mahout之(三)相似性度量

    User CF 和 Item CF 都依赖于相似度的计算,因为只有通过衡量用户之间或物品之间的相似度,才能找到用户的“邻居”,才能完成推荐.上文简单的介绍了相似性的计算,但不完全,下面就对常用的相似度 ...

  3. Apache mahout 源码阅读笔记--DataModel之FileDataModel

    要做推荐,用户行为数据是基础. 用户行为数据有哪些字段呢? mahout的DataModel支持,用户ID,ItemID是必须的,偏好值(用户对当前Item的评分),时间戳 这四个字段 {@code ...

  4. LTE 切换过程中的数据切换

    http://blog.sina.com.cn/s/blog_673b30dd0100j4p4.html LTE中的切换,根据无线承载(Radio Bearer)的QoS要求的不同,可以分为无缝切换( ...

  5. 转】Mahout学习路线图

    原博文出自于: http://blog.fens.me/hadoop-mahout-roadmap/ 感谢! Mahout学习路线图 Hadoop家族系列文章,主要介绍Hadoop家族产品,常用的项目 ...

  6. Mahout机器学习平台之聚类算法具体剖析(含实例分析)

    第一部分: 学习Mahout必需要知道的资料查找技能: 学会查官方帮助文档: 解压用于安装文件(mahout-distribution-0.6.tar.gz),找到例如以下位置.我将该文件解压到win ...

  7. mahout第一篇-----Mahout学习路线图

    Mahout学习路线图 前言 Mahout是Hadoop家族中与众不同的一个成员,是基于一个Hadoop的机器学习和数据挖掘的分布式计算框架.Mahout是一个跨学科产品,同时也是我认为Hadoop家 ...

  8. Mahout学习路线图

    转自:http://blog.fens.me/hadoop-mahout-roadmap/ Mahout学习路线图 Hadoop家族系列文章,主要介绍Hadoop家族产品,常用的项目包括Hadoop, ...

  9. Mahout kmeans聚类

    Mahout  K-means聚类 一.Kmeans 聚类原理 K-means算法是最为经典的基于划分的聚类方法,是十大经典数据挖掘算法之一.K-means算法的基本思想是:以空间中k个点为中心进行聚 ...

随机推荐

  1. Android基础TOP6_2:Gallery +Image完成画廊

    Activity: <LinearLayout xmlns:android="http://schemas.android.com/apk/res/android" xmln ...

  2. C# 调用带有输出参数的分页存储过程

    一.创建带有输出参数的分页存储过程 use StudentMISDB go select * from Course alter table Course go --update Course set ...

  3. 3星|《未来公司》:Uber简史

    未来公司(卡兰尼克和他的Uber帝国)(精) 从Uber创始人卡兰尼克的角度讲的Uber简史,截止到2017年.书中有不少Uber的负面新闻,比国内的同类书要好. 基本是流水账.想了解这家公司的历史, ...

  4. JavaScipt30(第二个案例)

    承接上篇https://www.cnblogs.com/wangxi01/p/10641115.html,这是第二个案例 附上项目链接: https://github.com/wesbos/JavaS ...

  5. python logger日志

    直接上代码 import logging import logging.handlers import datetime import time import threading from conf. ...

  6. 【Hadoop】二、HDFS文件读写流程

    (二)HDFS数据流   作为一个文件系统,文件的读和写是最基本的需求,这一部分我们来了解客户端是如何与HDFS进行交互的,也就是客户端与HDFS,以及构成HDFS的两类节点(namenode和dat ...

  7. 去重 取最大的一条sql

    select T.BILL_CODE,t.SCAN_TYPE,t.PIECE,SCAN_SITE,SCAN_MAN, row_number() over(partition by t.bill_cod ...

  8. 小程序button默认样式透彻理解

    微信小程序有一个默认样式,特别是有一个外边框,虽然看起来不别扭,但是自己每次设置border:0:都不生效,写成内联的样式也不生效,后来才知道里面的边框是伪元素的边框,这里的伪元素可以理解为用css动 ...

  9. WIndows 系统下的常用命令 和 检测方法

    ### 一.检测硬盘速度(Windows 自带工具) #### 使用windows 系统自带的工具测试硬盘读写速度 > 在使用下面命令前,需要获得管理员权限,才会在Dos窗口上显示(否则,一闪而 ...

  10. Java:冒泡排序 | 二分查找

    2018-10-29 20:16:46 冒泡排序 例子(对数字排序): 假设有这样一组数字:32, 8, 128, 2, 64 现在对其进行冒泡排序(*表示下次比较的开始数字): 32>8? t ...