3

一步一步学推荐系统(二)——推荐系统的难点和挑战

 3 years ago
source link: https://www.wencst.com/archives/1239
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

一步一步学推荐系统(二)——推荐系统的难点和挑战

作者: wencst 分类: 架构设计 发布时间: 2019-01-03 23:09 阅读: 2,027 次

挑战一:数据稀疏性

千万级用户*千万级产品,遇到两个人买了同一个产品的概率

重复性越低,稀疏性越高

挑战二:冷启动问题

1.新用户因为罕见的行为信息,很难给出精确的推荐
2.新产品因为选择次数很少,也很难给合适的用户推荐

解决办法:
1.打标签(给用户和产品打标签)
2.建立评价体系
3.利用交叉推荐和社会推荐

挑战三:大数据处理和增量问题

在百千万级的基础上,新产品、新用户同样源源不断的进入系统,怎么保证推荐的时效性?

  • 以某极小系统:
  • 用户数50人
  • 产品数10000个
  • 二维表示≈50万
  • 遍历用户关系50亿次(暂不考虑算法优化)
  • 此时加入新产品(新改动)或新用户,可以想象运算量有多少

挑战四:多样性和精准性两难困境

  • 多样性:推荐给出多种不同的口味
  • 精确性:推荐给出用户喜欢的口味 用户的操作记录作用于推荐系统 → 推荐系统产生了局限性

用户的操作记录作用于推荐系统
→ 推荐系统产生了局限性

挑战五:推荐系统的脆弱性

为了使自己的推荐靠前,竞品的推荐靠后,有很多攻击性的评判

如上图所示:
是否会对用户h推荐商品7呢?
与h相似的用户为i-m
那么i-m用户均不满意商品7
所以h不会得到7商品的推荐

挑战六:用户行为模式的挖掘和利用

深入挖掘用户的行为模式有望提高推荐的效果
新用户:热门商品,老用户:小众商品
7点-8点在手机阅读的用户,一般不会在9点以后再阅读
对用户经常出没地进行推荐反而效果更差
频繁而不精确的推荐会使得用户有一种被窥视的感觉

挑战七:推荐系统的效果评估

概念提出几十年,效果评估依然是难题。
常见的评估指标:

挑战八:用户界面和用户体验

上图是对facebook页面浏览关注度的检测。

挑战九:多维数据的交叉利用

关系一:依存关系
关系二:合作关系
关系三:交叠关系(社会关系)

挑战十:社会推荐

社会推荐的挑战分为三类:
1.如何利用社会关系提高推荐的精确度
2.如何建立良好的机制以促进社会推荐
3.如何将社会信任关系引入到推荐系统中

如果文章对您有用,扫一下支付宝的红包,不胜感激!

欢迎加入QQ群进行技术交流:656897351(各种技术、招聘、兼职、培训欢迎加入)

Leave a Reply Cancel reply

You must be logged in to post a comment.


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK