布隆过滤器和寻找嫌疑人

20240127193436

布隆过滤器,听过也学过,实际中没怎么用到,时间长了再接触这个概念就陌生了,说到底还是没有彻底掌握。为了真正理解一项技术或一个概念,最好还是从问题出发,所以布隆过滤器到底解决了什么问题呢?

布隆过滤器可以用来检测一个元素是否属于某个集合。

上面的定义比较抽象,下面有些具体的例子(参考这篇文章的内容:https://zhuanlan.zhihu.com/p/94433082):

  • 网页爬虫对 URL 去重,避免爬取相同的 URL 地址
  • 反垃圾邮件,从数十亿个垃圾邮件列表中判断某邮箱是否垃圾邮箱
  • Google Chrome 使用布隆过滤器识别恶意 URL
  • Medium 使用布隆过滤器避免推荐给用户已经读过的文章
  • Google BigTable,Apache HBbase 和 Apache Cassandra 使用布隆过滤器减少对不存在的行和列的查找
  • 解决恶意查询请求所带来的缓存穿透

从以上例子看,布隆过滤器确实很厉害,用处很多。不过如果我还没有这些项目的开发经验,怎么能用更通俗的方式理解布隆过滤器能解决什么问题呢? 最近悬疑剧看的多,我想到了破案这个场景。

警察是怎么寻找嫌疑人的?

警察破案,在寻找嫌疑人的时候,一般都会根据以下几种特征去筛查:

  • 身份特征:包括姓名、性别、年龄、国籍、职业、住址等。
  • 外貌特征:包括身高、体重、体型、肤色、发型、眼睛颜色、脸型、胡须、纹身、疤痕等。
  • 行为特征:包括动机、手法、习惯、特点、爱好、嗜好、交际圈等。
  • 物品特征:包括作案工具、作案车辆、作案服装、作案物品、遗留物品等。

通常犯罪分子在犯罪之后都会潜逃到其他地方,警察需要一个个地方,甚至一个个城市去筛查,这个时候怎么样快速破案就成了一个关键问题。如果拿着嫌疑人的照片一个个去比对,显然太慢了,那么快速的方式是什么呢?假设我们有个“法外狂徒”张三,具备以下的特征:

特征例子0或1
性别1
性别0
年龄351
身高175厘米1
体重70公斤1
体型偏瘦1
肤色黄色1
发型短发1
眼睛颜色黑色1
脸型方形1
纹身1
疤痕左眼角有一道1
习惯喜欢喝咖啡1
特点话少1
嗜好喝酒1

警察到了一个新的地方,会快速收集以上信息(通过公安系统或走访群众),判断一个区域内有没有人同时具备以上特征,如果没有,那犯罪嫌疑人肯定不在这个区域了,就可以继续排查下一个地方。如果发现该地区有人符合上述全部特征呢?那也并不代表一定就找到了嫌疑人,但是可以大大缩小排查的范围。

布隆过滤器

警察寻找嫌疑人的过程,不就是布隆过滤器的工作原理吗?

首先,警察寻找嫌疑人和上面列举的互联网产品中需要解决的问题都是一类问题:

例子元素集合
警察寻找嫌疑人嫌疑人一个地区内的所有人
网页爬虫URL去重一个URL是否在已经爬取的URL列表内
反垃圾邮件一个邮箱地址垃圾邮箱地址库
避免推荐给用户已经读过的文章一篇文章已经推荐给用户的文章集合
意查询请求带来的缓存穿透请求所查询的商品是否是商品库中真实存在的商品

警察会给嫌疑人列举一系列的特征,然后去看一个地区内是否有人具备所有这些特征。而布隆过滤器的原理是用哈希函数生成一个很长的0/1串,实际上我们可以把值为1的位置看作该元素具有这个位置的特征。接下来我们要去跟待筛选的集合进行比对,这个过程我们不需要一一比对,只需要去查看集合内是否有元素具备这个特征。这里我们需要维护两个向量:

内容特征向量例子
元素长度为N的向量,每个位置是0或1:1代表该元素具有该特征嫌疑人一系列特征,1代表具有
集合长度为N的向量,每个位置是0或1:1代表集合中存在一个元素具备这个特征一个地区内人口的综合统计信息

接下来要做的就是比对这两个向量即可,而不是将元素和集合中的每个元素一一对比。

布隆过滤器的优点是查询速度快,缺点是不保证百分百准确。就好比说:即使我们在一个地方找到了符合所有犯罪嫌疑人特征的人,也有可能找错。

总结

通过寻找犯罪嫌疑人的例子来理解布隆过滤器,可能更容易记住吧。


如果你对本文有任何疑问或建议,欢迎联系我。本博客所有文章除特别声明外,均为原创文章,未经授权请勿转载!

如何在Windows上和Linux上配置自启动服务? 上一篇
详解匿名函数递归:从此能看懂天书代码 下一篇

 目录