首页 > 自考资讯 > 高考百科

www.ln.10086.cn(如何用最小内存快速判断10W个手机号是否在10亿个手机号中)

高考小组 2026 08 17 03:54:52

大家好,我是可乐,一个专注原创,乐于分享的程序猿。本系列教程持续更新,可以微信搜索「IT可乐」第一时间阅读。回复《电子书》有我为大家特别筛选的海量免费书籍资料

本篇博客我们主要介绍如何用Redis实现布隆过滤器,但是在介绍布隆过滤器之前,我们首先介绍一下,为啥要使用布隆过滤器。

1、布隆过滤器使用场景

比如有如下几个需求:

①、原本有10亿个号码,现在又来了10万个号码,要快速准确判断这10万个号码是否在10亿个号码库中?

解决办法一:将10亿个号码存入数据库中,进行数据库查询,准确性有了,但是速度会比较慢。

解决办法二:将10亿号码放入内存中,比如Redis缓存中,这里我们算一下占用内存大小:10亿*8字节=8GB,通过内存查询,准确性和速度都有了,但是大约8gb的内存空间,挺浪费内存空间的。

②、接触过爬虫的,应该有这么一个需求,需要爬虫的网站千千万万,对于一个新的网站url,我们如何判断这个url我们是否已经爬过了?

解决办法还是上面的两种,很显然,都不太好。

③、同理还有垃圾邮箱的过滤。

那么对于类似这种,大数据量集合,如何准确快速的判断某个数据是否在大数据量集合中,并且不占用内存,布隆过滤器应运而生了。

2、布隆过滤器简介

带着上面的几个疑问,我们来看看到底什么是布隆过滤器。

布隆过滤器:一种数据结构,是由一串很长的二进制向量组成,可以将其看成一个二进制数组。既然是二进制,那么里面存放的不是0,就是1,但是初始默认值都是0。

如下所示:

①、添加数据

介绍概念的时候,我们说可以将布隆过滤器看成一个容器,那么如何向布隆过滤器中添加一个数据呢?

如下图所示:当要向布隆过滤器中添加一个元素key时,我们通过多个hash函数,算出一个值,然后将这个值所在的方格置为1。

比如,下图hash1(key)=1,那么在第2个格子将0变为1(数组是从0开始计数的),hash2(key)=7,那么将第8个格子置位1,依次类推。

②、判断数据是否存在?

知道了如何向布隆过滤器中添加一个数据,那么新来一个数据,我们如何判断其是否存在于这个布隆过滤器中呢?

很简单,我们只需要将这个新的数据通过上面自定义的几个哈希函数,分别算出各个值,然后看其对应的地方是否都是1,如果存在一个不是1的情况,那么我们可以说,该新数据一定不存在于这个布隆过滤器中。

反过来说,如果通过哈希函数算出来的值,对应的地方都是1,那么我们能够肯定的得出:这个数据一定存在于这个布隆过滤器中吗?

答案是否定的,因为多个不同的数据通过hash函数算出来的结果是会有重复的,所以会存在某个位置是别的数据通过hash函数置为的1。

我们可以得到一个结论:布隆过滤器可以判断某个数据一定不存在,但是无法判断一定存在。

③、布隆过滤器优缺点

优点:优点很明显,二进制组成的数组,占用内存极少,并且插入和查询速度都足够快。

缺点:随着数据的增加,误判率会增加;还有无法判断数据一定存在;另外还有一个重要缺点,无法删除数据。

3、Redis实现布隆过滤器

①、bitmaps我们知道计算机是以二进制位作为底层存储的基础单位,一个字节等于8位。

比如“big”字符串是由三个字符组成的,这三个字符对应的ASCII码分为是98、105、103,对应的二进制存储如下:

在Redis中,Bitmaps提供了一套命令用来操作类似上面字符串中的每一个位。

一、设置值

setbitkeyoffsetvalue

我们知道"b"的二进制表示为01100010,我们将第7位(从0开始)设置为1,那01100011表示的就是字符“c”,所以最后的字符“big”变成了“cig”。

二、获取值

gitbitkeyoffset

三、获取位图指定范围值为1的个数

bitcountkey[startend]

如果不指定,那就是获取全部值为1的个数。

注意:start和end指定的是字节的个数,而不是位数组下标。

②、RedissonRedis实现布隆过滤器的底层就是通过bitmap这种数据结构,至于如何实现,这里就不重复造轮子了,介绍业界比较好用的一个客户端工具——Redisson。

Redisson是用于在Java程序中操作Redis的库,利用Redisson我们可以在程序中轻松地使用Redis。

下面我们就通过Redisson来构造布隆过滤器。

packagecom.ys.rediscluster.bloomfilter.redisson;\n\nimportorg.redisson.Redisson;\nimportorg.redisson.api.RBloomFilter;\nimportorg.redisson.api.RedissonClient;\nimportorg.redisson.config.Config;\n\npublicclassRedissonBloomFilter{\n\npublicstaticvoidmain(String[]args){\nConfigconfig=newConfig();\nconfig.useSingleServer().setAddress("redis://192.168.14.104:6379");\nconfig.useSingleServer().setPassword("123");\n//构造Redisson\nRedissonClientredisson=Redisson.create(config);\n\nRBloomFilter<String>bloomFilter=redisson.getBloomFilter("phoneList");\n//初始化布隆过滤器:预计元素为100000000L,误差率为3%\nbloomFilter.tryInit(100000000L,0.03);\n//将号码10086插入到布隆过滤器中\nbloomFilter.add("10086");\n\n//判断下面号码是否在布隆过滤器中\nSystem.out.println(bloomFilter.contains("123456"));//false\nSystem.out.println(bloomFilter.contains("10086"));//true\n}\n}

这是单节点的Redis实现方式,如果数据量比较大,期望的误差率又很低,那单节点所提供的内存是无法满足的,这时候可以使用分布式布隆过滤器,同样也可以用Redisson来实现,这里我就不做代码演示了,大家有兴趣可以试试。

4、guava工具

最后提一下不用Redis如何来实现布隆过滤器。

guava工具包相信大家都用过,这是谷歌公司提供的,里面也提供了布隆过滤器的实现。

packagecom.ys.rediscluster.bloomfilter;\n\nimportcom.google.common.base.Charsets;\nimportcom.google.common.hash.BloomFilter;\nimportcom.google.common.hash.Funnel;\nimportcom.google.common.hash.Funnels;\n\npublicclassGuavaBloomFilter{\npublicstaticvoidmain(String[]args){\nBloomFilter<String>bloomFilter=BloomFilter.create(Funnels.stringFunnel(Charsets.UTF_8),100000,0.01);\n\nbloomFilter.put("10086");\n\nSystem.out.println(bloomFilter.mightContain("123456"));\nSystem.out.println(bloomFilter.mightContain("10086"));\n}\n}

本系列教程持续更新,可以微信搜索「IT可乐」第一时间阅读。回复《电子书》有我为大家特别筛选的书籍资料

如果你还想了解更多这方面的信息,记得收藏关注本站。

猜你喜欢

  • 高中物理,125个必记知识点+55道必考题型,高中生必须知道

    高中物理,125个必记知识点+55道必考题型,高中生必须知道

    在高考中物理在理综考试中就占了110分,是具有非常高的地位,如果你的物理分数成为你的优势科目,这无疑

    来源:中国自考网 2025-12-28
  • www.sn-n-tax.gov.cn,增值税发票查询平台使用手册v1

    www.sn-n-tax.gov.cn,增值税发票查询平台使用手册v1

    增值税发票查询平台使用手册目录1增值税发票查询平台31.1操作概述31.2首次系统登录31.2.1根证书安装51.2.2安全控件安装101.3日常系统登录141.4主页面151.5发票勾选181.6批

    来源:中国自考网 2025-12-28
  • www.pep.com?美国百年历史汽配

    www.pep.com?美国百年历史汽配

    前段时间一直为大家带来关于亚马逊的干货内容和跨境电商资讯内容,今天为大家更新一期“汽配每日一店”。截至目前,我们更新了十二期汽配大卖内容,为大家揭秘了每一家汽配大卖在

    来源:中国自考网 2025-12-28
  • www.offcn.com taian

    www.offcn.com taian

    泰安中公教育为您整理发布济南多所学校规划出炉!涉及市中、槐荫、高新等五区,更多资讯进入泰安中公教育教师招聘招考公告栏目获取了解山东教师招聘考试详情,收藏关注泰安教师招

    来源:中国自考网 2025-12-28
  • www.ln.10086.cn(如何用最小内存快速判断10W个手机号是否在10亿个手机号中)

    www.ln.10086.cn(如何用最小内存快速判断10W个手机号是否在10亿个手机号中)

    大家好,我是可乐,一个专注原创,乐于分享的程序猿。本系列教程持续更新,可以微信搜索「IT可乐」第一时间阅读。回复《电子书》有我为大家特别筛选的海量免费书籍资料本篇博客我们

    来源:中国自考网 2025-12-28
  • www.hg12333.com?如何在长沙市12333公共服务平台注册

    www.hg12333.com?如何在长沙市12333公共服务平台注册

    如何在长沙市12333公共服务平台注册、修改密码?2024年第5周,长沙市人社局共收到长沙市12345政务热线工单1221件,1月累计处理工单4956件。通过对本周工单的统计分析,结合各渠道人

    来源:中国自考网 2025-12-28
  • www.henanfucai.com,出国签证郑州申办更便利Henan

    www.henanfucai.com,出国签证郑州申办更便利Henan

    342ndarticle第342期原创双语推文OnApril8,HenanProvincialVisaApplicationPlatformforChineseCitizenwasofficiallylaunchedintheAsianEconomicDevelopmentSummit2019,whic

    来源:中国自考网 2025-12-28
  • www.chrm.gov.cn?新闻来了

    www.chrm.gov.cn?新闻来了

    要闻昨天,国家主席习近平同卢旺达共和国总统保罗·卡加梅举行会谈。两国元首一致同意以推进落实中非合作论坛约翰内斯堡峰会成果为抓手,积极创新合作模式,全面深化互利合作,提升

    来源:中国自考网 2025-12-28
  • www.cdpta.gov.cn?金牛区招人了

    www.cdpta.gov.cn?金牛区招人了

    2019年金牛区要招聘社区后备干部啦而且这次要招聘70个人哦机会多多不要错过叫上朋友们??一起来呀诚聘精英JOIN金牛看着就很有吸引力??那么需要哪些条件呢?符合条件的朋友们可

    来源:中国自考网 2025-12-28
  • www.96577.com.cn(15日11时乌鲁木齐市民拨打96577可咨询税收问题)

    www.96577.com.cn(15日11时乌鲁木齐市民拨打96577可咨询税收问题)

    新疆网讯(记者李宁艳)15日上午11时-12时,市民可就个人所得税、房产税、车船税等税收问题致电乌鲁木齐晚报呼叫中心96577详询。也可登录新疆网(www.xinjiangnet.com.cn)进行提问,乌

    来源:中国自考网 2025-12-28