佳木斯湛栽影视文化发展公司

主頁 > 知識庫 > Redis BloomFilter實例講解

Redis BloomFilter實例講解

熱門標簽:AI電銷 百度競價排名 服務外包 鐵路電話系統(tǒng) 網(wǎng)站排名優(yōu)化 Linux服務器 地方門戶網(wǎng)站 呼叫中心市場需求

1. 簡介

布隆過濾器是防止緩存穿透的方案之一。布隆過濾器主要是解決大規(guī)模數(shù)據(jù)下不需要精確過濾的業(yè)務場景,如檢查垃圾郵件地址,爬蟲URL地址去重, 解決緩存穿透問題等。

布隆過濾器:在一個存在一定數(shù)量的集合中過濾一個對應的元素,判斷該元素是否一定不在集合中或者可能在集合中。它的優(yōu)點是空間效率和查詢時間都比一般的算法要好的多,缺點是有一定的誤識別率和刪除困難。

2. guava 實現(xiàn)

google的guava工具類已經(jīng)幫我們造好了輪子,通過實例來感受一下。

2.1 導入依賴

dependency>
   groupId>com.google.guava/groupId>
   artifactId>guava/artifactId>
   version>30.1.1-jre/version>
/dependency>

2.2 BloomFilterTest

import com.google.common.hash.BloomFilter;
import com.google.common.hash.Funnels;
import lombok.extern.slf4j.Slf4j;

/**
 * 布隆過濾器簡單實現(xiàn)
 * @author ludangxin
 * @date 2021/8/16
 */
@Slf4j
public class BloomFilterTest {
   /**
    * 預計要插入元素個數(shù)
    */
   private static final int SIZE = 1000000;
   /**
    * 誤判率
    */
   private static final double FPP = 0.01;
   /**
    * 布隆過濾器
    */
   private static final BloomFilterInteger> BLOOMFILTER = BloomFilter.create(Funnels.integerFunnel(), SIZE, FPP);

   public static void main(String[] args) {
      //插入數(shù)據(jù)
      for (int i = 0; i  1000000; i++) {
         BLOOMFILTER.put(i);
      }
      int count = 0;
      // 過濾判斷
      for (int i = 1000000; i  3000000; i++) {
         if (BLOOMFILTER.mightContain(i)) {
            count++;
            log.info(i + "誤判了");
         }
      }
      log.info("總共的誤判數(shù):" + count);
   }
}

2.3 啟動測試

如上代碼,我們設置了0.01的誤差,過濾判斷時從1000000到3000000,誤判了2 * 20000000 ≈ 20339 符合預期。

.....
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999004誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999045誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999219誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999699誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999753誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999838誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999923誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 2999928誤判了
21:40:21.529 [main] INFO com.ldx.redisson.controller.BloomFilterTest - 總共的誤判數(shù):20339

2.4 小節(jié)

guava的工具包雖然好用,但是數(shù)據(jù)集是存儲在jvm中的,分布式環(huán)境下依然沒法使用。

3. redisson 實現(xiàn)

3.1 導入依賴

dependency>
   groupId>org.redisson/groupId>
   artifactId>redisson-spring-boot-starter/artifactId>
   version>3.16.1/version>
/dependency>

3.2 BloomFilterWithRedisson

import lombok.RequiredArgsConstructor;
import lombok.extern.slf4j.Slf4j;
import org.redisson.api.RBloomFilter;
import org.redisson.api.RedissonClient;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;

/**
 * redisson 布隆過濾器實現(xiàn)
 *
 * @author ludangxin
 * @date 2021/8/16
 */
@Slf4j
@RestController
@RequestMapping("bloomFilter")
@RequiredArgsConstructor
public class BloomFilterWithRedisson {
   private final RedissonClient redissonClient;

   /**
    * 預計要插入元素個數(shù)
    */
   private static final long SIZE = 1000000L;
   /**
    * 誤判率
    */
    private static final double FPP = 0.01;

   /**
    * 自定義布隆過濾器的 key
    */
   private static final String BLOOM_FILTER_KEY = "bloomFilter";

   /**
    * 向布隆過濾器中添加數(shù)據(jù), 模擬向布隆過濾器中添加10億個數(shù)據(jù)
    */
   @GetMapping
   public void filter() {
     // 獲取布隆過濾器
      RBloomFilterInteger> bloomFilter = redissonClient.getBloomFilter(BLOOM_FILTER_KEY);
      // 初始化,容量為100萬, 誤判率為0.01
      bloomFilter.tryInit(SIZE, FPP);
      // 模擬向布隆過濾器中添加100萬個數(shù)據(jù)
      for (int i = 0; i  SIZE; i++) {
          bloomFilter.add(i);
      }
      int count = 0;
      // 過濾判斷
      for (int i = 1000000; i  3000000; i++) {
         if (bloomFilter.contains(i)) {
            count++;
            log.info(i + "誤判了");
         }
      }
      log.info("size:" + bloomFilter.getSize());
      log.info("總共的誤判數(shù):" + count);
   }
}

3.3 啟動測試

由于機器性能有限,又是單機環(huán)境,所以程序沒有跑完。

但由此也可以看出,基于redis的布隆過濾器雖然解決了分布式問題,但是性能和guava bloomfilter沒法比。

到此這篇關于Redis BloomFilter實例講解的文章就介紹到這了,更多相關Redis BloomFilter實例內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

您可能感興趣的文章:
  • Redis使用元素刪除的布隆過濾器來解決緩存穿透問題
  • 布隆過濾器(bloom filter)及php和redis實現(xiàn)布隆過濾器的方法
  • Redis實現(xiàn)布隆過濾器的方法及原理
  • Redis 中的布隆過濾器的實現(xiàn)

標簽:衡水 仙桃 湘潭 湖南 蘭州 銅川 崇左 黃山

巨人網(wǎng)絡通訊聲明:本文標題《Redis BloomFilter實例講解》,本文關鍵詞  ;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問題,煩請?zhí)峁┫嚓P信息告之我們,我們將及時溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡,涉及言論、版權(quán)與本站無關。
  • 相關文章
  • 收縮
    • 微信客服
    • 微信二維碼
    • 電話咨詢

    • 400-1100-266
    青龙| 股票| 灌阳县| 平原县| 永修县| 韶山市| 铜鼓县| 尚志市| 浪卡子县| 安塞县| 大田县| 平南县| 任丘市| 蒲城县| 靖宇县| 会东县| 微博| 海门市| 新建县| 高雄市| 诸暨市| 旬阳县| 盐池县| 兰坪| 收藏| 宁陕县| 江川县| 阿克| 远安县| 庆安县| 林芝县| 淄博市| 秦皇岛市| 洛川县| 永修县| 正宁县| 克山县| 安新县| 永和县| 阿拉善盟| 宣恩县|