电子文档交易市场
安卓APP | ios版本
电子文档交易市场
安卓APP | ios版本

hbase源码学习之put

11页
  • 卖家[上传人]:m****
  • 文档编号:57569517
  • 上传时间:2018-10-22
  • 文档格式:DOCX
  • 文档大小:20.34KB
  • / 11 举报 版权申诉 马上下载
  • 文本预览
  • 下载提示
  • 常见问题
    • 1、hbasehbase 源码学习之源码学习之 putputhbase-0.90.5一,首先来看下 put 的构造函数:ts 为时间戳,public Put(byte row) this(row, null);, public Put(byte row, RowLock rowLock) this(row, HConstants.LATEST_TIMESTAMP, rowLock);, public Put(byte row, RowLock rowLock) this(row, HConstants.LATEST_TIMESTAMP, rowLock);,public Put(byte row, long ts) this(row, ts, null);,public Put(byte row, long ts, RowLock rowLock) if(row = null | row.length HConstants.MAX_ROW_LENGTH) throw new IllegalArgumentException(“Row key is invalid“);this.row =

      2、Arrays.copyOf(row, row.length);this.timestamp = ts;if(rowLock != null) this.lockId = rowLock.getLockId();看到的时候很明显了,有传入的参数 key,如果时间戳为空,则为 null,如果传入的 rowlock 不为空,那么就通过 rowLock.getLockId()拿到 lockId,赋值给当前 lockid. 638 棋牌 http:/另外还有个public Put(Put putToCopy) Copy constructor. Creates a Put operation cloned from the specified Put.this.writeToWAL = putToCopy.writeToWAL;HBase 中 WAL(Write Ahead Log) 的存储格式二,add 操作:public Put add(byte family, byte qualifier, long ts, byte value) List list = getKeyValueList(

      3、family);KeyValue kv = createPutKeyValue(family, qualifier, ts, value);list.add(kv);familyMap.put(kv.getFamily(), list);return this;List list先取出依据 family 从 familyMap 拿到 List list,如果 list 为空,则创建一个 list,然后依据参数 family, qualifier, ts, value 生成一个 KeyValue然后将 KeyValue 放入 familyMap 中private List getKeyValueList(byte family) List list = familyMap.get(family);if(list = null) list = new ArrayList(0);return list;早来看下 htable 的 put 方法:private void doPut(final List puts) throws IOException int n = 0;for (Put p

      4、ut : puts) validatePut(put);writeBuffer.add(put);currentWriteBufferSize += put.heapSize();/ we need to periodically see if the writebuffer is full instead of waiting until the end of the Listn+;if (n % DOPUT_WB_CHECK = 0 if (autoFlush | currentWriteBufferSize writeBufferSize) flushCommits();如果 currentWriteBufferSize writeBufferSize,此时就会调用 flushCommits()方法。天地棋牌 http:/Overridepublic void flushCommits() throws IOException try connection.processBatchOfPuts(writeBuffer, tableName, pool); finally if (

      5、clearBufferOnFail) writeBuffer.clear();currentWriteBufferSize = 0; else / the write buffer was adjusted by processBatchOfPutscurrentWriteBufferSize = 0;for (Put aPut : writeBuffer) currentWriteBufferSize += aPut.heapSize();HConnectionManager.classconnection.processBatchOfPuts(writeBuffer, tableName, pool);最终调用的是 processBatch(List) list, tableName, pool, results);方法processBatch 内部有 retry 机制,/ sleep first, if this is a retrysleep 时间: long sleepTime = getPauseTime(tries);此后回依据参数调用 locateRegion 的去定位

      6、 RegionHRegionLocation loc = locateRegion(tableName, row.getRow(), true);private HRegionLocation locateRegion(final byte tableName,final byte row, boolean useCache)在这个函数中:if (Bytes.equals(tableName, HConstants.ROOT_TABLE_NAME) try HServerAddress hsa =this.rootRegionTracker.waitRootRegionLocation(this.rpcTimeout);LOG.debug(“Lookedup root region location, connection=“ + this +“; hsa=“ + hsa);if (hsa = null) return null;return new HRegionLocation(HRegionInfo.ROOT_REGIONINFO, hsa); catch (Interrupte

      7、dException e) Thread.currentThread().interrupt();return null; else if (Bytes.equals(tableName, HConstants.META_TABLE_NAME) return locateRegionInMeta(HConstants.ROOT_TABLE_NAME, tableName, row,useCache, metaRegionLock); else / Region not in the cache - have to go to the meta RSreturn locateRegionInMeta(HConstants.META_TABLE_NAME, tableName, row,useCache, userRegionLock);, 如果 tableName = -ROOT- 就会调用 waitRootRegionLocation 方法,通过zookeeper 得到 rootregion 的地址。返回一个 new HRegionLocation(HRegionInfo.ROOT_R

      8、EGIONINFO, hsa); 通过 zookeeper 得到 rootregion 的地址:RootRegionTracker.class-public HServerAddress waitRootRegionLocation(long timeout)throws InterruptedException return dataToHServerAddress(super.blockUntilAvailable(timeout);ZooKeeperNodeTracker.class 中:public synchronized byte blockUntilAvailable(long timeout)throws InterruptedException if (timeout 0) continue;wait(remaining);remaining = timeout - (System.currentTimeMillis() - startTime);return data;在 start 方法中可以看到 data:byte data = ZKUtil.getDataAn

      9、dWatch(watcher, node);, 如果 tableName = .META.,就会调用 locateRegionInMeta 方法,locateRegionInMeta(HConstants.ROOT_TABLE_NAME, tableName, row,useCache, metaRegionLock);locateRegionInMeta 中:if (useCache) location = getCachedLocation(tableName, row);先去从缓存中拿,如果缓存中没有,得到 metakey,依据这个 key 首先定位 root 和meta region,然后HRegionInterface server =getHRegionConnection(metaLocation.getServerAddress();通过去定位 serveraddress,首先是通过 regionInfoRow = server.getClosestRowBefore 得到一个 regionInfoRow,在得到一个value,regionInfoRow.getValue,最终得到 serveraddress:serverAddress = Bytes.toString(value);, 如果不是.META.表也不是-ROOT-表,那么也会调用 locateRegionInMeta 方法, / Region not in the cache - have to go to the meta RSreturn locateRegionInMeta(HConstants.META_TABLE_NAME, tableName, row,useCache, userRegionLock);传入 meta 表,定位获得 serveraddress之后组装 actions,即 put,get,delete,等操作之后交给线程池一步

      《hbase源码学习之put》由会员m****分享,可在线阅读,更多相关《hbase源码学习之put》请在金锄头文库上搜索。

      点击阅读更多内容
    最新标签
    发车时刻表 长途客运 入党志愿书填写模板精品 庆祝建党101周年多体裁诗歌朗诵素材汇编10篇唯一微庆祝 智能家居系统本科论文 心得感悟 雁楠中学 20230513224122 2022 公安主题党日 部编版四年级第三单元综合性学习课件 机关事务中心2022年全面依法治区工作总结及来年工作安排 入党积极分子自我推荐 世界水日ppt 关于构建更高水平的全民健身公共服务体系的意见 空气单元分析 哈里德课件 2022年乡村振兴驻村工作计划 空气教材分析 五年级下册科学教材分析 退役军人事务局季度工作总结 集装箱房合同 2021年财务报表 2022年继续教育公需课 2022年公需课 2022年日历每月一张 名词性从句在写作中的应用 局域网技术与局域网组建 施工网格 薪资体系 运维实施方案 硫酸安全技术 柔韧训练 既有居住建筑节能改造技术规程 建筑工地疫情防控 大型工程技术风险 磷酸二氢钾 2022年小学三年级语文下册教学总结例文 少儿美术-小花 2022年环保倡议书模板六篇 2022年监理辞职报告精选 2022年畅想未来记叙文精品 企业信息化建设与管理课程实验指导书范本 草房子读后感-第1篇 小数乘整数教学PPT课件人教版五年级数学上册 2022年教师个人工作计划范本-工作计划 国学小名士经典诵读电视大赛观后感诵读经典传承美德 医疗质量管理制度 2 2022年小学体育教师学期工作总结 2022年家长会心得体会集合15篇
    关于金锄头网 - 版权申诉 - 免责声明 - 诚邀英才 - 联系我们
    手机版 | 川公网安备 51140202000112号 | 经营许可证(蜀ICP备13022795号)
    ©2008-2016 by Sichuan Goldhoe Inc. All Rights Reserved.