盘点 (资料)

✍ dations ◷ 2025-05-19 23:19:06 #资料仓储

盘点区或接地区, 是资料处理过程在萃取/转置/加载(ETL)的中介存储区。此一资料盘点区是位于资料(多个)来源和(多个)目标之间, 通常会是数据仓库, 资料超市, 或其他的资料存储库。

资料盘点区在本质上通常是暂存的, 其内容在运行 ETL 处理前, 或成功完成 ETL 处理后立即会被清除。而盘点区的架构被设计着重于延长保有资料的时间处理归档, 或排调试误。

盘点区能有的实现方式是用一般数据库的资料表, 存储在文件系统中以文字展开的文件(或XML文件)或专属格式的二进制文件。 盘点区架构复杂的范围, 从目标数据库的一组单纯关系资料表, 到独立的数据库实例或文件系统。 尽管来源系统和目标系统支持的 ETL 处理, 通常是一般数据库, 但位于数据源和目标之间的盘点区也不尽然是一般数据库。

盘点区能够安排提供很多好处, 但其主要动机是用来增加 ETL 处理的效率, 确保资料完整及支持资料操作的质量。盘点区的功能包含下列各项:

盘点区担任的主要功能之一, 就是集成多个来源系统的资料。运行此一功能时, 盘点区就如同是一个大型的‘桶’可暂时放置从多个来源系统的资料, 便于未来的处理。常见的是在盘点区标记资料, 利用额外诠释资料指示原版的来源, 和时间戳记指示资料何时被放置到盘点区。

一致化数据包含跨多个来源系统的参考资料标准化, 以及检核来自不同来源的纪录和资料成分间的关系。 在盘点区资料的一致化, 是功能上的密切相关也是支持‘主资料管理’(Master Data Management)的能力。

盘点区和所支持的 ETL 处理, 其设计目标通常要能在来源系统做资源上竞争的最小化。一次性从来源拷贝需要的资料到盘点区, 常会较逐笔检索个别纪录(或小组群)要有效率。之前在技术上优势的做法, 是诸如资料流技术, 透过减少需要中断来降低负担和重新连接到来源系统, 并优化在多人使用来源系统的并发锁定管理。然而以复制来源的资料, 接着在盘点区等待运行的集中处理与转换的 ETL 方式, 可获得比并发相关处理更好的控制。

盘点区能在特定时间内安排好资料供给, 该资料是迳给多个目标。某些状况下, 资料可在不同时间拉入盘点区存放, 以便一次进行全部处理。举例来说, 此类状况有可能发生企业处理进行在跨时区的每个夜晚。其他情况也可能有资料被带入盘点区以便在特定时间处理; 或在盘点区推送资料到多个目标系统。例如, 每日营运资料会被推送到作业数据存储(Operational Data Store, ODS), 而相同资料也被送到以每月聚集形式的数据仓库。

盘点区支持根据目标系统的有效变更侦测。此功能在来源系统不支持可靠形式的变更侦测, 像是系统强制时间戳记, 变更追踪, 或者变更资料捕捉(Change Data Capture, CDC)时, 特别有用。

资料清理包含从来源系统中识别和移除(或更新)无效的资料。利用盘点区, ETL 处理可用来实现企业逻辑去辨别与处理 "无效的" 资料。无效资料的定义通常是业务规则与技术限制的组合。技术性约束可能外加于盘点区的结构 (诸如一般数据库中表格约束), 以强制资料的有效性规则。

复杂业务逻辑的汇集,复杂计算与应用的重算可在盘点区进行, 以支持高回应服务级别协议(Service Level Agreements, SLAs), 用于目标系统的汇总报表。


资料归档能在盘点区进行或支持。这种情境下, 在加载过程中, 盘点区可用来维护历史纪录, 或推送资料到目标下的归档结构。此外, 资料也能维护在盘点区保存更长的时间, 以利支持 ETL 处理的技术问题排除 ....


相关

  • 肾素1BBS, 1BIL, 1BIM, 1HRN, 1RNE, 2BKS, 2BKT, 2FS4, 2G1N, 2G1O, 2G1R, 2G1S, 2G1Y, 2G20, 2G21, 2G22, 2G24, 2G26, 2G27, 2I4Q, 2IKO, 2IKU, 2IL2, 2REN, 2V0Z, 2V10, 2V11
  • 史努比史努比(英语:Snoopy)是美国漫画家查尔斯·舒尔茨从1950年代起连载的漫画作品《花生漫画》中,由主人翁查理·布朗饲养的一只外观为黑白花色的小猎犬。它是《花生漫画》里代表性的
  • 罗伯特·S·麦克纳马拉罗伯特·斯特兰奇·麦克纳马拉(英语:Robert Strange McNamara,1916年6月9日-2009年7月6日),美国商人及政治家,美国共和党人,曾任美国国防部长(1961年-1968年,为美国史上任期最久的国防
  • 梅江区坐标:24°18′00″N 116°07′00″E / 24.30000°N 116.11667°E / 24.30000; 116.11667梅江区是中国广东省东北部、梅州市中部的市辖区,是梅州市党政机关所在地,也是梅州市政
  • 李东学李东学(1982年11月27日-),中国大陆男演员,出生于河南省郑州市。主演过众多影视剧的新晋小生,先后毕业于郑州大学计算机专业和北京电影学院2003级表演系本科。主要作品:《后宫甄嬛传
  • 杨百翰纪念碑杨百翰纪念碑(Bringham Young Monument)是美国犹他州首府盐湖城的一座铜质纪念碑,位于主圣殿街和南圣殿街的交会处。杨百翰是摩门教的第二任总会会长,也是盐湖城开拓的先驱者。
  • 热罗·热维耶热罗·弗郎索瓦·古斯塔夫·热维耶(法语:Géraud François Gustave Réveilhac,1851年2月16日-1937年)是一名法国职业军官,出生于法国奥利亚斯(Aurillac)。在1909年12月21日获得准
  • 义昌江义昌江,位于中国广东省西南部和广西壮族自治区东南部,是北流河右岸支流,源流也称加益河,发源于广东罗定市加益镇塘面顶,向东流至加益镇合江村转北流,进入广西岑溪市境,蜿蜒北流,经岑
  • 林正盛林正盛(1959年3月31日-)是台湾电影导演,他的电影作品《放浪》与《爱你爱我》获选为柏林影展正式竞赛片,并凭借后者获得最佳导演银熊奖;并以《月光下,我记得》获得第41届金马奖最佳
  • 图书漂流图书漂流,也称为漂书。是近年流行全球的游戏,起源于上世纪六七十年代的欧洲,它的理念是将书籍流放到公共场所中,使得获得自由的书籍可以被他人拾得而继续被阅读,而后再次从阅读者