新闻详情

新闻详情

首页 / 资讯中心 / 详情

一个端口同时讲 S3 和 Iceberg:对象存储内置 REST Catalog 拆解

发布时间:2026/11/15 3:08:14来源:尧图网络
一个端口同时讲 S3 和 Iceberg:对象存储内置 REST Catalog 拆解
数据湖上了 Iceberg最磨人的往往不是计算而是 catalog。自建要么养一套 Hive Metastore要么跑一个 Polaris 或 Nessie光这一层又是一套服务要盯监控、要备份、要升级。很多人想试 Iceberg最后被表存在哪、元数据谁管两个问题劝退表没建几张先招了个专职运维。有人就琢磨catalog 管的就是表在对象存储里的位置那能不能让对象存储自己把这层也管了近两年这个方向确实热AWS 的 S3 Tables、一众开源 catalog 项目都在往存储即目录靠拢。本文拆一个具体做法把 Iceberg REST Catalog 直接做进对象存储内核一个进程、一个端口同时对外讲标准 S3 和 Iceberg REST。传统两件套的账经典玩法里对象存储管数据catalog 另起一个服务管元数据两边各管各的。代价是实打实的多一套进程要保活多一个依赖要升级多一份元数据要备份。catalog 和对象存储之间要有网络连通和鉴权对齐配错一处表就读不到。团队规模小的时候这一层的人力占比高得离谱。RustFS 从 1.0.0-rc.5 起把这套能力以S3 Table的形式开源内置了走的正是对象存储内核直接带 Iceberg REST Catalog这条路。下面看它怎么把两件套合成一个进程。一个进程两套协议起一个单节点S3 数据和 Iceberg REST Catalog 都在 9000 端口数据面走标准 S3控制面走/iceberg路径的 Iceberg REST。控制台 UI 单独在 9001。想确认 catalog 真的在监听一条 curl 就能验curl-XGET http://ip:9000/iceberg/v1/config\-HAuthorization: AWS4-HMAC-SHA256 ...返回里有defaults和signing-region说明控制面已经起来了。这一层是标准的 Iceberg REST 协议不绑定某个计算引擎。控制面CAS 加幂等键建表、提交快照这类写 catalog 的操作走 Iceberg REST Catalog。这里的一致性靠两件事CASCompare-And-Swap版本校验并发提交时过期的快照提交会被拒绝不会出现后提交的覆盖了先提交的。幂等键同一个提交重复发送catalog 只生效一次网络重试不会造出重复表版本。多引擎同时写也能保证目录层一致不用在存储侧加全局锁。数据面S3 直写存算分离真正的 Parquet 文件不进 catalog而是由计算引擎经 S3 API 直写桶内。catalog 只存元数据指针文件本身走标准 S3 写入路径。这就是典型的存算分离计算集群挂了数据还在桶里计算扩容不用动 catalog。防写坏保留前缀护住目录层元数据指针受保留前缀保护普通 S3 的 PUT/DELETE 改不动目录层结构。好处是你往桶里塞自己的非结构化对象时不会误手把 Iceberg 的元数据指针删了数据湖不会被写坏。反过来表数据落进去之后也要分清哪些 prefix 是表、哪些是你自己塞的对象别误删。并发冲突怎么走多引擎同时提交快照靠的是 catalog 的 CAS 拒绝过期提交不是存储层加锁。所以高频并发写的场景冲突会走读最新快照、重算、再提交的乐观路径。写应用的时候把重试逻辑留好比指望底层无锁更稳。这种架构适合谁团队小、不想养 metastore 的一个进程把数据和目录都管了运维面小。已经是 Spark / DuckDB / PyIceberg 技术栈的不用为 catalog 单独学一套系统。想存算分离的数据面走 S3、计算集群可独立扩缩。可以照着看的一步想判断这条路适不适合你半小时内能验证起一个单节点容器控制台建个桶并启用表存储桶用上面那条 curl 确认/iceberg/v1/config能返回再拿一段 PySpark 把表建出来。控制面和数据面是不是你要的一测就知道比看架构图实在。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/14 3:51:47

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/14 10:11:15

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/14 17:14:38

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/14 3:51:43

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉