13-存储与IO
第 169 题:云存储(S3、OSS)与本地存储的性能差异?s3fs?
题目
云存储(S3、OSS)与本地存储的性能差异?s3fs?
完整讲解
一、云存储与本地存储的差异
本地存储(NVMe/SSD 直连):低延迟、高带宽、无网络抖动,适合热数据与高 IOPS;容量与扩展受单机限制。云存储(S3、OSS、Azure Blob):容量弹性、持久性与可用性高,但延迟与带宽受网络限制:首字节延迟通常毫秒级、带宽受实例与 bucket 限制,大量小文件或随机读时性能明显差于本地盘。
二、性能差异与 s3fs
差异:云存储适合顺序大块读、批量 list;高 QPS 小文件、随机读、或训练时「每个 step 读不同小 chunk」会拉高延迟与成本。s3fs(或 s3fs-fuse):把 S3 bucket 挂载为文件系统,应用按普通文件路径访问;底层仍是 HTTP 请求,延迟与带宽特性不变,且 FUSE 有额外开销,不适合高吞吐训练数据直接读;适合偶尔访问、脚本与工具兼容。更好做法:训练数据预拉到本地盘或 SSD(拉一次、多 epoch 复用),或使用云上的「本地盘 + 生命周期」;或用 Alluxio 等缓存层在计算节点缓存 S3 数据。
三、选型建议
热数据、高吞吐训练用本地/NVMe 或缓存层;冷数据与归档用 S3/OSS;s3fs 适合兼容性与轻量访问,不作为训练主存储路径。
面试要点
- 本地:低延迟高带宽;云存储:弹性与持久,但延迟与带宽受网络限制,小文件/随机读性能差。
- s3fs:S3 挂成文件系统,兼容性好但性能与 FUSE 开销限制,不适合高吞吐训练直读。
- 训练数据建议预拉到本地或缓存层;冷数据存 S3;s3fs 做兼容与轻量访问。
记忆要点
- 云存储 = 高延迟、带宽受限;本地 = 低延迟高带宽。
- s3fs = 挂载 S3 为文件系统;不适合训练主路径,适合兼容与轻量。
- 训练用本地/缓存;冷数据 S3;预拉或 Alluxio 等缓存。