用户工具

站点工具


pve:pveceph

这是本文档旧的修订版!


第五章:部署超融合Ceph集群

原文链接:https://pve.proxmox.com/pve-docs/chapter-pveceph.html 最后更新:2026-02-25

概述

Ceph是一个统一的、分布式存储系统,具有出色的可靠性、可扩展性和性能。Proxmox VE集成了Ceph,允许您通过Web界面部署和管理超融合存储集群。

Ceph概念

什么是Ceph

Ceph是一个软件定义的存储解决方案,提供: * 对象存储 * 块存储 * 文件系统存储

Ceph组件

* OSD - 对象存储守护进程 * MON - 监视器 * MGR - 管理器 * MDS - 元数据服务器(可选)

安装Ceph

通过Web界面安装

1. 转到节点 → Ceph 2. 点击“安装Ceph” 3. 选择版本 4. 确认安装

通过命令行安装

apt install ceph
</code

===== 创建Ceph集群 =====

=== 创建Monitors ===

使用Web界面:
1. Ceph → 创建Ceph集群
2. 添加监视器节点
3. 配置网络

=== 初始化集群 ===

<code>
ceph-deploy new node1 node2 node3
</code

===== 配置OSD =====

=== 创建OSD ===

添加OSD:
<code>
ceph-deploy osd create --data /dev/sdb node1
</code

=== 设备类型 ===

* HDD - 机械硬盘
* SSD - 固态硬盘
* NVMe - NVMe设备

=== 缓存层 ===

使用SSD作为缓存:
<code>
ceph-deploy osd create --data /dev/sda --bluestore --wal /dev/nvme0n1 node1
</code

===== 存储池 =====

=== 创建存储池 ===

通过Web界面:
1. Ceph → 存储池
2. 点击"创建"
3. 命名和选择类型

=== 存储池类型 ===

* Replicated - 复制池
* Erasure Coded - 纠删码池

=== 副本数 ===

* 3副本(默认)
* 2副本
* 自定义

===== 块设备(RBD) =====

=== 创建RBD镜像 ===

<code>
rbd create pool/image --size 10G
</code

=== 使用RBD作为存储 ===

在Proxmox中添加:
1. 存储 → 添加 → RBD
2. 输入池名称
3. 配置参数

===== CephFS =====

=== 创建CephFS ===

1. 创建元数据服务器
2. 创建CephFS
3. 配置配额

=== 挂载CephFS ===

<code>
mount -t ceph node1:6789:/ /mnt/cephfs -o name=admin,secret=AQDD...
</code

===== 高可用 =====

=== MON高可用 ===

* 多个监视器
* 自动故障转移
* Quorum机制

=== OSD高可用 ===

* 副本机制
* 自动恢复
* PG重平衡

===== 监控 =====

=== Ceph状态 ===

查看状态:
<code>
ceph status
ceph health
</code

=== 详细统计 ===

<code>
ceph -s
ceph osd df
ceph pool ls
</code

=== Web界面 ===

Proxmox Web界面提供:
* 集群状态
* OSD状态
* 存储使用
* 性能图表

===== 故障排除 =====

=== 常见问题 ===

* OSD故障
* 存储池不健康
* 性能下降
* 网络问题

=== 诊断命令 ===

<code>
# 检查健康状态
ceph health detail

# 检查OSD
ceph osd tree

# 检查PG状态
ceph pg stat

恢复

* 替换故障OSD * 重新添加MON * 修复存储池

性能优化

硬件建议

* SSD用于日志/WAL * 足够的内存 * 10GbE网络

调优参数

* osd_op_queue * osd_memory_target * bluestore_cache_size

备份Ceph

配置备份

备份Ceph配置: <code> ceph-deploy config backup node1 </code

导出地图

<code> ceph osd getmap -o osdmap ceph mon getmap -o monmap </code

升级Ceph

升级流程

1. 停止OSD 2. 升级软件包 3. 重启OSD 4. 验证状态 5. 继续下一个节点

注意事项

* 避免同时升级所有节点 * 保持集群健康 * 做好回滚计划

最佳实践

1. 使用奇数个MON(3或5) 2. 合理的PG数量 3. 定期监控健康状态 4. 保持固件更新 5. 使用专用网络

与Proxmox集成

存储类型

Proxmox支持: * RBD - 块存储 * CephFS - 文件存储 * RGW - 对象存储(将来支持)

虚拟机存储

将Ceph RBD用于: * 虚拟机磁盘 * 容器存储 * 备份目标

pve/pveceph.1772033471.txt.gz · 最后更改: admin

Donate Powered by PHP Valid HTML5 Valid CSS Driven by DokuWiki