本文目录:
- 1、分布式存储极简艺术Minio解析
- 2、腾讯云cdn缓存github
- 3、用了对象存储还可以用CDN加速吗
- 4、联通云的块存储采用的存储机制是?
分布式存储极简艺术Minio解析
MinIO 对象存储系统是为海量数据存储、人工智能、大数据分析而设计,基于
Apache License v2.0 开源协议的对象存储系统,它完全兼容 Amazon S3 接口,单个对象的最大可达 5TB,适合存储海量图片、视频、日志文件、备份数据和容器/虚拟机镜像等。作为一个开源服务,MinIO 在设计上汲取了Glusterfs的相关经验不教训,系统复杂度上作了大量简化,目前大小只有40+M,部署只需要一个命令即可完成!另外,minio舍弃了传统分布式存储扩容所需要的迁移流程,采用联盟模式添加集群的方式,极大简化了扩容流程;除此之外,minio还具有纠删编码、比特位保护、单写多读(worm)、下面来依次简要解析一下Mioio的特点及具体实现:
元数据和数据一起存放在磁盘上。元数据以明文形式存放在元数据文件里(xl.json)。假定对象名字为key_name, 它所在桶的名字是bucket_name, disk路径就是/disk,那么存储路径就是:/disk/bucket_name/key_name,windows下C盘存放桶名为test,对象名为minio.exe示例如图:
其中part.1是实际存储数据(单机模式为原生数据,分布式为纠删码分块),xl.json是如下所示的json字符串:
在同一集群内,MinIO 自己会自劢生成若干纠删组,用于分布存放桶数据。一个纠删组中的一定数量的磁盘发生的故障(故障磁盘的数量小于等于校验盘的数量),通过纠删码校验算法可以恢复出正确的数据。MinIO 集成了 Reed-Solomon 纠删码库,MinIO 存储对象数据时,首先把它分成若干等长的片段(对于大对象,默认按 5MB 切片),然后每一个片段会纠删算法分成若干分片,包括数据分片不校验分片,每个分片放置在一个纠删组的某个节点上。对象的每一个数据分片、校验分片都被“防比特位衰减”算法所保护。
MinIO 会根据对象名(类似于文件系统的全路径名),使用 crc32 哈希算法计算出一个整数。然后使用这个整数除以纠删组的个数,得到一个余数。这个余数,可以作为纠删组的序号,这样就确定了这个对象所在的纠删组。MinIO 采用 CRC32 哈希算法,不 glusterfs 的Davies Meyer哈希算法(性能、冲突概率不md4, md5相近)不一样的是,CRC32算法的哈希值分布较不均匀,但运算速度极快,高出 md4 数倍。相对于容量均衡,MinIO 更看重数据的写入速度。
纠删组如何配置?
官方文档说明如下:
也就是说纠删组的总大小只能从这7中情况中根据你提供的盘的个数(或者说路径个数)来自动选取最大值的,我们 不能灵活地配置m+k纠删存储格式。但这样说又不是很准确 ,因为虽然不能配置任意的m+k,但是在系统已经选取好擦除编码集的的个数后(也就是m+k),可以使用storage class存储类来自定义m和k的数量,默认是1:1的。
存储类:
MinIO支持配置两种存储类别,精简冗余类别和标准类别,默认是标准类别(1:1),可以在启动MinIO服务器之前使用设置的环境变量来定义这些类。使用环境变量定义每个存储类别的数据和奇偶校验磁盘后,您可以 在上传对象时通过请求元数据字段设置对象的存储类别x-amz-storage-class 。然后,MinIO服务器通过将对象保存在特定数量的数据和奇偶校验磁盘中来兑现存储类。具体配置和使用可以参考官方文档
传统的扩展方式的劣势
通过增加节点来扩展单集群,一般需要进行数据均衡,否则群集内各存储节点会因负载不均而出现新的瓶颈。除了数据均衡操作的时机这个问题以外,在均衡过程中一般需要仍存储使用率高的节点吐使用率低的节点迁移数据。当集群扩容后,大量已经写入的文件落点会出现改变,文件需要迁移到真实的落点。当存储系统容量比较大时,则会发生大量的文件/对象进行迁移,迁移过程可能由于占用大量资源而导致上层应用性能下降。而且当文件/对象迁移过程中,机器故障可能会导致一些意想不到的情冴,尤其是有大量业务的时候。当然针对此类问题,Gluterfs之类的文件系统有一些比较复杂的处理办法。
不支持扩展优势
腾讯云cdn缓存github
登录
首页
学习
实践
活动
专区
工具
TVP
返回腾讯云官网
hahah
32 篇文章
关注
hexo-优化-网站访问加速
2022-06-15 19:46:29阅读 4820
hexo-优化-网站访问加速
加速hexo项目访问速度,可采用CDN加速的方式进行,亦或是参考采用多线部署+域名映射的方式进行构建。针对图片资源问题,可借助图床服务构建图片资源存储。
网站访问加速方案
1静态资源CDN缓存:基于github+jsDelivr构建
2图片资源存储:可借助腾讯云COS或者其他对象存储构建资源存储
复制
1.CDN引入
jsDelivr是一个免费、快速和可信赖的全球CDN加速服务,可基于多种组合方式构建cdn加速,常见的白嫖方案有github/又拍云/等+jsDelivr的组合方式
Github+jsDelivr实现cdn加速
构建说明
1新建github仓库用于存储资源数据信息(自定义数据存储)
2发布资源版本信息
3通过jsDelivr引用资源信息
4jsDelivr缓存更新
构建过程参考
1github仓库构建
初始化github仓库,上传资源文件信息(自定义分类存储),一般将经常访问的静态资源文件上传即可(注意资源访问路径问题,可以将themes下的资源文件整个打包)
2资源版本发布
仓库构建完成并上传资源,完成后发布资源版本
填充发布版本信息,发布版本内容
3资源引用信息
通过地址引用资源内容
引用路径规则
用户名/你github仓库名@发布的版本号/文件路径
复制
例如访问指定路径下的发布的图片信息
仓库初始化完成,但在访问过程出现:Failed to fetch version info for 用户名/仓库名 提示,此外针对一些没有经常更新的仓库也会出现这种情况,多传几次文件、更新发布版本再次尝试即可
hexo项目引用
如果需要在hexo项目中引用自定义的CDN服务,则可通过配置主题配置文件_config,butterfly.yml中的CDN选项,将相关文件进行匹配即可
在项目中配置引用,则可将相关的资源文件
用了对象存储还可以用CDN加速吗
CDN加速就是把原服务器上数据复制到其他服务器上,用户访问时,那台服务器近访问到的就是那台服务器上的数据。
CDN加速优势是成本低,速度快。可以用cdnbest的CDN进行加速,免费,可部署私有,公有cdn系统。可以实现宕机检测,自动切换ip,分线路,分组解析。
联通云的块存储采用的存储机制是?
活动季云存储比较好,11个9高可靠性,成本低,易扩展,存储加速一体化解决方案,七牛云存储,注册即享,每月免费无上限上传流量
本文来源:https://www.yuntue.com/post/115170.html | 云服务器网,转载请注明出处!