POPPUR爱换

 找回密码
 注册

QQ登录

只需一步,快速开始

手机号码,快捷登录

搜索
查看: 1749|回复: 10
打印 上一主题 下一主题

真正的diy存储高手看过来,这个帖子的问题对于许多人有非常意义(二)

[复制链接]
跳转到指定楼层
1#
发表于 2009-9-19 04:59 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
本帖最后由 大风飞扬 于 2009-9-19 05:22 编辑

了解之前情况可以参看我前面的帖子。另外,我下周一还预约了测试更多的sas硬盘做成阵列,不过我几乎不抱希望了。

在之后又完成了如下测试一:服务器商那边测试
前日chinaunix  pcinlife发完帖以后睡觉,睡到昨日下午。因为已经约好到一家专门做服务器的地方去看。这家服务器商既有品牌的味道,也有diy的味道。

见面寒暄过后,直接开测,平台为超微的5500平台,raid卡为rocketraid 3560,这个卡支持的硬盘比我的多,多达24个,但是我的性能比它的强,我的iop 是1.2g hz的。用了四个 st es.2 1TB企业级 sata硬盘。结果性能跟我之前的测试差不多,三台机器并发测试就是75MB/S差不多。

看来可以排除主板南桥的问题了。

二:回到家中换成freenas把系统换成freenas测试,居然并发性能比win2008的差,看来win2008的smb性能比win2003好不少,文件传输并发性能是不是比freebsd好呢?

有趣的是:我在三台客户端机器上同时从服务器上复制一个文件的时候,奇迹发生了,网卡居然可以跑到900Mb/s(我这时没有做交换机聚合,也没有做网卡聚合),也就是110MB/S,这个速度显然是非常令人惊讶的,千兆网卡的极限啊。

我当时就开心的几乎跳起来了,然而我马上冷下来了,如果是不同的文件呢,于是立即开始测试,当三台机器每个机器从服务器上复制不同的文件的时候,整个速度立即下降,估计总共就是45MB/S,这个速度还不如win2008下的呢。而且这个时候sata raid0阵列速度忽高忽低,一会儿是波峰500mb/s,一会波谷60mb/s,总体来说跳得非常厉害。

于是得出结论,硬盘的并发能力是真正的瓶颈。

另外,就是freebsd的网络性能的确很强悍,我还从来没有见到过千兆网卡居然可以持续跑到940mb/s的。还有就是ufs文件系统性能是不是比较弱呢?怎么比win2008的并发传输能力差啊。另外就是freebsd的网络负载平衡能力强啊,几个客户端的速度非常平均,但是在win2008下,高的45MB/S,低的10MB/S。

三:15k6 sas硬盘上场

突然记起我还有一个15k6 146g 15000转sas硬盘,这是个好东西,于是立即接上。环境还是freenas。三个客户端持续并发拷贝不同文件,速度总共是18MB/S左右,这个sas传输东西的时候速度波动很少,基本上在18MB/S左右波动。这个跟宣传的持续读能力110MB/S差得太远了。

但是一个客户端连接拷贝东西(其它客户端不动),速度可以很轻松跑到50MB/S。

到目前为止的结论是:


1  硬盘的并发性能是真正的瓶颈我这几天看了些文章,没有确证但是我非常相信,人家15个15k6 sas硬盘,持续大数据并发读写不过就是100M/S多一点。看来一并发,硬盘阵列性能就下滑的非常厉害。


2 网上的那些测试其实是针对单个客户端而言的说白了就是机器的阵列就是机器自己用,如果组成阵列速度的确会很快


3 并发环境下的持续读写速度要达到200MB/S以上,估计得等到SSD硬盘了靠目前的机械硬盘,即使是sas,如果不像大公司那样,估计根本超不过150MB/S了


4 我觉得现阶段要达到较高并发的办法(不一定对)就是在一台机器里多组几个阵列,放不同的内容,让客户根据内容分流了。例如 5个sas 15k6硬盘raid,并发持续读能力也就是120MB/S,但是我如果分成5个盘,最好的情况下,五个客户分别读五个盘,那样的并发总性能就超过250MB/S了。但是这样一个是无法像管理raid那样一个整盘管理,另外一个方面对客户的需求无法良好统计从而优化分配。


5 raid阵列卡的作用raid阵列卡我觉得本身没有什么大的加速作用(这个跟厂商吹嘘的是两码事情,从这点可以看出,厂商是多么一致的忽悠我们最终客户),就是一点cache,这个起不了什么大作用。但是我认为raid阵列卡在保证数据安全方面还是比较有用的。另外,raid阵列卡把多个硬盘的性能一定程度上串联起来了,这样针对应用而言,磁盘性能得到很大提高了。


请各位兄弟姐妹继续帮我:em03:
sinazealot 该用户已被删除
2#
发表于 2009-9-19 10:24 | 只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

3#
发表于 2009-9-19 11:46 | 只看该作者
万转以上sas应用应该是正确的策略,7200转的没必要用了
不过18M的测试结果我觉得不可采纳
回复 支持 反对

使用道具 举报

4#
发表于 2009-9-19 12:29 | 只看该作者
要是测试网络呢 就用ram disc 避免硬盘的影响
要是测阵列的速度呢 就要避免 网络的影响
要是测综合表现 。。。
回复 支持 反对

使用道具 举报

5#
发表于 2009-9-19 12:30 | 只看该作者
另外 大并发的访问硬盘内容 可以学习一下 baidu的机房
回复 支持 反对

使用道具 举报

hczlping 该用户已被删除
6#
发表于 2009-9-19 12:32 | 只看该作者
提示: 作者被禁止或删除 内容自动屏蔽
回复 支持 反对

使用道具 举报

7#
发表于 2009-9-19 12:43 | 只看该作者
奇怪的sas结果,sata的并发结果我认为很正常,但sas并发结果也同样下降2/3感觉诧异。
回复 支持 反对

使用道具 举报

8#
发表于 2009-9-19 12:56 | 只看该作者
关于楼主的第四条可以用OS的磁盘管理里自带的跨区卷来解决

不过没啥大的意思

如果仅仅是为了在网络上看起来在同一目录下可以用DFS来发布共享(好像也没啥意义

楼主的情况个人觉得是不是可以用这个办法解决

给每个用户一块能够包含所有数据的硬盘或者一个阵列

所有数据在每个阵列或者硬盘上都有副本

然后在空闲时自动同步

这样  如果对数据实时性要求不高的应用就可以获得较好的性能了

另外楼主也可以测试一下   在一个阵列或者磁盘上 同时有一个持续写入  和 一个连续读取   此时性能是否可以接受   如果性能可以接受  那么你甚至可以考虑数据实时同步


这个方案是看了楼主的帖子  发觉楼主容量不是问题   钱不是问题才给出的
回复 支持 反对

使用道具 举报

9#
发表于 2009-9-19 13:05 | 只看该作者
做一下lun
回复 支持 反对

使用道具 举报

10#
发表于 2009-9-19 23:26 | 只看该作者
楼主可以试试向存储时代的编辑张广彬发邮件请教

他对SAS和SATA协议层非常了解
回复 支持 反对

使用道具 举报

11#
发表于 2009-9-20 11:07 | 只看该作者
“许多人”是指什么人?
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

广告投放或合作|网站地图|处罚通告|

GMT+8, 2025-9-1 23:40

Powered by Discuz! X3.4

© 2001-2017 POPPUR.

快速回复 返回顶部 返回列表