하드웨어/RAID2019. 2. 13. 17:00

10K SAS RAID5 구성한 녀석(PERC H730P mini 였나? + 1G cache)

의외로 성능이 잘 나온다고 해야하려나? 아무튼 몇번에 대해서는 순간 1GB/s 나오는거 보고 깜놀


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=1G count=1 oflag=direct

1073741824 bytes (1.1 GB) copied, 0.968236 s, 1.1 GB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=1M count=1024 oflag=direct

1073741824 bytes (1.1 GB) copied, 0.877165 s, 1.2 GB/s

1073741824 bytes (1.1 GB) copied, 1.67205 s, 642 MB/s

1073741824 bytes (1.1 GB) copied, 1.64823 s, 651 MB/s

1073741824 bytes (1.1 GB) copied, 1.70338 s, 630 MB/s

1073741824 bytes (1.1 GB) copied, 1.67719 s, 640 MB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=1G count=1 oflag=direct

1073741824 bytes (1.1 GB) copied, 0.981585 s, 1.1 GB/s

1073741824 bytes (1.1 GB) copied, 1.86161 s, 577 MB/s

1073741824 bytes (1.1 GB) copied, 1.83748 s, 584 MB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=512 count=1024 oflag=direct

524288 bytes (524 kB) copied, 0.0448593 s, 11.7 MB/s

524288 bytes (524 kB) copied, 0.0444185 s, 11.8 MB/s

524288 bytes (524 kB) copied, 0.0448892 s, 11.7 MB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=512 count=102400 oflag=direct

5242880 bytes (5.2 MB) copied, 0.359296 s, 14.6 MB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=4096 count=102400 oflag=direct

52428800 bytes (52 MB) copied, 2.87847 s, 18.2 MB/s


[root@localhost home]# dd if=/dev/zero of=/home/testfile bs=4096 count=102400 oflag=direct
419430400 bytes (419 MB) copied, 3.62074 s, 116 MB/s
419430400 bytes (419 MB) copied, 3.60996 s, 116 MB/s


[링크 : https://www.thomas-krenn.com/en/wiki/Linux_I/O_Performance_Tests_using_dd]

'하드웨어 > RAID' 카테고리의 다른 글

RAID 1+0 구성과 span  (0) 2019.02.19
R730 PERC RAID-0 vs RAID-5  (0) 2019.02.15
PowerEdge RAID Controller - PERC  (0) 2019.02.12
512b vs 4k sector HDD (Advanced Format - AF)  (0) 2019.02.12
SAS  (0) 2013.11.12
Posted by 구차니
하드웨어/RAID2019. 2. 12. 19:27

DELL의 RAID 컨트롤러 명

그래도 테크니컬 메뉴얼 보니 재미난 구성이 좀 보이네?

그나저나, 8bay를 16베이로 어떻게 올릴 수 있을려나?


[링크 : https://i.dell.com/.../Dell-PowerEdge-RAID-Controller-H730.pdf]

[링크 : https://i.dell.com/.../PowerEdge_R740_R740xd_Technical_Guide.pdf]

'하드웨어 > RAID' 카테고리의 다른 글

R730 PERC RAID-0 vs RAID-5  (0) 2019.02.15
R730 RAID5 성능 테스트(?)  (0) 2019.02.13
512b vs 4k sector HDD (Advanced Format - AF)  (0) 2019.02.12
SAS  (0) 2013.11.12
우분투 내장 3ware 드라이버  (0) 2011.12.11
Posted by 구차니
하드웨어/RAID2019. 2. 12. 19:01

기억으로는 4K로 잡았는데 512B 로 나오는거 같아서 급 헷갈리는 바람에 검색을 했는데

결론만 적자면 아이고 의미없다~ 헛다리 짚었다 쪽.. ㅠㅠ

(그런데.. 반대로(?) 512B 섹터로 된 녀석을 4K로 소프트웨어적으로 쓰는건 없으려나?

물론 SW로 된걸 쪼갈라서 하드웨어에 쓰려면 성능 저하가 더 심할듯 하니 쓸 이유가 없겠지만..)


512e는 물리적으로는 4K 섹터, 소프트웨어적으로는 512B 섹터로 운영하는 녀석

[링크 : https://ko.wikipedia.org/wiki/어드밴스트_포맷]


[링크 : https://www.dell.com/.../performance-comparison-between-4k-and-512e-hard-drives?lang=en]

[링크 : https://i.dell.com/s.../512e_4Kn_Disk_Formats_120413.pdf]

[링크 : https://www.dell.com/.../support-for-advanced-format-4k-sector-hard-disk-drives...]


[링크 : https://www.tomshardware.com/reviews/advanced-format-4k-sector-size-hard-drive,2759.html]


+

2019.02.13

출근해서 스토리지랑 설정을 보니 해결

근데 기억에는... 4K로 섹터 잡은거 같은데 언제 512B로 되었지 -ㅁ-?


일단 모델명은 ST1200MM0088


그런데.. 가상 드라이브(RAID-5는 희한하게도 512 bytes Block sie로 잡혀있다 -_-??!??!


제조사 공식 자료를 보니 512 Byte Native 모드임! 라고 되어있는 모델..

어제 고민은 왜한거냐.. ㅠㅠ

[링크 : https://www.seagate.com/.../enterprise-performance-10k-hdd-ds1785-2-1409us.pdf]

'하드웨어 > RAID' 카테고리의 다른 글

R730 RAID5 성능 테스트(?)  (0) 2019.02.13
PowerEdge RAID Controller - PERC  (0) 2019.02.12
SAS  (0) 2013.11.12
우분투 내장 3ware 드라이버  (0) 2011.12.11
3ware 9500 RAID5 구성중 하드 하나가 사라지면?  (0) 2011.12.03
Posted by 구차니
하드웨어/RAID2013. 11. 12. 09:44

SAS

Serial Attached SCSI

SAS RAID에 SATA 하드를 연결할 수는 있지만
SAS 하드를 SATA에 연결할 수는 없다.

[링크: http://blog.naver.com/skyluvtoya/100120822628]
Posted by 구차니
하드웨어/RAID2011. 12. 11. 17:09
기록용 -ㅁ-

$ lspci | grep 3ware
02:03.0 RAID bus controller: 3ware Inc 9xxx-series SATA-RAID

$ dmesg | grep 3ware
[    1.092263] 3ware 9000 Storage Controller device driver for Linux v2.26.02.012.
[    2.193767] scsi2 : 3ware 9000 Storage Controller
[    2.193932] 3w-9xxx: scsi2: Found a 3ware 9000 Storage Controller at 0xfcdffc00, IRQ: 24.

$ lsmod | grep 3w
3w_9xxx                35257  0

$ modinfo 3w_9xxx
filename:       /lib/modules/2.6.32-33-server/kernel/drivers/scsi/3w-9xxx.ko
version:        2.26.02.012
license:        GPL
description:    3ware 9000 Storage Controller Linux Driver
author:         AMCC
srcversion:     9448455BB935CC3049B6CC3
alias:          pci:v000013C1d00001005sv*sd*bc*sc*i*
alias:          pci:v000013C1d00001004sv*sd*bc*sc*i*
alias:          pci:v000013C1d00001003sv*sd*bc*sc*i*
alias:          pci:v000013C1d00001002sv*sd*bc*sc*i*
depends:
vermagic:       2.6.32-33-server SMP mod_unload modversions
parm:           use_msi:Use Message Signaled Interrupts.  Default: 0 (int) 


리눅스에서 tw_cli를 이용해서 펌웨어 확인
# ./tw_cli
//ubuntu64srv> ?

Copyright(c) 2004, 2005 Applied Micro Circuits Corporation(AMCC). All rights reserved.

AMCC/3ware CLI (version 2.00.03.017)


Commands  Description
-------------------------------------------------------------------
info      Displays information about controller(s), unit(s) and port(s).
maint     Performs maintenance operations on controller(s), unit(s) and ports.
alarms    Displays current AENs.
set       Displays or modifies controller and unit settings.
sched     Schedules bachground tasks on controller(s)             (9000 series)
quit      Exits the CLI.
           ---- New Command Syntax ----
focus     Changes from one object to another.  For Interactive Mode Only!
show      Displays information about controller(s), unit(s) and port(s).
flush     Flush write cache data to units in the system.
rescan    Rescan all empty ports for new unit(s) and disk(s).
commit    Commit dirty DCB to storage on controller(s).        (Windows only)
/cx       Controller specific commands.
/cx/ux    Unit specific commands.
/cx/px    Port specific commands.
/cx/bbu   BBU specific commands.                                  (9000 only)

Type help <command> to get more details about a particular command.
For more detail information see tw_cli's documentation.

//ubuntu64srv> info

Ctl   Model        Ports   Drives   Units   NotOpt   RRate   VRate   BBU
------------------------------------------------------------------------
c2    9500S-4LP    4       4        1       1        5       5       -

//ubuntu64srv> info c2 firmware
/c2 Firmware Version = FE9X 2.08.00.009

//ubuntu64srv> q 
 
Posted by 구차니
하드웨어/RAID2011. 12. 3. 20:11
IDE 케이블 연결한다고 SHOW 하다보니, SATA 하드 한녀석이 파워가 뽑혀버렸다.
부팅이 안되고 못 넘어 가길래 ESC 눌러서 메시지를 보니

DEGRADED 라고 메시지가 뜨며 멈춰있는 상황
아무튼 RAID5 로 HDD4개를 묶어 쓰는 중이라 하드가 안 읽히거나 그런건 아닌거 같지만...
(어짜피 데이터도 안 넣어 놔서 -_- 단지 드라이브가 뜬다는 정도만 확인?)

 
아무튼, 다음번 부팅시에 다시 하드 전원을 연결하니 초기화 하는 메시지가 잠시 나왔다가 사라지는데..
단순히 내용이 없어서 금세 초기화 된걸려나? 아니면 기존에 사용하던 하드였기 때문일려나? 

'하드웨어 > RAID' 카테고리의 다른 글

SAS  (0) 2013.11.12
우분투 내장 3ware 드라이버  (0) 2011.12.11
stripe size에 따른 속도변화  (0) 2011.07.31
3ware 9500s 속도 제한걸리는 이유?  (0) 2011.07.30
Intel(R) Embeded Server SATA RAID  (0) 2011.07.30
Posted by 구차니
하드웨어/RAID2011. 7. 31. 10:19
여러가지 벤치마크를 하기에는 귀차나서 대충해봤더니
기본값이 Stripe 256k 보다 16k 에서의 벤치마크 결과가 일반적으로 좋게 나왔다.

 
RAID0 - 16k


RAID0 - 256k


RAID0 - 16k


RAID0 - 256k


RAID5 - 16k


RAID5 - 256k


펌웨어 버전이나 드라이버 버전보다는 stripe size에 영향을 많이 받는듯..
물론 그래봤자.. 단일하드 하나 속도겨우 나오는데 머 -_-
안정성을 확보한다는 의미 그 이상도 이하도 없는듯 하다.

Stripe size, if appropriate for the RAID level
 
In general, smaller stripe sizes are better for sequential I/O, such as video, and 
larger stripe sizes are better for random I/O (such as databases)
Striping size is not applicable for RAID 1, because it is a mirrored array without striping. 
Using the default stripe size of 64KB usually gives you the best performance 
for mixed I/Os. If your application has some specific I/O pattern (purely sequential or purely random),
you might want to experiment with a smaller or larger stripe size. 
 
사용자 메뉴얼 곳곳에 들어있는 내용들이다.
벤치마크 특성상 sequential 한게 눈에 많이 들어 오기 때문에
아무래도 16KB 로 할경우가 가장  빠르게 나오는것 같다.


---
2011.08.05 추가

[링크 : http://www.tomshardware.com/forum/50554-32-raid-stripe-size-performance]
[링크 : http://www.tomshardware.com/reviews/RAID-SCALING-CHARTS,1735-4.html
Posted by 구차니
하드웨어/RAID2011. 7. 30. 23:44
공식적인 문서를 찾아봐야겠지만
BBU(Backup Battery Unit) 미 장착시에는 데이터 손실을 막기위해 쓰는 속도를 제한한다고 한다.

 What is happening to your card is that it sees that you do not have a backup battery supply. It automatically defaults to the very slow read and write speeds because of it to ensure no loss of data in case of a power failure. I very strongly recommend that you have the battery backup unit that can attach to the card or a UPS attached to the computer. You paid a lot of money for the card and drives so you do really need that battery backup to prevent the card from requiring you to do a rebuild of the Raid system if there is an interruption of power to it or a blue screen reboot. But on the other hand you can override the settings in your web based browser. Beware though that if you do not have a battery backup, you may be required to replace a dropped drive in your Raid with a new drive and not allow you to just do a rebuild. 

Log in as Management and click the management tab. Under Unit Policies change the following setting to:
Write Cache: checked
Read Cache: Intelligent
Auto Verify: checked
Queuing: checked
StorSave: Performance
It will come up with several warnings that it does not see a battery backup. Override at your own peril to increase your speeds.

[링크 : http://hardforum.com/showthread.php?t=1510547] 


예전 설정사진에서도 보면 BBU가 없으면 Write Cache 를 Enable 했을 경우 데이터 손실이 있을수 있다고 하는데
BBU 없이 Write Cache를 켤 경우에 퍼포먼스 제한이 생긴다면, Write Cache만 Disable 해보면 차이가 날지도 모르겠다.



 
아무튼 여러종류의 RAID를 테스트해본 결과에서도 3ware가 썩 좋은 결과는 얻지 못했는데
아마도 BBU가 문제라면 이 테스트의 결과가 뒤집힐수도 있겠다.


[링크 : http://tweakers.net/reviews/557/all/comparison-of-nine-serial-ata-raid-5-adapters.html

--- 2011.707.31 추가
펌웨어 업데이트 / 드라이버 업데이트 / Write Cache 꺼도 속도는 거의 변화가 없다 -_-
BBU 를 질러야하나? OTL

펌웨어 / 드라이버를 교체하고 테스트 해보았지만 유의미한 결과는 보이지 않는다.

버전 업데이트 전


버전 업데이트 후

Posted by 구차니
하드웨어/RAID2011. 7. 30. 23:14
메인보드에 내장된 녀석인데.. RAID 0 / 1을 지원한다.
설정의 문제인지는 모르겠지만.. Win7에서 드라이브로 인식 안되는 문제 발생 -_-


BIOS 설정화면
IDE configuration - OnBoard S-SATA Channels에서
Configure S-ATA as RAID를 켜주면 된다.


그러면 부팅시에 Intel(R) Embeded Server RAID Technology 라고 뜨며
Ctrl - E를 누르면 설정화면으로 들어갈수 있다.


메뉴는 컬러풀! 하며 Configure에서 하단의 도움말을 따라가면서 하면 쉽게 설정이 가능하다.



READY는 아직 설정되지 않은 것으로


SPACE를 눌러 선택하면 아래와 같이 Online으로 변경된다.


F10을 눌러 Configure를 들어가서


SPACE를 누르면 SPAN-1이 라고 뜨며


F2를 누르면 Child Information이


F3를 누르면 Slot Information이


F10을 누르면 Configuration이 뜬다. RAID 0과 RAID 1을 선택하면 아래의 Size가 변경된다.



설정후에는 Accept를 선택하고 나와야 하며


혹시나 해서 Initialize를 해주면 아래와 같이 화면이 뜬다.
Consistency는 상당히 오래 걸리지만, Initialize는 빨리 끝난다. 

 


아무튼 설정이 되고 나서 리부팅 하면 다음과 같이 설정된 Logical drive 목록이 뜨게 된다.


BIOS 상에서는 아래와 같이 Intel(R) MD Raid 라는 장치가 추가되며


Secondary IDE Master / Slave는 사라진다 -_-


'하드웨어 > RAID' 카테고리의 다른 글

stripe size에 따른 속도변화  (0) 2011.07.31
3ware 9500s 속도 제한걸리는 이유?  (0) 2011.07.30
3ware Disk Manager - 3DM 2  (0) 2011.07.29
사용중인 하드의 속도들...  (0) 2011.07.29
Intel 내장형 SCSI RAID 풀기  (0) 2011.07.29
Posted by 구차니
하드웨어/RAID2011. 7. 29. 22:58
웹페이지를 통해 접속을 하지만, 실제로는 Windows Service에 등록된
녀석을 통해 웹서비스를 제공하고, Driver를 통해 값을 받아올뿐,
Runtime에 RAID 구성을 바꾸는 등의 행위는 할 수 없다.

기본 로그인 암호는 administrator / 3ware 이다. 


Summary


Information - Controller Details


Information - Unit Information


Information - Drive Information


Management - Controller Settings


Management - Scheduling


Management - Maintenance


Monitor - Alarms


Monitor - Battery Backup


Monitor - Enclosure support

3DM 2 Settings


3DM 2 Setting 쪽에 웹페이지 관련이나,
E-mail notification을 제외한다면 설정가능한 내용은 없고 단지 확인용으로 사용할 수 밖에 없다.
생각보다 효용은 많이 떨어지는 듯..

개인적으로는 3DM 2는 포기하고, 3BM(Bios Manager) 만으로 커버하는것도 나쁘진 않을듯 하다. 
Posted by 구차니