Linux2019. 2. 22. 13:43

gzip 으로 하는데 느려서 반디집 처럼 멀티코어 지원하는 압축프로그램 찾는 중 발견

p만 붙이면 되는거였나 싶은데 pigz는 이름이 독특하네 ㅋㅋㅋ

아무튼 gzip을 많이 썼으니 pigz를 외우면 될 듯

 

PXZ - Parallel XZ is a compression utility that takes advantage of running LZMA compression of different parts of an input file on multiple cores and processors simultaneously. Its primary goal is to utilize all resources to speed up compression time with minimal possible influence on compression ratio.
sudo apt-get install pxz
PLZIP - Lzip is a lossless data compressor based on the LZMA algorithm, with very safe integrity checking and a user interface similar to the one of gzip or bzip2. Lzip decompresses almost as fast as gzip and compresses better than bzip2, which makes it well suited for software distribution and data archiving.
Plzip is a massively parallel (multi-threaded) version of lzip using the lzip file format; the files produced by plzip are fully compatible with lzip.
Plzip is intended for faster compression/decompression of big files on multiprocessor machines, which makes it specially well suited for distribution of big software files and large scale data archiving. On files big enough, plzip can use hundreds of processors.
sudo apt-get install plzip
PIGZ - pigz, which stands for Parallel Implementation of GZip, is a fully functional replacement for gzip that takes advantage of multiple processors and multiple cores when compressing data.
sudo apt-get install pigz
PBZIP2 - pbzip2 is a parallel implementation of the bzip2 block-sorting file compressor that uses pthreads and achieves near-linear speedup on SMP machines. The output of this version is fully compatible with bzip2 v1.0.2 (ie: anything compressed with pbzip2 can be decompressed with bzip2).
sudo apt-get install pbzip2
LRZIP - A multithreaded compression program that can achieve very high compression ratios and speed when used with large files. It uses the combined compression algorithms of zpaq and lzma for maximum compression, lzo for maximum speed, and the long range redundancy reduction of rzip. It is designed to scale with increases with RAM size, improving compression further. A choice of either size or speed optimizations allows for either better compression than even lzma can provide, or better speed than gzip, but with bzip2 sized compression levels.
sudo apt-get install lrzip 

[링크 : https://askubuntu.com/questions/258202/multi-core-compression-tools]

 

--use-compress-program 을 통해서 압축 프로그램을 지정가능한 듯?

tar -c --use-compress-program=pigz -f tar.file dir_to_zip  

 

[링크 : https://stackoverflow.com/.../utilizing-multi-core-for-targzip-bzip-compression-decompression]

 

+ 21.12.03

use-compress-program="xz -t4" 식으로 주면 되려나?

$ tar cvf archive.tar.xz --use-compress-program='xz -1' *.csv

[링크 : https://unix.stackexchange.com/.../how-to-use-multi-threading-for-creating-and-extracting-tar-xz]

[링크 : https://www.baeldung.com/linux/xz-compression]

'Linux' 카테고리의 다른 글

sparse file 확인하기  (0) 2019.02.25
cron 실행 및 시간 관련 문제  (0) 2019.02.24
bash history 번호 옆 *  (0) 2019.02.16
네트워크 속도 모니터링  (0) 2019.02.03
ls에서 전체년도 보기  (0) 2019.02.03
Posted by 구차니
Linux2019. 2. 16. 07:43

history를 보는데 어라 *이 머지? 하고 찾아보니

 1035* virsh dumpxml

 1036  ll 


원래 명령어가 아닌 수정된 경우에는 이렇게 표시 된다고..

반대로 생각하면.. 수정해버리면 실제 실행된 명령을 모르게 할 수 있다는 의미네?

Lines prefixed with a ‘*’ have been modified. 

[링크 : https://www.gnu.org/software/bash/manual/html_node/Bash-History-Builtins.html]

'Linux' 카테고리의 다른 글

cron 실행 및 시간 관련 문제  (0) 2019.02.24
linux multi core 압축  (0) 2019.02.22
네트워크 속도 모니터링  (0) 2019.02.03
ls에서 전체년도 보기  (0) 2019.02.03
bcache - SSD write cache  (0) 2019.02.01
Posted by 구차니
Linux/centos2019. 2. 13. 19:08

오늘도 여전히(?) selinux가 날 잡는군 -_-


[링크 : https://wiki.centos.org/HowTos/SetUpSamba]

[링크 : https://www.lesstif.com/pages/viewpage.action?pageId=18219476]


firewall-cmd --permanent --zone=public --add-service=samba

firewall-cmd --reload 

[링크 : https://www.manualfactory.net/10439] 방화벽

[링크 : https://www.manualfactory.net/10153]

'Linux > centos' 카테고리의 다른 글

centos timezone 변경  (2) 2019.02.23
svn on centos  (0) 2019.02.22
centos backup  (0) 2019.02.13
centos epel 저장소 추가  (0) 2019.02.13
KVM spice 원격 접속시 No route to host  (0) 2019.01.28
Posted by 구차니
Linux/centos2019. 2. 13. 17:34

'Linux > centos' 카테고리의 다른 글

svn on centos  (0) 2019.02.22
smb on centos  (0) 2019.02.13
centos epel 저장소 추가  (0) 2019.02.13
KVM spice 원격 접속시 No route to host  (0) 2019.01.28
yum checkupdate  (0) 2019.01.25
Posted by 구차니
Linux/centos2019. 2. 13. 17:13

귀찮구먼...


-------------- For RHEL/CentOS 7 --------------

# wget dl.fedoraproject.org/pub/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm

# rpm -ihv epel-release-7-11.noarch.rpm  

[링크 : http://wget dl.fedoraproject.org/pub/epel/7/x86_64/Packages/e/epel-release-7-11.noarch.rpm]


+

2019.04.22

위에거는 복잡하니 아래것만 외우자? ㅋ

$ sudo yum -y install epel-release 

[링크 : http://cheapwindowsvps.com/blog/how-to-install-htop-on-centos-7/]

'Linux > centos' 카테고리의 다른 글

smb on centos  (0) 2019.02.13
centos backup  (0) 2019.02.13
KVM spice 원격 접속시 No route to host  (0) 2019.01.28
yum checkupdate  (0) 2019.01.25
centos 서비스 등록하기  (0) 2018.12.03
Posted by 구차니
Linux2019. 2. 3. 19:22

nload는 NIC 별로 보여주고

iftop은 합쳐서 보여주고


개인적으로는 nload가 취향인듯


[링크 : https://www.binarytides.com/linux-commands-monitor-network/]

'Linux' 카테고리의 다른 글

linux multi core 압축  (0) 2019.02.22
bash history 번호 옆 *  (0) 2019.02.16
ls에서 전체년도 보기  (0) 2019.02.03
bcache - SSD write cache  (0) 2019.02.01
bacahe(SSD) + RAID(HDD), 그리고 bcache(ramfs) + RAID(HDD)  (0) 2019.02.01
Posted by 구차니
Linux2019. 2. 3. 18:49

ctime을 확인해보려고 했는데 년도가 빠져서 어떻게 하면 제대로 볼 수 있을까 하는 궁금증에 검색


$ ls --full-time 

[링크 : https://unix.stackexchange.com/.../show-the-year-while-listing-files-in-the-current-directory/218887]

'Linux' 카테고리의 다른 글

bash history 번호 옆 *  (0) 2019.02.16
네트워크 속도 모니터링  (0) 2019.02.03
bcache - SSD write cache  (0) 2019.02.01
bacahe(SSD) + RAID(HDD), 그리고 bcache(ramfs) + RAID(HDD)  (0) 2019.02.01
bash builtin 명령어 .  (0) 2019.01.28
Posted by 구차니
Linux2019. 2. 1. 08:37

freeNAS에서 내세우는 XFS의 의한 성능 향상과 SSD 캐싱 볼륨 설정중에

SSD write cache로 쓰는건 리눅스 커널 4.1 이후 부터 block cache로 적용이 된 듯

(freeNAS 써야 하는 이유중에 큰 하나가 사라지는 느낌인데?)


[링크 : https://www.kernel.org/doc/Documentation/bcache.txt]

[링크 : https://bcache.evilpiepirate.org/]

Posted by 구차니
Linux2019. 2. 1. 08:32

bcache를 SSD에 하면 4K 성능은 올라가겠지만..

수명을 너무 갉아 먹을것 같아서 램에다 올리면 성능도 향상되고 수명도 안 줄이고 좋겠지!?

라는 생각에 검색을 해보는데

[링크 : https://unix.stackexchange.com/questions/138571/bcache-on-md-or-md-on-bcache]

[링크 : https://www.phoronix.com/scan.php?page=article&item=linux414-bcache-raid&num=1]


벤치결과만 보면 SSD가 짱이에요! 이긴 한데

어짜피 GbE 써도 100MB/s 정도가 한계라

그 이상의 퍼포먼스가 크게 필요 없다면 BCache Writeback으로 설정해서 쓰면 무난한

성능을 RAID에서 뽑아낼수 있지 않을까 기대가 되긴 한다.

(빌드 서버라던가, 개발 서버라던가 이런 용도로)

[링크 : https://www.phoronix.com/scan.php?page=article&item=linux414-bcache-raid&num=4]


램디스크 만들어서 리니지 2 돌려본 결과 체감할 성능 향상은 없는 죽여주는 벤치마크 결과가 나왔다고.

SSD 성능이라는 측면과 리니지 2는 write가 아닌 read니까 체감할수 있을려나?

[링크 : http://playwares.com/freeboard/31338395]

'Linux' 카테고리의 다른 글

ls에서 전체년도 보기  (0) 2019.02.03
bcache - SSD write cache  (0) 2019.02.01
bash builtin 명령어 .  (0) 2019.01.28
네트워크 인터페이스 명칭이 이상하다? enp0s0? em0?  (0) 2019.01.23
getopt()  (0) 2018.11.12
Posted by 구차니
Linux/centos2019. 1. 28. 16:19

firewalld 라는 망할(?) 새로운 데몬이 추가되어 얘를 죽여야 된다. -_-


요건 일단 서비스 죽이는 법

# systemctl stop firewalld 

[링크 : https://www.liquidweb.com/kb/how-to-stop-and-disable-firewalld-on-centos-7/]


firewalld에서 차단하는 목록을 확인하는 법을 찾아야겠다..

# firewall-cmd --list-all 

# firewall-cmd --add-port=21/tcp

# firewall-cmd --remove-port=21/tcp

[링크 : https://www.manualfactory.net/10153]


+

[링크 : https://www.lesstif.com/pages/viewpage.action?pageId=22053128]


'Linux > centos' 카테고리의 다른 글

centos backup  (0) 2019.02.13
centos epel 저장소 추가  (0) 2019.02.13
yum checkupdate  (0) 2019.01.25
centos 서비스 등록하기  (0) 2018.12.03
centos 서비스 자동시작  (0) 2018.11.16
Posted by 구차니