참조 wiki's uniq
uniq는 텍스트 파일내에 중복된 내용의 행이 연속으로 있으면 중복없이 하나의 행으로 만들어주는 Unix 유틸리티이다. uniq는 일종의 필터 프로그램(filter program)으로 보통 sort뒤에 덧붙여 사용된다. 또한 -d옵션을 적용하여 중복되는 행만을 볼 수 있거나, -c 옵션을 적용하여 중복행의 중복횟수를 출력할 수 있다.
한 예로 어떤 파일에 중복되는 내용의 행을 정렬하고 중복횟수를 세어 오름차순 정리한다면 :
sort file | uniq -c | sort -n
위와 같이 적용하면 된다.
쉘 스크립트(shell script)에서 파이프라인을 삽입하여 uniq를 sort와 함께 실행하는 것이다. 여기서 주의해야 할 점은 uniq는 파일 내용이 미리 정렬되어 있는 상태에서 실행가능하다. 만약 다음과 같은 내용으로 구성된 fruits.txt파일이 있다고 하자.
orange
apple
apple
orange
orange
apple
apple
apple
orange
orange
apple
여기서 바로
uniq -c fruits.txt
라고 실행시키면 결과는 다음과 같다.
1 orange
2 apple
2 orange
1 apple
2 apple
2 orange
1 apple
정렬이 이루어지지 않은 상태에서 uniq를 적용하였기에 위와 같은 결과가 얻어지는 것이다.
참고로 만약
sort -u fruits.txt
를 실행시키면
apple
orange
orange
sort fruits.txt | uniq -c
를 실행시키면
3 apple
3 orange
3 orange
위와 같은 결과가 나오게 된다. 이것은 파일내용을 정렬시켜 중복되는 것을 하나로 표현하는 것이다. 즉, 결론지으면 uniq는 파일에 전체적으로 분산된 중복을 한번에 잡아내지 못한다. 따라서 정렬하여 순차적으로 만든 뒤에 적용한다.
옵션 보기
Posted by gwlee
