去除文件中重復數據的方法：

先使用sort指令將文件中的數據按照要求的索引進行排序，然后使用uniq指令將重復數據去掉得到想要的結果。

如文件a.txt中有重復行，需要去除重復行時執行如下指令：;

#sort a.txt > b.txt;

#uniq b.txt > c.txt

c.txt文件就是所需數據了.