『壹』 如何清除linux环境变量PATH中的重复项
1.别用$PATH
2.PATH=$PATH
3.肯定是你自己的问题,系统启动默认全局是用profile里面的PATH
然后读你自己.bashrc等文件
『贰』 利用Linux命令行进行文本按行去重并按重复次数排序
利用linux命令行进行文本按行去重并按重复次数排序linux命令行提供了非常强大的文本处理功能，组合利用linux命令能实现好多强大的功能。本文这里举例说明如何利用linux命令行进行文本按行去重并按重复次数排序。主要用到的命令有sort，uniq和cut。其中，sort主要功能是排序，uniq主要功能是实现相邻文本行的去重，cut可以从文本行中提取相应的文本列(简单地说，就是按列操作文本行)。用于演示的测试文件内容如下：[plain]Hello
World.
Apple
and
Nokia.
Hello
World.
I
wanna
buy
an
Apple
device.
The
Iphone
of
Apple
company.
Hello
World.
The
Iphone
of
Apple
company.
My
name
is
Friendfish.
Hello
World.
Apple
and
Nokia.
实现命令及过程如下：[plain]1、文本行去重
(1)排序
由于uniq命令只能对相邻行进行去重复操作，所以在进行去重前，先要对文本行进行排序，使重复行集中到一起。
$
sort
test.txt
Apple
and
Nokia.
Apple
and
Nokia.
Hello
World.
Hello
World.
Hello
World.
Hello
World.
I
wanna
buy
an
Apple
device.
My
name
is
Friendfish.
The
Iphone
of
Apple
company.
The
Iphone
of
Apple
company.
(2)去掉相邻的重复行
$
sort
test.txt
|
uniq
Apple
and
Nokia.
Hello
World.
I
wanna
buy
an
Apple
device.
My
name
is
Friendfish.
The
Iphone
of
Apple
company.
2、文本行去重并按重复次数排序
(1)首先，对文本行进行去重并统计重复次数(uniq命令加-c选项可以实现对重复次数进行统计。)。
$
sort
test.txt
|
uniq
-c
2
Apple
and
Nokia.
4
Hello
World.
1
I
wanna
buy
an
Apple
device.
1
My
name
is
Friendfish.
2
The
Iphone
of
Apple
company.
(2)对文本行按重复次数进行排序。
sort
-n可以识别每行开头的数字，并按其大小对文本行进行排序。默认是按升序排列，如果想要按降序要加-r选项(sort
-rn)。
$
sort
test.txt
|
uniq
-c
|
sort
-rn
4
Hello
World.
2
The
Iphone
of
Apple
company.
2
Apple
and
Nokia.
1
My
name
is
Friendfish.
1
I
wanna
buy
an
Apple
device.
(3)每行前面的删除重复次数。
cut命令可以按列操作文本行。可以看出前面的重复次数占8个字符，因此，可以用命令cut
-c
9-
取出每行第9个及其以后的字符。
$
sort
test.txt
|
uniq
-c
|
sort
-rn
|
cut
-c
9-
Hello
World.
The
Iphone
of
Apple
company.
Apple
and
Nokia.
My
name
is
Friendfish.
I
wanna
buy
an
Apple
device.
下面附带说一下cut命令的使用，用法如下：[plain]cut
-b
list
[-n]
[file
...]
cut
-c
list
[file
...]
cut
-f
list
[-d
delim][-s][file
...]
上面的-b、-c、-f分别表示字节、字符、字段（即byte、character、field）；
list表示-b、-c、-f操作范围，-n常常表示具体数字；
file表示的自然是要操作的文本文件的名称；
delim（英文全写：delimiter）表示分隔符，默认情况下为TAB；
-s表示不包括那些不含分隔符的行（这样有利于去掉注释和标题）
三种方式中，表示从指定的范围中提取字节（-b）、或字符（-c）、或字段（-f）。
范围的表示方法：
n
只有第n项
n-
从第n项一直到行尾
n-m
从第n项到第m项(包括m)
-m
从一行的开始到第m项(包括m)
-
从一行的开始到结束的所有项
在写这篇文章的时候，用到了vim的大小写转化的快捷键：gu变小写，gU变大写。结合ctrl+v能够将一片文字中的字符进行大小写转换，非常好用。
『叁』 在linux系统如何grep过滤中，不包含某些字符
1、linux系统中grep命令是一种强大的文本搜索工具，它能使用正则表达式搜索文本，并把匹配的行打印出来。grep全称是Global Regular Expression Print，表示全局正则表达式版本，它的使用权限是所有用户。
2、格式
grep[options]
3、主要参数
[options]主要参数：
－c：只输出匹配行的计数。
－I：不区分大小写(只适用于单字符)。
－h：查询多文件时不显示文件名。
－l：查询多文件时只输出包含匹配字符的文件名。
－n：显示匹配行及行号。
－s：不显示不存在或无匹配文本的错误信息。
－v：显示不包含匹配文本的所有行。
pattern正则表达式主要参数：
\：忽略正则表达式中特殊字符的原有含义。
^：匹配正则表达式的开始行。
$: 匹配正则表达式的结束行。
\<：从匹配正则表达式的行开始。
\>：到匹配正则表达式的行结束。
[ ]：单个字符，如[A]即A符合要求。
[ - ]：范围，如[A-Z]，即A、B、C一直到Z都符合要求。
。：所有的单个字符。
* ：有字符，长度可以为0。
4、grep命令使用简单实例：
$ grep ‘test’d*
显示所有以d开头的文件中包含test的行。
$ grep ‘test’aa bb cc
显示在aa，bb，cc文件中匹配test的行。
$ grep‘[a-z]\{5\}’ aa
显示所有包含每个字符串至少有5个连续小写字符的字符串的行。
『肆』 linux 中如何用vi编辑器替换相同的字符
按I进入输入模式就可以了
然后再按Esc键进入末行模式
输入WQ保存
Q!是退出
『伍』 如何快速删除Linux文件中的重复数据行
用uniq，如下，抄将 1.txt 中 所有 "相邻" 重复行合并成一行，结果存入 2.txt
uniq1.txt>2.txt
如果是想将相邻重复行彻底删掉（而不是合并成一行），可以用
uniq-u1.txt>2.txt
『陆』 grep \"%s\" %s | awk '{print $5}' > %s\n 这句话是什么意思
·1、这应该是一个在宿主语言中(比如:c语言)待拼接成一个完整的linux/Unix命令串的字符串,待拼接完成后,再利用system("")调用这个命令;
以c语言为例,拼接如下:
sprintf(cmd,"grep \"%s\" %s | awk '{print $5}' > %s\n",str_a,str_b,str_c);
这个命令的转换成linux直观的命令为:grep "字符串_1" 字符串_2 | awk '{print $5}' > 字符串_3
其中:
"字符串_1"为grep过滤的模式;
"字符串_2"为grep筛选的对象文件名;
"字符串_3"为筛选结果输出的文件名;
即,从文件名为"字符串_2"中筛选满足条件 "字符串_1" 的行,并按照空格作为行分隔符,然后提取第5列,写入(不重复)文件名为"字符串_3"的文件中.
·2、因此,这个 grep \"%s\" %s | awk '{print $5}' > %s\n 命令串片段的作用为:
从文件名为"第二个%s"的文件中,筛选满足grep条件"第1个%s"的行,并将该行中以空格分隔的第5列写入文件名为"第3个%s"的文件中. (PS:">"的作用不用解释吧)
3、最后,希望下次楼主问的问题不要这么含蓄,乍一看还真不知道是啥.
『柒』 linux 去除空行，去除重复，去除特定符号
cat /etc/services | sed "/^$/d" | uniq | sed "/^#/d"
cat /etc/services 打开文件 是你自己说用cat的，这里可专以不用属cat的
|是管道
sed "/^$/d" 删除空行
uniq排除重复的行
sed "/^#/d" 删除以#开头的行
『捌』 如何在linux下匹配两个文件的相同字符串
可以使用vim打开文件，然后通过 vim编辑 中的 /（向后查找）或者 ?（向前查找）来查找相应的字符串。
示例：用vim打开/etc/passwd查找admin用户名
vim /etc/passwd
打开文件后，直接输入 /admin 回车即可查找如下图所示：
回车执行，vim查找到后，会标识出来，如下图所示：
另外：使用vim也可以打开可执行程序来查找字符串（在程序没有加壳或者使用其它字符串保护的前提下)。
示例：在test程序中查找hello字符串。
虽然使用vim打开二进制程序文件，显然的是乱码，但是明文字符串依然能查找到，如下图所示：
扩展：在Linux中如果要查找二进程文件即应用程序中的字符串，可以使用反汇编器、调试器等等，比如IDA，就提供强大的字符串查找功能。
『玖』 linux下编写python如何去掉字符串重复的字母
1
2
3
import re
s='~!@#adjdakdakjjkd002212ADSAADA()//../eqqwedadjadj'
print re.sub('[^A-Za-z]','',s)
>>
『拾』 Linux系统下怎么删除文本中的重复行
用uniq，如下，将
1.txt
中
所有
"相邻"
重复行合并成一行，结果存入
2.txt
uniq
1.txt
>
2.txt如果是想将相邻重复行彻底删掉（而不是合并成一行），可以用
uniq
-u
1.txt
>
2.txt