重複するコンテンツ(重複する行+重複するフィールドの配列)を削除するための perl スクリプトコード
このような配列があったとします。
1 2
1 2
2 1
1 3
1 4
1 5
4 1
次のような結果を得る必要があります。
1 3
1 5
2 1
4 1
そして、以下のperlスクリプトの助けを借りて実行します。
コードI.
#! /bin/perl
use strict;
use warnings;
my $filename;
my %hash;
my @information;
my $key1;
my $key2;
print "please put in the file like this f:\\\\perl\\\\data.txt\n";
chomp($filename=<STDIN>);
open(IN,"$filename")||die("can not open");
while(<IN>)
{
chomp;
@information=split/\s+/,$_;
if(exists $hash{$information[0]}{$information[1]})
{
next;
else
{
$hash{$information[0]}{$information[1]}='A';
}
}
close IN;
open(IN,"$filename")||die("can not open");
while(<IN>)
{
@information=split/\s+/,$_;
if(exists $hash{$information[1]}{$information[0]})
{
delete $hash{$information[0]}{$information[1]}
}
else
{
next;
}
close IN;
open(OUT,">f:\A_B_result.txt")||die("can not open");
foreach $key1 (sort{$a<=>$b} keys %hash)
{
foreach $key2 (sort{$a<=>$b} keys %{$hash{$key1}})
{
print OUT "$key1 $key2\n";
}
}
Close OUT;
コード2です。
10Gのファイルデータがあるが、重複行が多く、そのファイルの重複行を1行にマージする必要がある場合、何を使って実現するか?
cat data |sort|uniq > new_data #この方法は実装可能ですが、何時間もかかります。結果が出るのはこれからです。
これをperlスクリプトで行う小さなツールを紹介します。原理は簡単で、各行の内容をキーとするハッシュを作成し、各行の出現回数で値を埋めていきます。
#! /usr/bin/perl
# Author :CaoJiangfeng
# Date:2011-09-28
# Version :1.0
Use warnings;
use strict;
my %hash;
my $script = $0; # Get the script name
sub usage
{
printf("Usage:\n");
printf("perl $script <source_file> <dest_file>\n");
}
# If the number of parameters is less than 2 ,exit the script
if ( $#ARGV+1 < 2) {
&usage;
exit 0;
}
my $source_file = $ARGV[0]; #File need to remove duplicate rows
my $dest_file = $ARGV[1]; # File after remove duplicates rows
open (FILE,"<$source_file") or die "Cannot open file $! \n";
open (SORTED,">$dest_file") or die "Cannot open file $! \n";
while(defined (my $line = <FILE>))
{
chomp($line);
$hash{$line} += 1;
# print "$line,$hash{$line}\n";
}
foreach my $k (keys %hash) {
print SORTED "$k,$hash{$k}\n";#Relay print out the column and the number of occurrences of the column to the target file
}
close (FILE);
close (SORTED);
コード3
perlスクリプトでデータグループから重複するフィールドを削除する。
#! /usr/bin/perl
use strict;
my %hash;
my @array = (1..10,5,20,2,3,4,5,5);
#grep Save the elements that match
@array = grep { ++$hash{$_} < 2 } @array;
print join(" ",@array);
print "\n";
関連
-
プロセス分析によるhttpsリクエストのチャールズベースクローリング
-
指定したフォルダーにあるリンク切れファイルのシンボリックリンクを自動的に削除するスクリプト
-
Visual studio 2019 初心者向けサードパーティライブラリ追加チュートリアル(入門編)
-
ファイルが存在するかどうかを判断するasp関数
-
提案内容を改善するために、データベースを実行するaspプログラムの効率化
-
オンライン圧縮・解凍のためのASPコード
-
iis7でaspの行番号が不正確な問題の解決法
-
SELECT ドロップダウンメニューで VALUE と TEXT 値を同時に取得する ASP コード
-
ASPでフォルダーの存在を検出し、存在しない場合は自動的に作成する方法
-
perlのsrand()とtime関数の使い方の紹介
最新
-
nginxです。[emerg] 0.0.0.0:80 への bind() に失敗しました (98: アドレスは既に使用中です)
-
htmlページでギリシャ文字を使うには
-
ピュアhtml+cssでの要素読み込み効果
-
純粋なhtml + cssで五輪を実現するサンプルコード
-
ナビゲーションバー・ドロップダウンメニューのHTML+CSSサンプルコード
-
タイピング効果を実現するピュアhtml+css
-
htmlの選択ボックスのプレースホルダー作成に関する質問
-
html css3 伸縮しない 画像表示効果
-
トップナビゲーションバーメニュー作成用HTML+CSS
-
html+css 実装 サイバーパンク風ボタン
おすすめ
-
ASP + ajaxはトップを達成するために、同じサポートと反対側のコードのステップ
-
ASPでAdodbを経由して大容量ファイルをマルチスレッドでダウンロードするためのストリーム。
-
JSONデータを扱うASP実装コード
-
asp バッチの追加・変更・削除操作のサンプルコード
-
asp は整数の mod を受け取り、小数点以下がある場合は自動的に 1 を加算します。
-
数字を漢数字(大文字の金額)に変換するASP機能
-
ASPとPHPのファイル操作速度の比較
-
現在のフルパス(url)を取得するためのasp関数コード
-
aspのドメインアクセス制限コード
-
スペースがセパレータである場合の perl qw 問題の解決法