many changes (see Changes)
[spider.git] / perl / DXDupe.pm
1 #
2 # class to handle all dupes in the system
3 #
4 # each dupe entry goes into a tied hash file 
5 #
6 # the only thing this class really does is provide a
7 # mechanism for storing and checking dups
8 #
9
10 package DXDupe;
11
12 use DXDebug;
13 use DXUtil;
14 use DXVars;
15
16 use vars qw{$lasttime $dbm %d $default $fn};
17
18 $default = 48*24*60*60;
19 $lasttime = 0;
20 localdata_mv("dupefile");
21 $fn = localdata("dupefile");
22
23 sub init
24 {
25         unlink $fn;
26         $dbm = tie (%d, 'DB_File', $fn);
27         confess "cannot open $fn $!" unless $dbm;
28 }
29
30 sub finish
31 {
32         dbg("DXDupe finishing");
33         undef $dbm;
34         untie %d;
35         undef %d;
36         unlink $fn;
37 }
38
39 sub check
40 {
41         my $s = shift;
42         return 1 if find($s);
43         add($s, shift);
44         return 0;
45 }
46
47 sub find
48 {
49         return 0 unless $_[0];
50         return $d{$_[0]};
51 }
52
53 sub add
54 {
55         my $s = shift;
56         my $t = shift || $main::systime + $default;
57         return unless $s;
58
59         $d{$s} = $t;
60         dbg("DXDupe::add key: $s time: " . ztime($t)) if isdbg('dxdupe');
61 }
62
63 sub del
64 {
65         my $s = shift;
66         return unless $s;
67         
68         my $t = $d{$s};
69         dbg("DXDupe::del key: $s time: " . ztime($t)) if isdbg('dxdupe');
70         delete $d{$s};
71 }
72
73 sub process
74 {
75         # once an hour
76         if ($main::systime - $lasttime >=  3600) {
77                 my @del;
78                 while (($k, $v) = each %d) {
79                         push @del, $k  if $main::systime >= $v;
80                 }
81                 del($k) for @del;
82                 $lasttime = $main::systime;
83         }
84 }
85
86 sub get
87 {
88         my $start = shift;
89         my @out;
90         while (($k, $v) = each %d) {
91                 push @out, $k, $v if !$start || $k =~ /^$start/; 
92         }
93         return @out;
94 }
95
96 sub listdups
97 {
98         my $let = shift;
99         my $dupage = shift;
100         my $regex = shift;
101
102         $regex =~ s/[\^\$\@\%]//g;
103         $regex = ".*$regex" if $regex;
104         $regex = "^$let" . $regex;
105         my @out;
106         for (sort { $d{$a} <=> $d{$b} } grep { m{$regex}i } keys %d) {
107                 my ($dum, $key) = unpack "a1a*", $_;
108                 push @out, "$key = " . cldatetime($d{$_} - $dupage) . " expires " . cldatetime($d{$_});
109         }
110         return @out;
111 }
112
113 sub END
114 {
115         if ($dbm) {
116                 dbg("DXDupe ENDing");
117                 finish();
118         }
119 }
120 1;