many changes (see Changes)
[spider.git] / perl / cluster.pl
index 9416a7f3a8578769a2a4152895433646cc00cc8b..b6c38166b6dba898a1a513f730b015b4850f9673 100755 (executable)
@@ -12,7 +12,7 @@
 
 package main;
 
-require 5.10.1;
+require 5.16.1;
 
 use warnings;
 
@@ -21,15 +21,26 @@ use vars qw($root $is_win $systime $lockfn @inqueue $starttime $lockfn @outstand
                        $clusterport $mycall $decease $routeroot $me $reqreg $bumpexisting
                        $allowdxby $dbh $dsn $dbuser $dbpass $do_xml $systime_days $systime_daystart
                        $can_encode $maxconnect_user $maxconnect_node $idle_interval $log_flush_interval
-                       $broadcast_debug 
+                       $broadcast_debug $yes $no $user_interval
                   );
 
-$lang = 'en';                                  # default language
-$clusteraddr = '127.0.0.1';            # cluster tcp host address - used for things like console.pl
-$clusterport = 27754;                  # cluster tcp port
-$yes = 'Yes';                                  # visual representation of yes
-$no = 'No';                                            # ditto for no
-$user_interval = 11*60;                        # the interval between unsolicited prompts if no traffic
+#$lang = 'en';                                 # default language
+#$clusteraddr = '127.0.0.1';           # cluster tcp host address - used for things like console.pl
+#$clusterport = 27754;                 # cluster tcp port
+#$yes = 'Yes';                                 # visual representation of yes
+#$no = 'No';                                           # ditto for no
+#$user_interval = 11*60;                       # the interval between unsolicited prompts if no traffic
+
+package main;
+
+# set default paths, these should be overwritten by DXVars.pm
+use vars qw($data $system $cmd $localcmd $userfn $clusteraddr $clusterport $yes $no $user_interval $lang $local_data);
+
+$lang = 'en';                   # default language
+$yes = 'Yes';                   # visual representation of yes
+$no = 'No';                     # ditto for no
+$user_interval = 11*60;         # the interval between unsolicited prompts if no traffic
+
 
 # make sure that modules are searched in the order local then perl
 BEGIN {
@@ -62,8 +73,13 @@ BEGIN {
        mkdir "$root/local_cmd", 02774 unless -d "$root/local_cmd";
 
        # locally stored data lives here
-       my $local_data = "$root/local_data";
+       $local_data = "$root/local_data";
        mkdir $local_data, 02774 unless -d $local_data;
+       $data = "$root/data";
+       $system = "$root/sys";
+       $cmd = "$root/cmd";
+       $localcmd = "$root/local_cmd";
+       $userfn = "$data/users";
 
        # try to create and lock a lockfile (this isn't atomic but
        # should do for now
@@ -90,6 +106,7 @@ BEGIN {
        
 }
 
+
 use DXVars;
 use SysVar;
 
@@ -137,7 +154,7 @@ use AnnTalk;
 use BBS;
 use WCY;
 use BadWords;
-use Timer;
+use DXTimer;
 use Route;
 use Route::Node;
 use Route::User;
@@ -151,7 +168,7 @@ use DXSql;
 use IsoTime;
 use BPQMsg;
 use RBN;
-
+use DXCIDR;
 
 use Data::Dumper;
 use IO::File;
@@ -159,12 +176,16 @@ use Fcntl ':flock';
 use POSIX ":sys_wait_h";
 use Web;
 
-use vars qw($version $build $gitversion $gitbranch);
-
 use strict;
 
 use Local;
 
+$lang //= 'en';                                        # default language
+$clusteraddr //= '127.0.0.1';   # cluster tcp host address - used for things like console.pl
+$clusterport //= 27754;                        # cluster tcp port
+$yes //= 'Yes';                                        # visual representation of yes
+$no //= 'No';                              # ditto for no
+$user_interval //= 11*60;              # the interval between unsolicited prompts if no traffic
 
 @inqueue = ();                                 # the main input queue, an array of hashes
 $systime = 0;                                  # the time now (in seconds)
@@ -197,6 +218,16 @@ our $clssecs;                                      # the amount of cpu time the DXSpider process have consumed
 our $cldsecs;                                  # the amount of cpu time any child processes have consumed
 our $allowslashcall;                   # Allow / in connecting callsigns (ie PA0/G1TLH, or even PA0/G1TLH/2) 
 
+our @localhost_names = qw(127.0.0.1 ::1); # all ip addresses that will need to be aliased below (ipv4 or ipv6)
+
+our $localhost_alias_ipv4;             # these are the IPV4 & 6 aliases for localhost connected clients
+our $localhost_alias_ipv6;             # for things (PC92, PC61 etc) that expose IP addresses. These *may*
+                                # be set by Msg.pm stuff if they are left undefined but, if you need
+                                # certanty then set/var them in the startup file.
+
+our $save_route_cache;                 # save and restore route cache on restart. Probably only useful for G1TLH testing
+
+use vars qw($version $subversion $build $gitversion $gitbranch);
 
 # send a message to call on conn and disconnect
 sub already_conn
@@ -225,7 +256,8 @@ sub new_channel
                        already_conn($conn, $call, "Maximum no of web connected connects ($Web::maxssid) exceeded");
                        return;
                }
-               $call = $newcall;
+               $call = normalise_call($newcall);
+               
                $user = DXUser::get_current($call);
                unless ($user) {
                        $user = DXUser->new($call);
@@ -247,6 +279,15 @@ sub new_channel
                $conn->send_now("C$call");
        } else {
                # "Normal" connections
+
+               # normalise calls like G1TST-0/G1TST-00/G1TST-01 to G1TST and G1TST-1 respectively
+               my $ncall = normalise_call($call);
+               if ($call ne $ncall) {
+                       LogDbg('err', "new_channel login invalid $call converted to $ncall");
+                       $msg =~ s/$call/$ncall/;
+                       $call = $ncall;
+               }
+               # is it a valid callsign (in format)?
                unless (is_callsign($call)) {
                        already_conn($conn, $call, DXM::msg($lang, "illcall", $call));
                        return;
@@ -254,8 +295,8 @@ sub new_channel
 
                # is he locked out ?
                my $lock;
-               $user = DXUser::get_current($call);
                $conn->conns($call);
+               $user = DXUser::get_current($call);
                my $basecall = $call;
                $basecall =~ s/-\d+$//; # remember this for later multiple user processing, it's used for other stuff than checking lockout status
                if ($user) {
@@ -268,13 +309,20 @@ sub new_channel
                }
 
                # now deal with the lock
+               my $host = $conn->peerhost;
                if ($lock) {
-                       my $host = $conn->peerhost;
                        LogDbg('', "$call on $host is locked out, disconnected");
                        $conn->disconnect;
                        return;
                }
 
+               # Is he from a badip?
+               if (DXCIDR::find($host)) {
+                       LogDbg('', "$call on $host is from a badip $host, disconnected");
+                       $conn->disconnect;
+                       return;
+               }
+
                # set up the basic channel info for "Normal" Users
                # is there one already connected to me - locally?
 
@@ -382,7 +430,7 @@ sub login
        return \&new_channel;
 }
 
-our $ceasing;
+my $ceasing;
 
 # cease running this program, close down all the connections nicely
 sub cease
@@ -392,6 +440,8 @@ sub cease
        cluck("ceasing") if $ceasing; 
        
        return if $ceasing++;
+
+       dbg("DXSpider Ceasing");
        
        unless ($is_win) {
                $SIG{'TERM'} = 'IGNORE';
@@ -415,19 +465,24 @@ sub cease
        UDPMsg::finish();
 
        # end everything else
+       QSL::finish();
        RBN::finish();
-       DXUser::finish();
        DXDupe::finish();
 
        # close all databases
        DXDb::closeall;
 
+       # Write route cache
+       Route::write_cache() if $save_route_cache;
+       
        # close all listeners
        foreach my $l (@listeners) {
                $l->close_server;
        }
 
-       LogDbg('cluster', "DXSpider V$version, build $build (git: $gitbranch/$gitversion) ended");
+       DXUser::finish();
+
+       LogDbg('cluster', "DXSpider v$version build $build (git: $gitbranch/$gitversion) using perl $^V on $^O ended");
        dbg("bye bye everyone - bye bye");
        dbgclose();
        Logclose();
@@ -468,16 +523,16 @@ sub AGWrestart
        AGWMsg::init(\&new_channel);
 }
 
-
 sub setup_start
 {
-
        #############################################################
        #
        # The start of the main line of code
        #
        #############################################################
 
+       chdir $root;
+       
        $starttime = $systime = time;
        $systime_days = int ($systime / 86400);
        $systime_daystart = $systime_days * 86400;
@@ -513,26 +568,25 @@ sub setup_start
                        import Encode;
                        $can_encode = 1;
                }
+
                $gitbranch = 'none';
                $gitversion = 'none';
-               eval { require Git; };
-               unless ($@) {
-                       import Git;
                
-                       # determine the real version number
-                       my $repo = Git->repository(Directory => "$root/.git");
-                       if ($repo) {
-                               my $desc = $repo->command_oneline(['describe', '--long'], STDERR => 0);
-                               if ($desc) {
-                                       my ($v, $s, $b, $g) = $desc =~ /^([\d.]+)(?:\.(\d+))?-(\d+)-g([0-9a-f]+)/;
-                                       $s ||= '';
-                                       dbg("Git: $desc") if isdbg('git');
-                                       dbg("Git: V=$v S=$s B=$b g=$g") if isdbg('git');
-                                       $version = $v;
-                                       $build = $b || 0;
-                                       $gitversion = "$g\[r]";
-                               }
-                               my @branch = $repo->command([qw{branch}], STDERR=>0);
+               # determine the real Git build number and branch
+               my $desc;
+               eval {$desc = `git --git-dir=$root/.git describe --long`};
+               if (!$@ && $desc) {
+                       my ($v, $s, $b, $g) = $desc =~ /^([\d\.]+)(?:\.(\d+))?-(\d+)-g([0-9a-f]+)/;
+                       $version = $v;
+                       my $subversion = $s || 0; # not used elsewhere
+                       $build = $b || 0;
+                       $gitversion = "$g\[r]";
+               }
+               if (!$@) {
+                       my @branch;
+
+                       eval {@branch = `git --git-dir=$root/.git branch`};
+                       unless ($@) {
                                for (@branch) {
                                        my ($star, $b) = split /\s+/;
                                        if ($star eq '*') {
@@ -542,9 +596,11 @@ sub setup_start
                                }
                        }
                }
+
                $SIG{__DIE__} = $w;
        }
 
+
        # setup location of motd & issue
        localdata_mv($motd);
        $motd = localdata($motd);
@@ -557,8 +613,9 @@ sub setup_start
        # banner
        my ($year) = (gmtime)[5];
        $year += 1900;
-       LogDbg('cluster', "DXSpider V$version, build $build (git: $gitbranch/$gitversion) started");
-       dbg("Copyright (c) 1998-$year Dirk Koopman G1TLH");
+       LogDbg('cluster', "DXSpider v$version build $build (git: $gitbranch/$gitversion) using perl $^V on $^O started");
+       LogDbg('cluster', "Copyright (c) 1998-$year Dirk Koopman G1TLH");
+       LogDbg('cluster', "Capabilities: ve7cc rbn");
 
        # load Prefixes
        dbg("loading prefixes ...");
@@ -575,6 +632,9 @@ sub setup_start
        DXUser::init(4);                        # version 4 == json format
 
        Filter::init();                         # doesn't do much, but has to be done
+
+       AnnTalk::init();                        # initialise announce cache
+       
        
 
        # look for the sysop and the alias user and complain if they aren't there
@@ -596,6 +656,9 @@ sub setup_start
                }
        }
 
+       # read any route cache there might be
+       Route::read_cache() if $save_route_cache;
+       
        # start listening for incoming messages/connects
        dbg("starting listeners ...");
        my $conn = IntMsg->new_server($clusteraddr, $clusterport, \&login);
@@ -613,6 +676,7 @@ sub setup_start
                dbg("External Port: $l->[0] $l->[1] using ${pkg}::${login}");
        }
 
+
        dbg("AGW Listener") if $AGWMsg::enable;
        AGWrestart();
 
@@ -623,13 +687,16 @@ sub setup_start
        UDPMsg::init(\&new_channel);
 
        # load bad words
-       dbg("load badwords: " . (BadWords::load or "Ok"));
+       BadWords::load();
 
        # prime some signals
        unless ($DB::VERSION) {
                $SIG{INT} = $SIG{TERM} = sub { $ending = 10; };
        }
 
+       # get any bad IPs 
+       DXCIDR::init();
+
        unless ($is_win) {
                $SIG{HUP} = 'IGNORE';
                $SIG{CHLD} = sub { $zombies++ };
@@ -788,7 +855,7 @@ sub per_sec
        DXCron::process();                      # do cron jobs
        RBN::process();
 
-       Timer::handler();
+       DXTimer::handler();
        DXLog::flushall();
 }
 
@@ -805,6 +872,7 @@ sub per_minute
 sub per_10_minute
 {
        RBN::per_10_minute();
+       Route::write_cache() if $save_route_cache;
 }
 
 sub per_hour
@@ -824,6 +892,7 @@ sub start_node
        Mojo::IOLoop->start unless Mojo::IOLoop->is_running;
 
        dbg("After Web::start_node");
+
 }
 
 setup_start();
@@ -844,3 +913,10 @@ cease(0);
 
 exit(0);
 
+sub END
+{
+       unless ($ceasing) {
+               print "DXSpider Ending\n";
+               cease();
+       }
+}