Youtube: Remove leftover debug statement
[videosite.git] / videosite / YouTubeGrabber.pm
index 86b21bd..81422bd 100644 (file)
@@ -26,11 +26,13 @@ sub new {
     my $self = $class->SUPER::new();
 
     $self->{'NAME'} = 'youtube';
-    $self->{'PATTERNS'} = ['(http://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/watch\?(?:.+=.+&)*v=([-a-zA-Z0-9_]+))',
-                           '(http://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/watch\#\!v=([-a-zA-Z0-9_]+))',
-                           '(http://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/v/([-a-zA-Z0-9_]+))',
-                           '(http://(?:[-a-zA-Z0-9_.]+\.)*youtu\.be/([-a-zA-Z0-9_]+))',
-                           '(http://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/user/\w+\?.*/([-a-zA-Z0-9_]+))'];
+    $self->{'PATTERNS'} = ['(https?://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/watch(?:_popup)?\?(?:.+=.+&)*v=([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/watch\#\!v=([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/v/([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/user/[[:alnum:]]+\?v=([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtu\.be/watch\?v=([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtu\.be/([-a-zA-Z0-9_]+))',
+                           '(https?://(?:[-a-zA-Z0-9_.]+\.)*youtube\.(?:com|de|co.uk)/user/\w+\?.*/([-a-zA-Z0-9_]+))'];
     $self->{'_PARAMS'} = {
             'QUALITY' => ['normal', 'Quality of the video to download.', {
                     'normal' => 'standard resolution flash video',
@@ -61,10 +63,20 @@ sub _parse {
     my $videourl;
     my $quality = $self->_getval('QUALITY');
     my %preflist = (
-        'hd' => [37, 22, 35, 18, 34, 6, 5],
-        'h264' => [18, 34, 37, 22, 35, 6, 5],
-        'high' => [34, 35, 18, 37, 22, 6, 5],
-        'normal' => [6, 5, 34, 35, 18, 22, 37]);
+        'insane' => [38, 37, 22, 35, 18, 34, 6, 5],
+        'hd' => [37, 22, 35, 18, 34, 6, 5, 38],
+        'h264' => [18, 34, 37, 22, 35, 6, 5, 38],
+        'high' => [34, 35, 18, 37, 22, 6, 5, 38],
+        'normal' => [6, 5, 34, 35, 18, 22, 37, 38]);
+    my %videoformats = (
+        38 => 'mp4,h264,4k',
+        37 => 'mp4,h264,1080p',
+        35 => 'flv,h264,large',
+        34 => 'flv,h264',
+        22 => 'mp4,h264,720p',
+        18 => 'mp4,h264',
+        5 => 'flv,flv',
+        );
     my $preflist;
     my $jsp;
 
@@ -84,7 +96,7 @@ sub _parse {
     $preflist = $preflist{$quality};
     $self->debug("Quality: %s, preflist: [%s]", $quality, join(", ", @{$preflist}));
 
-    $videourl = sprintf('http://www.youtube.com/watch?v=%s', $2);
+    $videourl = sprintf('https://www.youtube.com/watch?v=%s', $2);
 
     unless(defined($r = $ua->get($videourl))) {
         $self->error('Could not download %s', $url);
@@ -108,7 +120,7 @@ sub _parse {
 
     SWF_ARGS: while ($tag = $p->get_tag('div', 'meta', 'script')) {
         if ('meta' eq $tag->[0]) {
-            if ('title' eq $tag->[1]->{'name'}) {
+            if (exists($tag->[1]->{'name'}) and ('title' eq $tag->[1]->{'name'})) {
                 $metadata->{'TITLE'} = $tag->[1]->{'content'};
                 # Convert HTML entities in the title. This is a bit convoluted.
                 $metadata->{'TITLE'} = encode("utf8",
@@ -181,24 +193,42 @@ sub _parse {
                 $urls =~ s/%([[:xdigit:]]{2})/chr(hex($1))/ge;
                 %urls = split(/[\|,]/, $urls);
                 $self->debug("Pagetype: 2010 (swfHTML), fmt_url_map");
+            } elsif ($e =~ m|\x27PLAYER_CONFIG\x27:\s+(.+)\}\);|) {
+                my $args = $1;
+                $self->debug("Found PLAYER_CONFIG: %s", $args);
+
+                $jsp = videosite::JSArrayParser->new();
+                $self->debug("Using %s to parse", ref($jsp));
+                $r = $jsp->parse($args);
+
+                unless(defined($r)) {
+                    $self->error("Found information hash, but could not parse");
+                    return undef;
+                }
+
+                if (exists($r->{'args'}) and exists($r->{'args'}->{'fmt_url_map'}) and ($r->{'args'}->{'fmt_url_map'} ne '')) {
+                    my $urls = $r->{'args'}->{'fmt_url_map'};
+
+                    $self->debug("Video has fmt_url_map: %s", $urls);
+
+                    %urls = split(/[\|,]/, $urls);
+                    foreach (keys(%urls)) {
+                        my $u = $urls{$_};
+                        $u =~ s/%([[:xdigit:]]{2})/chr(hex($1))/ge;
+                        $urls{$_} = $u;
+                    }
+                    $self->debug("Pagetype: 2011 (PLAYER_CONFIG), fmt_url_map");
+                } else {
+                    $self->error('fmt_url_map not found in PLAYER_CONFIG');
+                }
             }
 
             if (%urls) {
                 foreach (keys(%urls)) {
-                    if ($_ == 35) {
-                        $self->debug('Found flv,h264,large: %s', $urls{$_});
-                    } elsif ($_ == 34) {
-                        $self->debug('Found flv,h264: %s', $urls{$_});
-                    } elsif ($_ == 22) {
-                        $self->debug('Found mp4,h264,720p: %s', $urls{$_});
-                    } elsif ($_ == 37) {
-                        $self->debug('Found mp4,h264,1080p: %s', $urls{$_});
-                    } elsif ($_ == 18) {
-                        $self->debug('Found mp4,h264: %s', $urls{$_});
-                    } elsif ($_ == 5) {
-                        $self->debug('Found flv,flv: %s', $urls{$_});
+                    if (exists($videoformats{$_})) {
+                        $self->debug('Found URL for format %s (%s): %s', $_, $videoformats{$_}, $urls{$_});
                     } else {
-                        $self->error('Unknown tag %s: %s', $_, $urls{$_});
+                        $self->error('Unknown format %s: %s', $_, $urls{$_});
                     }
                 }
 
@@ -214,7 +244,9 @@ sub _parse {
                 last SWF_ARGS;
             }
         } elsif ('div' eq $tag->[0]) {
-            if (exists($tag->[1]->{'class'}) and ('yt-alert-content' eq $tag->[1]->{'class'})) {
+            if (exists($tag->[1]->{'id'}) and ('watch-player-unavailable-message-container' eq $tag->[1]->{'id'})) {
+                # Search forward to the next <div>
+                $tag = $p->get_tag('div');
                 $self->error("Could not get video data for youtube %s: %s",
                         $metadata->{'ID'}, $p->get_trimmed_text());
                 return undef;
@@ -269,16 +301,25 @@ sub __login {
 
     $self->debug('Logging in');
     $r = $ua->get('https://www.google.com/accounts/ServiceLoginAuth?service=youtube');
+    unless($r->is_success()) {
+        $self->debug("Could not get login page (make sure your LWP supports HTTPS!)");
+        return undef;
+    }
     $c = $r->decoded_content();
     $p = HTML::TokeParser->new(\$c);
     while (my $tag = $p->get_tag('input')) {
+        $self->debug("%s", Dumper($tag));
         if ($tag->[1]{name} eq 'GALX') {
             $token = $tag->[1]{value};
             last;
         }
     }
-    $self->debug("GALX = .$token");
+    $self->debug("GALX = %s", $token);
     $r = $ua->post('https://www.google.com/accounts/ServiceLoginAuth?service=youtube', { 'service' => 'youtube', 'Email' => $user, 'Passwd' => $pass, 'GALX' => $token });
+    unless($r->is_success()) {
+        $self->debug("Could not get login page (make sure your LWP supports HTTPS!)");
+        return undef;
+    }
     $c = $r -> decoded_content();
     $p = HTML::TokeParser->new(\$c);
     while (my $tag = $p->get_tag('script')) {