- Convert YouTube quality parameter to extended format
[videosite.git] / videosite / YouTubeGrabber.pm
1 # (c) 2007 by Ralf Ertzinger <ralf@camperquake.de>
2 # licensed under GNU GPL v2
3 #
4 # Grabber for youtube.com/de/...
5 #
6 # download strategy revised using
7 # http://www.kde-apps.org/content/show.php?content=41456
8
9 package YouTubeGrabber;
10
11 use GrabberBase;
12 @ISA = qw(GrabberBase);
13
14 use LWP::UserAgent;
15 use HTTP::Cookies;
16 use HTML::TokeParser;
17 use Data::Dumper;
18
19 use strict;
20
21 sub new {
22     my $class = shift;
23     my $self = $class->SUPER::new();
24
25     $self->{'NAME'} = 'youtube';
26     $self->{'PATTERNS'} = ['(http://(?:[-a-zA-Z0-9_.]+\.)*youtube.(?:com|de|co.uk)/watch\?(?:.+=.+&)*v=([-a-zA-Z0-9_]+))',
27                            '(http://(?:[-a-zA-Z0-9_.]+\.)*youtube.(?:com|de|co.uk)/v/([-a-zA-Z0-9_]+))'];
28     $self->{'_PARAMS'} = {
29             'QUALITY' => ['normal', 'Quality of the video to download.', {
30                     'normal' => 'standard resolution flash video',
31                     'high' => 'higher resolution flash video',
32                     'h264' => 'high resolution MPEG4 video',
33                     'hd' => 'HD720 resolution'}],
34             'USERNAME' => ['', 'Username to use for YouTube login'],
35             'PASSWORD' => ['', 'Password to use for YouTube login']};
36
37     bless($self, $class);
38     $self->_prepare_parameters();
39
40     return $self;
41 }
42
43 sub _parse {
44     my $self = shift;
45     my $url = shift;
46     my $pattern = shift;
47     my $content;
48     my $metadata = {};
49     my $p;
50     my $e;
51     my $tag;
52     my $jar = HTTP::Cookies->new;
53     my $ua = LWP::UserAgent->new('agent' => 'Mozilla/5.0');
54     my $r;
55     my $videourl;
56     my $quality = $self->_getval('QUALITY');
57     my $append = '';
58
59     $url =~ m|$pattern|;
60     $url = $1;
61
62     $metadata->{'URL'} = $url;
63     $metadata->{'ID'} = $2;
64     $metadata->{'TYPE'} = 'video';
65     $metadata->{'SOURCE'} = $self->{'NAME'};
66     $metadata->{'TITLE'} = undef;
67     $metadata->{'DLURL'} = undef;
68
69     if ($quality eq 'high') {
70         $append = '&fmt=6';
71     } elsif ($quality eq 'h264') {
72         $append = '&fmt=18';
73     } elsif ($quality eq 'hd') {
74         $append = '&fmt=22';
75     }
76
77     $videourl = sprintf('http://www.youtube.com/watch?v=%s%s', $2, $append);
78
79     unless(defined($r = $ua->get($videourl))) {
80         $self->error('Could not download %s', $url);
81         return undef;
82     }
83
84     if ($r->base->as_string() =~ m,/verify_age,) {
85         $self->debug('Video requires age verification');
86         $ua->cookie_jar($jar);
87         $r = $self->__login($videourl, $ua);
88         unless(defined($r)) {
89             $self->error('Could not log into YouTube');
90             return undef;
91         }
92     }
93     $content = $r->content();
94
95     $p = HTML::TokeParser->new(\$content);
96
97     while ($tag = $p->get_tag('div', 'meta', 'script')) {
98         if ('meta' eq $tag->[0]) {
99             if ('title' eq $tag->[1]->{'name'}) {
100                 $metadata->{'TITLE'} = $tag->[1]->{'content'};
101                 $self->debug('Title found: %s', $metadata->{'TITLE'});
102             }
103         } elsif ('script' eq $tag->[0]) {
104             $e = $p->get_text();
105             if ($e =~ m|/watch_fullscreen\?(.+)\x27|) {
106                 my %args = map { split(/=/, $_, 2); } split(/&(?!amp;)/, $1);
107                 $metadata->{'DLURL'} = sprintf('http://www.youtube.com/get_video.php?video_id=%s&t=%s%s',
108                         $metadata->{'ID'}, $args{'t'}, $append);
109                 $self->debug('URL found: %s', $metadata->{'DLURL'});
110             }
111         } elsif ('div' eq $tag->[0]) {
112             if (exists($tag->[1]->{'class'}) and ('errorBox' eq $tag->[1]->{'class'})) {
113                 $self->error("Could not get video data for youtube %s: %s",
114                         $metadata->{'ID'}, $p->get_trimmed_text());
115                 return undef;
116             }
117         }
118     }
119
120     unless(defined($metadata->{'DLURL'}) && defined($metadata->{'TITLE'})) {
121         $self->error('Could not determine download URL');
122         return undef;
123     }
124
125     return $metadata;
126 }
127
128 sub __login {
129     my $self = shift;
130     my $videourl = shift;
131     my $ua = shift;
132     my $user = $self->_getval('USERNAME');
133     my $pass = $self->_getval('PASSWORD');
134     my $r;
135     my $p;
136     my $c;
137     my $token;
138
139     sub check_cookie {
140
141         my $jar = shift;
142         my $key = shift;
143         my $found = undef;
144
145         $jar->scan(sub { $found = 1 if ( $key eq $_[1]) });
146
147         return $found;
148     }
149
150     if (($user eq '') or ($pass eq '')) {
151         $self->error('No username or password defined for YouTube');
152         return undef;
153     }
154
155     $self->debug('Logging in');
156     $r = $ua->post('http://www.youtube.com/signup', { 'next' => '/', 'current_form' => 'login', 'action_login' => '1', 'username' => $user, 'password' => $pass });
157
158     unless(check_cookie($ua->cookie_jar, 'LOGIN_INFO')) {
159         $self->error('Could not log into YouTube');
160         return undef;
161     }
162
163     $r = $ua->get($videourl);
164     if ($r->base->as_string() =~ m,/verify_age,) {
165         $self->debug("Looking for session token...");
166         $c = $r->decoded_content();
167         $p = HTML::TokeParser->new(\$c);
168         while (my $tag = $p->get_tag('script')) {
169             if ($p->get_text() =~ /gXSRF_token = '(.+)'/) {
170                 $token = $1;
171                 last;
172             }
173         }
174
175         unless(defined($token)) {
176             $self->error("Could not find session token");
177             return undef;
178         }
179
180         $self->debug('Authenticating session...');
181         $r = $ua->post($r->base->as_string, { 'next_url' => $r->base->path, 'action_confirm' => 'Confirm Birth Date', 'session_token' => $token });
182     }
183
184     unless(check_cookie($ua->cookie_jar, 'is_adult')) {
185         $self->error('Could not authenticate session');
186         return undef;
187     }
188
189     return $ua->get($videourl);
190 }
191
192 1;