Replacing numberic values with constants for the BBCode conversion
[friendica-addons.git/.git] / twitter / twitter.php
1 <?php
2 /**
3  * Name: Twitter Connector
4  * Description: Bidirectional (posting, relaying and reading) connector for Twitter.
5  * Version: 1.1.0
6  * Author: Tobias Diekershoff <https://f.diekershoff.de/profile/tobias>
7  * Author: Michael Vogel <https://pirati.ca/profile/heluecht>
8  * Maintainer: Hypolite Petovan <https://friendica.mrpetovan.com/profile/hypolite>
9  *
10  * Copyright (c) 2011-2013 Tobias Diekershoff, Michael Vogel, Hypolite Petovan
11  * All rights reserved.
12  *
13  * Redistribution and use in source and binary forms, with or without
14  * modification, are permitted provided that the following conditions are met:
15  *    * Redistributions of source code must retain the above copyright notice,
16  *     this list of conditions and the following disclaimer.
17  *    * Redistributions in binary form must reproduce the above
18  *    * copyright notice, this list of conditions and the following disclaimer in
19  *      the documentation and/or other materials provided with the distribution.
20  *    * Neither the name of the <organization> nor the names of its contributors
21  *      may be used to endorse or promote products derived from this software
22  *      without specific prior written permission.
23  *
24  * THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS" AND
25  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE IMPLIED
26  * WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
27  * DISCLAIMED. IN NO EVENT SHALL <COPYRIGHT HOLDER> BE LIABLE FOR ANY DIRECT,
28  * INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL DAMAGES (INCLUDING,
29  * BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR SERVICES; LOSS OF USE,
30  * DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER CAUSED AND ON ANY THEORY OF
31  * LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY, OR TORT (INCLUDING NEGLIGENCE
32  * OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE OF THIS SOFTWARE, EVEN IF
33  * ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
34  *
35  */
36 /*   Twitter Addon for Friendica
37  *
38  *   Author: Tobias Diekershoff
39  *           tobias.diekershoff@gmx.net
40  *
41  *   License:3-clause BSD license
42  *
43  *   Configuration:
44  *     To use this addon you need a OAuth Consumer key pair (key & secret)
45  *     you can get it from Twitter at https://twitter.com/apps
46  *
47  *     Register your Friendica site as "Client" application with "Read & Write" access
48  *     we do not need "Twitter as login". When you've registered the app you get the
49  *     OAuth Consumer key and secret pair for your application/site.
50  *
51  *     Add this key pair to your global config/addon.config.php or use the admin panel.
52  *
53  *      'twitter' => [
54  *                  'consumerkey' => '',
55  *              'consumersecret' => '',
56  *      ],
57  *
58  *     To activate the addon itself add it to the system.addon
59  *     setting. After this, your user can configure their Twitter account settings
60  *     from "Settings -> Addon Settings".
61  *
62  *     Requirements: PHP5, curl
63  */
64
65 use Abraham\TwitterOAuth\TwitterOAuth;
66 use Abraham\TwitterOAuth\TwitterOAuthException;
67 use Codebird\Codebird;
68 use Friendica\App;
69 use Friendica\Content\OEmbed;
70 use Friendica\Content\Text\BBCode;
71 use Friendica\Content\Text\Plaintext;
72 use Friendica\Core\Hook;
73 use Friendica\Core\Logger;
74 use Friendica\Core\Protocol;
75 use Friendica\Core\Renderer;
76 use Friendica\Core\Worker;
77 use Friendica\Database\DBA;
78 use Friendica\DI;
79 use Friendica\Model\Contact;
80 use Friendica\Model\Conversation;
81 use Friendica\Model\Group;
82 use Friendica\Model\Item;
83 use Friendica\Model\ItemContent;
84 use Friendica\Model\ItemURI;
85 use Friendica\Model\Tag;
86 use Friendica\Model\Term;
87 use Friendica\Model\User;
88 use Friendica\Protocol\Activity;
89 use Friendica\Util\ConfigFileLoader;
90 use Friendica\Util\DateTimeFormat;
91 use Friendica\Util\Images;
92 use Friendica\Util\Network;
93 use Friendica\Util\Strings;
94
95 require_once __DIR__ . DIRECTORY_SEPARATOR . 'vendor' . DIRECTORY_SEPARATOR . 'autoload.php';
96
97 define('TWITTER_DEFAULT_POLL_INTERVAL', 5); // given in minutes
98
99 function twitter_install()
100 {
101         //  we need some hooks, for the configuration and for sending tweets
102         Hook::register('load_config'            , __FILE__, 'twitter_load_config');
103         Hook::register('connector_settings'     , __FILE__, 'twitter_settings');
104         Hook::register('connector_settings_post', __FILE__, 'twitter_settings_post');
105         Hook::register('hook_fork'              , __FILE__, 'twitter_hook_fork');
106         Hook::register('post_local'             , __FILE__, 'twitter_post_local');
107         Hook::register('notifier_normal'        , __FILE__, 'twitter_post_hook');
108         Hook::register('jot_networks'           , __FILE__, 'twitter_jot_nets');
109         Hook::register('cron'                   , __FILE__, 'twitter_cron');
110         Hook::register('follow'                 , __FILE__, 'twitter_follow');
111         Hook::register('expire'                 , __FILE__, 'twitter_expire');
112         Hook::register('prepare_body'           , __FILE__, 'twitter_prepare_body');
113         Hook::register('check_item_notification', __FILE__, 'twitter_check_item_notification');
114         Logger::info("installed twitter");
115 }
116
117 function twitter_uninstall()
118 {
119         Hook::unregister('load_config'            , __FILE__, 'twitter_load_config');
120         Hook::unregister('connector_settings'     , __FILE__, 'twitter_settings');
121         Hook::unregister('connector_settings_post', __FILE__, 'twitter_settings_post');
122         Hook::unregister('hook_fork'              , __FILE__, 'twitter_hook_fork');
123         Hook::unregister('post_local'             , __FILE__, 'twitter_post_local');
124         Hook::unregister('notifier_normal'        , __FILE__, 'twitter_post_hook');
125         Hook::unregister('jot_networks'           , __FILE__, 'twitter_jot_nets');
126         Hook::unregister('cron'                   , __FILE__, 'twitter_cron');
127         Hook::unregister('follow'                 , __FILE__, 'twitter_follow');
128         Hook::unregister('expire'                 , __FILE__, 'twitter_expire');
129         Hook::unregister('prepare_body'           , __FILE__, 'twitter_prepare_body');
130         Hook::unregister('check_item_notification', __FILE__, 'twitter_check_item_notification');
131
132         // old setting - remove only
133         Hook::unregister('post_local_end'     , __FILE__, 'twitter_post_hook');
134         Hook::unregister('addon_settings'     , __FILE__, 'twitter_settings');
135         Hook::unregister('addon_settings_post', __FILE__, 'twitter_settings_post');
136 }
137
138 function twitter_load_config(App $a, ConfigFileLoader $loader)
139 {
140         $a->getConfigCache()->load($loader->loadAddonConfig('twitter'));
141 }
142
143 function twitter_check_item_notification(App $a, array &$notification_data)
144 {
145         $own_id = DI::pConfig()->get($notification_data["uid"], 'twitter', 'own_id');
146
147         $own_user = q("SELECT `url` FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
148                         intval($notification_data["uid"]),
149                         DBA::escape("twitter::".$own_id)
150         );
151
152         if ($own_user) {
153                 $notification_data["profiles"][] = $own_user[0]["url"];
154         }
155 }
156
157 function twitter_follow(App $a, array &$contact)
158 {
159         Logger::info('Check if contact is twitter contact', ['url' => $contact["url"]]);
160
161         if (!strstr($contact["url"], "://twitter.com") && !strstr($contact["url"], "@twitter.com")) {
162                 return;
163         }
164
165         // contact seems to be a twitter contact, so continue
166         $nickname = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $contact["url"]);
167         $nickname = str_replace("@twitter.com", "", $nickname);
168
169         $uid = $a->user["uid"];
170
171         $ckey = DI::config()->get('twitter', 'consumerkey');
172         $csecret = DI::config()->get('twitter', 'consumersecret');
173         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
174         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
175
176         // If the addon is not configured (general or for this user) quit here
177         if (empty($ckey) || empty($csecret) || empty($otoken) || empty($osecret)) {
178                 $contact = false;
179                 return;
180         }
181
182         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
183         $connection->post('friendships/create', ['screen_name' => $nickname]);
184
185         twitter_fetchuser($a, $uid, $nickname);
186
187         $r = q("SELECT name,nick,url,addr,batch,notify,poll,request,confirm,poco,photo,priority,network,alias,pubkey
188                 FROM `contact` WHERE `uid` = %d AND `nick` = '%s'",
189                                 intval($uid),
190                                 DBA::escape($nickname));
191         if (DBA::isResult($r)) {
192                 $contact["contact"] = $r[0];
193         }
194 }
195
196 function twitter_jot_nets(App $a, array &$jotnets_fields)
197 {
198         if (!local_user()) {
199                 return;
200         }
201
202         if (DI::pConfig()->get(local_user(), 'twitter', 'post')) {
203                 $jotnets_fields[] = [
204                         'type' => 'checkbox',
205                         'field' => [
206                                 'twitter_enable',
207                                 DI::l10n()->t('Post to Twitter'),
208                                 DI::pConfig()->get(local_user(), 'twitter', 'post_by_default')
209                         ]
210                 ];
211         }
212 }
213
214
215 function twitter_settings_post(App $a)
216 {
217         if (!local_user()) {
218                 return;
219         }
220         // don't check twitter settings if twitter submit button is not clicked
221         if (empty($_POST['twitter-disconnect']) && empty($_POST['twitter-submit'])) {
222                 return;
223         }
224
225         if (!empty($_POST['twitter-disconnect'])) {
226                 /*               * *
227                  * if the twitter-disconnect checkbox is set, clear the OAuth key/secret pair
228                  * from the user configuration
229                  */
230                 DI::pConfig()->delete(local_user(), 'twitter', 'consumerkey');
231                 DI::pConfig()->delete(local_user(), 'twitter', 'consumersecret');
232                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthtoken');
233                 DI::pConfig()->delete(local_user(), 'twitter', 'oauthsecret');
234                 DI::pConfig()->delete(local_user(), 'twitter', 'post');
235                 DI::pConfig()->delete(local_user(), 'twitter', 'post_by_default');
236                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
237                 DI::pConfig()->delete(local_user(), 'twitter', 'mirror_posts');
238                 DI::pConfig()->delete(local_user(), 'twitter', 'import');
239                 DI::pConfig()->delete(local_user(), 'twitter', 'create_user');
240                 DI::pConfig()->delete(local_user(), 'twitter', 'own_id');
241         } else {
242                 if (isset($_POST['twitter-pin'])) {
243                         //  if the user supplied us with a PIN from Twitter, let the magic of OAuth happen
244                         Logger::notice('got a Twitter PIN');
245                         $ckey    = DI::config()->get('twitter', 'consumerkey');
246                         $csecret = DI::config()->get('twitter', 'consumersecret');
247                         //  the token and secret for which the PIN was generated were hidden in the settings
248                         //  form as token and token2, we need a new connection to Twitter using these token
249                         //  and secret to request a Access Token with the PIN
250                         try {
251                                 if (empty($_POST['twitter-pin'])) {
252                                         throw new Exception(DI::l10n()->t('You submitted an empty PIN, please Sign In with Twitter again to get a new one.'));
253                                 }
254
255                                 $connection = new TwitterOAuth($ckey, $csecret, $_POST['twitter-token'], $_POST['twitter-token2']);
256                                 $token = $connection->oauth("oauth/access_token", ["oauth_verifier" => $_POST['twitter-pin']]);
257                                 //  ok, now that we have the Access Token, save them in the user config
258                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthtoken', $token['oauth_token']);
259                                 DI::pConfig()->set(local_user(), 'twitter', 'oauthsecret', $token['oauth_token_secret']);
260                                 DI::pConfig()->set(local_user(), 'twitter', 'post', 1);
261                         } catch(Exception $e) {
262                                 info($e->getMessage());
263                         } catch(TwitterOAuthException $e) {
264                                 info($e->getMessage());
265                         }
266                         //  reload the Addon Settings page, if we don't do it see Bug #42
267                         DI::baseUrl()->redirect('settings/connectors');
268                 } else {
269                         //  if no PIN is supplied in the POST variables, the user has changed the setting
270                         //  to post a tweet for every new __public__ posting to the wall
271                         DI::pConfig()->set(local_user(), 'twitter', 'post', intval($_POST['twitter-enable']));
272                         DI::pConfig()->set(local_user(), 'twitter', 'post_by_default', intval($_POST['twitter-default']));
273                         DI::pConfig()->set(local_user(), 'twitter', 'mirror_posts', intval($_POST['twitter-mirror']));
274                         DI::pConfig()->set(local_user(), 'twitter', 'import', intval($_POST['twitter-import']));
275                         DI::pConfig()->set(local_user(), 'twitter', 'create_user', intval($_POST['twitter-create_user']));
276
277                         if (!intval($_POST['twitter-mirror'])) {
278                                 DI::pConfig()->delete(local_user(), 'twitter', 'lastid');
279                         }
280
281                         info(DI::l10n()->t('Twitter settings updated.') . EOL);
282                 }
283         }
284 }
285
286 function twitter_settings(App $a, &$s)
287 {
288         if (!local_user()) {
289                 return;
290         }
291         DI::page()['htmlhead'] .= '<link rel="stylesheet"  type="text/css" href="' . DI::baseUrl()->get() . '/addon/twitter/twitter.css' . '" media="all" />' . "\r\n";
292         /*       * *
293          * 1) Check that we have global consumer key & secret
294          * 2) If no OAuthtoken & stuff is present, generate button to get some
295          * 3) Checkbox for "Send public notices (280 chars only)
296          */
297         $ckey    = DI::config()->get('twitter', 'consumerkey');
298         $csecret = DI::config()->get('twitter', 'consumersecret');
299         $otoken  = DI::pConfig()->get(local_user(), 'twitter', 'oauthtoken');
300         $osecret = DI::pConfig()->get(local_user(), 'twitter', 'oauthsecret');
301
302         $enabled            = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
303         $defenabled         = intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'));
304         $mirrorenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'mirror_posts'));
305         $importenabled      = intval(DI::pConfig()->get(local_user(), 'twitter', 'import'));
306         $create_userenabled = intval(DI::pConfig()->get(local_user(), 'twitter', 'create_user'));
307
308         $css = (($enabled) ? '' : '-disabled');
309
310         $s .= '<span id="settings_twitter_inflated" class="settings-block fakelink" style="display: block;" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
311         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
312         $s .= '</span>';
313         $s .= '<div id="settings_twitter_expanded" class="settings-block" style="display: none;">';
314         $s .= '<span class="fakelink" onclick="openClose(\'settings_twitter_expanded\'); openClose(\'settings_twitter_inflated\');">';
315         $s .= '<img class="connector' . $css . '" src="images/twitter.png" /><h3 class="connector">' . DI::l10n()->t('Twitter Import/Export/Mirror') . '</h3>';
316         $s .= '</span>';
317
318         if ((!$ckey) && (!$csecret)) {
319                 /* no global consumer keys
320                  * display warning and skip personal config
321                  */
322                 $s .= '<p>' . DI::l10n()->t('No consumer key pair for Twitter found. Please contact your site administrator.') . '</p>';
323         } else {
324                 // ok we have a consumer key pair now look into the OAuth stuff
325                 if ((!$otoken) && (!$osecret)) {
326                         /* the user has not yet connected the account to twitter...
327                          * get a temporary OAuth key/secret pair and display a button with
328                          * which the user can request a PIN to connect the account to a
329                          * account at Twitter.
330                          */
331                         $connection = new TwitterOAuth($ckey, $csecret);
332                         try {
333                                 $result = $connection->oauth('oauth/request_token', ['oauth_callback' => 'oob']);
334                                 $s .= '<p>' . DI::l10n()->t('At this Friendica instance the Twitter addon was enabled but you have not yet connected your account to your Twitter account. To do so click the button below to get a PIN from Twitter which you have to copy into the input box below and submit the form. Only your <strong>public</strong> posts will be posted to Twitter.') . '</p>';
335                                 $s .= '<a href="' . $connection->url('oauth/authorize', ['oauth_token' => $result['oauth_token']]) . '" target="_twitter"><img src="addon/twitter/lighter.png" alt="' . DI::l10n()->t('Log in with Twitter') . '"></a>';
336                                 $s .= '<div id="twitter-pin-wrapper">';
337                                 $s .= '<label id="twitter-pin-label" for="twitter-pin">' . DI::l10n()->t('Copy the PIN from Twitter here') . '</label>';
338                                 $s .= '<input id="twitter-pin" type="text" name="twitter-pin" />';
339                                 $s .= '<input id="twitter-token" type="hidden" name="twitter-token" value="' . $result['oauth_token'] . '" />';
340                                 $s .= '<input id="twitter-token2" type="hidden" name="twitter-token2" value="' . $result['oauth_token_secret'] . '" />';
341                                 $s .= '</div><div class="clear"></div>';
342                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
343                         } catch (TwitterOAuthException $e) {
344                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
345                         }
346                 } else {
347                         /*                       * *
348                          *  we have an OAuth key / secret pair for the user
349                          *  so let's give a chance to disable the postings to Twitter
350                          */
351                         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
352                         try {
353                                 $details = $connection->get('account/verify_credentials');
354
355                                 $field_checkbox = Renderer::getMarkupTemplate('field_checkbox.tpl');
356
357                                 if (property_exists($details, 'screen_name') &&
358                                     property_exists($details, 'description') &&
359                                     property_exists($details, 'profile_image_url')) {
360                                         $s .= '<div id="twitter-info" >
361                                         <p>' . DI::l10n()->t('Currently connected to: ') . '<a href="https://twitter.com/' . $details->screen_name . '" target="_twitter">' . $details->screen_name . '</a>
362                                                 <button type="submit" name="twitter-disconnect" value="1">' . DI::l10n()->t('Disconnect') . '</button>
363                                         </p>
364                                         <p id="twitter-info-block">
365                                                 <a href="https://twitter.com/' . $details->screen_name . '" target="_twitter"><img id="twitter-avatar" src="' . $details->profile_image_url . '" /></a>
366                                                 <em>' . $details->description . '</em>
367                                         </p>
368                                 </div>';
369                                 } else {
370                                         $s .= '<div id="twitter-info" >
371                                         <p>Invalid Twitter info</p>
372                                 </div>';
373                                         Logger::info('Invalid twitter info (verify credentials).', ['auth' => TwitterOAuth::class]);
374                                 }
375                                 $s .= '<div class="clear"></div>';
376
377                                 $s .= Renderer::replaceMacros($field_checkbox, [
378                                         '$field' => ['twitter-enable', DI::l10n()->t('Allow posting to Twitter'), $enabled, DI::l10n()->t('If enabled all your <strong>public</strong> postings can be posted to the associated Twitter account. You can choose to do so by default (here) or for every posting separately in the posting options when writing the entry.')]
379                                 ]);
380                                 if ($a->user['hidewall']) {
381                                         $s .= '<p>' . DI::l10n()->t('<strong>Note</strong>: Due to your privacy settings (<em>Hide your profile details from unknown viewers?</em>) the link potentially included in public postings relayed to Twitter will lead the visitor to a blank page informing the visitor that the access to your profile has been restricted.') . '</p>';
382                                 }
383                                 $s .= Renderer::replaceMacros($field_checkbox, [
384                                         '$field' => ['twitter-default', DI::l10n()->t('Send public postings to Twitter by default'), $defenabled, '']
385                                 ]);
386                                 $s .= Renderer::replaceMacros($field_checkbox, [
387                                         '$field' => ['twitter-mirror', DI::l10n()->t('Mirror all posts from twitter that are no replies'), $mirrorenabled, '']
388                                 ]);
389                                 $s .= Renderer::replaceMacros($field_checkbox, [
390                                         '$field' => ['twitter-import', DI::l10n()->t('Import the remote timeline'), $importenabled, '']
391                                 ]);
392                                 $s .= Renderer::replaceMacros($field_checkbox, [
393                                         '$field' => ['twitter-create_user', DI::l10n()->t('Automatically create contacts'), $create_userenabled, DI::l10n()->t('This will automatically create a contact in Friendica as soon as you receive a message from an existing contact via the Twitter network. If you do not enable this, you need to manually add those Twitter contacts in Friendica from whom you would like to see posts here. However if enabled, you cannot merely remove a twitter contact from the Friendica contact list, as it will recreate this contact when they post again.')]
394                                 ]);
395                                 $s .= '<div class="clear"></div>';
396                                 $s .= '<div class="settings-submit-wrapper" ><input type="submit" name="twitter-submit" class="settings-submit" value="' . DI::l10n()->t('Save Settings') . '" /></div>';
397                         } catch (TwitterOAuthException $e) {
398                                 $s .= '<p>' . DI::l10n()->t('An error occured: ') . $e->getMessage() . '</p>';
399                         }
400                 }
401         }
402         $s .= '</div><div class="clear"></div>';
403 }
404
405 function twitter_hook_fork(App $a, array &$b)
406 {
407         if ($b['name'] != 'notifier_normal') {
408                 return;
409         }
410
411         $post = $b['data'];
412
413         // Deleting and editing is not supported by the addon (deleting could, but isn't by now)
414         if ($post['deleted'] || ($post['created'] !== $post['edited'])) {
415                 $b['execute'] = false;
416                 return;
417         }
418
419         // if post comes from twitter don't send it back
420         if ($post['extid'] == Protocol::TWITTER) {
421                 $b['execute'] = false;
422                 return;
423         }
424
425         if ($post['app'] == 'Twitter') {
426                 $b['execute'] = false;
427                 return;
428         }
429
430         if (DI::pConfig()->get($post['uid'], 'twitter', 'import')) {
431                 // Don't fork if it isn't a reply to a twitter post
432                 if (($post['parent'] != $post['id']) && !Item::exists(['id' => $post['parent'], 'network' => Protocol::TWITTER])) {
433                         Logger::notice('No twitter parent found', ['item' => $post['id']]);
434                         $b['execute'] = false;
435                         return;
436                 }
437         } else {
438                 // Comments are never exported when we don't import the twitter timeline
439                 if (!strstr($post['postopts'], 'twitter') || ($post['parent'] != $post['id']) || $post['private']) {
440                         $b['execute'] = false;
441                         return;
442                 }
443         }
444 }
445
446 function twitter_post_local(App $a, array &$b)
447 {
448         if ($b['edit']) {
449                 return;
450         }
451
452         if (!local_user() || (local_user() != $b['uid'])) {
453                 return;
454         }
455
456         $twitter_post = intval(DI::pConfig()->get(local_user(), 'twitter', 'post'));
457         $twitter_enable = (($twitter_post && !empty($_REQUEST['twitter_enable'])) ? intval($_REQUEST['twitter_enable']) : 0);
458
459         // if API is used, default to the chosen settings
460         if ($b['api_source'] && intval(DI::pConfig()->get(local_user(), 'twitter', 'post_by_default'))) {
461                 $twitter_enable = 1;
462         }
463
464         if (!$twitter_enable) {
465                 return;
466         }
467
468         if (strlen($b['postopts'])) {
469                 $b['postopts'] .= ',';
470         }
471
472         $b['postopts'] .= 'twitter';
473 }
474
475 function twitter_action(App $a, $uid, $pid, $action)
476 {
477         $ckey = DI::config()->get('twitter', 'consumerkey');
478         $csecret = DI::config()->get('twitter', 'consumersecret');
479         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
480         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
481
482         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
483
484         $post = ['id' => $pid];
485
486         Logger::log("twitter_action '" . $action . "' ID: " . $pid . " data: " . print_r($post, true), Logger::DATA);
487
488         switch ($action) {
489                 case "delete":
490                         // To-Do: $result = $connection->post('statuses/destroy', $post);
491                         $result = [];
492                         break;
493                 case "like":
494                         $result = $connection->post('favorites/create', $post);
495                         break;
496                 case "unlike":
497                         $result = $connection->post('favorites/destroy', $post);
498                         break;
499                 default:
500                         Logger::log('Unhandled action ' . $action, Logger::DEBUG);
501                         $result = [];
502         }
503         Logger::log("twitter_action '" . $action . "' send, result: " . print_r($result, true), Logger::DEBUG);
504 }
505
506 function twitter_post_hook(App $a, array &$b)
507 {
508         // Post to Twitter
509         if (!DI::pConfig()->get($b["uid"], 'twitter', 'import')
510                 && ($b['deleted'] || $b['private'] || ($b['created'] !== $b['edited']))) {
511                 return;
512         }
513
514         if ($b['parent'] != $b['id']) {
515                 Logger::log("twitter_post_hook: parameter " . print_r($b, true), Logger::DATA);
516
517                 // Looking if its a reply to a twitter post
518                 if ((substr($b["parent-uri"], 0, 9) != "twitter::")
519                         && (substr($b["extid"], 0, 9) != "twitter::")
520                         && (substr($b["thr-parent"], 0, 9) != "twitter::"))
521                 {
522                         Logger::log("twitter_post_hook: no twitter post " . $b["parent"]);
523                         return;
524                 }
525
526                 $condition = ['uri' => $b["thr-parent"], 'uid' => $b["uid"]];
527                 $orig_post = Item::selectFirst([], $condition);
528                 if (!DBA::isResult($orig_post)) {
529                         Logger::log("twitter_post_hook: no parent found " . $b["thr-parent"]);
530                         return;
531                 } else {
532                         $iscomment = true;
533                 }
534
535
536                 $nicknameplain = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $orig_post["author-link"]);
537                 $nickname = "@[url=" . $orig_post["author-link"] . "]" . $nicknameplain . "[/url]";
538                 $nicknameplain = "@" . $nicknameplain;
539
540                 Logger::log("twitter_post_hook: comparing " . $nickname . " and " . $nicknameplain . " with " . $b["body"], Logger::DEBUG);
541                 if ((strpos($b["body"], $nickname) === false) && (strpos($b["body"], $nicknameplain) === false)) {
542                         $b["body"] = $nickname . " " . $b["body"];
543                 }
544
545                 Logger::log("twitter_post_hook: parent found " . print_r($orig_post, true), Logger::DATA);
546         } else {
547                 $iscomment = false;
548
549                 if ($b['private'] || !strstr($b['postopts'], 'twitter')) {
550                         return;
551                 }
552
553                 // Dont't post if the post doesn't belong to us.
554                 // This is a check for forum postings
555                 $self = DBA::selectFirst('contact', ['id'], ['uid' => $b['uid'], 'self' => true]);
556                 if ($b['contact-id'] != $self['id']) {
557                         return;
558                 }
559         }
560
561         if (($b['verb'] == Activity::POST) && $b['deleted']) {
562                 twitter_action($a, $b["uid"], substr($orig_post["uri"], 9), "delete");
563         }
564
565         if ($b['verb'] == Activity::LIKE) {
566                 Logger::log("twitter_post_hook: parameter 2 " . substr($b["thr-parent"], 9), Logger::DEBUG);
567                 if ($b['deleted']) {
568                         twitter_action($a, $b["uid"], substr($b["thr-parent"], 9), "unlike");
569                 } else {
570                         twitter_action($a, $b["uid"], substr($b["thr-parent"], 9), "like");
571                 }
572
573                 return;
574         }
575
576         if ($b['deleted'] || ($b['created'] !== $b['edited'])) {
577                 return;
578         }
579
580         // if post comes from twitter don't send it back
581         if ($b['extid'] == Protocol::TWITTER) {
582                 return;
583         }
584
585         if ($b['app'] == "Twitter") {
586                 return;
587         }
588
589         Logger::notice('twitter post invoked', ['id' => $b['id'], 'guid' => $b['guid']]);
590
591         DI::pConfig()->load($b['uid'], 'twitter');
592
593         $ckey    = DI::config()->get('twitter', 'consumerkey');
594         $csecret = DI::config()->get('twitter', 'consumersecret');
595         $otoken  = DI::pConfig()->get($b['uid'], 'twitter', 'oauthtoken');
596         $osecret = DI::pConfig()->get($b['uid'], 'twitter', 'oauthsecret');
597
598         if ($ckey && $csecret && $otoken && $osecret) {
599                 Logger::log('twitter: we have customer key and oauth stuff, going to send.', Logger::DEBUG);
600
601                 // If it's a repeated message from twitter then do a native retweet and exit
602                 if (twitter_is_retweet($a, $b['uid'], $b['body'])) {
603                         return;
604                 }
605
606                 Codebird::setConsumerKey($ckey, $csecret);
607                 $cb = Codebird::getInstance();
608                 $cb->setToken($otoken, $osecret);
609
610                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
611
612                 // Set the timeout for upload to 30 seconds
613                 $connection->setTimeouts(10, 30);
614
615                 $max_char = 280;
616
617                 // Handling non-native reshares
618                 $b['body'] = Friendica\Content\Text\BBCode::convertShare(
619                         $b['body'],
620                         function (array $attributes, array $author_contact, $content, $is_quote_share) {
621                                 return twitter_convert_share($attributes, $author_contact, $content, $is_quote_share);
622                         }
623                 );
624
625                 $b['body'] = twitter_update_mentions($b['body']);
626
627                 $msgarr = ItemContent::getPlaintextPost($b, $max_char, true, BBCode::TWITTER);
628                 Logger::info('Got plaintext', ['id' => $b['id'], 'message' => $msgarr]);
629                 $msg = $msgarr["text"];
630
631                 if (($msg == "") && isset($msgarr["title"])) {
632                         $msg = Plaintext::shorten($msgarr["title"], $max_char - 50);
633                 }
634
635                 if (!empty($msgarr['url']) && ($msgarr['url'] == $b['plink']) && !empty($msgarr['images']) && (count($msgarr['images']) <= 4)) {
636                         $url_added = false;
637                 } elseif (isset($msgarr["url"]) && ($msgarr["type"] != "photo")) {
638                         $msg .= "\n" . $msgarr["url"];
639                         $url_added = true;
640                 } else {
641                         $url_added = false;
642                 }
643
644                 if (empty($msg)) {
645                         Logger::info('Empty message', ['id' => $b['id']]);
646                         return;
647                 }
648
649                 // and now tweet it :-)
650                 $post = [];
651
652                 if (!empty($msgarr['images'])) {
653                         Logger::info('Got images', ['id' => $b['id'], 'images' => $msgarr['images']]);
654                         try {
655                                 $media_ids = [];
656                                 foreach ($msgarr['images'] as $image) {
657                                         if (count($media_ids) == 4) {
658                                                 continue;
659                                         }
660
661                                         $img_str = Network::fetchUrl($image['url']);
662
663                                         $tempfile = tempnam(get_temppath(), 'cache');
664                                         file_put_contents($tempfile, $img_str);
665
666                                         Logger::info('Uploading', ['id' => $b['id'], 'image' => $image['url']]);
667                                         $media = $connection->upload('media/upload', ['media' => $tempfile]);
668
669                                         unlink($tempfile);
670
671                                         if (isset($media->media_id_string)) {
672                                                 $media_ids[] = $media->media_id_string;
673
674                                                 if (!empty($image['description'])) {
675                                                         $data = ['media_id' => $media->media_id_string,
676                                                                 'alt_text' => ['text' => substr($image['description'], 0, 420)]];
677                                                         $ret = $cb->media_metadata_create($data);
678                                                         Logger::info('Metadata create', ['id' => $b['id'], 'data' => $data, 'return' => json_encode($ret)]);
679                                                 }
680                                         } else {
681                                                 throw new Exception('Failed upload', ['id' => $b['id'], 'image' => $image['url']]);
682                                         }
683                                 }
684                                 $post['media_ids'] = implode(',', $media_ids);
685                                 if (empty($post['media_ids'])) {
686                                         unset($post['media_ids']);
687                                 }
688                         } catch (Exception $e) {
689                                 Logger::info('Exception when trying to send to Twitter', ['id' => $b['id'], 'message' => $e->getMessage()]);
690                         }
691                 }
692
693                 $post['status'] = $msg;
694
695                 if ($iscomment) {
696                         $post["in_reply_to_status_id"] = substr($orig_post["uri"], 9);
697                 }
698
699                 $url = 'statuses/update';
700                 $result = $connection->post($url, $post);
701                 Logger::info('twitter_post send', ['id' => $b['id'], 'result' => $result]);
702
703                 if (!empty($result->source)) {
704                         DI::config()->set("twitter", "application_name", strip_tags($result->source));
705                 }
706
707                 if (!empty($result->errors)) {
708                         Logger::info('Send to Twitter failed', ['id' => $b['id'], 'error' => $result->errors]);
709                         Worker::defer();
710                 } elseif ($iscomment) {
711                         Logger::info('Update extid', ['id' => $b['id'], 'extid' => $result->id_str]);
712                         Item::update(['extid' => "twitter::" . $result->id_str], ['id' => $b['id']]);
713                 }
714         }
715 }
716
717 function twitter_addon_admin_post(App $a)
718 {
719         $consumerkey    = !empty($_POST['consumerkey'])    ? Strings::escapeTags(trim($_POST['consumerkey']))    : '';
720         $consumersecret = !empty($_POST['consumersecret']) ? Strings::escapeTags(trim($_POST['consumersecret'])) : '';
721         DI::config()->set('twitter', 'consumerkey', $consumerkey);
722         DI::config()->set('twitter', 'consumersecret', $consumersecret);
723         info(DI::l10n()->t('Settings updated.') . EOL);
724 }
725
726 function twitter_addon_admin(App $a, &$o)
727 {
728         $t = Renderer::getMarkupTemplate("admin.tpl", "addon/twitter/");
729
730         $o = Renderer::replaceMacros($t, [
731                 '$submit' => DI::l10n()->t('Save Settings'),
732                 // name, label, value, help, [extra values]
733                 '$consumerkey' => ['consumerkey', DI::l10n()->t('Consumer key'), DI::config()->get('twitter', 'consumerkey'), ''],
734                 '$consumersecret' => ['consumersecret', DI::l10n()->t('Consumer secret'), DI::config()->get('twitter', 'consumersecret'), ''],
735         ]);
736 }
737
738 function twitter_cron(App $a)
739 {
740         $last = DI::config()->get('twitter', 'last_poll');
741
742         $poll_interval = intval(DI::config()->get('twitter', 'poll_interval'));
743         if (!$poll_interval) {
744                 $poll_interval = TWITTER_DEFAULT_POLL_INTERVAL;
745         }
746
747         if ($last) {
748                 $next = $last + ($poll_interval * 60);
749                 if ($next > time()) {
750                         Logger::notice('twitter: poll intervall not reached');
751                         return;
752                 }
753         }
754         Logger::notice('twitter: cron_start');
755
756         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'mirror_posts' AND `v` = '1'");
757         if (DBA::isResult($r)) {
758                 foreach ($r as $rr) {
759                         Logger::notice('Fetching', ['user' => $rr['uid']]);
760                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 1, (int) $rr['uid']);
761                 }
762         }
763
764         $abandon_days = intval(DI::config()->get('system', 'account_abandon_days'));
765         if ($abandon_days < 1) {
766                 $abandon_days = 0;
767         }
768
769         $abandon_limit = date(DateTimeFormat::MYSQL, time() - $abandon_days * 86400);
770
771         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1'");
772         if (DBA::isResult($r)) {
773                 foreach ($r as $rr) {
774                         if ($abandon_days != 0) {
775                                 $user = q("SELECT `login_date` FROM `user` WHERE uid=%d AND `login_date` >= '%s'", $rr['uid'], $abandon_limit);
776                                 if (!DBA::isResult($user)) {
777                                         Logger::notice('abandoned account: timeline from user will not be imported', ['user' => $rr['uid']]);
778                                         continue;
779                                 }
780                         }
781
782                         Logger::notice('importing timeline', ['user' => $rr['uid']]);
783                         Worker::add(['priority' => PRIORITY_MEDIUM, 'force_priority' => true], "addon/twitter/twitter_sync.php", 2, (int) $rr['uid']);
784                         /*
785                           // To-Do
786                           // check for new contacts once a day
787                           $last_contact_check = DI::pConfig()->get($rr['uid'],'pumpio','contact_check');
788                           if($last_contact_check)
789                           $next_contact_check = $last_contact_check + 86400;
790                           else
791                           $next_contact_check = 0;
792
793                           if($next_contact_check <= time()) {
794                           pumpio_getallusers($a, $rr["uid"]);
795                           DI::pConfig()->set($rr['uid'],'pumpio','contact_check',time());
796                           }
797                          */
798                 }
799         }
800
801         Logger::notice('twitter: cron_end');
802
803         DI::config()->set('twitter', 'last_poll', time());
804 }
805
806 function twitter_expire(App $a)
807 {
808         $days = DI::config()->get('twitter', 'expire');
809
810         if ($days == 0) {
811                 return;
812         }
813
814         $r = Item::select(['id', 'guid'], ['deleted' => true, 'network' => Protocol::TWITTER]);
815         while ($row = DBA::fetch($r)) {
816                 Logger::info('[twitter] Delete expired item', ['id' => $row['id'], 'guid' => $row['guid'], 'callstack' => \Friendica\Core\System::callstack()]);
817                 DBA::delete('item', ['id' => $row['id']]);
818         }
819         DBA::close($r);
820
821         Logger::notice('twitter_expire: expire_start');
822
823         $r = q("SELECT * FROM `pconfig` WHERE `cat` = 'twitter' AND `k` = 'import' AND `v` = '1' ORDER BY RAND()");
824         if (DBA::isResult($r)) {
825                 foreach ($r as $rr) {
826                         Logger::notice('twitter_expire', ['user' => $rr['uid']]);
827                         Item::expire($rr['uid'], $days, Protocol::TWITTER, true);
828                 }
829         }
830
831         Logger::notice('twitter_expire: expire_end');
832 }
833
834 function twitter_prepare_body(App $a, array &$b)
835 {
836         if ($b["item"]["network"] != Protocol::TWITTER) {
837                 return;
838         }
839
840         if ($b["preview"]) {
841                 $max_char = 280;
842                 $item = $b["item"];
843                 $item["plink"] = DI::baseUrl()->get() . "/display/" . $item["guid"];
844
845                 $condition = ['uri' => $item["thr-parent"], 'uid' => local_user()];
846                 $orig_post = Item::selectFirst(['author-link'], $condition);
847                 if (DBA::isResult($orig_post)) {
848                         $nicknameplain = preg_replace("=https?://twitter.com/(.*)=ism", "$1", $orig_post["author-link"]);
849                         $nickname = "@[url=" . $orig_post["author-link"] . "]" . $nicknameplain . "[/url]";
850                         $nicknameplain = "@" . $nicknameplain;
851
852                         if ((strpos($item["body"], $nickname) === false) && (strpos($item["body"], $nicknameplain) === false)) {
853                                 $item["body"] = $nickname . " " . $item["body"];
854                         }
855                 }
856
857                 $msgarr = ItemContent::getPlaintextPost($item, $max_char, true, BBCode::TWITTER);
858                 $msg = $msgarr["text"];
859
860                 if (isset($msgarr["url"]) && ($msgarr["type"] != "photo")) {
861                         $msg .= " " . $msgarr["url"];
862                 }
863
864                 if (isset($msgarr["image"])) {
865                         $msg .= " " . $msgarr["image"];
866                 }
867
868                 $b['html'] = nl2br(htmlspecialchars($msg));
869         }
870 }
871
872 /**
873  * @brief Build the item array for the mirrored post
874  *
875  * @param App $a Application class
876  * @param integer $uid User id
877  * @param object $post Twitter object with the post
878  *
879  * @return array item data to be posted
880  */
881 function twitter_do_mirrorpost(App $a, $uid, $post)
882 {
883         $datarray['api_source'] = true;
884         $datarray['profile_uid'] = $uid;
885         $datarray['extid'] = Protocol::TWITTER;
886         $datarray['message_id'] = Item::newURI($uid, Protocol::TWITTER . ':' . $post->id);
887         $datarray['protocol'] = Conversation::PARCEL_TWITTER;
888         $datarray['source'] = json_encode($post);
889         $datarray['title'] = '';
890
891         if (!empty($post->retweeted_status)) {
892                 // We don't support nested shares, so we mustn't show quotes as shares on retweets
893                 $item = twitter_createpost($a, $uid, $post->retweeted_status, ['id' => 0], false, false, true, -1);
894
895                 if (empty($item['body'])) {
896                         return [];
897                 }
898
899                 $datarray['body'] = "\n" . share_header(
900                         $item['author-name'],
901                         $item['author-link'],
902                         $item['author-avatar'],
903                         '',
904                         $item['created'],
905                         $item['plink']
906                 );
907
908                 $datarray['body'] .= $item['body'] . '[/share]';
909         } else {
910                 $item = twitter_createpost($a, $uid, $post, ['id' => 0], false, false, false, -1);
911
912                 if (empty($item['body'])) {
913                         return [];
914                 }
915
916                 $datarray['body'] = $item['body'];
917         }
918
919         $datarray['source'] = $item['app'];
920         $datarray['verb'] = $item['verb'];
921
922         if (isset($item['location'])) {
923                 $datarray['location'] = $item['location'];
924         }
925
926         if (isset($item['coord'])) {
927                 $datarray['coord'] = $item['coord'];
928         }
929
930         return $datarray;
931 }
932
933 function twitter_fetchtimeline(App $a, $uid)
934 {
935         $ckey    = DI::config()->get('twitter', 'consumerkey');
936         $csecret = DI::config()->get('twitter', 'consumersecret');
937         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
938         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
939         $lastid  = DI::pConfig()->get($uid, 'twitter', 'lastid');
940
941         $application_name = DI::config()->get('twitter', 'application_name');
942
943         if ($application_name == "") {
944                 $application_name = DI::baseUrl()->getHostname();
945         }
946
947         $has_picture = false;
948
949         require_once 'mod/item.php';
950         require_once 'mod/share.php';
951
952         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
953
954         $parameters = ["exclude_replies" => true, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
955
956         $first_time = ($lastid == "");
957
958         if ($lastid != "") {
959                 $parameters["since_id"] = $lastid;
960         }
961
962         try {
963                 $items = $connection->get('statuses/user_timeline', $parameters);
964         } catch (TwitterOAuthException $e) {
965                 Logger::notice('Error fetching timeline', ['user' => $uid, 'message' => $e->getMessage()]);
966                 return;
967         }
968
969         if (!is_array($items)) {
970                 Logger::notice('No items', ['user' => $uid]);
971                 return;
972         }
973
974         $posts = array_reverse($items);
975
976         Logger::log('Starting from ID ' . $lastid . ' for user ' . $uid, Logger::DEBUG);
977
978         if (count($posts)) {
979                 foreach ($posts as $post) {
980                         if ($post->id_str > $lastid) {
981                                 $lastid = $post->id_str;
982                                 DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
983                         }
984
985                         if ($first_time) {
986                                 continue;
987                         }
988
989                         if (!stristr($post->source, $application_name)) {
990                                 $_SESSION["authenticated"] = true;
991                                 $_SESSION["uid"] = $uid;
992
993                                 Logger::log('Preparing Twitter ID ' . $post->id_str . ' for user ' . $uid, Logger::DEBUG);
994
995                                 $_REQUEST = twitter_do_mirrorpost($a, $uid, $post);
996
997                                 if (empty($_REQUEST['body'])) {
998                                         continue;
999                                 }
1000
1001                                 Logger::log('Posting Twitter ID ' . $post->id_str . ' for user ' . $uid);
1002
1003                                 item_post($a);
1004                         }
1005                 }
1006         }
1007         DI::pConfig()->set($uid, 'twitter', 'lastid', $lastid);
1008         Logger::log('Last ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1009 }
1010
1011 function twitter_fix_avatar($avatar)
1012 {
1013         $new_avatar = str_replace("_normal.", ".", $avatar);
1014
1015         $info = Images::getInfoFromURLCached($new_avatar);
1016         if (!$info) {
1017                 $new_avatar = $avatar;
1018         }
1019
1020         return $new_avatar;
1021 }
1022
1023 function twitter_get_relation($uid, $target, $contact = [])
1024 {
1025         if (isset($contact['rel'])) {
1026                 $relation = $contact['rel'];
1027         } else {
1028                 $relation = 0;
1029         }
1030
1031         $ckey = DI::config()->get('twitter', 'consumerkey');
1032         $csecret = DI::config()->get('twitter', 'consumersecret');
1033         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1034         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1035         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1036
1037         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1038         $parameters = ['source_id' => $own_id, 'target_screen_name' => $target];
1039
1040         try {
1041                 $status = $connection->get('friendships/show', $parameters);
1042         } catch (TwitterOAuthException $e) {
1043                 Logger::info('Error fetching friendship status', ['user' => $uid, 'target' => $target, 'message' => $e->getMessage()]);
1044                 return $relation;
1045         }
1046
1047         $following = $status->relationship->source->following;
1048         $followed = $status->relationship->source->followed_by;
1049
1050         if ($following && !$followed) {
1051                 $relation = Contact::SHARING;
1052         } elseif (!$following && $followed) {
1053                 $relation = Contact::FOLLOWER;
1054         } elseif ($following && $followed) {
1055                 $relation = Contact::FRIEND;
1056         } elseif (!$following && !$followed) {
1057                 $relation = 0;
1058         }
1059
1060         Logger::info('Fetched friendship relation', ['user' => $uid, 'target' => $target, 'relation' => $relation]);
1061
1062         return $relation;
1063 }
1064
1065 function twitter_fetch_contact($uid, $data, $create_user)
1066 {
1067         if (empty($data->id_str)) {
1068                 return -1;
1069         }
1070
1071         $avatar = twitter_fix_avatar($data->profile_image_url_https);
1072         $url = "https://twitter.com/" . $data->screen_name;
1073         $addr = $data->screen_name . "@twitter.com";
1074
1075         $fields = ['url' => $url, 'network' => Protocol::TWITTER,
1076                 'alias' => 'twitter::' . $data->id_str,
1077                 'name' => $data->name, 'nick' => $data->screen_name, 'addr' => $addr,
1078                 'location' => $data->location, 'about' => $data->description];
1079
1080         // Update the public contact
1081         $pcontact = DBA::selectFirst('contact', ['id'], ['uid' => 0, 'alias' => "twitter::" . $data->id_str]);
1082         if (DBA::isResult($pcontact)) {
1083                 $cid = $pcontact['id'];
1084         } else {
1085                 $cid = Contact::getIdForURL($url, 0, true, $fields);
1086         }
1087
1088         if (!empty($cid)) {
1089                 DBA::update('contact', $fields, ['id' => $cid]);
1090                 Contact::updateAvatar($avatar, 0, $cid);
1091         }
1092
1093         $contact = DBA::selectFirst('contact', [], ['uid' => $uid, 'alias' => "twitter::" . $data->id_str]);
1094         if (!DBA::isResult($contact) && !$create_user) {
1095                 Logger::info('User contact not found', ['uid' => $uid, 'twitter-id' => $data->id_str]);
1096                 return 0;
1097         }
1098
1099         if (!DBA::isResult($contact)) {
1100                 $relation = twitter_get_relation($uid, $data->screen_name);
1101
1102                 // create contact record
1103                 $fields['uid'] = $uid;
1104                 $fields['created'] = DateTimeFormat::utcNow();
1105                 $fields['nurl'] = Strings::normaliseLink($url);
1106                 $fields['poll'] = 'twitter::' . $data->id_str;
1107                 $fields['rel'] = $relation;
1108                 $fields['priority'] = 1;
1109                 $fields['writable'] = true;
1110                 $fields['blocked'] = false;
1111                 $fields['readonly'] = false;
1112                 $fields['pending'] = false;
1113
1114                 if (!DBA::insert('contact', $fields)) {
1115                         return false;
1116                 }
1117
1118                 $contact_id = DBA::lastInsertId();
1119
1120                 Group::addMember(User::getDefaultGroup($uid), $contact_id);
1121
1122                 Contact::updateAvatar($avatar, $uid, $contact_id);
1123         } else {
1124                 if ($contact["readonly"] || $contact["blocked"]) {
1125                         Logger::log("twitter_fetch_contact: Contact '" . $contact["nick"] . "' is blocked or readonly.", Logger::DEBUG);
1126                         return -1;
1127                 }
1128
1129                 $contact_id = $contact['id'];
1130                 $update = false;
1131
1132                 // Update the contact relation once per day
1133                 if ($contact['updated'] < DateTimeFormat::utc('now -24 hours')) {
1134                         $fields['rel'] = twitter_get_relation($uid, $data->screen_name, $contact);
1135                         $update = true;
1136                 }
1137
1138                 Contact::updateAvatar($avatar, $uid, $contact['id']);
1139
1140                 if ($contact['name'] != $data->name) {
1141                         $fields['name-date'] = $fields['uri-date'] = DateTimeFormat::utcNow();
1142                         $update = true;
1143                 }
1144
1145                 if ($contact['nick'] != $data->screen_name) {
1146                         $fields['uri-date'] = DateTimeFormat::utcNow();
1147                         $update = true;
1148                 }
1149
1150                 if (($contact['location'] != $data->location) || ($contact['about'] != $data->description)) {
1151                         $update = true;
1152                 }
1153
1154                 if ($update) {
1155                         $fields['updated'] = DateTimeFormat::utcNow();
1156                         DBA::update('contact', $fields, ['id' => $contact['id']]);
1157                         Logger::info('Updated contact', ['id' => $contact['id'], 'nick' => $data->screen_name]);
1158                 }
1159         }
1160
1161         return $contact_id;
1162 }
1163
1164 function twitter_fetchuser(App $a, $uid, $screen_name = "", $user_id = "")
1165 {
1166         $ckey = DI::config()->get('twitter', 'consumerkey');
1167         $csecret = DI::config()->get('twitter', 'consumersecret');
1168         $otoken = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1169         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1170
1171         $r = q("SELECT * FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1172                 intval($uid));
1173
1174         if (DBA::isResult($r)) {
1175                 $self = $r[0];
1176         } else {
1177                 return;
1178         }
1179
1180         $parameters = [];
1181
1182         if ($screen_name != "") {
1183                 $parameters["screen_name"] = $screen_name;
1184         }
1185
1186         if ($user_id != "") {
1187                 $parameters["user_id"] = $user_id;
1188         }
1189
1190         // Fetching user data
1191         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1192         try {
1193                 $user = $connection->get('users/show', $parameters);
1194         } catch (TwitterOAuthException $e) {
1195                 Logger::log('twitter_fetchuser: Error fetching user ' . $uid . ': ' . $e->getMessage());
1196                 return;
1197         }
1198
1199         if (!is_object($user)) {
1200                 return;
1201         }
1202
1203         $contact_id = twitter_fetch_contact($uid, $user, true);
1204
1205         return $contact_id;
1206 }
1207
1208 /**
1209  * Replaces Twitter entities with Friendica-friendly links.
1210  *
1211  * The Twitter API gives indices for each entity, which allows for fine-grained replacement.
1212  *
1213  * First, we need to collect everything that needs to be replaced, what we will replace it with, and the start index.
1214  * Then we sort the indices decreasingly, and we replace from the end of the body to the start in order for the next
1215  * index to be correct even after the last replacement.
1216  *
1217  * @param string   $body
1218  * @param stdClass $status
1219  * @param string   $picture
1220  * @return array
1221  * @throws \Friendica\Network\HTTPException\InternalServerErrorException
1222  */
1223 function twitter_expand_entities($body, stdClass $status, $picture)
1224 {
1225         $plain = $body;
1226
1227         $taglist = [];
1228
1229         $replacementList = [];
1230
1231         foreach ($status->entities->hashtags AS $hashtag) {
1232                 $replace = '#[url=' . DI::baseUrl()->get() . '/search?tag=' . $hashtag->text . ']' . $hashtag->text . '[/url]';
1233                 $taglist['#' . $hashtag->text] = ['#', $hashtag->text, ''];
1234
1235                 $replacementList[$hashtag->indices[0]] = [
1236                         'replace' => $replace,
1237                         'length' => $hashtag->indices[1] - $hashtag->indices[0],
1238                 ];
1239         }
1240
1241         foreach ($status->entities->user_mentions AS $mention) {
1242                 $replace = '@[url=https://twitter.com/' . rawurlencode($mention->screen_name) . ']' . $mention->screen_name . '[/url]';
1243                 $taglist['@' . $mention->screen_name] = ['@', $mention->screen_name, 'https://twitter.com/' . rawurlencode($mention->screen_name)];
1244
1245                 $replacementList[$mention->indices[0]] = [
1246                         'replace' => $replace,
1247                         'length' => $mention->indices[1] - $mention->indices[0],
1248                 ];
1249         }
1250
1251         // This URL if set will be used to add an attachment at the bottom of the post
1252         $attachmentUrl = '';
1253
1254         foreach ($status->entities->urls ?? [] as $url) {
1255                 $plain = str_replace($url->url, '', $plain);
1256
1257                 if ($url->url && $url->expanded_url && $url->display_url) {
1258
1259                         // Quote tweet, we just remove the quoted tweet URL from the body, the share block will be added later.
1260                         if (!empty($status->quoted_status) && isset($status->quoted_status_id_str)
1261                                 && substr($url->expanded_url, -strlen($status->quoted_status_id_str)) == $status->quoted_status_id_str
1262                         ) {
1263                                 $replacementList[$url->indices[0]] = [
1264                                         'replace' => '',
1265                                         'length' => $url->indices[1] - $url->indices[0],
1266                                 ];
1267                                 continue;
1268                         }
1269
1270                         $expanded_url = $url->expanded_url;
1271
1272                         $final_url = Network::finalUrl($url->expanded_url);
1273
1274                         $oembed_data = OEmbed::fetchURL($final_url);
1275
1276                         if (empty($oembed_data) || empty($oembed_data->type)) {
1277                                 continue;
1278                         }
1279
1280                         // Quickfix: Workaround for URL with '[' and ']' in it
1281                         if (strpos($expanded_url, '[') || strpos($expanded_url, ']')) {
1282                                 $expanded_url = $url->url;
1283                         }
1284
1285                         if ($oembed_data->type == 'video') {
1286                                 $attachmentUrl = $expanded_url;
1287                                 $replace = '';
1288                         } elseif (($oembed_data->type == 'photo') && isset($oembed_data->url)) {
1289                                 $replace = '[url=' . $expanded_url . '][img]' . $oembed_data->url . '[/img][/url]';
1290                         } elseif ($oembed_data->type != 'link') {
1291                                 $replace = '[url=' . $expanded_url . ']' . $url->display_url . '[/url]';
1292                         } else {
1293                                 $img_str = Network::fetchUrl($final_url, true, 4);
1294
1295                                 $tempfile = tempnam(get_temppath(), 'cache');
1296                                 file_put_contents($tempfile, $img_str);
1297
1298                                 // See http://php.net/manual/en/function.exif-imagetype.php#79283
1299                                 if (filesize($tempfile) > 11) {
1300                                         $mime = image_type_to_mime_type(exif_imagetype($tempfile));
1301                                 } else {
1302                                         $mime = false;
1303                                 }
1304
1305                                 unlink($tempfile);
1306
1307                                 if (substr($mime, 0, 6) == 'image/') {
1308                                         $replace = '[img]' . $final_url . '[/img]';
1309                                 } else {
1310                                         $attachmentUrl = $expanded_url;
1311                                         $replace = '';
1312                                 }
1313                         }
1314
1315                         $replacementList[$url->indices[0]] = [
1316                                 'replace' => $replace,
1317                                 'length' => $url->indices[1] - $url->indices[0],
1318                         ];
1319                 }
1320         }
1321
1322         krsort($replacementList);
1323
1324         foreach ($replacementList as $startIndex => $parameters) {
1325                 $body = Strings::substringReplace($body, $parameters['replace'], $startIndex, $parameters['length']);
1326         }
1327
1328         // Footer will be taken care of with a share block in the case of a quote
1329         if (empty($status->quoted_status)) {
1330                 $footer = '';
1331                 if ($attachmentUrl) {
1332                         $footer = add_page_info($attachmentUrl, false, $picture);
1333                 }
1334
1335                 if (trim($footer)) {
1336                         $body .= $footer;
1337                 } elseif ($picture) {
1338                         $body .= "\n\n[img]" . $picture . "[/img]\n";
1339                 } else {
1340                         $body = add_page_info_to_body($body);
1341                 }
1342         }
1343
1344         return ['body' => $body, 'plain' => $plain, 'taglist' => $taglist];
1345 }
1346
1347 /**
1348  * @brief Fetch media entities and add media links to the body
1349  *
1350  * @param object $post Twitter object with the post
1351  * @param array $postarray Array of the item that is about to be posted
1352  *
1353  * @return $picture string Image URL or empty string
1354  */
1355 function twitter_media_entities($post, array &$postarray)
1356 {
1357         // There are no media entities? So we quit.
1358         if (empty($post->extended_entities->media)) {
1359                 return '';
1360         }
1361
1362         // When the post links to an external page, we only take one picture.
1363         // We only do this when there is exactly one media.
1364         if ((count($post->entities->urls) > 0) && (count($post->extended_entities->media) == 1)) {
1365                 $medium = $post->extended_entities->media[0];
1366                 $picture = '';
1367                 foreach ($post->entities->urls as $link) {
1368                         // Let's make sure the external link url matches the media url
1369                         if ($medium->url == $link->url && isset($medium->media_url_https)) {
1370                                 $picture = $medium->media_url_https;
1371                                 $postarray['body'] = str_replace($medium->url, '', $postarray['body']);
1372                                 return $picture;
1373                         }
1374                 }
1375         }
1376
1377         // This is a pure media post, first search for all media urls
1378         $media = [];
1379         foreach ($post->extended_entities->media AS $medium) {
1380                 if (!isset($media[$medium->url])) {
1381                         $media[$medium->url] = '';
1382                 }
1383                 switch ($medium->type) {
1384                         case 'photo':
1385                                 if (!empty($medium->ext_alt_text)) {
1386                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1387                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1388                                 } else {
1389                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1390                                 }
1391
1392                                 $postarray['object-type'] = Activity\ObjectType::IMAGE;
1393                                 break;
1394                         case 'video':
1395                         case 'animated_gif':
1396                                 if (!empty($medium->ext_alt_text)) {
1397                                         Logger::info('Got text description', ['alt_text' => $medium->ext_alt_text]);
1398                                         $media[$medium->url] .= "\n[img=" . $medium->media_url_https .']' . $medium->ext_alt_text . '[/img]';
1399                                 } else {
1400                                         $media[$medium->url] .= "\n[img]" . $medium->media_url_https . '[/img]';
1401                                 }
1402
1403                                 $postarray['object-type'] = Activity\ObjectType::VIDEO;
1404                                 if (is_array($medium->video_info->variants)) {
1405                                         $bitrate = 0;
1406                                         // We take the video with the highest bitrate
1407                                         foreach ($medium->video_info->variants AS $variant) {
1408                                                 if (($variant->content_type == 'video/mp4') && ($variant->bitrate >= $bitrate)) {
1409                                                         $media[$medium->url] = "\n[video]" . $variant->url . '[/video]';
1410                                                         $bitrate = $variant->bitrate;
1411                                                 }
1412                                         }
1413                                 }
1414                                 break;
1415                         // The following code will only be activated for test reasons
1416                         //default:
1417                         //      $postarray['body'] .= print_r($medium, true);
1418                 }
1419         }
1420
1421         // Now we replace the media urls.
1422         foreach ($media AS $key => $value) {
1423                 $postarray['body'] = str_replace($key, "\n" . $value . "\n", $postarray['body']);
1424         }
1425
1426         return '';
1427 }
1428
1429 /**
1430  * Undocumented function
1431  *
1432  * @param App $a
1433  * @param integer $uid User ID
1434  * @param object $post Incoming Twitter post
1435  * @param array $self
1436  * @param bool $create_user Should users be created?
1437  * @param bool $only_existing_contact Only import existing contacts if set to "true"
1438  * @param bool $noquote
1439  * @param integer $uriid URI Id used to store tags. 0 = create a new one; -1 = don't store tags for this post.
1440  * @return array item array
1441  */
1442 function twitter_createpost(App $a, $uid, $post, array $self, $create_user, $only_existing_contact, $noquote, int $uriid = 0)
1443 {
1444         $postarray = [];
1445         $postarray['network'] = Protocol::TWITTER;
1446         $postarray['uid'] = $uid;
1447         $postarray['wall'] = 0;
1448         $postarray['uri'] = "twitter::" . $post->id_str;
1449         $postarray['protocol'] = Conversation::PARCEL_TWITTER;
1450         $postarray['source'] = json_encode($post);
1451
1452         if (empty($uriid)) {
1453                 $uriid = $postarray['uri-id'] = ItemURI::insert(['uri' => $postarray['uri']]);
1454         }
1455
1456         // Don't import our own comments
1457         if (Item::exists(['extid' => $postarray['uri'], 'uid' => $uid])) {
1458                 Logger::log("Item with extid " . $postarray['uri'] . " found.", Logger::DEBUG);
1459                 return [];
1460         }
1461
1462         $contactid = 0;
1463
1464         if ($post->in_reply_to_status_id_str != "") {
1465                 $parent = "twitter::" . $post->in_reply_to_status_id_str;
1466
1467                 $fields = ['uri', 'parent-uri', 'parent'];
1468                 $parent_item = Item::selectFirst($fields, ['uri' => $parent, 'uid' => $uid]);
1469                 if (!DBA::isResult($parent_item)) {
1470                         $parent_item = Item::selectFirst($fields, ['extid' => $parent, 'uid' => $uid]);
1471                 }
1472
1473                 if (DBA::isResult($parent_item)) {
1474                         $postarray['thr-parent'] = $parent_item['uri'];
1475                         $postarray['parent-uri'] = $parent_item['parent-uri'];
1476                         $postarray['parent'] = $parent_item['parent'];
1477                         $postarray['object-type'] = Activity\ObjectType::COMMENT;
1478                 } else {
1479                         $postarray['thr-parent'] = $postarray['uri'];
1480                         $postarray['parent-uri'] = $postarray['uri'];
1481                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1482                 }
1483
1484                 // Is it me?
1485                 $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1486
1487                 if ($post->user->id_str == $own_id) {
1488                         $r = q("SELECT * FROM `contact` WHERE `self` = 1 AND `uid` = %d LIMIT 1",
1489                                 intval($uid));
1490
1491                         if (DBA::isResult($r)) {
1492                                 $contactid = $r[0]["id"];
1493
1494                                 $postarray['owner-name']   = $r[0]["name"];
1495                                 $postarray['owner-link']   = $r[0]["url"];
1496                                 $postarray['owner-avatar'] = $r[0]["photo"];
1497                         } else {
1498                                 Logger::log("No self contact for user " . $uid, Logger::DEBUG);
1499                                 return [];
1500                         }
1501                 }
1502                 // Don't create accounts of people who just comment something
1503                 $create_user = false;
1504         } else {
1505                 $postarray['parent-uri'] = $postarray['uri'];
1506                 $postarray['object-type'] = Activity\ObjectType::NOTE;
1507         }
1508
1509         if ($contactid == 0) {
1510                 $contactid = twitter_fetch_contact($uid, $post->user, $create_user);
1511
1512                 $postarray['owner-name'] = $post->user->name;
1513                 $postarray['owner-link'] = "https://twitter.com/" . $post->user->screen_name;
1514                 $postarray['owner-avatar'] = twitter_fix_avatar($post->user->profile_image_url_https);
1515         }
1516
1517         if (($contactid == 0) && !$only_existing_contact) {
1518                 $contactid = $self['id'];
1519         } elseif ($contactid <= 0) {
1520                 Logger::log("Contact ID is zero or less than zero.", Logger::DEBUG);
1521                 return [];
1522         }
1523
1524         $postarray['contact-id'] = $contactid;
1525
1526         $postarray['verb'] = Activity::POST;
1527         $postarray['author-name'] = $postarray['owner-name'];
1528         $postarray['author-link'] = $postarray['owner-link'];
1529         $postarray['author-avatar'] = $postarray['owner-avatar'];
1530         $postarray['plink'] = "https://twitter.com/" . $post->user->screen_name . "/status/" . $post->id_str;
1531         $postarray['app'] = strip_tags($post->source);
1532
1533         if ($post->user->protected) {
1534                 $postarray['private'] = 1;
1535                 $postarray['allow_cid'] = '<' . $self['id'] . '>';
1536         } else {
1537                 $postarray['private'] = 0;
1538                 $postarray['allow_cid'] = '';
1539         }
1540
1541         if (!empty($post->full_text)) {
1542                 $postarray['body'] = $post->full_text;
1543         } else {
1544                 $postarray['body'] = $post->text;
1545         }
1546
1547         // When the post contains links then use the correct object type
1548         if (count($post->entities->urls) > 0) {
1549                 $postarray['object-type'] = Activity\ObjectType::BOOKMARK;
1550         }
1551
1552         // Search for media links
1553         $picture = twitter_media_entities($post, $postarray);
1554
1555         $converted = twitter_expand_entities($postarray['body'], $post, $picture);
1556         $postarray['body'] = $converted['body'];
1557         $postarray['created'] = DateTimeFormat::utc($post->created_at);
1558         $postarray['edited'] = DateTimeFormat::utc($post->created_at);
1559
1560         if ($uriid > 0) {
1561                 twitter_store_tags($uriid, $converted['taglist']);
1562         }
1563
1564         $statustext = $converted["plain"];
1565
1566         if (!empty($post->place->name)) {
1567                 $postarray["location"] = $post->place->name;
1568         }
1569         if (!empty($post->place->full_name)) {
1570                 $postarray["location"] = $post->place->full_name;
1571         }
1572         if (!empty($post->geo->coordinates)) {
1573                 $postarray["coord"] = $post->geo->coordinates[0] . " " . $post->geo->coordinates[1];
1574         }
1575         if (!empty($post->coordinates->coordinates)) {
1576                 $postarray["coord"] = $post->coordinates->coordinates[1] . " " . $post->coordinates->coordinates[0];
1577         }
1578         if (!empty($post->retweeted_status)) {
1579                 $retweet = twitter_createpost($a, $uid, $post->retweeted_status, $self, false, false, $noquote);
1580
1581                 if (empty($retweet['body'])) {
1582                         return [];
1583                 }
1584
1585                 if (!$noquote) {
1586                         // Store the original tweet
1587                         Item::insert($retweet);
1588
1589                         // CHange the other post into a reshare activity
1590                         $postarray['verb'] = Activity::ANNOUNCE;
1591                         $postarray['gravity'] = GRAVITY_ACTIVITY;
1592                         $postarray['object-type'] = Activity\ObjectType::NOTE;
1593
1594                         $postarray['thr-parent'] = $retweet['uri'];
1595                         $postarray['parent-uri'] = $retweet['uri'];
1596                 } else {
1597                         $retweet['source'] = $postarray['source'];
1598                         $retweet['private'] = $postarray['private'];
1599                         $retweet['allow_cid'] = $postarray['allow_cid'];
1600                         $retweet['contact-id'] = $postarray['contact-id'];
1601                         $retweet['owner-name'] = $postarray['owner-name'];
1602                         $retweet['owner-link'] = $postarray['owner-link'];
1603                         $retweet['owner-avatar'] = $postarray['owner-avatar'];
1604
1605                         $postarray = $retweet;
1606                 }
1607         }
1608
1609         if (!empty($post->quoted_status) && !$noquote) {
1610                 $quoted = twitter_createpost($a, $uid, $post->quoted_status, $self, false, false, true, $uriid);
1611
1612                 if (!empty($quoted['body'])) {
1613                         $postarray['body'] .= "\n" . share_header(
1614                                 $quoted['author-name'],
1615                                 $quoted['author-link'],
1616                                 $quoted['author-avatar'],
1617                                 "",
1618                                 $quoted['created'],
1619                                 $quoted['plink']
1620                         );
1621
1622                         $postarray['body'] .= $quoted['body'] . '[/share]';
1623                 } else {
1624                         // Quoted post author is blocked/ignored, so we just provide the link to avoid removing quote context.
1625                         $postarray['body'] .= "\n\nhttps://twitter.com/" . $post->quoted_status->user->screen_name . "/status/" . $post->quoted_status->id_str;
1626                 }
1627         }
1628
1629         return $postarray;
1630 }
1631
1632 /**
1633  * Store tags and mentions
1634  *
1635  * @param integer $uriid
1636  * @param array $taglist
1637  */
1638 function twitter_store_tags(int $uriid, array $taglist)
1639 {
1640         foreach ($taglist as $tag) {
1641                 Tag::storeByHash($uriid, $tag[0], $tag[1], $tag[2]);
1642         }
1643 }
1644
1645 function twitter_fetchparentposts(App $a, $uid, $post, TwitterOAuth $connection, array $self)
1646 {
1647         Logger::log("twitter_fetchparentposts: Fetching for user " . $uid . " and post " . $post->id_str, Logger::DEBUG);
1648
1649         $posts = [];
1650
1651         while (!empty($post->in_reply_to_status_id_str)) {
1652                 $parameters = ["trim_user" => false, "tweet_mode" => "extended", "id" => $post->in_reply_to_status_id_str, "include_ext_alt_text" => true];
1653
1654                 try {
1655                         $post = $connection->get('statuses/show', $parameters);
1656                 } catch (TwitterOAuthException $e) {
1657                         Logger::log('twitter_fetchparentposts: Error fetching for user ' . $uid . ' and post ' . $post->id_str . ': ' . $e->getMessage());
1658                         break;
1659                 }
1660
1661                 if (empty($post)) {
1662                         Logger::log("twitter_fetchparentposts: Can't fetch post " . $parameters['id'], Logger::DEBUG);
1663                         break;
1664                 }
1665
1666                 if (empty($post->id_str)) {
1667                         Logger::log("twitter_fetchparentposts: This is not a post " . json_encode($post), Logger::DEBUG);
1668                         break;
1669                 }
1670
1671                 if (Item::exists(['uri' => 'twitter::' . $post->id_str, 'uid' => $uid])) {
1672                         break;
1673                 }
1674
1675                 $posts[] = $post;
1676         }
1677
1678         Logger::log("twitter_fetchparentposts: Fetching " . count($posts) . " parents", Logger::DEBUG);
1679
1680         $posts = array_reverse($posts);
1681
1682         if (!empty($posts)) {
1683                 foreach ($posts as $post) {
1684                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !DI::pConfig()->get($uid, 'twitter', 'create_user'), false);
1685
1686                         if (empty($postarray['body'])) {
1687                                 continue;
1688                         }
1689
1690                         $item = Item::insert($postarray);
1691
1692                         $postarray["id"] = $item;
1693
1694                         Logger::log('twitter_fetchparentpost: User ' . $self["nick"] . ' posted parent timeline item ' . $item);
1695                 }
1696         }
1697 }
1698
1699 function twitter_fetchhometimeline(App $a, $uid)
1700 {
1701         $ckey    = DI::config()->get('twitter', 'consumerkey');
1702         $csecret = DI::config()->get('twitter', 'consumersecret');
1703         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1704         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1705         $create_user = DI::pConfig()->get($uid, 'twitter', 'create_user');
1706         $mirror_posts = DI::pConfig()->get($uid, 'twitter', 'mirror_posts');
1707
1708         Logger::log("Fetching timeline for user " . $uid, Logger::DEBUG);
1709
1710         $application_name = DI::config()->get('twitter', 'application_name');
1711
1712         if ($application_name == "") {
1713                 $application_name = DI::baseUrl()->getHostname();
1714         }
1715
1716         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1717
1718         try {
1719                 $own_contact = twitter_fetch_own_contact($a, $uid);
1720         } catch (TwitterOAuthException $e) {
1721                 Logger::log('Error fetching own contact for user ' . $uid . ': ' . $e->getMessage());
1722                 return;
1723         }
1724
1725         $r = q("SELECT * FROM `contact` WHERE `id` = %d AND `uid` = %d LIMIT 1",
1726                 intval($own_contact),
1727                 intval($uid));
1728
1729         if (DBA::isResult($r)) {
1730                 $own_id = $r[0]["nick"];
1731         } else {
1732                 Logger::log("Own twitter contact not found for user " . $uid);
1733                 return;
1734         }
1735
1736         $self = User::getOwnerDataById($uid);
1737         if ($self === false) {
1738                 Logger::log("Own contact not found for user " . $uid);
1739                 return;
1740         }
1741
1742         $parameters = ["exclude_replies" => false, "trim_user" => false, "contributor_details" => true, "include_rts" => true, "tweet_mode" => "extended", "include_ext_alt_text" => true];
1743         //$parameters["count"] = 200;
1744         // Fetching timeline
1745         $lastid = DI::pConfig()->get($uid, 'twitter', 'lasthometimelineid');
1746
1747         $first_time = ($lastid == "");
1748
1749         if ($lastid != "") {
1750                 $parameters["since_id"] = $lastid;
1751         }
1752
1753         try {
1754                 $items = $connection->get('statuses/home_timeline', $parameters);
1755         } catch (TwitterOAuthException $e) {
1756                 Logger::log('Error fetching home timeline for user ' . $uid . ': ' . $e->getMessage());
1757                 return;
1758         }
1759
1760         if (!is_array($items)) {
1761                 Logger::log('No array while fetching home timeline for user ' . $uid . ': ' . print_r($items, true));
1762                 return;
1763         }
1764
1765         if (empty($items)) {
1766                 Logger::log('No new timeline content for user ' . $uid, Logger::INFO);
1767                 return;
1768         }
1769
1770         $posts = array_reverse($items);
1771
1772         Logger::log('Fetching timeline from ID ' . $lastid . ' for user ' . $uid . ' ' . sizeof($posts) . ' items', Logger::DEBUG);
1773
1774         if (count($posts)) {
1775                 foreach ($posts as $post) {
1776                         if ($post->id_str > $lastid) {
1777                                 $lastid = $post->id_str;
1778                                 DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
1779                         }
1780
1781                         if ($first_time) {
1782                                 continue;
1783                         }
1784
1785                         if (stristr($post->source, $application_name) && $post->user->screen_name == $own_id) {
1786                                 Logger::log("Skip previously sent post", Logger::DEBUG);
1787                                 continue;
1788                         }
1789
1790                         if ($mirror_posts && $post->user->screen_name == $own_id && $post->in_reply_to_status_id_str == "") {
1791                                 Logger::log("Skip post that will be mirrored", Logger::DEBUG);
1792                                 continue;
1793                         }
1794
1795                         if ($post->in_reply_to_status_id_str != "") {
1796                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
1797                         }
1798
1799                         Logger::log('Preparing post ' . $post->id_str . ' for user ' . $uid, Logger::DEBUG);
1800
1801                         $postarray = twitter_createpost($a, $uid, $post, $self, $create_user, true, false);
1802
1803                         if (empty($postarray['body']) || trim($postarray['body']) == "") {
1804                                 Logger::log('Empty body for post ' . $post->id_str . ' and user ' . $uid, Logger::DEBUG);
1805                                 continue;
1806                         }
1807
1808                         $notify = false;
1809
1810                         if (($postarray['uri'] == $postarray['parent-uri']) && ($postarray['author-link'] == $postarray['owner-link'])) {
1811                                 $contact = DBA::selectFirst('contact', [], ['id' => $postarray['contact-id'], 'self' => false]);
1812                                 if (DBA::isResult($contact)) {
1813                                         $notify = Item::isRemoteSelf($contact, $postarray);
1814                                 }
1815                         }
1816
1817                         $item = Item::insert($postarray, $notify);
1818                         $postarray["id"] = $item;
1819
1820                         Logger::log('User ' . $uid . ' posted home timeline item ' . $item);
1821                 }
1822         }
1823         DI::pConfig()->set($uid, 'twitter', 'lasthometimelineid', $lastid);
1824
1825         Logger::log('Last timeline ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1826
1827         // Fetching mentions
1828         $lastid = DI::pConfig()->get($uid, 'twitter', 'lastmentionid');
1829
1830         $first_time = ($lastid == "");
1831
1832         if ($lastid != "") {
1833                 $parameters["since_id"] = $lastid;
1834         }
1835
1836         try {
1837                 $items = $connection->get('statuses/mentions_timeline', $parameters);
1838         } catch (TwitterOAuthException $e) {
1839                 Logger::log('Error fetching mentions: ' . $e->getMessage());
1840                 return;
1841         }
1842
1843         if (!is_array($items)) {
1844                 Logger::log("Error fetching mentions: " . print_r($items, true), Logger::DEBUG);
1845                 return;
1846         }
1847
1848         $posts = array_reverse($items);
1849
1850         Logger::log("Fetching mentions for user " . $uid . " " . sizeof($posts) . " items", Logger::DEBUG);
1851
1852         if (count($posts)) {
1853                 foreach ($posts as $post) {
1854                         if ($post->id_str > $lastid) {
1855                                 $lastid = $post->id_str;
1856                         }
1857
1858                         if ($first_time) {
1859                                 continue;
1860                         }
1861
1862                         if ($post->in_reply_to_status_id_str != "") {
1863                                 twitter_fetchparentposts($a, $uid, $post, $connection, $self);
1864                         }
1865
1866                         $postarray = twitter_createpost($a, $uid, $post, $self, false, !$create_user, false);
1867
1868                         if (empty($postarray['body'])) {
1869                                 continue;
1870                         }
1871
1872                         $item = Item::insert($postarray);
1873
1874                         Logger::log('User ' . $uid . ' posted mention timeline item ' . $item);
1875                 }
1876         }
1877
1878         DI::pConfig()->set($uid, 'twitter', 'lastmentionid', $lastid);
1879
1880         Logger::log('Last mentions ID for user ' . $uid . ' is now ' . $lastid, Logger::DEBUG);
1881 }
1882
1883 function twitter_fetch_own_contact(App $a, $uid)
1884 {
1885         $ckey    = DI::config()->get('twitter', 'consumerkey');
1886         $csecret = DI::config()->get('twitter', 'consumersecret');
1887         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1888         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1889
1890         $own_id = DI::pConfig()->get($uid, 'twitter', 'own_id');
1891
1892         $contact_id = 0;
1893
1894         if ($own_id == "") {
1895                 $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1896
1897                 // Fetching user data
1898                 // get() may throw TwitterOAuthException, but we will catch it later
1899                 $user = $connection->get('account/verify_credentials');
1900                 if (empty($user) || empty($user->id_str)) {
1901                         return false;
1902                 }
1903
1904                 DI::pConfig()->set($uid, 'twitter', 'own_id', $user->id_str);
1905
1906                 $contact_id = twitter_fetch_contact($uid, $user, true);
1907         } else {
1908                 $r = q("SELECT * FROM `contact` WHERE `uid` = %d AND `alias` = '%s' LIMIT 1",
1909                         intval($uid),
1910                         DBA::escape("twitter::" . $own_id));
1911                 if (DBA::isResult($r)) {
1912                         $contact_id = $r[0]["id"];
1913                 } else {
1914                         DI::pConfig()->delete($uid, 'twitter', 'own_id');
1915                 }
1916         }
1917
1918         return $contact_id;
1919 }
1920
1921 function twitter_is_retweet(App $a, $uid, $body)
1922 {
1923         $body = trim($body);
1924
1925         // Skip if it isn't a pure repeated messages
1926         // Does it start with a share?
1927         if (strpos($body, "[share") > 0) {
1928                 return false;
1929         }
1930
1931         // Does it end with a share?
1932         if (strlen($body) > (strrpos($body, "[/share]") + 8)) {
1933                 return false;
1934         }
1935
1936         $attributes = preg_replace("/\[share(.*?)\]\s?(.*?)\s?\[\/share\]\s?/ism", "$1", $body);
1937         // Skip if there is no shared message in there
1938         if ($body == $attributes) {
1939                 return false;
1940         }
1941
1942         $link = "";
1943         preg_match("/link='(.*?)'/ism", $attributes, $matches);
1944         if (!empty($matches[1])) {
1945                 $link = $matches[1];
1946         }
1947
1948         preg_match('/link="(.*?)"/ism', $attributes, $matches);
1949         if (!empty($matches[1])) {
1950                 $link = $matches[1];
1951         }
1952
1953         $id = preg_replace("=https?://twitter.com/(.*)/status/(.*)=ism", "$2", $link);
1954         if ($id == $link) {
1955                 return false;
1956         }
1957
1958         Logger::log('twitter_is_retweet: Retweeting id ' . $id . ' for user ' . $uid, Logger::DEBUG);
1959
1960         $ckey    = DI::config()->get('twitter', 'consumerkey');
1961         $csecret = DI::config()->get('twitter', 'consumersecret');
1962         $otoken  = DI::pConfig()->get($uid, 'twitter', 'oauthtoken');
1963         $osecret = DI::pConfig()->get($uid, 'twitter', 'oauthsecret');
1964
1965         $connection = new TwitterOAuth($ckey, $csecret, $otoken, $osecret);
1966         $result = $connection->post('statuses/retweet/' . $id);
1967
1968         Logger::log('twitter_is_retweet: result ' . print_r($result, true), Logger::DEBUG);
1969
1970         return !isset($result->errors);
1971 }
1972
1973 function twitter_update_mentions($body)
1974 {
1975         $URLSearchString = "^\[\]";
1976         $return = preg_replace_callback(
1977                 "/@\[url\=([$URLSearchString]*)\](.*?)\[\/url\]/ism",
1978                 function ($matches) {
1979                         if (strpos($matches[1], 'twitter.com')) {
1980                                 $return = '@' . substr($matches[1], strrpos($matches[1], '/') + 1);
1981                         } else {
1982                                 $return = $matches[2] . ' (' . $matches[1] . ')';
1983                         }
1984
1985                         return $return;
1986                 },
1987                 $body
1988         );
1989
1990         return $return;
1991 }
1992
1993 function twitter_convert_share(array $attributes, array $author_contact, $content, $is_quote_share)
1994 {
1995         if (empty($author_contact)) {
1996                 return $content . "\n\n" . $attributes['link'];
1997         }
1998
1999         if (!empty($author_contact['network']) && ($author_contact['network'] == Protocol::TWITTER)) {
2000                 $mention = '@' . $author_contact['nick'];
2001         } else {
2002                 $mention = $author_contact['addr'];
2003         }
2004
2005         return ($is_quote_share ? "\n\n" : '' ) . 'RT ' . $mention . ': ' . $content . "\n\n" . $attributes['link'];
2006 }