【第30回】第五回講義「フェイスブック研究」～フェイスブックペーパーズの衝撃

東京大学大学院情報学環を拠点とする「プラットフォーム研究会」は、国内外のプラットフォーマーの経営、歴史、思想、創業者群像、政治との関係、生成ＡＩ戦略などについて、２０２６年１月まで２８回の会合で議論を重ねてきました。

本noteでは、西村陽一・東京大学大学院客員教授による「情報社会論」（プラットフォーム論）講義（情報学環教育部、２０２２年度～）のうち、２０２４年度の講義の一部を再録するとともに、学生のエッセイも掲載しています。

講義録はこれまで、初回（イントロダクション〜プラットフォーマーとメディアを取り巻く潮流）、第二回（プラットフォームビジネスのメカニズム～その急成長とパワーの源泉）、第三回（戦争と情報～ウクライナ戦争とプラットフォーマー）、第四回（巨大プラットフォーマーと国家～競争・協調・リスク）をお届けしました。
 
第２８回配信からは、五回目の講義（２０２４年５月、「フェイスブック研究～誕生・成長・暗部）の再録を掲載しています。

この第３０回配信では、ひとりの女性の内部告発によっておおやけになった「フェイスブックペーパーズ」をもとに、政治家やセレブなどの投稿が特別扱いされていたこと、常習的で強迫的なアプリの使用が若い世代の心身に有害な影響を与えていたことについて説明しています。

女性社員の内部告発

フェイスブックを襲った最大の嵐について説明します。
 
これから説明する一連の事件は、ひとことで「フェイスブック問題」といわれます。これは、この会社が利益を重視するあまり、安全対策を怠ってきた、その企業風土に対する世界中の批判の嵐をさしています。
 
フェイスブックが世界的に集中砲火を浴びるきっかけをつくったのはひとりの女性でした。
 
名前をフランシス・ホーゲン（Frances　Haugen）といいます。

彼女の内部告発をきっかけに、フェイスブックの膨大な内部資料とともに、ヘイトスピーチや誤情報の拡散、若い世代の心身への悪影響といった問題への対策の不備がつぎつぎに明らかになりました。
 
ホーゲンの内部文書は米証券取引委員会（ＳＥＣ）に開示され、一部を黒塗りするなどして米連邦議会に提供されました。

彼女は米国や英国の議会でも証言し、米連邦取引委員会（ＦＴＣ）もフェイスブックを調査しました。これが、巨大プラットフォーマーに対する一連の規制強化の動きにつながっていきます。
 
彼女は最初、グーグルの検索チームで働き、飲食店検索サービス「イェルプ」に転職後は機械学習チームで働いていました。写真共有アプリ「ピンタレスト」などを経て、２０１９年にフェイスブックに入社し、２０２１年５月に退社しました。
 
彼女の手元にあるフェイスブックの内部文書は２万２０００ページにもなります。米欧のメディアで報道された「フェイスブックペーパーズ」はこのうちの６０００ページ以上の分量にあたります。

なぜ、内部告発を？

ホーゲンはこれまで、米欧の新聞、テレビ、ネットを含むさまざまなメディアのインタビューに答えており、その肉声は数多くあります。そのインタビュー記事は、米欧のメディアに続いて、日本のメディアでも掲載されています。
 
まずはそこから彼女の肉声を引用しましょう。

「クロスチェック」でVIP扱い

ホーゲンが暴露したフェイスブックの膨大な内部文書の中から、プラットフォームを考察するうえで最も重要と思われる三つのテーマのエッセンスを紹介しましょう。
 
一つ目が、５８０万人にものぼる著名人を特別扱いした例外規定について、二つ目が、若い世代の心身に対する悪影響を放置していたことについて、そして三つ目が、アルゴリズム変更の副作用についてです。
 
フェイスブック問題の一連の報道の口火を切ったのは、アメリカのウォールストリート・ジャーナルでした。

彼らは入手した内部文書を分析して、２０２１年９月から、特ダネと特集記事を連発しました。

きょうは、ウォールストリート・ジャーナルの報道をてがかりに、この三つの問題について考えていきたいと思います。

最初の特ダネは、有名人や政治家、スポーツ選手などのインフルエンサーが、投稿をめぐるフェイスブックの利用規定を逸脱し、特別扱いされているという実態を暴いたものでした。
 
フェイスブックの創業者マーク・ザッカーバーグは、どの利用者も、フェイスブック上では平等に扱われるし、虚偽情報やヘイトスピーチなど問題ある投稿への規制は公平に行っている、と説明してきました。
 
ところが実態は違いました。

フェイスブック社内には、「クロスチェック（またはＸチェック）」と 呼ばれるプログラムがありました。
 
「クロスチェック」と呼ばれる制度によって、インフルエンサーたちは利用規定の適用対象から除外され、何でも自由に投稿できるようになっていました。
 
報道された内部文書によると、フェイスブック社内では、こうした人々のことは「選ばれたひと握りのメンバー（a select few members）」といわれており、これがフェイスブックの負の側面になっていると見なされていました。

ウォールストリート・ジャーナルによると、利用規定を免れているユーザーは最終的に約５８０万人にものぼったといいます。
 
もともとは「選ばれたひと握り」の特権グループのはずだったのが、これほどまでに異常に膨れ上がったのは、「影響力がある」「人気がある」「投稿を削除したら面倒なトラブルになる」といった基準で、フェイスブックの社員たちが自分の裁量でユーザーをどんどんこのリストに加えていったからでした。
 
投稿に差別や暴力、性的表現など、フェイスブックが決めたガイドラインに引っかかる内容が含まれていたら、一般の利用者の投稿なら削除されますし、そうした投稿が何度も重なれば、アカウントが凍結されることになっていました。

しかし、「クロスチェックされた特別階級」になると、投稿内容のチェックは事実上なくなります。
 
特別扱いのアカウントは、社内で事前承認を意味する「ホワイトリスト」と呼ばれていました。

「ホワイトリスト」に加えられたアカウントでは、フェイスブックのファクトチェックで偽情報と判定されるような情報のシェアも見逃されました。

スターサッカー選手の場合　

「クロスチェック」の対象にはスポーツ選手も含まれていました。
 
２０１９年、サッカーのブラジル代表ネイマール選手は、レイプ被害を訴えた女性のヌード写真をフェイスブック上にのせ、女性が自分を脅迫していると非難しました。
 
一般利用者を対象にしたガイドラインでは、相手の同意なしに性的なコンテンツを投稿したときは削除の対象となります。しかし、ネイマール選手にこのルールは適用されませんでした。
 
メタ傘下のインスタグラムで１億５０００万人以上のフォロワーを持つサッカー界のスーパースターは、まさにこの特別扱いの対象でした。

投稿を管理している担当者が、女性のヌード写真を含んだネイマール選手の動画投稿を削除しようとしたのですが、特別扱いだったので１日以上たなざらしになりました。
 
明らかにされた内部調査によると、５６００万人以上がフェイスブックとインスタグラムでこの「リベンジポルノ」を視聴し、動画は６０００回以上シェアされたといいます。

トランプの場合

とくに問題だと思うのは、政治家に対する特別扱いです。これは、後にさまざまな形で問題となる巨大プラットフォーマーと政治の関係にかかわってくるからです。
 
２０２０年６月、当時のトランプ大統領（政権1期目）がフェイスブックと旧ツイッターに投稿したある文章が物議を醸しました。 

きっかけは、ジョージ・フロイド（４６）事件でした。

彼は、偽の２０ドル札でたばこひと箱を購入した容疑で逮捕され、ミネアポリスの警察官に９分以上膝で首を押さえつけられ、死亡しました。
 
この事件によって、「ブラック・ライブズ・マター」（Black Lives Matter、BLM）運動が再燃し、全米に広がっていきました。

トランプ大統領（当時）は投稿で抗議運動への懸念を示し、ミネソタ州知事に米軍支援を申し出たと述べているのですが、そのなかで、この「略奪が始まれば発砲が始まる」という投稿をしました。
 
フェイスブックとツイッターで１億人以上がこれを見ました。
 
実は、この言葉には歴史的な背景があります。 

これは、１９６０年代、フロリダ州マイアミの人種差別的傾向の強い警察官が、黒人にどのような姿勢で臨むかと問われた際に答えた言葉として知られています。黒人差別の撤廃を唱えた公民権運動の指導者らが強く非難した言葉だったわけです。
 
フェイスブックの管理職は、投稿内容が適切かどうかを自動的に判定するシステムにかければ、この投稿は「１００点中９０点」でアウトだと指摘しました。一般利用者であれば、ほかの利用者一人から通報があれば削除されるレベルの違反投稿だったといいます。

ツイッター社の警告

イーロン・マスクが買収する前の旧ツイッター社にとって、これは一線を越えた発言でした。ツイートから数時間のうちに、暴力を賛美する内容だとして警告ラベルを貼っています。

トランプは反発しました。
 
ツイッター社は、「ブラック・ライブズ・マター」のデモに関するツイートに警告ラベルを付ける数日前に、「郵便投票は不正につながる」と主張するトランプのツイート二つに事実確認を促す警告ラベルを付けていました。
 
大きな転換となったのはデモのツイートに貼られた警告ラベルでした。当時のツイッター社の経営陣は、事実を確認するよう促す警告にとどまることなく、トランプ発言の潜在的な危険性を訴えたわけです。
 
当時のツイッター社は、自分のところのプラットフォームを使って、現職の大統領が実害を招きかねない思想やメッセージを広めようとしているという認識を、組織としてはっきりと示したことになります。

放置したザッカーバーグ

ザッカーバーグはこの投稿を放置しました。
 
トランプからザッカーバーグに電話がありました。
 
ザッカーバーグは彼の投稿が分断と怒りを招くことを懸念していると説明しましたが、問題の投稿を削除するつもりもアカウントに対して措置をとるつもりもないことを大統領に伝えています。
 
ザッカーバーグは自らフェイスブックに投稿し、この方針を正当化しました。

個人的にはトランプ発言を不快に感じるとしながらも、「しかし、私には、個人的な立場からだけでなく、表現の自由を約束する組織のリーダーとして対応する責任があります」と述べています。

この段階で両社の対照的なアプローチがはっきりしました。

投稿内容に責任なし

フェイスブックの「クロスチェック」は、投稿を投稿者は誰なのかによって区別するプログラムでした。投稿された内容そのもので判断するプログラムではありませんでした。
 
ザッカーバーグは２０２０年、米議会での証言で「真実の判定者になるつもりはない」とも述べていました。
 
発信者がコンテンツの責任を持つ伝統メディアと違って、フェイスブックは利用者の投稿を掲載するプラットフォームにすぎず、投稿内容に責任を持てないし、持つ必要もないというのが、ザッカーバーグの基本的な考えでした。

これは、ユーザーがオンラインに投稿した内容に対する責任を免除する１９９６年通信品位法の第２３０条に基づく考えで、巨大プラットフォーマーに共通した認識です。この２３０条問題については別のところで解説します。
 
明らかになったフェイスブックの内部文書では、自由な情報の流通がフェイスブックの第一理念である一方で、有害な行動などに対応する必要があり、バランスが重要だとも指摘されていました。
 
また、内部文書は、フェイスブックは全ての人に同じ理念をあてはめるべきであり、「政治家のホワイトリストは明確な違反だ」とも強調していました。

「欠陥があった」という結論

さて、後日談です。
 
内部告発されて明らかになった一連の文書によれば、一般のユーザーならガイドラインに反しているとして対応策をとられていたのに、特別扱いを受けているがゆえに見逃されていた投稿は、少なくとも１６４万回閲覧されたといいます。
 
内部告発を受けて、メタ社の外部有識者でつくる監督委員会は２０２２年１２月、ＳＮＳなどの投稿管理で一部の政治家などを特別扱いしてきたことについて、「欠陥があった」と結論づける報告書を公表しました。
 
不適切な投稿の削除が遅れたと指摘し、是正を勧告したわけです。

若者への悪影響を知りながら放置

ウォールストリート・ジャーナルの第二弾の特ダネは、メタ社が所有する写真投稿のインスタグラムのアプリが、若い女性のメンタルヘルスや身体に悪影響を与えていたというものでした。
 

メタ社は３年にわたってインスタグラムが若者に与える影響を調べていました。
 
米国と英国で１０代のインスタグラム利用者に聞いた調査がありました。

それによると、自分が魅力的でないと考えている利用者の４０％が、インスタグラムを使い始めてからそう思うようになった、と答えていました。
 
調査の責任者は、「１０代はインスタグラムに長時間を費やすのは好ましくないが、そこにいないといけないと思っている。そこで見ているものは精神衛生によくないことを知っているが、止められない。中毒症状になっていることも本人は知っている」と説明していました。

２０１９年１１月に社内で共有された調査があります。
 
日本を含む６カ国の約２万人を対象にした調査です。
 
自殺を考えたことがあると告白した十代の少女たちのうち、英国では１３パーセント、米国では６パーセントがインスタグラムの影響を受けていました。

３２パーセントの十代女性は、自分の体形について否定的に考えていた時にインスタグラムを見るとその感情が悪化したと答えていました。米国の少年たちの１４パーセントがインスタグラムを見ると気分が悪くなると答えたといいます。

別の社内調査では、インスタグラムは有名人の投稿が多く、一般ユーザーに対して「完璧に見えなければいけないというプレッシャー」を与えていると指摘しています。
 
そして、こうしたことが、結果的に、摂食障害、うつ、孤独などにつながりうるというものでした。

インスタグラムに関する内部資料が物語っていたのは、メタ社がインスタグラムのもたらす精神衛生上の害を知りながら、何ら対策を講じず、社会に対してはその害を否定し続けている姿でした。
 
この点は、ホーゲン氏も２０２１年１０月に米連邦議会の公聴会に出席したとき、フェイスブックは「利用者の安全よりも自分のところの利益を優先している」と証言していました。

インスタグラムに限りません。

旧ツイッターやTikTokなどでもダイエットのいわゆる「成功者」の画像がアルゴリズムによって次々と無限に流れてきます。

レコメンドエンジンで次々と流れてくる画像を見ているうちに、普通なら考えにくいレベルにまでやせている姿がプレッシャーとしてのしかかり、やがて、やせることが自己目的化したあげくに、摂食障害になってしまった事例が、たくさん報告されています。

訴訟の嵐

昨年（２０２３年）の１０月、全米４１の州でメタ社が訴えられました。
 
原告は、十代の若者と親、学校や学区、州司法長官ら数千人と報道されています。彼らが起こしたのは、インスタグラムやフェイスブックの機能が子どもや若者のメンタルヘルスに悪影響を与えているという裁判でした。 

一連の訴訟で、原告たちは、ソーシャルメディアを利用することの中毒性について、カジノのスロットマシンやタバコにも匹敵するくらいの依存症を引き起こす可能性があると指摘しました。

いわば「デジタルカジノ」のようなものだという主張です。

原告のある少女は、２０２３年、ユーチューブ、TikTok、スナップチャットを運営するスナップ、フェイスブックやインスタグラムを傘下に持つメタを訴えました。
 
彼女が主張したのは、こうした企業が開発したアプリの使用が強迫的なまでに促されたことによって、「身体醜形障害」（ちょっとした外見上の欠点に過度にとらわれて日常生活に支障をきたすような精神疾患）、不安、うつ病が引き起こされたというものでした。（注：彼女はスナップ社とTikTokとは非公開の条件で和解した）

美容フィルターの罠

 
訴えのなかで問題視されているインスタグラムの機能のひとつに、「美容フィルター」や「無限スクロール」「アルゴリズムによるお勧め」「自動再生動画」などがあります。
 
このうちの「美容フィルター」は、顔の印象を美容整形のようにデジタル加工する機能です。

単発的にちょっとだけ、自然に「盛る」程度なら、それほどの実害はないのかもしれません。

しかし、常習することによって、そして現実からかけ離れた加工を施すようになるにつれて、フィルターをかけられた他人の顔や自分の外見を現実の顔だと錯覚するようになり、「外見プレッシャー」「自己肯定感の低下」「自信の喪失」がもたらされるなどの心理的な影響がある、とかねてから問題視されていました。
 
原告団によると、ザッカーバーグとインスタグラムのトップは、この美容フィルターの禁止は必要ないと考えていたのですが、メタ社の幹部のなかには、こうした機能が、若い世代のユーザーに「身体醜形障害」を起こす可能性があると考え、ザッカーバーグに考え直すよう迫る動きもありました。
 
しかし、結局、ザッカーバーグは「美容フィルターは無効化すべきだ」という社内の提案を退けます。

「美容フィルターにはユーザーの需要があるし、メンタルメルスに有害であることを示すデータは一切確認できない」というのがその理由でした。

原告団によると、この決定に対して、ある幹部はこんなメモをザッカーバーグに送っています。

来年以降、皆さんがこの裁判に関する米国発の報道を目にする機会も増えてくると思います。

ソーシャルプラットフォーム企業は法廷で、自ら開発・実装したテクノロジーとユーザーの依存症や中毒症との間には、はっきりした科学的な因果関係はない、と反論するでしょう。
 
しかし、もし、このうちわずか一件でも原告団が勝訴すれば、おそらく、同じような訴訟が雪崩のように押し寄せるかもしれません。

それは、ソーシャルプラットフォーム企業にアプリ機能の設計変更を迫るだけにとどまらず、その根幹のビジネスモデルと経営にかつてないほど深刻な影響を与えることになる可能性があります。
（第３１回配信に続く）

四回目の講義テーマ
「巨大プラットフォーマーと国家～競争・協調・リスク」
【第22回】巨大プラットフォーマーと国家～テクノポーラー世界とは？｜プラットフォーム研究会
【第23回】巨大プラットフォーマーと国家～三つの思想と三つのプレイヤー｜プラットフォーム研究会
【第24回】巨大プラットフォーマーと国家～勝ち残るのは誰か？｜プラットフォーム研究会
【第25回】巨大プラットフォーマーと国家～AIのガバナンス・リスク｜プラットフォーム研究会
【第26回】巨大プラットフォーマーと国家～民主主義にもたらすリスク｜プラットフォーム研究会
【第27回】巨大プラットフォーマーと国家～学生たちとの対話｜プラットフォーム研究会

五回目の講義テーマ
「フェイスブック研究～誕生・成長・暗部」
【第28回】フェイスブック研究～ニュースとの「蜜月」から「離婚」へ｜プラットフォーム研究会
【第29回】フェイスブック研究～国家に匹敵する巨大テックの源流｜プラットフォーム研究会