- 製品担当CPO (最高プライバシー責任者)、Michel Protti
Metaのプライバシー保護の取り組みは、企業運営全体にプライバシー保護とデータ使用基準を組み込む、社内のガバナンス構造によって支えられています。プライバシー保護のプログラムと業務は、社外の独立したガバナンス組織の監督を受けています。
プライバシー保護の全社への浸透に引き続き取り組むなかで、Metaでは製品グループ内へのプライバシーチームの組み込みを進めています。このチームが各製品グループや各ビジネスグループの中で専門知識を提供することで、プライバシーへの配慮についての理解が深まります。プライバシーを担当するこのチームにより、Meta製品のプライバシー保護の責任を最前線で実現しています。
製品担当CPO (最高プライバシー責任者)のMichel Prottiが率いるMetaプライバシー&データプラクティスチームは、技術部門と非技術部門の多数のチームから成り、プライバシーと責任あるデータの取り扱いを主な業務とするチームです。
Metaプライバシー&データプラクティスチームは、包括的なプライバシープログラムの維持にあたって中心的な役割を果たしています。このチームは、データの責任ある取り扱いをMeta全体に浸透させるというミッションを指針とし、Metaによる利用者データの使用方法を利用者に理解してもらい、Meta製品における利用者データの使用が責任を持って行われていると信頼してもらえるよう取り組んでいます。
Metaプライバシー&データプラクティスチームはプライバシーに関する責任を担う数多くの組織の1つに過ぎません。Metaでは、公共政策や法務など、組織や役割の異なる何千人もの社員が、企業運営のあらゆる側面にプライバシーへの配慮を浸透させようと取り組んでいます。プライバシーを適切に取り扱うには、部門を越えた深いレベルでの連携が必要です。私たちは、Metaの全社員がその責任を担っていると考えています。
バイスプレジデント兼ポリシー担当CPO (最高プライバシー責任者)のErin Eganが率いるプライバシー&データポリシーチームは、新たな規制枠組みなど、プライバシーに関するグローバルな議論へのMetaの参加を先導しています。また、世界各国の政府や専門家から受けた指摘がMetaの製品設計やデータの使用方法で考慮されていることを、プライバシー審査プロセスなどで確認しています。
製品の改善やプライバシー保護のイノベーションに取り組むなかで、Metaは最高の水準を維持するとともに、政策決定者やデータ保護の専門家と連携してそうした方々の期待に応えられるようにしています。そのために、プライバシー&データポリシーチームでは、以下のようなさまざまな諮問体制を通じて政策決定者やデータ保護の専門家の意見を聞いています。
加えて、プライバシーポリシーに関する喫緊のトピックについて話し合うため、第一線で活躍する世界中のプライバシー専門家との定期的な会議を主催しています。
プライバシー関連の法務チームは、プライバシープログラムの設計および継続的な実施への関与のほか、プライバシー審査プロセスで法的要件について助言を行っています。
プライバシー委員会は、Metaの取締役会から独立した委員会です。四半期ごとに会合を開き、プライバシーに関する取り組みについて評価を行います。類似分野の監督職の経験が豊富な社外取締役で構成されています。
委員会メンバーは、Metaのプライバシープログラムの現状や、FTC命令の遵守状況に関して、プライバシープログラムの継続的な審査と報告を職務とする社外の評価者から定期的に報告を受けます。
内部監査は、プライバシープログラムとそれを支えるコントロールフレームワークの全体的な健全性を、独立した立場から保証します。
Metaの全員がプライバシー保護に対して責任を負えるようにするため、トレーニングや社内のプライバシー啓発キャンペーンを通じて、プライバシーに関する学習と教育を継続的に推進しています。
Metaのプライバシー教育の根幹を成すのは、プライバシートレーニングです。このトレーニングはプライバシーの基本的な要素を扱うもので、Metaの全員がプライバシーリスクを認識および考慮する能力を身に付けられるように設計されています。eラーニング形式で提供される年次プライバシートレーニングコースと、新規採用の社員・非正規社員向けのプライバシートレーニングコースでは、Metaの業務に沿ってプライバシーについて考えることができるシナリオ仕立ての具体例が示され、関連するプライバシーの概念についての理解度を確認する評価テストも行われます。どちらのトレーニングも、基本的な概念と合わせてその時々で重要な情報を学べるように、毎年更新した上で実施されます。
こうした基本的な必須のプライバシートレーニングに加え、個々の役割に関連したトピックを扱うすべてのプライバシートレーニングについてもリスト化して管理しています。データの責任ある取り扱いをMetaに浸透させるには、プライバシーやデータの問題について継続的な学習機会を設けることが不可欠であることから、Metaではプライバシートレーニングプログラムへの投資を今後も継続していきます。
プライバシー教育には、そのほかにも社員向けの定期的な情報発信があります。Metaでは、プライバシートレーニングコースに加え、社内のコミュニケーションチャネル、プライバシー責任者からの最新情報の提供、社内向けのQ&Aセッション、そしてプライバシーの強化週間を通じて、プライバシー関連のコンテンツを継続的に提供しています。
プライバシーの強化週間では、全社でプライバシー保護に集中して取り組み、社内外からスピーカーを招くとともに、興味を引くコンテンツやイベントを1週間にわたって提供して、プライバシーの重要な概念や優先事項を重点的に紹介します。
プライバシーに関してMetaが抱く疑問の中には、簡単に答えが見つからないか、はっきりした答えがないものが多くあります。そうした難しい問題に着手するにあたっては、社外の専門家から話を聞くのがベストです。Metaでは、社外の専門家を招き、自身の取り組みや、Metaのプライバシー保護に対する見解について全社向けに講演していただいています。これは、重要で複雑な問題に関して、全社のプライバシーチームがさまざまなプライバシー専門家から定期的に話を聞く機会になっています。
データプライバシーデーのような社外のプライバシー関連イベントにMetaが参加する際は、誰でも参加してプライバシーについて学べるように、社内向けのチャネルを使って認知向上と積極的な関与を促しています。
Metaでは、利用者データの取得、使用、共有、保存に伴うプライバシーリスクを評価するプライバシーリスク管理プログラムを策定し、これをもとにリスクテーマの特定、プライバシープログラムの改善、将来のコンプライアンスの取り組みに向けた準備を行っています。
Metaは、プライバシーリスクに対処し、プライバシー保護への期待に応え、規制上の義務を遵守するために、プロセスや技術的コントロールなどの安全策を設計しています。
Metaは、潜在的なプライバシーリスクを特定するプロセスやテクノロジーの事前テストを行うためにプライバシーレッドチームを立ち上げました。プライバシーレッドチームは、Metaのプライバシー統制や安全策をかいくぐって機密データを盗もうとする部外者の目線に立って、Metaのプライバシー保護体制の信頼性向上に取り組んでいます。
いくら強固な緩和策と安全策を敷いたとしても、それだけでは十分ではありません。Metaが責任を負っているデータの機密性、完全性、可用性を損ないかねない事象がいつ発生したのかを特定し、そうした状況を調査し、特定された課題への対策を実施するためのプロセスも必要です。
Metaがグローバルに運用しているインシデントの管理プログラムは、Metaがプライバシー関連のインシデントを特定、評価、緩和、修正するプロセスを監視しています。インシデント管理プロセスはプライバシーチームの指揮のもとで行われますが、プライバシー関連のインシデントはMetaの全員の責任です。法務チームや製品チームを含め、すべての部門が重要な役割を担います。Metaはこれからも重層的なプログラムの構築に時間とリソースと労力を投じ、プログラムを継続的に進化させ、改善していきます。以下に、当社の3つのアプローチを紹介します。
利用者とその情報を守る当社のアプローチは重層的で、不具合を特定するために数多くの安全策を採り入れています。事業規模の大きさを踏まえ、多大な投資によって幅広い自動化ツールを開発・導入することで、潜在的なプライバシーインシデントを可能な限り早期かつ迅速に特定および緩和することを目指しています。こうした自動化システムによって検知されたインシデントは、迅速な対応を促すためにリアルタイムでフラグ付けされ、場合によっては自動的に修正されます。
もちろん、自動化システムがどれだけ高性能になったとしても、インシデントを先回りして特定し、対処するには、社員による監視と不断の努力が欠かせません。Metaのエンジニアリングチームでは、利用者に影響が出る前にインシデントを特定し修正できるよう、定期的にシステムをレビューしています。
Metaでは、2011年よりバグ報奨金制度を導入しています。これは、当社の製品やシステムのセキュリティおよびプライバシー保護の強化に向けて、潜在的なセキュリティ上の脆弱性について外部から報告してもらう制度です。この制度は、コミュニティの保護を強化するために、より広い範囲から不具合を検知し、より迅速に修復することに役立っています。また、要件を満たす参加者に報酬を提供することで、セキュリティ調査の質を高めることができます。
過去10年間で5万人以上が参加し、報奨金を受け取った方は、107か国の約1,500人にのぼります。そのうちの多数の人が、その後Metaのセキュリティチームやエンジニアリングチームに加わり、Metaコミュニティを保護する取り組みを続けています。
Metaは、データへの不正アクセスなどのプライバシー関連のインシデントに対してさまざまな防御策を講じていますが、万が一、問題が発生した場合、Metaの製品、サービス、プロセスへの信頼回復には透明性が重要だと考えています。そのため、Metaのインシデント管理プログラムには過ちを正してそこから学ぶだけでなく、必要に応じて利用者に通知する手順が組み込まれています。例えば、ニュースルームや「プライバシーの尊重」ブログの投稿を通じて、コミュニティに影響が出ている問題や、特定された問題の対応に向けて法執行機関やその他の公的機関と連携していることをお知らせします。
サードパーティとは、Metaが所有または運営はしていないが、Metaと協力関係にある外部パートナーを指し、通常は主に2つのカテゴリに分類されます。Metaにサービスを提供している「サードパーティのサービスプロバイダー」(ウェブサイトのデザインをサポートするベンダーなど)と、Metaのプラットフォームを利用してビジネスを構築しているパートナー(アプリ開発者やAPI開発者など)です。サードパーティが個人情報へのアクセス権を入手することで生じるプライバシー関連のリスクを軽減するため、Metaでは、サードパーティのリスクの監督と適切なプライバシー保護策の実施を担うサードパーティ監視・管理専用プログラムを開発しました。
Metaでは、プライバシーリスクを評価、軽減するために、サードパーティ用のプライバシー評価プロセスを定めています。このプロセスの下では、サードパーティのサービスプロバイダーもプライバシー保護条項を含む契約に拘束されます。こうしたサービスプロバイダーについては、リスクプロファイルに基づいてモニタリングと評価の方法を決定し、必要な場合には違反時の措置(提携解消など)も定めています。
Metaでは、プライバシーやセキュリティ関連の義務に違反したサードパーティに対する措置や登録解除について、正式なプロセスを定めています。これには、Metaのプラットフォーム上での秩序を保つための規定や技術的なメカニズムが含まれます。
Metaの「社外のデータ不正使用」チームは、スクレイピングに関連した行動パターンの検知、調査、ブロックに専念する100人以上のメンバーで構成されています。スクレイピングとはウェブサイトやアプリからデータを自動的に取得する行為のことで、許可されたものもあれば無許可のものもあります。Metaから許可を得ずにMetaのプラットフォーム上のデータに自動的にアクセスすること、またはデータを自動的に取得することは、Metaの規約に違反する行為です。
不正なスクレイピングを防止する取り組みを周知するため、Metaでは、Metaのプラットフォームでのデータ不正使用を防止するために実施した対策について継続的に最新情報をお知らせしています。また、利用者が自身のデータを最適に保護する方法も紹介しています。
Metaでは今後も、スクレイピング対策についての情報提供を継続するとともに、不正なスクレイピングに対して実施した措置についても引き続きお知らせしていく予定です。
Metaでは、スクレイピングによるMetaのサーバーからのデータ取得および取得データの利用をよりいっそう困難にするためのインフラとツールに投資しています。この取り組みには、例えばレート制限とデータ制限があります。レート制限は、時間当たりのMeta製品との通信回数に上限を設けるもので、データ制限は、Meta製品の通常利用の範囲を超えてデータを取得できないようにするものです。
不正なスクレイピングでは、Metaの内部で生成された利用者識別子やコンテンツ識別子を推測または購入するケースが多く見られるため、Metaはそうした識別子の使用方法を変更しました。また、データの推測、データへの接続や反復的なアクセスをより困難にして不正なデータスクレイピングを抑止するため、新たに仮名加工識別子を作成しました。
Metaでは、FacebookとInstagramでの不正なスクレイピングが疑われる行為を1日当たり数十億件ブロックしています。不正なスクレイピングを行う者に対してはさまざまな措置を講じており、これにはアカウントの停止や、スクレイピングされたデータをホスティングしている企業に対するデータ削除依頼などが含まれます。2020年5月~2022年11月に実施した調査の件数は1,000件以上、措置の件数は1,200件以上を数えます。
プライバシー審査は、Metaの製品、サービス、業務の新規開発およびアップデートの核を成すプロセスです。このプロセスでは、新規またはアップデート後の製品、サービス、業務におけるデータの使用方法と保護方法を評価します。Metaでは、個人情報の取得、使用、または共有に伴う潜在的なプライバシーリスクを明らかにし、そうしたリスクの緩和策を開発することに取り組んでいます。このプロセスの目標は、コミュニティにとってのMetaの製品やサービスのメリットを最大化しつつ、潜在的なリスクの特定と低減に先回りして取り組むことです。このプロセスは、プライバシー審査チームの指揮のもと複数の部門が横断的に連携し、専任のグループが実施にあたります。このグループは、法務やポリシーのほか、製品、エンジニアリング、法規制、セキュリティなど、さまざまな経験を持つプライバシー専門の人材で構成されています。このグループが、プライバシー審査に関する決定と提案を担います。
部門横断的なこのグループは、プロセスの中で、プロジェクトに関連する潜在的なプライバシーリスクについて評価し、そうしたリスクを抑制するためにプロジェクト公開前に変更が必要な項目がないか判断します。必要な変更に関してチームメンバー間で意見が分かれる場合は、経営陣にエスカレーションして審査を求め、必要に応じてCEOの決裁を仰ぎます。
プライバシー審査プロセスを通じて製品、サービス、業務の新規開発または変更を行う際には、プライバシーについて社員に期待される次のような項目が指針となります。
Metaでは、プライバシー審査プロセスを広く運用するための技術審査とツールの開発にも注力しています。
- 製品責任者 Naomi Gleit
プライバシー保護は、Metaの製品開発や継続的な製品アップデートの中核を成すものです。そのため、自分が一番安心できるプライバシー保護レベルを利用者が簡単に設定できるように、デフォルトの設定やコントロールを開発しています。また、新製品を開発する際もプライバシーを中心に考えています。
プライバシー重視のプラットフォームを目指すというビジョンのもと、Metaは、利用者の個人的でプライベートなやり取りの安全を守るべきと考えています。Metaでは、利用者が自分の個人的な会話の内容を他人からのぞかれることがないという確信を持って友達や大切な人とプライベートなコミュニケーションを行えるよう、十分に配慮しています。
現在は、WhatsApp、Messenger、Instagramダイレクトメッセージ(DM)でプライベートなコミュニケーションが可能です。WhatsAppの場合はエンドツーエンド暗号化が施されているため、送信内容を読んだり聞いたりできるのは自分と連絡相手だけであり、送受信の間に誰かに内容を見られることはありません。MessengerとInstagram DMの場合は、自分と連絡相手以外にメッセージを見られないようにするエンドツーエンド暗号化を任意でオンにできます。
この1年の間に、Messengerのエンドツーエンド暗号化チャットの追加機能をお知らせしました。また、Messengerでセキュアなストレージへのメッセージの保存とデフォルトのエンドツーエンド暗号化のテストを開始したこともお知らせしました。Instagram DMのエンドツーエンド暗号化オプションの拡張については、2022年初頭より、ウクライナから優先的に実施しています。
Messenger、Instagram DM、WhatsAppの将来のバージョンは、Metaのネットワークでの主なコミュニケーション手段となるでしょう。Metaは、これらすべてのアプリをより速く、よりシンプルにして、エンドツーエンド暗号化などによってプライベートな会話をより安全に楽しめるようにすることに注力しています。また、友達やグループとのプライベートなやり取りに使える機能をさらに増やしていく予定です。加えて、比較的多くの人が集まる空間でより活発に交流できるコミュニケーションプラットフォームも多数提供しています。例えば、Facebookや、QuestデバイスまたはHorizon Worlds経由でアクセスするメタバース、コミュニティチャットを通じたFacebookグループのメンバー同士での会話、ライブストリーミングでの動画ウォッチパーティなどです。これらのプラットフォームのなかには、利用者個人が設定をカスタマイズできるものもあれば、コミュニティ規定を遵守するために追加の完全性対策が求められるものもあります。
Metaは、20億人以上の利用者に対し、プライバシーを守るための選択肢をさらに提供したいと考えています。利用者には自身のエクスペリエンスをパーソナライズできる権利が与えられるべきですし、Metaは利用者に対し、友達との会話に使える最も安全なメッセージエクスペリエンスを提供することで、明確で徹底したプライバシーへの取り組みを示す責任があります。
MetaはWhatsAppとMessengerに、消えるメッセージの機能を導入しました。1対1のチャットでは、双方が消えるメッセージをオンまたはオフにできますが、グループチャットでは管理者がコントロールします。
Metaの製品チームは、若者には若者特有のプライバシー保護が必要との認識に立ち、青少年のプライバシーに特別な注意を払っています。Metaが目指すのは、保護者、規制当局、政策立案者、市民団体の専門家と調整・協議しながら、若い利用者の利益を最優先するサービスを提供することです。
Metaでは、若者にMeta製品のメリットを提供することと、若者の安全を守りMeta製品で年齢に見合った対策を広く敷くことの適切なバランスを取るために、さまざまな手段を講じています。
若者のプライバシーについての最近の取り組みでは、例えば、FacebookとInstagramで年齢ごとにデフォルト設定を変えて、不審なアカウントが若い利用者を見つけることをより困難にしたほか、広告主が若者をターゲットに広告を掲載する場合に使えるオプションを制限しました。利用者の年齢を確認する新しいプライバシー保護機能のテストも開始しています。これは、Yotiと提携して顔画像に基づく年齢推定技術を用いることで、一部の地域や用途での年齢確認を可能にするものです。そのほか、InstagramとQuestでファミリーセンターをリリースしました。ここでは、保護者が10代の子どものインターネット利用に今まで以上に関与しやすくなるMeta初のペアレンタルコントロールとして、ペアレンタルコントロールツールと専門家の監修による教育リソースが提供されています。TTC Labsのグローバルな共同デザインプログラムで若者、保護者、専門家と直接交流して製品開発プロセスに協力してもらったほか、グローバルでの取り組みから得られた重要な知見を伝える業界レポートも発行しました。幼い子ども向けのMessengerキッズでは、年齢にふさわしいメッセージ交換やコミュニケーションを楽しめるようになっており、保護者が子どものアクティビティのさまざまな側面を監視、確認できるコントロール機能が備わっています。
Metaでは、若い利用者にMeta製品を楽しんで使ってもらいたいと願っていますが、プライバシーと安全性について妥協することはありません。今後も、若い利用者、保護者、議員、その他の専門家の意見を聞きながら、若い利用者が楽しめ、保護者からも信頼される製品を構築していきます。
Metaの新型VRヘッドセットであるMeta Quest Proには内向きセンサーが搭載され、コミュニケーションや快適性の向上、細かな表情の反映、より深い没入感を実現しています。このセンサー群の重要な機能の1つにアイトラッキングがあります。Metaは、Meta Quest Proのアイトラッキングの許諾取得フローを設計する際の重要なプロセスとして、オプトイン画面のデザインや文言のほか、システムとアプリの両レベルでこの機能のプライバシーコントロールをオプトイン方式とするMetaの計画について、プライバシー擁護者に意見を求めました。アイトラッキングを責任を持って設計することについてのMetaのアプローチや、国際的な研究・政策コミュニティとの協力については、Meta Quest Proの発売時にリリースしたホワイトペーパーでさらに詳しく触れています。
2022年には、Meta製品の安全性、セキュリティ、保全性を高めていくなかで考慮すべきプライバシーの原則について説明した、ホワイトペーパーを公開しました。この中では、そうしたプライバシーの原則を実務レベルでどのように考えているかを示すために、Metaのアプリでの安全面およびセキュリティ面の大きな課題を詳細に記した5つの事例を紹介しています。例えば、FacebookとInstagramでのヘイトスピーチの削減に関する事例紹介では、「最小限のデータ」の原則に基づいてこのコミュニティ規定違反の自動検知システムを構築したことを説明しています。このプライバシーの基本原則を適用したのは、ヘイトスピーチの削除という目標を達成するには主にコンテンツデータを使用すればよく、規定の施行に個人のアカウントデータの使用は不要と考えるからです。
Metaでは、コミュニケーションの透明性を確保するため、Metaでの対策についてよりよく理解し認知してもらうための社外への情報発信や、情報を入手しやすく見つけやすくする取り組みなどを行っています。
透明性を高め、利用者によるコントロールを強化するため、Metaでは、自分が何をシェアし自分の情報がどのように使われるのかを把握できる各種プライバシーツールを開発しています。例えば以下のようなものがあります。
- 製品担当CPO (最高プライバシー責任者)、Michel Protti
Metaでは、プライバシー&データプラクティスチームとインフラストラクチャチームが緊密に連携してプライバシー対応型インフラストラクチャの構築を進めています。これは、製品開発プロセスでプライバシー保護要件への対応をさらに簡単にする、スケーラブルで革新的なインフラストラクチャソリューションです。この取り組みにより、人力や手作業ばかりに頼らず自動化できる部分を増やすとともに、プライバシー保護の責任を果たしていることを確認できるようになります。
Metaでは、革新的なツールやテクノロジーを全社的に導入することで、取得・使用する利用者データの量を積極的に減らしています。
Metaでは、利用率の低い機能をユーザーエクスペリエンスに支障をきたさずに適切に削除できるよう、製品やエンジニアリングに関連する優れた取り組みを組織全体に浸透させることに注力しています。例えば、不用意なバグを生むことなく製品やコードをより安全に消すことができるエンジニア向けツール群を導入しています。このツール群は、自動化とスマートな決定ロジックを使って、エンジニアによる手動削除が必要な部分を洗い出します。加えて、Metaはデータの取得と保存を、利用者による製品の使用率に合わせるようにもしており、Facebookでの利用率の低さを理由に削除した位置情報ベースの機能もいくつかあります(センシティブなプロフィールフィールド、「位置情報履歴」、「バックグラウンドの位置情報サービス」、「気象アラート」、「近くにいる友達」の各機能は現在削除されています)。こうした取り組みにより、必要がなくなり次第データを削除し、不要なデータの取得を避けています。
製品の提供終了やデータ削除の強化に加えて、Metaはプライバシー強化技術(PET)への投資を継続しています。PETは、当社が取得、処理、使用するデータを最小限に抑えるのに有効な、先端的な暗号化技術と統計技術に基づくテクノロジー群です。社内の各チームで使用するPETの開発には応用プライバシーテクノロジーチームが専任であたり、取得時のデータの非識別加工や、製品やサービスへのエンドツーエンド暗号化の実装実現などに重点的に取り組んでいます。
例えば、最近オープンソース化した匿名クレデンシャルサービス(ACS)は、ユーザーの識別情報を明かさずにサービスのユーザー認証をすることができるPETです。この機能は、Metaが匿名クレデンシャル技術を活かして作成したリポジトリを通じて簡単に実装することが可能で、プライバシーの保護と取得するデータ量の最小化を達成しながら詐欺を減らすことに役立ちます。
プライバシー保護への高まる期待に対応できる技術的ソリューションを構築するには、初めにその基盤となる大掛かりな技術的作業を完遂する必要があります。例えば、データライフサイクルにおけるデータの管理方法の改善などです。その一環として、Metaでは、利用者からの要求に基づくデータ削除業務を迅速化および強化するための大規模な作業を実施しました。
利用者には、自身のデータの削除を要求すれば適切に実行されるだろうという期待があります。しかしながら、業界における現在のデータ削除のアプローチは煩雑です。開発者は、製品に加えられたアップデートや変更を1つ1つ反映し、かつすべての削除ロジックを変わらず維持した、反復的なコードを手作業で記述しなければなりません。加えて、最新の分散型データストレージの複雑なアーキテクチャが、潜在的なエラーを生む余地を作り出しています。
Metaでは、手作業に頼りすぎることによって生じる潜在的なエラーのリスクを軽減するのに役立つ、フレームワークとインフラストラクチャを構築しました。エンジニアが取得対象のデータに、意図した削除処理のアノテーションを付けると(例:「利用者が投稿を削除したときに、そのコメントもすべて削除する」)、複数のデータストアで実行しなければならない削除が、Metaのフレームワークとインフラストラクチャによって高い信頼性で処理されるしくみです。エンジニアがこの技術インフラを利用してより簡単に削除を実装できるようになったことで、Metaでは製品開発プロセスの早い段階で確実に削除に対応することができています。
このインフラを用いた削除処理はすでに毎日数十億件に達しており、現在はMetaの全システムを網羅的にカバーすることに注力しています。
AIは、利用者がMetaの製品やサービスをカスタマイズしながらシームレスに利用できるようにするためのパーソナライゼーション、レコメンデーション、ランキングなどのバックエンドシステムを支えています。Metaでは、AIがどのように動作し製品体験を作っているのかを理解できるツールやリソースを利用者に提供することが重要と考えています。以下にその具体例の一部をご紹介します。
AIシステムカード
AIシステムについて透明性を確保するには、情報の受け手がどのような人かを考える必要があります。AIの透明性と説明可能性に関して求めるものは、一般の利用者、機械学習の開発者、AIの政策決定者によって異なるからです。説明可能性を高めるために模索している方法の1つが、AIのシステムレベルの透明性です。この取り組みの成果の1つとして、Metaでは試作段階のAIシステムカードというツールを公開しました。これは、AIシステムの基盤アーキテクチャの情報を提供し、AIが個人の履歴、好み、設定などに基づいてどのように動作しているのかを詳しく説明するためのものです。Metaが作成しテストを続けているパイロット版のシステムカードは、Instagramフィードのランキングについてのものです。このシステムカードでは、利用者がフォローしているアカウントの未読投稿について、その利用者がどの程度興味を持つかに基づいてランク付けするプロセスについて解説しています。別のシステムに関するAIシステムカードもリリースしています。Metaの巨大なクリエイターネットワークからコマースのトレンドを明らかにするソーシャルコマースグラフのシステムカードです。
現在は、AIシステムカードの作成の規模を大きくできないか、利用者が複雑なAIシステムについて知り、日々使っているテクノロジーのしくみについての理解を深められるような反復的なプロセスを構築できないか、調査しテストしているところです。
AIの説明可能性を高める取り組みは、業界や分野を超えたテーマです。企業も規制当局も学術界も、一般の人々にAIの知識を授けるさまざまな形式のガイドやフレームワークを通じて、AIのしくみをよりよく伝える方法を試しています。AIシステムは複雑なため、透明性を求める人々のニーズと、説明に簡潔さを求める声に一貫して応えられる文書を作ることは、重要でありながらも簡単ではありません。そうした事情があることから、データシート、モデルカード、Metaのシステムカード、ファクトシートは、どれも想定している読者が異なります。MetaがOpen Loop Programを通じて開発者や規制当局を交えて実施したコラボレーションプロジェクトでは、情報の受け手のニーズの違いとそれぞれが製品体験の中で求める透明性のレベルの違いを考慮しながら、AIの透明性と説明可能性に関するポリシーを共同で試作し、テストしました。また、TTC Labsとの協力のもと、レポート「People-centric approaches to algorithmic explainability」を公開しました。
この取り組みでは、さまざまな受け手にとって役に立つ、有意義なAI透明性施策に引き続き注力していきます。MetaのAIシステムカードについては、専門家以外の方にも理解できるものにし、「AIシステム-ヒューマンインターフェイス」のきわめて複雑な世界についての独自の詳しい解説を、繰り返し広く提供できればと考えています。技術的に正確で、Metaという規模におけるAIシステムの働きについて細かな差異を読み取ることができ、かつMetaのテクノロジーを利用する一般の人でも簡単に理解できるフレームワークを提供するには、繊細なバランスが求められます。当社がこの分野の最先端を推し進めている状況においてはなおさらです。
「プライバシーに正しく取り組むには、全社一丸となって継続的に力を注ぐ必要があり、企業としてのミッションを推進するためにMetaの全員がその責任を担っています」- 製品担当CPO (最高プライバシー責任者)、Michel Protti
利用者のデータとプライバシーの保護は、Metaのビジネス、そして将来へのビジョンの根幹にあります。Metaはその実現のために、期待の変化や技術開発に対応しつつ、今までにない課題に対しては政策決定者やデータ保護の専門家と協力して解決策を探り、その都度進捗をお知らせしながら、プライバシープログラムと製品の改良および改善を継続していきます。