Ｆａｃｅｂｏｏｋが無断で行った「秘密の心理実験」 [ニュース]
Facebookのタイムラインに良いニュースばかりを表示させると
、人はポジティブな投稿をするようになるのか？
これをまともに実験した人々がいる。当のFacebookである。
Facebookがユーザーに無断で行っていた「心理実験」をめぐって
欧米メディアが大騒ぎしている。しかし、「心配ならFacebookを使わ
なければよい」という意見には達していない。
またしてもFacebookが欧米のメディアにさんざん
に叩かれている。今回の原因はユーザーデータの
利用にある。もう少し丁寧に書くとこうだ。
ユーザーに無断でいろいろな心理テストを何百回
も実施し、明るいニュースか暗いニュースのどちらか
を一定期間表示する。そうやってユーザーの心理状態
に影響を与え、普段よりも前向きな、あるいは否定的
な内容を投稿させられるかどうか。
上記は実験の一例である。自分が知らないうちに
ギニアピッグ（実験台）にされていたというのは、実験の
内容がどんなものにせよ薄気味わるい話だ。Facebook
社内でのデータ管理体制のずさんさを指摘する元関係者
の話なども伝えられ、『Wall Street Journal』（WSJ）や
『New York Times』（NYT）などのメディアが、ここぞとばかり
に騒いでいる。また、これらの実験をほぼフリーハンドで行った
とされる部門が「データサイエンス・チーム」というのも、かなり
キャッチーだ。「データサイエンティスト」という肩書きが持て囃
されているのは、日本も欧米も似たようなものである。
さて、Facebookを実験場にした学術論文が公開された
のは先週末のこと。それから今週の初めにかけて、この話題
をめぐる議論が沸騰している。プライバシー問題でFacebook
に目をつけていた欧州の一部の国が調査に乗り出すかもしれ
ないとか、米国の有力な消費者保護団体が公正取引委員会
に苦情を申し立てたとか、火消しの必要ありと見たシェリル・
サンドバーグ（Facebookの最高執行責任者）が旅行中のインド
から急きょ声明を出して、「コミュニケーションのまずさ」について
謝罪したとか、ITから政治まで広い領域にまたがるニュースになっている。
だが、そうした表面的な部分、あるいは枝葉末節な部分に終始す
る議論を眺めていると、どうしても全体が見えづらくなる感じが否めない。
「自社サービスの向上その他の目的でこうした実験を行う可能性が
あることは、ユーザーが加入時に目にする利用規約に書いてある」
などというFacebookの言い訳は、明らかにたわごと（bullshit）だから
無視しよう。問題は道義的側面が強く、裁判で勝ち負けを争っている
わけではないのだから。また、最近WSJに加入したクリストファー・ミムズの
「Facebookが強大な影響力を利用して、かつての新聞王ハーストが
やったことと同じような世論操作ができてしまう懸念がある」という指摘も、
あまり意味をなさないだろう。新聞記事は大抵の人が読んで分かるよう
に書かれているが、Facebookが“操作”に利用した手段はアルゴリズム
である。そんなもの、「私は今、コントロールされている」と気づける人が
どれほどいるものか。Facebookのユーザーが12億人いるにしても、だ。
一方、NYTのファーハド・マンジョーによると、「実験の度にいちいち
（被験者にされる）ユーザーに告知してオプトインさせるのは実際的では
ない」とか、「実験することを知らせると、その影響が結果に出てしまう」
という学術関係者の声もあるようだが、そんな声は無視すればいい。
Facebookのユーザーからしたら、契約を結んだ相手はFacebookだけで
、どこの誰ともしれない研究者ではないのだから。「バイアスのない
実験の場」が必要なら、どこかほかの場所でやればいいだけのことである。
さらに、こうした賛否両論を書いている連中には、暗黙の前提がある。
それは「Facebookがないとユーザーの生活に支障が出る」だ。これこ
そが最大の問題点に思える。電気、ガス、水道のような本当で本気の
社会インフラとは異なり、Facebookがなくても別に死にはしない。
その点ではTwitterもGoogleもAmazonも、あるいはLINEでも同じだろう。
この前提を外してしまうと、それこそ話が成立しなくなるので、
分かってはいても書かないのかもしれない。
Facebookは、今後も実験したいのなら、その度に告知するよう
にすればいい。学術関係者に対しては、ソーシャルメディアでの
勝手な（＝ユーザーの同意無しの）実験などは禁じてしまえばいい。
それでも実験したい場合は、ユーザーの方がデジタル・デトックス
も兼ねて「Facebookなどを使わないと、どれほど支障が出るか」
を自分で確かめてみればいい。単にそれだけのことではないか
件で最も厄介なのは、たとえば「ネガティブなニュースフィードを
見せ続けたら、ユーザーの反応が変わるのか」を調べる実験だろう
。つまり、今後アルゴリズムが進化して、ユーザーの気持ちまで
左右するようなものが出てくるケースだ。影響を受けたユーザーが
不機嫌になり、それをきっかけに夫婦仲が悪くなって、喧嘩した
挙げ句に家を飛び出して、イライラしながらクルマを運転していたら、
運悪く事故に遭ってしまったという場合に、ウェブサービスの運営者
が責任を問われることがあるのかどうか、という可能性だろう。
もちろん、責任を問われることはない。自動車という存在自体が
交通事故の原因という屁理屈が通らないように。しかし、同じように、
ウェブサービス側も不機嫌になったユーザーの“その後”を考えてまで
実験したりはしないだろう。
それとは別に「アルゴリズムあるいは人工知能の暴走」のリスクもある。
FacebookやGoogleなどが人工知能－－最近は「マシンラーニング」など
という呼び方もするらしい－－の研究に力を入れているのはよく知られた
話だが、そういう「バグを完全に排除しきれない」ものが動かす仕組み
に関して、不測のトラブルが生じた場合に、誰がどういう責任の取り方をするのだろうか。
「心配しすぎ」「大げさだ」と思うだろうか？ ウェブのそこかしこに
仕掛けられたアルゴリズムに感情を左右されるなんてあり得ない
、と。ではなぜ、私たちはウェブを使っているのだろうか？ この件は
進展があり次第、また紹介したいと思う。
、人はポジティブな投稿をするようになるのか？
これをまともに実験した人々がいる。当のFacebookである。
Facebookがユーザーに無断で行っていた「心理実験」をめぐって
欧米メディアが大騒ぎしている。しかし、「心配ならFacebookを使わ
なければよい」という意見には達していない。
またしてもFacebookが欧米のメディアにさんざん
に叩かれている。今回の原因はユーザーデータの
利用にある。もう少し丁寧に書くとこうだ。
ユーザーに無断でいろいろな心理テストを何百回
も実施し、明るいニュースか暗いニュースのどちらか
を一定期間表示する。そうやってユーザーの心理状態
に影響を与え、普段よりも前向きな、あるいは否定的
な内容を投稿させられるかどうか。
上記は実験の一例である。自分が知らないうちに
ギニアピッグ（実験台）にされていたというのは、実験の
内容がどんなものにせよ薄気味わるい話だ。Facebook
社内でのデータ管理体制のずさんさを指摘する元関係者
の話なども伝えられ、『Wall Street Journal』（WSJ）や
『New York Times』（NYT）などのメディアが、ここぞとばかり
に騒いでいる。また、これらの実験をほぼフリーハンドで行った
とされる部門が「データサイエンス・チーム」というのも、かなり
キャッチーだ。「データサイエンティスト」という肩書きが持て囃
されているのは、日本も欧米も似たようなものである。
さて、Facebookを実験場にした学術論文が公開された
のは先週末のこと。それから今週の初めにかけて、この話題
をめぐる議論が沸騰している。プライバシー問題でFacebook
に目をつけていた欧州の一部の国が調査に乗り出すかもしれ
ないとか、米国の有力な消費者保護団体が公正取引委員会
に苦情を申し立てたとか、火消しの必要ありと見たシェリル・
サンドバーグ（Facebookの最高執行責任者）が旅行中のインド
から急きょ声明を出して、「コミュニケーションのまずさ」について
謝罪したとか、ITから政治まで広い領域にまたがるニュースになっている。
だが、そうした表面的な部分、あるいは枝葉末節な部分に終始す
る議論を眺めていると、どうしても全体が見えづらくなる感じが否めない。
「自社サービスの向上その他の目的でこうした実験を行う可能性が
あることは、ユーザーが加入時に目にする利用規約に書いてある」
などというFacebookの言い訳は、明らかにたわごと（bullshit）だから
無視しよう。問題は道義的側面が強く、裁判で勝ち負けを争っている
わけではないのだから。また、最近WSJに加入したクリストファー・ミムズの
「Facebookが強大な影響力を利用して、かつての新聞王ハーストが
やったことと同じような世論操作ができてしまう懸念がある」という指摘も、
あまり意味をなさないだろう。新聞記事は大抵の人が読んで分かるよう
に書かれているが、Facebookが“操作”に利用した手段はアルゴリズム
である。そんなもの、「私は今、コントロールされている」と気づける人が
どれほどいるものか。Facebookのユーザーが12億人いるにしても、だ。
一方、NYTのファーハド・マンジョーによると、「実験の度にいちいち
（被験者にされる）ユーザーに告知してオプトインさせるのは実際的では
ない」とか、「実験することを知らせると、その影響が結果に出てしまう」
という学術関係者の声もあるようだが、そんな声は無視すればいい。
Facebookのユーザーからしたら、契約を結んだ相手はFacebookだけで
、どこの誰ともしれない研究者ではないのだから。「バイアスのない
実験の場」が必要なら、どこかほかの場所でやればいいだけのことである。
さらに、こうした賛否両論を書いている連中には、暗黙の前提がある。
それは「Facebookがないとユーザーの生活に支障が出る」だ。これこ
そが最大の問題点に思える。電気、ガス、水道のような本当で本気の
社会インフラとは異なり、Facebookがなくても別に死にはしない。
その点ではTwitterもGoogleもAmazonも、あるいはLINEでも同じだろう。
この前提を外してしまうと、それこそ話が成立しなくなるので、
分かってはいても書かないのかもしれない。
Facebookは、今後も実験したいのなら、その度に告知するよう
にすればいい。学術関係者に対しては、ソーシャルメディアでの
勝手な（＝ユーザーの同意無しの）実験などは禁じてしまえばいい。
それでも実験したい場合は、ユーザーの方がデジタル・デトックス
も兼ねて「Facebookなどを使わないと、どれほど支障が出るか」
を自分で確かめてみればいい。単にそれだけのことではないか
件で最も厄介なのは、たとえば「ネガティブなニュースフィードを
見せ続けたら、ユーザーの反応が変わるのか」を調べる実験だろう
。つまり、今後アルゴリズムが進化して、ユーザーの気持ちまで
左右するようなものが出てくるケースだ。影響を受けたユーザーが
不機嫌になり、それをきっかけに夫婦仲が悪くなって、喧嘩した
挙げ句に家を飛び出して、イライラしながらクルマを運転していたら、
運悪く事故に遭ってしまったという場合に、ウェブサービスの運営者
が責任を問われることがあるのかどうか、という可能性だろう。
もちろん、責任を問われることはない。自動車という存在自体が
交通事故の原因という屁理屈が通らないように。しかし、同じように、
ウェブサービス側も不機嫌になったユーザーの“その後”を考えてまで
実験したりはしないだろう。
それとは別に「アルゴリズムあるいは人工知能の暴走」のリスクもある。
FacebookやGoogleなどが人工知能－－最近は「マシンラーニング」など
という呼び方もするらしい－－の研究に力を入れているのはよく知られた
話だが、そういう「バグを完全に排除しきれない」ものが動かす仕組み
に関して、不測のトラブルが生じた場合に、誰がどういう責任の取り方をするのだろうか。
「心配しすぎ」「大げさだ」と思うだろうか？ ウェブのそこかしこに
仕掛けられたアルゴリズムに感情を左右されるなんてあり得ない
、と。ではなぜ、私たちはウェブを使っているのだろうか？ この件は
進展があり次第、また紹介したいと思う。
