設計者・開発者たちの「評価への迷い」

いくらコンピュータをうまく利用したとしても最終的にそれらを利用するのは人間なので、いかにコンピュータを人間ぽく動かすかということが各種設計者たちの最大の課題になっているはずです。

いつの時代でもスパマーというものはいて、設計者・開発者の人たちが考えたアルゴリズムの裏をかくということがイタチごっこで起こっています。

AI(人工知能)への皮肉とドラえもんの設計で触れていましたが、概ねそうした設計をする人たちというのは人が良すぎる傾向にあり、我が事を基準として「人間は最も理性的な判断を採用し、最も理性的な行動を取る」と考えがちです。

といっても、実際に裏をかかれた経験などから、多少の対策は講じたりしています。しかしやはりそれもイタチごっこになっているというのが延々と続いているという感じです。

まだ見てる人いますか?

スパム的な方法論はたくさんありますが、微妙にグレーゾーンとも言えるようなことがよく起こっています。

その代表例がYou Tubeなどで見かける「まだ見てる人いますか?」とか「高校生で見てる人!」とか「2019年でまだ見てる人いますか?」「まだ見てる人いる?まさかいないよな」的なコメントです。

これはスパム行為と言えばスパム行為ですが、一般ユーザーが反応し、ユーザーが分散する形で「good」的な評価をしてしまっているので、完全なるスパムとは判断されません。

単純に言ってしまうと、スパマーたちが情報弱者を利用して、権威性を獲得し、You Tube内での自分の評価を高めようとしているということです。

意図せず「売名行為」に加担することに

思わず反応してしまった人としては、悪気がないのでしょうが、そうやってスパマーたちは「自分のコメント」が「You Tube内での他のユーザーに反応してもらえるほどのコメントだ」というデータをYou Tubeの人工知能に送っているということになり、権威性のあるユーザーだと評価させようということを意図しています。

その結果その「権威性」が動画検索における評価につながり、広告収入目的で転載した動画の再生回数を稼ぐことに一役買うという構造です。

そしてさらにもっと手前段階として、たくさんの「good」的な評価がついているコメントは、コメント欄の上部に来るため、コメント投稿者の名前が露出されやすくなります。

まあそれらを複合して考えると、単なる売名行為だということです。

だからそうした「まだ見てる人いますか?」的なコメントには反応はしないほうが良いという感じになります。

どうやって評価をするか?
ということの不完全性

これもまあ元をたどれば、機械が人間的に評価を下すということにあたって、「どうやって評価をするか?」ということを検討した結果、「個別ユーザーごとの信頼性」を、機械的に算出しようとする試みが発端になっています。

しかしそれは不完全であり、そうした評価判定基準の裏をかいて恣意的に操作しているということになります。

確かに設計者・開発者としては情報を評価するにあたり「それを機械的に行うにはどうすればよいか?」ということを考えた結果としてそうした算出方法を思いついたのでしょうが、その考え方自体は確かに一理あるものの不完全性を持っているということになります。

ある程度致し方ない面はありますが、設計者・開発者たちの「評価への迷い」が、そうした売名行為を可能にしているということでもあります。

より良い情報をユーザーに提案するということはいいですが、その「より良い情報に関する評価の仕方」が、一部の人達のスパム行為によって崩れてしまうという感じになっています。

これは、売名行為を行う「まだ見てる人いますか?」というコメントを残す者の自己顕示欲的な部分もありながら、「そのアカウントと広告収入が結びついているからこそ」という感じでもあります。

ただの自己顕示欲ならそこまで躍起になったりもしないでしょうが、「人に頭を下げず動画広告収入で生きていく」ということの自己実現のために躍起になっているということになりましょう。それは自己申告的にアカウント名に表れていることもあります。

胡散臭いユーザーの売名行為に加担するということがありませんよう。


コンピュータを利用した情報の取り扱いにおいては、曖昧な情報を嫌い、具体的で信頼性の高い情報を好むのが一般的になっています。そして、具体性を含め情報の評価にあたっては、専門性、信頼性、権威性といった要素をアルゴリズムでスコアリングしていくという感じになっています。

まあコンピュータが得意とするのはそれくらいといったところですが、情報の価値を計算するにあたっての専門性や信頼性、権威性の評価方法は、まだまだ完全なものではありませんし、不確実情報でも機械の計算の上では、専門性や信頼性、権威性がある「情報価の高い情報」として認識されたりしてしまいます。

データ利用による専門性や信頼性、権威性の評価の危険性


「まだ見てる人いますか?」といったスパム的好意を含め、「どうやって評価をするか?」ということの不完全性については、「確かなデータであっても事実の意味が違う場合を考慮する」という部分への不完全性が問題となっていると思います。完全な形での評価は無理でしょうがせめて精度を高めようとするという姿勢は必要になってくるでしょう。

確かなデータと事実の意味

Category:IT &Internet パソコンとか通信とか

「設計者・開発者たちの「評価への迷い」」への2件のフィードバック

  1. いつも貴重なお話しを聴かせていただき、ありがとうございます。
    今回の内容とは外れるかもしれないコメントをさせていただきます。
    始めにお詫びをさせていただきます。
    私は過去に化学系の仕事をしていました。
    真理の追求と探求が楽しく、それが世の中のお役に立てればという気持ちで、実験としていました。
    新しい発見もあり、大きな失敗もありました。
    今でも不思議なのは、それを第三者に評価して欲しいという気持ちがありませんでした。
    端に欲がなかったのか、承認欲求がなかったのか。
    論文や書き、学会で発表出来るだけで満足でした。
    個人的な意見ですが、開発者はその技術に満足しても、そこに直接の評価を求めることは、如何と思います。
    過去にありましたSTAP細胞なども同様だと思います。
    世間から注目されることが先行し、その技術が世の中にとってどの様な影響を及ぼすのか、そこだけに注目していた気がします。
    本来の技術者はその技術の開拓に楽しみを見いだすと思います。
    売名や承認や評価は、後から着いてくるのだと感じています。
    長文を失礼いたしました。

  2. コメントどうもありがとうございます。
    自然科学の分野を含め科学全般は「不思議」とその奥を発見する喜びあたりが本質的な喜びであると思いますが、結局「わかりやすい評価」がないと予算がつかなかったり、収益が得られなかったりするという構造が人に良からぬ欲をもたらしてしまうのでしょう。
    社会全般において「客観的かのように見える何かの評価」があればそれに意識を向け、本質などには着目しないという構造があります。
    それは専門外のことはあまりよくわからず、「前提知識がないとそれが目の前にあっても見えない」という意識の構造が関係しているのでしょう。
    今回は動画検索における配信ユーザーの権威性のスコアリングなんかについて触れましたが、こうした構造は「予算を与える権限はあるが、専門外のことはよくわからないので自分たちは評価することができないから」という理由で、メディアによく登場する学者を評価し、時に予算をつけるという社会的な構造とよく似ています。
    本人が考えたことは脇において、ネームバリューのある偉人の名前を使う人たちも同じようなものです。
    そうした流れになるのは、本質的な判定ができない人たちにも票があり、その票が資本主義の中では重要な役割を持っているというところに起因しているということになります。
    といっても、社会的にも機械的にもおそらく完全なシステムは作り得ず、微調整を繰り返していくしか無いという感じになるのでしょう。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

日本語のみ