インセンティブデザイン

概要

インセンティブとは,アメとムチといった言葉で表現されるように,人にある行動を取るように動機付けるものです.なぜ情報システム設計に,インセンティブという視点を組み入れる必要があるのでしょうか?情報システムを構築したとしても,利用者が設計者の意図通りに使ってくれるとは限りません.場合によっては,誰も使ってくれないかもしれません.このようなことを避けるには,インセンティブを適切に設計することが必要になります.

インセンティブ設計は,メカニズムデザインとも呼ばれ,これに関する研究は,経済学・ゲーム理論と情報科学の境界領域として大きく発展してきています.これまではオークションや投票といった応用が多く議論されてきましたが,私たちはクラウドソーシングに関するインセンティブ設計の問題に取り組んでいます.クラウドソーシングとは不特定多数に問題解決を依頼するもので,分散した人々を組織化して,効率的なタスク処理の実現を目指すという点で新たな人工知能の形とも言えます.石田・松原研究室の情報経済グループでは,インセンティブ設計の技術を用いて,報酬設計やタスク設計に関する指針を与えることで,より使いやすいクラウドソーシングシステムの実現を目指しています.なお,クラウドソーシングに関するメカニズムデザイン研究を概観したい場合は,以下の解説論文をご覧ください.

櫻井祐子,松原繁夫:ヒューマンコンピュテーションのためのメカニズムデザイン. 人工知能学会誌, Vol.29, No. 1, 2014.

本研究グループでは,クラウドソーシングの他にもQ&Aコミュニティの分析やサービスコンピューティングにおける報酬分配など,幅広く情報システムにおけるインセンティブ設計の課題に取り組んでいます.各研究の概要については,下の研究内容をご覧ください.

研究内容

成果型報酬によるクラウドソーシングでの不誠実ワーカの排除

本研究では,クラウドソーシングにおける不誠実なワーカを排除するための成果報酬方式における報酬額設定法を提案しました.近年,不特定多数に問題解決を依頼するクラウドソーシングが注目を集めています.分散した人々を組織化して,効率的なタスク処理の実現を目指すという点で新たな人工知能の形とも言えます.高品質な成果物を得ようとする場合に問題となるのが,不誠実ワーカの存在です.不誠実ワーカとは,報酬のみを目的として,課題の指示内容に十分注意を払わず,でたらめな回答を提出するワーカで,その存在は全体の作業品質を低下させることになります.

従来,機械学習手法等を用いて,不誠実ワーカの影響を低減させるといった品質管理手法が提案されてきています.しかし,事後の対処ではなく,事前に不誠実なワーカを排除できれば,より効率的なタスク解決が可能になると考えました.そこで,私たちは多数決によって正解が決定される文書ラベリングタスクを対象に,誠実なワーカの比率,誠実なワーカと不誠実なワーカの正解率が与えられた場合に,誠実なワーカを惹きつけつつ,不誠実ワーカが自発的に参加を取りやめるような報酬額の設定法を提案しました.Amazon Mechanical Turk上での実験でその効果を確認しました.

incentive_result

図 あなたならどちらのタスクを選択しますか?

クラウドソーシングにおける効率的なタスク分割法

クラウドソーシングにおいて,複雑なタスクを単純なサブタスクに分割して依頼することがよく行われます.タスクをどう分割するかが,全体のタスク処理効率を決めると言えます.例えば,1ページ分の英文校正タスクがあった場合に,間違い箇所の発見タスク・修正案の提案タスク・修正案の確認タスクに分割するか,あるいは,1パラグラフずつに分割して,個々のワーカに発見・修正・確認タスクを依頼するか,どちらが良いでしょうか?本研究はそういった疑問に答えて,効率的タスク分割法を明らかにしようとするものです.具体的には,垂直分割法(異種のサブタスクに分割)と水平分割法(同種のサブタスクに分割)の優劣に関して,インセンティブという観点からワーカの行動モデルを分析し,計算機シミュレーションを併用することで,垂直分割法が効率的となることを示しました.より詳細には,ワーカの投入労力により,中間成果物と最終成果物の品質が決まり,それによってタスク全体での報酬が決まり,各請負者の取り分が決まるという前提のもとで,各請負者が利己的であるとして,どの程度の労力を投入するかを分析しています.また,サブタスクの難易度設計に関する指針を与え,クラウドソーシングプラットフォームであるAmazon Mechanical Turk上での英文校正タスクを用いた実験により,提案モデルの妥当性を確認しました.

incentive_workflow

クラウドソーシングにおける動的報酬配分法

本研究では,最終成果物の品質改善を目的として,サブタスクが逐次実行される場合の各サブタスクへの予算配分法を提案しました.クラウドソーシングでは,複雑なタスクを単純なサブタスクに分割することで,ワーカを見つけやすくなります.例えば,英文校正タスクでは,間違い箇所の発見タスク・修正案の提案タスク・修正案の確認タスクに分割して,異なるワーカに依頼するといったことが行われます.ここで問題となるのは,依頼者の予算には制約があるため,各サブタスクにどのように予算を配分するかです.予算配分を難しくするのは,クラウドソーシングではワーカのスキルを事前に知ることが難しい点です.この問題を解決するために,私たちは 問題をマルコフ意思決定問題として定式化し,予算制約とワーカスキルの不確実性を考慮して,動的にサブタスクの報酬額を設定する方法を提案しました.ここでは,各サブタスクに報酬が与えられていて,その元で各請負者が自己の効用が最大化されるように投入労力を決定し,その結果として各サブタスクへの投入労力の組合せによって依頼者の効用が定まるという前提のもとで分析を行っています.計算機シミュレーションを用いた評価により,比較手法である請負者のスキルに基づく予算配分法やサブタスクの難易度に基づく予算配分法に比べて提案方法が優位となることを確認しました.

reward_mdp

図:マルコフ意思決定問題としての報酬配分問題の定式化

グループ分割による効率的なクラウドソーシングコンテストの実現

私たちは組織論的観点から,グループ分割によるタスク割当ての制御を検討しました.例えば,参加者が互いに他者が書いたプログラムにバグがあるかどうかを検査し,多くのバグを発見した人が勝つといったコンテストを考えます.ここでは,コンテスト形式にして,より多くのバグを発見するように参加者を動機付けることで,集団による効率的なプログラム検査を実現することが目標です.ここで問題となるのは,多くの参加者が一部のプログラム検査に集中してしまうことです.つまり,バグ発見が簡単そうなプログラムにばかり人が集中すると,過度に検査作業が行われるプログラムとまったく検査作業が行われないプログラムが出てきて,効率的な検査を実現できません.

これまでのコンテストの設計に関する研究では,第一位の賞金をいくらに,第二位の賞金をいくらにといったように,最適な賞金額設計の議論が行われてきました.しかし,タスク依頼者には予算制約もあり,賞金額を自由に設定できるわけではありません.そこで,私たちはグループ分割によるタスク割当ての制御に着目しました.グループ分割とは,ワーカの集団を2つに分割し,その中でタスクを選択させるというものです.請負者の自発的な選択を保証しつつ,選択の幅を狭めることを意味します.グループ分割法として,請負者のスキルに応じて,(1)低スキルグループと高スキルグループに分割する方法と,(2)低スキルと高スキルが混在するように全体を2つに分割する方法を比較しました.それぞれの設定の元で,ゲーム理論に基づく均衡解析を行い,シミュレーションを併用して社会的余剰(全体のうれしさ)の大きさを比較しました.これより,スキル別にグループ分割するよりも,ランダムにグループを構成する方が,全体としての問題処理効率が向上することを明らかにしました.

group_division

図:グループ分割の模式図(左:スキル別分割,右:ランダム分割)

Q&Aコミュニティにおける参加者行動の分析

現在,多くのQ&Aコミュニティが形成され,質問・回答を通して多くの知識の蓄積が図られています.Stack Overflowはプログラミングに関する事項に特化したQ&Aコミュニティです.良い質問・回答をすると信用度が上がり,新たな権限が開放されるなど,ゲーミフィケーションを取り入れた設計になっています.Stack Overflowでは,参加者自身による運営管理がなされており,コミュニティのガイドラインにそぐわない質問がなされた場合,単に批判するだけでなく,建設的なフィードバックがなされることが期待されています.

従来研究では,フィードバックは批判的になりがちということを示していますが,その詳細は明らかでありませんでした.私たちは,質的研究手法であるグラウンデッド・セオリー理論に基づいてコメントの分類を行い,参加者タイプによってコメントの内容に違いがあるかどうかを調べました.その結果は,信用度の高い(より多くの活動履歴がある,より積極的に)参加者であっても,信用度の低い参加者と同様に批判的なコメントをしがちであることが分析結果としてわかりました.つまり,ある参加者の信用度が高いとしても,それはコミュニティの規範によく従うことを示すのではなく,他の参加者に迎合していることを示していると言えるかもしれません.

逐次参加型m票先取投票方式の研究

本研究では逐次参加型m票先取の投票方式の性質を調べました.国政選挙などを見ても投票率が100%にはなりません.対象に無関心といった原因の外に,立候補者の公約を調べる,投票所に行くといった点で投票参加に費用が生じるといった原因もあると考えます.そこで,本研究では投票参加に費用を要すると仮定します.このとき,強制参加のように全員に投票を強いる方式は,大きな費用が発生します.一方,ランダムに意思決定する方法では費用を削減できますが,意思決定の品質に疑問が生じます.つまり,集合的意思決定の品質向上と投票に要する費用削減をどう両立させるか,という課題が存在します.この課題を検討するため,私たちは逐次参加型m票先取の投票方式に着目しました.これと類似した投票方式は人気投票などで用いられていますが,その性質はまだ十分に議論されておらず,より広範な応用への妨げとなっていると考えられます.そこで,本研究において私たちは(1)投票参加に費用を要する場合の逐次参加型投票モデルを構築し,(2)動的計画法を用いた最適投票戦略導出法を考案し,(3)可決票数mや投票期間などの設計パラメータの影響を分析し,(4)意思決定の品質向上と投票費用削減の両立という点で,逐次参加型m票 先取投票方式が有効となる状況を解明しました.

iterative_voting

図:2票先取,A案選好者である確率が0.9の場合.2番目の投票者は,自己がA案に投票した場合の期待効用と,棄権した場合の期待効用を比較して投票行動を選択する.

サービス合成における報酬配分法

チームを組んで何か作業をし,全体として報酬を得る,このような場面はよくあると思います.ここで問題となるのは,全体として得られた報酬を個々にどう分配するかです.この問題はゲーム理論においても様々な研究が行われていますが,計算機利用を前提とした場合の連携の柔軟さから,既存の配分法が機能しないことがあります.本研究では,全体で得られた報酬を個々に配分するという課題に対して,積算方式や均等配分方式がうまく機能しないことを示しました.これは,個々の請負者単位で見たときに,報酬額がタスク処理に要する費用を下回る場合が発生するためです.また,ゲーム理論で提案されているShapley値に基づく方法を取ったとしても,過小供給の問題が生じることを示しました.

つぎに、チームを構成するメンバの数や、一部のメンバ参加のみでタスクが処理された場合の価値に関して,過小供給の問題が緩和されるか深刻になるかを分析しました.その結果,構成メンバの数が増えれば,請負者の戦略的行動の影響は小さくなり,過小供給の問題が緩和されることがわかりました.また,全てのメンバがタスク処理に参加しなければ依頼者にとって価値がないといった場合は,請負者は戦略的行動を取っても得るものが少なく,過小供給の問題が緩和されることがわかりました.ここで得られた結果は,クラウドソーシングでの事後的報酬配分法を考案する上で役立つと考えます.

主な研究成果

[Conferences]
Vargo Andrew and Shigeo Matsubara: Corrective or Critical? Commenting on Bad Questions in Q&A, iConference 2016 Philadelphia, USA, 2016.3.
Huan Jiang and Shigeo Matsubara: Efficient Task Decomposition in Crowdsourcing, The 17th International Conference on Principles and Practice of Multi-Agent Systems (PRIMA-2014), pp. 65-73, Gold Coast, Australia, 2014.12.
Huan Jiang and Shigeo Matsubara: MDP-Based Reward Design for Efficient Cooperative Problem, 18th International Workshop on Coordination, Organizations, Institutions and Norm (COIN-2014), Gold Coast, Australia, 2014.12.
Huan Jiang and Shigeo Matsubara: Improving Crowdsourcing Efficiency Based on Division Strategy. The 2012 IEEE/WIC/ACM International Conference on Intelligent Agent Technology 2012 (IAT’12), Macau, pp. 425-429, 2012.
Ryuya Kagifuku and Shigeo Matsubara: Costly Voting with Sequential Participation. The 14th International Conference on Principles and Practice of Multi-Agent Systems (PRIMA-2011), pp. 68-82, Wollongong, Australia, 2011
Shigeo Matsubara: Profit Sharing in Service Composition. 9th International Conference on Service Oriented Computing (ICSOC2011), pp. 645-652, Paphos, Cyprus, 2011.
[Symposiums and Workshops]
王美楽, 松原繁夫:クラウドソーシングにおける不誠実ワーカの排除に向けた報酬設定法の提案. エージェント合同シンポジウム(JAWS2012), 2012.
松原繁夫:複合webサービスに対する収益配分法の検討.合同エージェントワークショップ&シンポジウム2010 (JAWS-10), 富良野, 2010
[Journals]
Shigeo Matsubara and Meile Wang: Preventing Participation of Insincere Workers in Crowdsourcing by using Pay-for-performance Payments. IEICE Transactions on Information and Systems, Vol.E97-D, No.9, pp.2415-2422, Sep. 2014.
Huan Jiang, Shigeo Matsubara: A Division Strategy for Achieving Efficient Crowdsourcing Contest, Journal of Information Processing, Vol. 22, No. 2 pp. 202-209, 2014.
鍵福竜也, 松原繁夫:逐次参加型m票先取投票方式の分析. 情報処理学会論文誌, Vol.53, No. 11, pp. 2457-2465, 2012.