評価用語集
評価実務で頻出する用語を日英併記で解説します。関連する手法ページへのリンクつき。
事業の活動・産出の結果として、対象者や社会に生じる変化・状態の改善。行動・知識・態度・健康・生活水準などの変化が典型例。アウトプット(活動の直接産出物)と混同しがちだが、「誰かの何かが変わった」という点が本質的な違い。
事業の活動によって直接生産される財・サービス・成果物。研修の実施回数・配布物の部数・建設された施設数などが典型例。活動の量的な結果であり、それ自体は受益者の変化(アウトカム)を意味しない点に注意が必要。
観察された変化・成果が、評価対象の事業によって引き起こされたと因果的に帰属できるかどうかを問う概念。他の要因(コントリビューション)が複数ある場合、変化の全てを一つの事業に帰属させるのは困難であり、帰属の問題は評価の核心的課題の一つ。
評価の判断・意思決定を支える体系的に収集・分析されたデータや情報。単なる事例や印象ではなく、信頼性・妥当性のある方法で得られた根拠を指す。エビデンスの強さはデザインの厳密さによって異なり、RCTが最上位とされることが多い。
政策・事業の立案・実施・見直しを、勘や慣例ではなく客観的なエビデンスに基づいて行う意思決定アプローチ。日本では2017年以降、政府の行政改革方針に明記され普及が進む。評価結果を政策改善に繋げるサイクルを重視する点が特徴。
事業が長期的・広域的に社会・環境・経済に及ぼす重大な変化。DAC基準では、事業のアウトカムを超えた正負・意図的・非意図的な上位の変化として定義される。アウトカムより時間スパンが長く、他要因との分離が一層困難になる。
評価チームが評価開始直後に作成する作業計画書。評価の理解・アプローチ・方法論・スケジュール・分担を発注者と合意するための文書であり、TORの解釈を確認する機能も持つ。評価の方向性を早期に共有し手戻りを防ぐ重要な節目文書。
事業が対象者・社会に与えた因果効果を、反事実との比較によって厳密に推定する評価の特定類型。RCT・DID・PSM・RDDなどの因果推論手法を用いる。狭義には因果効果の特定を指すが、広義にはDAC基準のインパクト(長期的変化)の評価全般を指す場合もある。
観察された変化が事業以外の要因によるものではなく、事業そのものによるものであると言える程度。選択バイアス・交絡・歴史効果などが脅威となる。RCTや準実験デザインは内的妥当性を高めるために設計される。
ある文脈で得られた評価結果が、他の集団・地域・時期にどの程度一般化・適用できるかを示す概念。RCTなどで内的妥当性が高くても、サンプルや実施環境の特殊性により外的妥当性が低い場合がある。スケールアップや政策転用の検討に不可欠。
事業組織の外部にある独立した評価者・評価チームが実施する評価。独立性・客観性が担保されやすく、信頼性の高い説明責任の確保に適する。一方、事業文脈の理解に時間がかかること、コストが高くなることが課題。
「事業が実施されなかった場合、対象者はどのような状態であったか」という仮想的な状況。因果効果の推定はこの反事実との比較によって行われる。現実には同一対象に対して事業あり・なしを同時観察できないため、比較対照群の設計が必要になる。
評価活動を通じて組織・チーム・個人が知識・能力・実践を改善していくプロセス。アカウンタビリティと並ぶ評価の二大目的の一つ。評価結果が報告書で終わらず、意思決定・実践改善・知識蓄積に繋がることが真の学習とされる。
事業の実施中に行われ、改善・修正を目的とした評価。「どう改善すればよいか」という問いに答えることを重視し、フィードバックを通じて事業の質を高める。総括的評価(最終的な価値判断)と対をなし、学習・改善サイクルを支える。
介入や事業の効果の実質的な大きさを示す標準化された指標。Cohen's dやオッズ比が代表例。統計的有意性(p値)はサンプルサイズに依存するが、効果量は実際の効果の大きさを反映するため、結果の実践的意義を判断する際に不可欠な指標。
DAC評価基準の一つ。投入した資源(コスト・時間・人材)に対してどれだけの成果・産出を得られたかを問う費用対効果の基準。類似の介入と比較した相対的効率性も検討される。費用便益分析(CBA)や費用効果分析(CEA)が主な評価ツール。
事業への参加と結果の両方に影響する第三の変数(交絡変数)が存在することで、見かけ上の因果関係が生じる現象。例えば、研修参加者がもともと意欲の高い人だった場合、研修の効果なのか元々の意欲なのかが区別できなくなる。
質的データ(インタビュー逐語録・観察記録・文書等)に概念的なラベルを付与し、パターン・テーマを抽出する分析作業。帰納的コーディングと演繹的コーディングがあり、複数の分析者によるコード間一致度の確認が信頼性確保に重要。
複数の要因が絡み合う変化のプロセスにおいて、事業が結果に「どの程度貢献したか」を記述・論証する概念。完全なアトリビューション(帰属)が困難な場合に用いられ、コントリビューション分析として方法論化されている。
事業の実施者自身が評価を設計・実施する形態。コストが低く学習につながりやすい反面、客観性や独立性が課題となる。外部評価と組み合わせたり、評価基準を事前に明確化したりすることでバイアスを軽減できる。
事業終了後、一定期間が経過した時点で実施される評価。事業の効果が持続しているか、意図しない影響が生じていないかを検証する。DAC基準では終了後2〜5年以降に実施することが多く、長期的なインパクトの把握に適する。
事業開始前に実施される評価。事業の必要性・設計の妥当性・実現可能性・想定されるリスクを審査し、実施の是非や設計改善を判断する。ロジックモデルやセオリー・オブ・チェンジの作成、評価可能性評価がこの段階の主な活動となる。
DAC評価基準の一つ。事業終了後も成果・便益が長期にわたって維持・発展されるかどうかを問う概念。財政的・制度的・環境的・社会的持続性などの観点から評価される。終了戦略や出口計画の有無が重要な判断材料となる。
アウトカムやインパクトの達成度を測定するために用いる具体的な観測変数。SMART(具体的・測定可能・達成可能・関連性・期限付き)であることが基本要件。量的指標と質的指標があり、代理指標を使う場合は妥当性の根拠が必要。
事業の活動・成果から利益を受ける対象者・集団。直接受益者(サービスを直接受ける人)と間接受益者(社会全体への波及効果を受ける人)に区分されることがある。受益者の定義はロジックモデル作成やニーズ分析の起点となる。
同じ手順で測定・評価を繰り返した場合に同じ結果が得られる程度の安定性・一貫性。テスト再テスト信頼性、評価者間信頼性などがある。信頼性がなければ妥当性も確保できないが、信頼性があっても妥当性があるとは限らない。
事業に参加するグループと参加しないグループが、観察される以前から系統的に異なる特性を持つことで生じるバイアス。意欲の高い人が自発的に参加する場合、効果の過大推定につながる。無作為割付(RCT)はこれを防ぐための最も直接的な方法。
事業の成果メカニズムに関する理論(プログラムセオリー・セオリー・オブ・チェンジ)を評価の枠組みとして用いるアプローチ。「なぜ機能するか(または機能しないか)」を明らかにすることを重視し、箱と矢印の仮説を実証的に検証する。
事業の実施者が資金提供者・対象者・社会に対して、活動内容・成果・資源の使い方について説明・報告する責務。評価の二大目的(アカウンタビリティとラーニング)の一つ。形式的な報告に留まらず、実質的な透明性と対話を重視する立場もある。
事業の成果・効果・価値について最終的な判断を下すことを目的とした評価。事業終了時や節目に実施され、継続・拡大・終了・改訂などの意思決定に資する。形成的評価(改善目的)と対をなす概念で、アカウンタビリティの要素が強い。
事業の実施者・資金提供者のいずれにも属さない独立した外部機関・個人が行う評価。高い独立性と客観性が期待できる反面、事業文脈の理解や関係者との信頼関係構築に時間がかかる場合がある。公的資金を用いた事業での説明責任確保に有効。
指標に対して特定の時点で達成することを目指す具体的な数値・水準。ベースラインと目標値を組み合わせることで事業の進捗評価が可能になる。目標値は証拠に基づいて現実的に設定すべきであり、根拠なき目標値は評価を形骸化させる。
OECDの開発援助委員会(DAC)が定めた評価基準。妥当性・有効性・効率性・インパクト・持続性の5基準に、2019年の改訂でコヒーレンスが加わり現在6基準。国際開発評価の標準として国連機関・援助機関・NGOに広く採用されている。
事業が介入しなくても自然に発生していたであろう変化・成果の部分。SROIや効果測定では、観察された成果からデッドウェイトを差し引いて純粋な事業効果を推定する。デッドウェイトを無視すると事業の貢献を過大評価することになる。
観察された結果が偶然(サンプリング誤差)によって生じた可能性が低いことを示す概念。p値が0.05(5%)未満であることが慣例的な基準とされるが、サンプルサイズに左右される。効果量と組み合わせて解釈することが実践的に重要。
事業を実施するために投じる人材・資金・物品・情報・時間などの資源。ロジックモデルの最左列に位置し、活動を実施するための原材料となる。投入の記録は効率性評価(成果あたりのコスト)の基礎データとなる。
複数の情報源・調査方法・分析者・理論の組み合わせを用いて、調査結果の信頼性・妥当性を高める手法。一つの方法の限界を他の方法で補完し合う。ミックスドメソッズの核心的な考え方であり、特に質的調査の信憑性確保に有効。
事業の実施組織の内部スタッフ・部門が評価を設計・実施する形態。文脈理解が深く継続的な学習に適しているが、利益相反リスクや独立性の問題が伴う。組織の評価文化醸成や能力開発の観点からも重要視される。
観察・評価されていることを意識した人々が、通常とは異なる行動を示す現象。1920〜30年代の工場研究に由来する。評価対象者が観察されているために普段と異なる行動をとると、真の介入効果の測定が困難になる。観察手法設計で考慮すべき重要バイアスの一つ。
評価の設計・データ収集・分析・解釈の各段階で生じる系統的な誤差・歪み。選択バイアス・社会的望ましさバイアス・確証バイアスなど多種ある。ランダム誤差と異なり偶然には解消されないため、設計段階での予防と分析段階での検討が必要。
事業開始前の対象者・状況の状態を測定したデータ。事業の効果を「事前との比較」で評価するための基準点となる。ベースライン調査を省略すると事後評価で変化量を定量化できなくなるため、事業設計段階での計画が不可欠。
事業が計画通りに実施されているか、活動・産出の質・量・対象への到達度はどうかを評価する。「何を・誰に・どのように・どの程度届けたか」を明らかにし、成果評価の解釈を補完する。実施の忠実度(Fidelity)の確認にも用いられる。
受益者や地域コミュニティなど通常は評価の「客体」とされる人々を、評価の設計・データ収集・分析・活用に積極的に関与させる評価アプローチ。当事者の視点と知識を反映でき、評価結果の受容・活用も促されやすい一方、時間とファシリテーション能力を要する。
調査・評価の対象となる全体(母集団)から一部を選び出す手続き。無作為抽出(確率サンプリング)と有意抽出(非確率サンプリング)に大別される。サンプリング方法の選択は調査結果の一般化可能性・外的妥当性に直結するため、設計段階での慎重な検討が必要。
調査回答者が「正しい・望ましい」とされる回答を意識的・無意識的に選ぶことで生じる測定誤差。特に行動・態度・意識を尋ねる調査で顕著。匿名性の確保、間接質問法、観察法との組み合わせ、行動データの活用によって軽減を図る。
事業によって影響を受け、または事業に影響を与える関係者の総称。受益者・実施者・資金提供者・政策決定者・地域住民・競合団体など多様な主体が含まれる。ステークホルダー分析は評価の設計・実施・活用の全段階で出発点となる作業。
事業実施期間の中間時点で行われる評価。事業の進捗確認・設計の見直し・継続判断に資することが主目的であり、形成的評価の性格が強い。JICAや国際援助機関では、複数年事業の折り返し点での実施が標準的な手続きとなっている。
評価の発注者が作成する評価実施の基本仕様書。評価の目的・スコープ・評価クエスチョン・方法論の方針・スケジュール・成果物・評価チームへの要件などを規定する。評価者はTORを基にインセプションレポートを作成し、発注者と方法論の詳細を合意する。
測定しようとしているものを実際に測定できているかどうかの程度。内容妥当性(測定内容の網羅性)・構成概念妥当性(理論的構造との一致)・基準関連妥当性(他の測定との一致)に分類される。指標設計・調査票設計の品質評価において中心的な概念。
DAC評価基準の一つ。事業の目的・内容が、対象者のニーズ・政策優先事項・パートナー国の方針に合致しているかを問う基準。2019年の改訂でコヒーレンスと共に再整理され、「何が合致しているか」をより精緻に問うよう進化している。
評価の品質を判断するための規範的基準。米国評価学会(AEA)のプログラム評価基準(有用性・実行可能性・適切性・正確性・評価責任)や、国連評価グループ(UNEG)の規範・基準が代表的。評価の委嘱・実施・審査のいずれの場面でも参照される。
質的調査においてデータ収集を続けても新たなテーマ・カテゴリが生まれなくなった状態。グラウンデッドセオリーで提唱された概念で「理論的飽和」とも呼ばれる。データ収集のやめどきの判断基準となるが、どの程度で飽和とするかは研究者の判断に委ねられる。
研究目的に合った情報を持つと判断される対象者を意図的に選ぶ非確率的サンプリング手法。質的研究でよく用いられる。典型事例・最大多様性・スノーボールなど多様な種類がある。統計的代表性はないが、深い理解や豊かな情報の収集に適する。
DAC評価基準の一つ。事業の目標がどの程度達成されたかを問う基準。設定されたアウトカム指標の達成度が主な判断材料となるが、意図せざる成果や文脈要因による変化も考慮する。「効率性(少ない資源で達成)」とは区別され、達成の「度合い」に焦点がある。
評価の判断基準を複数の次元・段階に沿って記述した評価マトリクス。各次元の達成水準と対応する記述語(Descriptor)を明示することで、評価の一貫性・透明性・説明可能性を高める。教育評価発祥だが、政策・プログラム評価での活用も広がっている。
母集団の全ての個体が等しい確率で選ばれるようにサンプルを抽出する方法。得られたサンプルは母集団を代表する可能性が高く、統計的推論(信頼区間・有意性検定)の前提となる。単純無作為抽出・層化抽出・クラスター抽出などの種類がある。
評価それ自体の質・信頼性・有用性を評価する行為(評価の評価)。個別の評価が評価基準や倫理に照らして適切に実施されたかを検証する。複数の評価・研究を統計的に統合するメタ分析(Meta-analysis)とは概念が異なる点に注意が必要。
量的手法(調査票・実験・統計分析)と質的手法(インタビュー・観察・文書分析)を意図的に組み合わせる研究・評価アプローチ。各手法の長所を活かし限界を補完し合う。順次型・同時型・変容型などのデザイン類型がある。
事業の実施中に、活動・産出・初期アウトカムを継続的に追跡・記録・報告する管理プロセス。評価と異なり価値判断よりも事実の記録と早期警告に重点を置く。M&Eシステムの一部として評価と組み合わせることで機能が最大化される。
モニタリング(継続的追跡)と評価(体系的な効果・価値判断)を統合した管理・学習システムの総称。国際開発・NGO・政府事業において不可欠なマネジメントツールとして機能する。M&Eフレームワークには指標台帳・データ収集計画・報告プロセスが含まれる。
評価が答えるべき核心的な問い。「この事業は対象者の生計を改善したか」「なぜ一部地域で効果が出なかったか」などの形で明示化される。評価クエスチョンは評価目的・利用者のニーズ・利用可能な資源に基づいて選定し、方法論・指標・分析の設計を規定する。
個人・組織・システムが評価を設計・実施・活用する能力を高めるための意図的な取り組み。研修・コーチング・メンタリング・組織システム整備が含まれる。評価の実施以上に評価文化の根付きや持続的な能力強化を重視する点が特徴。
評価クエスチョン・評価指標・データ収集方法・情報源・分析方法・担当者・スケジュールを一覧化した評価設計の中核文書。JICAでは評価グリッドとも呼ぶ。評価全体の設計図として機能し、インセプションレポートに含まれることが多い。
事業終了時点または一定の実施期間後に行われる調査で、成果指標の最終値を測定するもの。ベースライン調査と対になるデータとして、事業期間中の変化量を算出するために使用される。反事実との比較がない場合、変化量の全てを事業効果と解釈するのは誤りとなる。