品質、妥当性、システムアーキテクチャ | Deutschtest.digital

意思決定者向け情報:Deutschtest.digitalの妥当性検証論証 – 最新の言語診断によるエビデンスに基づいた意思決定の信頼性

言語テストを欧州言語共通参照枠(CEFR)に当てはめることは、複雑な検証プロセスです。テストが特定のCEFRレベルに相当するという主張は、直接観察できる事実ではなく、理論的および経験的な証拠によって裏付けられなければなりません。これらの証拠の収集と評価は、該当する妥当性の主張を検証する枠組みの中で行われます。

(欧州評議会、2009年、7ページ参照)

語学力証明書は、測定値を文書化したものです。正しい解釈が非常に重要です!

意思決定者として、特定の目的のために申請者から語学能力の証明を求める場合、通常は語学証明書またはそれに対応する試験結果が提示されます。このような書類には、特定の方法論的および試験関連の条件下で決定された測定結果が基本的に記載されています。例えば、これを語学能力を評価する公式手続きで使用する場合、証拠として使用できます(ドイツ行政手続法第26条第1項第1文および第2文第3号参照)。しかし、このような測定結果は、専門的に妥当で証拠に基づいた解釈によってのみ意味を持ちます。したがって、重要なのは、単に紙にどのような結果が記載されているかではなく、その測定結果をどのような科学的根拠に基づいて信頼性をもって評価できるかということです。

そのような解釈が妥当かどうかは、根底にある検査プロセスが科学的に健全で、技術的に信頼性が高く、組織的に管理されているかどうかに大きく左右される。したがって、重要なのは単なる測定値ではなく、それを生み出すシステム全体の質である。

検査結果の証拠価値とそれぞれの目的に対するその受容は、科学的質と正しい解釈の論理的な帰結であり、その制度的起源によるものではない(AERA、APA、NCME、2014年;Chapelle、2021年;Cronbach、1988年;Kane、2013年;Messick、1989年参照)。

語学資格の信頼性を評価するためには、試験データの収集、処理、解釈が行われる条件を検証する必要がある。これらの管理されたプロセスによって、試験の質を科学的に評価するために必要な証拠が得られる。

しかしながら、これらの個々の証拠は、テスト結果の解釈を決定的に正当化するものではありません。これらの証拠を検証論拠の中に体系的に統合することによってのみ、具体的なテスト結果から個人の言語能力に関する特定の記述を導き出すことができるという、科学的に理解可能な根拠が明らかになるのです。

以下のセクションではまず、証拠生成のインフラストラクチャ、すなわち、信頼できる証拠を生み出すための基準、プロセス、および管理メカニズムについて説明します。続いて、この証拠が当社の検証アプローチにどのように体系的に統合されているか、そして当社の試験結果の解釈がどのような科学的根拠に基づいているかを説明します。

1. 信頼できる証拠を生成するためのインフラストラクチャ

認定証が単なる空約束ではないことを客観的に示すためには、試験機関は確固たる実証的証拠(心理測定データ、信頼性分析、妥当性検証文書)を必要とします。現代の試験研究は、本質的に「妥当な試験」や「妥当な試験結果」は存在しないという中心的な前提を強調しています。妥当性は、これらの結果を特定の目的に合わせて解釈し、活用することによってのみ達成されるのです。

体系的かつ包括的な品質管理システムのみが、試験提供者が言語能力の妥当な解釈を正当化するために不可欠な、偏りのないクリーンな生データを継続的に生成することを保証できる。このような証拠は恣意的に生成されたものでなければ信頼できないため、厳格で独立したシステムアーキテクチャが必要となる。このアーキテクチャは、以下の5つの柱に基づいている。

柱 a) 標準

情報ボックス/定義:規格とは何ですか?

規格とは、特定のプロセス、手順、またはサービスに関する要件、基準、または推奨事項を記述した文書化された一連の規則です。規格は、品質、比較可能性、透明性、およびトレーサビリティを体系的に確保するための共通の枠組みを構築します。規格は、さまざまな関係者によって開発および公開され、ベストプラクティス、技術要件、および品質ベンチマークを透明性があり理解しやすい方法で定義する役割を果たします。

Deutschtest.digitalはどの規格を使用していますか?

Deutschtest.digital は、言語テストの開発、管理、評価、および継続的な品質保証をDIN ISO 29992の要件に基づいて行っています。ISO 29992 (「学習サービスの成果の評価」) では、国際標準化委員会 ISO/TC 232 (「教育および学習サービス」) が、学習サービスを提供し、評価を開発、選択、または適用する組織を対象とした専用規格を発行しました。国際規格 ISO 29992 は、ドイツ標準化協会 (DIN) によってDIN ISO 29992として国内規格システムに採用されています。

この規格は、評価の計画、開発、管理、評価に関する具体的な品質要件を規定し、欧州言語共通参照枠(CEFR)に基づく言語能力の測定を明示的に含んでいます。純粋にテスト理論的なガイドラインとは異なり、ISO 29992は主に品質保証されたサービス管理の論理に基づいています。Deutschtest.digitalにとって、これは品質保証のための中心的な組織的および方法論的枠組みを形成します。これにより、信頼できる証拠の生成、テストプロセスの透明性のある文書化、検証可能で追跡可能な基準に基づく言語テストの一貫した品質の確保が可能になります。同時に、意思決定者に対して包括的な法的、制度的、および方法論的な確実性を提供します。

ISO 29992には何が含まれていますか?

ISO 29992の要求事項は、以下の主要な章に構成されています。

  • 章1 本規格の適用範囲が規定されている。主な適用例として、(1)個々の学習者の成果の測定、(2)学習進捗状況の判定の2つが挙げられる。
  • 章2 他の規格への参照を指します(ISO 29992:2021規格にはそのような参照はありません)。
  • 章3 診断/性能測定に関連する一連の技術用語を定義する。
  • 章4 この規格は、診断ツール(本文中では一貫して「評価」と呼ばれる)の計画に関する具体的な推奨事項を提供します。DIN ISO 29992:2021-04 によると、計画フェーズには、ニーズ分析、リソース計画文書、および診断ツールの適用範囲、ツールに基づいて行われる決定、その結果の解釈、診断ツールの使用によって意図される結果、ツールの目的と使用される評価方法との関係、結果、その解釈、使用、および結果との関係、テスト結果の伝達、使用条件、スケジュール、およびコスト、評価手順、評価環境(例:施設)、評価への参加の前提条件、学習成果の評価で使用されるツールと方法の適用可能な規格、品質保証手順、評価の開発および/または実施に関与する利害関係者、診断ツールの運用計画、手順規則、ならびに診断ツールの入手可能性とテスト仕様要件のカバー範囲に関する情報を含むフレームワーク文書を含める必要があります。
  • 章5 本書には、診断ツールの開発に関する多くの推奨事項が含まれています。これには、ツールの使用時期(学習プロセス前、学習中、学習後)、テスト開発者の資格、テスト項目/試験問題の形式、診断ツールの実施に関する空間的、時間的、組織的、技術的な仕様などが含まれます。さらに、客観性、信頼性、妥当性といったテスト品質基準、テスト項目/試験問題の開発プロセス、診断ツールの結果を判定する手順、結果の伝達方法と時期に関する枠組み、結果に異議を申し立てる手順、技術文書の要件についてもガイダンスを提供しています。
  • 章6 これは、診断ツールの管理面に関する事項に焦点を当てたものです。具体的には、実施に関するガイドライン、検査の安全性を確保するための計画、診断ツールの実施を監督する担当者の資格と責任、および評価者の資格などが含まれます。
  • 章7 これは、診断機器の運用上の使用に関するものです。運用上の使用に関する文書、例えば信頼性および妥当性の証拠、診断機器の実施に関する規則、検査方法論の品質管理および関連プロセスに関する統計的手順などが必要です。さらに、第7章では、既存の診断手順を継続的に改訂および発展させる方法に関する詳細な計画が求められています。
  • 章8 このセクションでは、公平性の問題について説明します。この観点から、診断ツールの提供者と受験者との間で締結される正式な契約などの特徴を概説します。この契約には、例えば、試験料金、関係者の権利と義務、参加要件、診断ツールの説明、データ保護に関する情報、およびスケジュールに関する詳細が含まれるべきです。第8章ではさらに、差別の禁止、受験者の権利、診断ツールの公平性、診断ツールに関わる者の行動規範、および受験者に提供される情報についても説明します。
  • 章9 DIN ISO 29992:2021-04は、診断機器の使用に関する倫理的考察をさらに詳しく扱っています。この点において、同規格は関係者全員の責任を明確に定義することを求めています。さらに、診断機器に関する真実かつ正確な情報の提供を要求しています。最後に、診断機器は、収集データの機密性、データの保護とセキュリティ、通信チャネルのセキュリティなど、情報セキュリティの様々な側面を保証する必要があります。そして最終的には、通信管理システムを計画し、文書化することも求められます。
  • 安航A 診断手順の技術文書において構造化された方法で収集すべき情報を指定します。これには、診断機器の計画と開発から運用上の適用に至るまでの診断機器のライフサイクル全体に関連するすべての文書が含まれます。関連する文書には、ニーズ分析、診断機器の使用に関するフレームワーク、採点仕様、診断機器の実施マニュアル、関係者向けのトレーニングマニュアル、評価者用フォーム、検査者/評価者、監督者などの資格とトレーニングに関する仕様、テスト項目の開発手順に関する文書、診断機器のテスト監査と妥当性検証研究の文書、定期的な品質保証の証拠、個々のテスト項目の心理測定学的品質の証拠、不適切なテスト項目の排除に焦点を当てた手順の証拠、結果の手動採点の検証と手順の証拠、およびライブ採点がテスト仕様に適合している証拠が含まれます。機械ベースの評価の信頼性の証拠、仲裁と上訴の手順の証拠、および再評価の場合の手順の証拠。この非常に幅広い証拠に加え、診断機器のユーザーがどのように機器を使用する際にサポートを受けるべきかに関する技術文書の要件も規定されている。技術データおよび文書の保管に関する詳細は、規格の実質的な部分を締めくくるものである。
DIN ISO 29992の主な利点は何ですか?

DIN ISO 29992は、Deutschtest.digitalに正式な品質フレームワークを提供するだけでなく、語学テストの開発、管理、継続的な見直しのための体系的な基盤も構築します。この規格を適用する主な利点は、特に以下の分野にあります。

拘束力のあるセキュリティアーキテクチャの確保:本規格は、構造化されたセキュリティ計画の要件を定めています。DIN ISO 29992を適用する組織は、不正操作(詐欺防止)に対する予防措置を体系的に実施し、定義されたプロセスを通じて、タスクの完全性、情報セキュリティ、およびIDセキュリティを保護しなければなりません。

ライフサイクル管理による持続可能な品質保証: ISO 29992は、継続的な保守・監視プロセス(保守計画)を要求することで、試験品質の長期的な保証を支援します。この規格は、一度限りのレビューではなく、試験手順の継続的な評価と改善を品質保証の重要な要素と位置付けています。これにより、試験品質の変化を早期に特定し、経験的に裏付けられた対策によって修正することが可能になります。

欧州言語共通参照枠(CEFR)との技術的な連携:本規格の構造により、一般的な品質要件を言語診断に体系的に適用することが可能になります。これにより、ISO 29992の要件を欧州言語共通参照枠(CEFR)の理論に基づいた能力記述と連携させることができ、テスト結果を言語レベルに分かりやすく割り当てる根拠を明確に示すことができます。

結果の解釈と利用に関する透明性のある説明: ISO 29992では、評価結果とその解釈との関係を明確に示すことが求められています。これにより、試験結果からどのような結論を導き出せるのか、また証明書をどのような目的で使用できるのかを、科学的に理解しやすい形で説明するための基礎が築かれます。

科学的に妥当な検証論拠の根拠: ISO 29992の重要な利点は、関連する証拠の構造化された生成と文書化をサポートすることです。心理測定法と組み合わせることで、科学的に妥当な検証論拠を構築するための強固な証拠基盤が生まれます。この論拠により、試験結果の解釈と使用を、透明性、理解しやすさ、そして確かな専門的根拠に基づいて正当化することが可能になります。

柱b)独立した認証機関

情報ボックス/定義:独立認証機関とは何ですか?

独立認証機関とは、組織が規定された品質要件または基準を満たしていることを検証・確認する、外部の公平な組織です。認証機関は、認証対象組織自身の業績を評価するのではなく、文書化されたプロセス、構造、および証拠について独立した監査を実施します。この外部評価により、品質保証が組織自身の責任だけではないことを示し、信頼性がさらに高まります。

独立認証の重要な特徴は、評価と認証決定が分離されている点です。プロセスと証拠の審査は専門の監査員が行い、最終的な認証決定は独立した機関が行います。これにより、自己評価や潜在的な利益相反が回避され、認証の客観性と信頼性が確保されます。

Deutschtest.digitalはどの独立機関と提携していますか?

外部品質保証のため、当社は独立認証機関であるDeuZertと提携しています。DeuZertは、認証決定の完全な完全性、信頼性、および承認を保証します。20年以上にわたる経験を持つDeuZertは、教育および認証分野において包括的な専門知識を有しています。

DeuZertによる独立認証の利点は何ですか?

DeuZertによる独立認証の重要な付加価値は、導入されたプロセスの品質が組織自身によってのみ評価されるのではなく、外部の専門家によるレビューの対象となる点にあります。これにより、意思決定者にとって信頼性がさらに高まります。特に以下の点が重要です。

  • 制度の独立性と客観的な評価: DeuZertは独立した認証機関として、透明性の高い試験手順を用いて、定められた要件の実施状況を評価します。被監査組織と外部評価機関との分離により、自己評価が防止され、認証決定の客観性が強化されます。
  • 監視監査による継続的な品質保証: 実施された手順の質は一度評価されるのではなく、定期的なレビューを通じて継続的に監視されます。この外部管理により、方法論的および組織的な要件が常に満たされ、さらなる改善が体系的に見直されることが保証されます。
Deutschtest.digitalがDIN ISO 29992規格に準拠していることを証明する正式な証拠は何ですか?

監査プロセスが無事完了したことを受け、DeuZert社よりDIN ISO 29992への適合証明書が発行されました。この証明書は、Deutschtest.digitalにおいて実施されているドイツ語能力評価の計画、開発、実施、評価に関する手順が、当該規格の要件を満たしており、独立した外部監査の一環として評価されたことを証明するものです。

この適合証明書は、Deutschtest.digitalが学習成果の評価に関する国際的に認められた基準にテス​​トプロセスを準拠させていることを正式に証明するものです。また、テスト結果の透明性、比較可能性、および品質を確保するために、基準に準拠した手順が体系的に実施されていることを確認するものです。

証明書を表示

c) 独立した専門家および監査人

情報ボックス/定義:監査人の役割

国際規格では、評価と認証の意思決定を厳密に分離することが規定されています。試験機関の実際の審査(監査)は、独立した高度な資格を持つ監査員によって実施されます。監査員は実証的な証拠を検証し、実際のシステムアーキテクチャを評価し、その結果を監査報告書にまとめます。この報告書は、認証機関がその後の決定を下す際の、中立的な事実に基づく根拠となります。

Deutschtest.digitalでは、誰が監査を実施しているのですか?

監視監査は、DeuZertに代わって活動する経験豊富な教育専門家、試験官、監査員、評価員からなるネットワークによって実施されます。この高度に専門化されたチームを活用することで、当社のプロセスと証拠の評価が単なる事務的なものではなく、内容と語学テスト理論に関する最高レベルの専門知識に基づいて行われることが保証されます。

柱d)監査手続きに関する規則

情報ボックス/定義:監査プロセスを規定する規則とは何ですか?

監査規則は、認証機関が監査を実施する方法を明確に規定する拘束力のある手続き規則です。文書審査、サンプリング、インタビュー、オンサイト監査またはシステム監査のプロセスを規定することで、恣意性を排除し、再現可能な監査品質を保証します。

ISO 29992に基づく認証には、どの監査規則が適用されますか?

ISO 29992の監査手順は、上位規格であるDIN EN ISO/IEC 17065の要件に準拠します。この規格は試験そのものを規定するものではなく、認証機関の作業方法、独立性、および能力を規定するものです。これにより、外部監査が商業的または内部的な利益相反から完全に独立していることが保証されます。その結果、透明性をもって文書化された専門的かつ方法論的な基盤に基づき、試験および評価プロセスの規格準拠の実施について、独立した外部機関による確認が得られます。

柱e)証拠

言語能力を適切に評価するには、信頼できるデータ基盤が必要です。テストの質の証拠は、主に以下の主要なカテゴリーの証拠に基づいています。

1. 計画書およびコンセプト文書

これらの文書は、実際のテスト開発が始まる前に、戦略的および契約上の基盤を確立するものです。対象グループの体系的なニーズ分析と、テストの具体的な目的に関する拘束力のある合意事項を文書化しています。

2. 仕様書およびタスクレビュー文書

このカテゴリーには、コンテンツの品質保証に関する詳細な設計図とテスト手順書が含まれます。これらは、個々のテスト項目が技術仕様と目標とするCEFRレベルを満たしていることを証明します。

3. 管理およびセキュリティ関連文書

彼らは、すべての試験会場において、完全に統一され、標準化され、改ざん不可能な試験プロセスを保証します。これには、試験監督者向けのマニュアル、受験者の厳格な身元確認、詳細なITセキュリティ計画が含まれます。

4.評価および採点手順

これらの文書は、客観的で誤りのない、偏りのない採点方法を規定するものです。解答例、採点者向けの評価ガイドライン、自動評価手順の正確性を示す証拠などが含まれています。

5.資格および研修修了証

これらは、すべての検査・評価担当者の専門的、学術的、および診断能力を証明するものです。さらに、統一された評価基準を確保するための体系的な研修と定期的な再教育コースの概念を文書化しています。

6. 品質と検証レポートに関する実証的証拠

これらは、テストの実際の心理測定学的品質に関する科学的および統計的証拠を提供する。これには、測定精度(信頼性)、サブグループ間の公平性、および理論に準拠した次元構造に関する計算が含まれる。

7. 保守および改訂プロセス

これらのプロセスは、運用中の継続的な品質監視と定期的なテスト更新を管理します。また、タスクのライフサイクルに関する統計的指標を定義し、消耗品がタイムリーかつ標準化された方法で交換されることを保証します。

8.公平性、正義、および控訴

彼らは、試験プロセス全体を通して、受験者の権利、尊厳、および保護を保障します。これには、透明性のある異議申し立ておよび苦情処理ガイドライン、分かりやすいユーザーサポート、および厳格なデータセキュリティ対策が含まれます。

2.エビデンスに基づく根拠から妥当性検証へ:検査結果解釈の科学的正当性

品質保証アーキテクチャ内で生成される証拠は、当初はテスト手順の品質と機能性に関する個々の証拠を構成する。それらが検証論拠の中に体系的に統合されて初めて、テスト結果から個人の言語能力に関する特定の記述を導き出すことができる理由について、理解しやすい正当化が生まれる。

検証引数とは何ですか?

テスト開発者が科学的な品質基準を個別に検討すると、テスト全体の論理と目的を見失う危険性があります。言語テストの質は、個々の課題や統計的パラメータのみによって決まるのではなく、テスト手順のすべての構成要素の相互作用によって決まります。そのため、現代の言語テスト研究では、バッハマン&パーマー、マイケル・ケイン、キャロル・シャペルらの研究に影響を受け、テストの妥当性は包括的かつ多次元的な品質概念として理解されています。重要なのは、個々の品質基準が満たされているかどうかではなく、テスト結果から導き出される結論が全体として正当化できるかどうかです。

この問題は、語学テストの結果が教育、キャリア、居住地の決定に広範な影響を与えることが多いため、特に重要です。したがって、テスト提供者は特別な職業倫理的責任を負っています。テスト手順の質を保証するだけでなく、その質を透明性をもって証明できなければなりません。現代の妥当性研究において、いわゆる妥当性論証の概念が発展したのは、まさにこの必要性からでした。

歴史的に見ると、このアプローチは1990年代から2000年代にかけて、それまでの非常に抽象的な科学的妥当性モデルに対する画期的な対応として登場しました。それまでのモデルは、実際のテスト実践において具体的な指針をほとんど提供していませんでした。アメリカの研究者マイケル・ケインは、哲学者スティーブン・トゥールミンの実践的議論理論をテスト理論に応用しました。著名な言語学者キャロル・シャペルは、その後、この論理を言語テスト研究のためにさらに発展させました。彼女は2008年から始まったTOEFL iBTの先駆的な妥当性検証で世界的に有名です。彼女はこのモデルを、7つの正確な推論ステップからなるシームレスな連鎖へと洗練させ、今日では、テスト解釈の体系的な正当化と文書化のための確立された現代的なアプローチとなっています。

このアプローチの決定的な利点は、語学試験機関を単なる「証明書発行者」という受動的な役割から解放することにある。試験提供機関は、整理されていない個別の文書や厳格なチェックリストを認定機関や大臣の意思決定者に提出するだけでなく、積極的かつ主体的な「擁護者」としての役割を担うことができるようになる。これにより、試験の妥当性、公平性、法的確実性を、体系的に構築された証拠の連鎖を通して自ら証明し、意思決定者に対して独立して、透明性をもって、科学的に反論の余地のない方法で主張することが可能になる。

妥当性検証論証とは、テスト結果の妥当性を正当化するために用いられる構造化されたアプローチを指す。出発点は、すべてのテストが個人の言語能力について何らかの主張をしているという前提である。例えば、ある人が欧州言語共通参照枠(CEFR)のB1レベルに割り当てられたとすれば、それはその人がこのレベルで定義された言語スキルを習得していることを意味する。妥当性検証論証の役割は、この主張を体系的に裏付け、分かりやすく正当化することである。

これは、テスト課題から実施、評価、そして結果の解釈に至るまで、一貫した論理的思考プロセスを構築することを意味します。各段階において、理論的根拠と実証的証拠(いわゆる裏付け)を用いて、前提が正当であることを示します。このようにして、妥当性検証の議論は科学的証拠と実践的なテスト決定を結びつけ、特定のテスト結果がなぜ定義された言語能力の有意義な証拠とみなされるのかを明確にします。こうして、言語テストに対する信頼、透明性、そして法的責任の基盤が築かれるのです。

論理的な連鎖は、どのようなリンクによって検証引数を構成するのか?

言語テストの質に関する揺るぎない専門的な証拠を提供するために、現代の診断方法は明確な論理構造に従っています。これら7つのレベルそれぞれについて実証的な証拠が存在する場合にのみ、テストは実用上完全に信頼できるものとみなされます。

実用的関連性(ドメイン定義): この最初のステップでは、対象となる環境(日常生活、仕事、学習など)で実際に必要とされる言語要件を綿密に分析します。これにより、テストが本来の目的(例えば、社会への統合や労働市場への参入)に絶対に必要なスキルのみを評価することが保証されます。
客観性と誤差のない測定(評価): この文書は、パフォーマンス評価とテストスコアの算出が厳格かつ客観的な規則に基づいて実施されていることを示しています。標準化された条件と統計分析により、採点は可能な限りエラーがなく、透明性が高く、改ざん不可能で、外部の個人の影響から独立していることが保証されます。したがって、各参加者は同一の公平な基準に基づいて評価されます。
信頼性(一般化): このステップは、テスト結果が安定しており、偶然によるものではないことを示すためのものです。高い一般化可能性とは、結果が一貫していることを意味します。つまり、使用された課題の種類、採点者、試験実施日などに関係なく、結果が常に一定であるということです。
規格適合宣言: ここでは、テストのスコアが意図された専門的な意味を正確に反映していることが科学的に証明されています。証明書に「B1」レベルが記載されている場合、そのパフォーマンスが理論に基づき、欧州言語共通参照枠(CEFR)の能力記述に合致していることが、疑いの余地なく実証されなければなりません。
予測力(外挿): これは、テストの成績が実社会における能力を測る信頼できる指標であることを示しています。テストに合格した人は、ドイツで留学や就労を成功させるために必要な語学力を備えていることが証明されます。
意思決定の確実性(使用法): この段階では、科学的根拠に基づいた合格基準点が設定されます。これにより、試験の「合格」基準が公平かつ適切であることが保証され、資格のある人が不当に不合格になったり(偽陰性)、知識不足が誤って合格と判定されたり(偽陽性)することがなくなります。
影響評価(結果): 最後に、テスト実施による社会および個人への影響を評価します。テスト手順が長期的に見て学習を促進する肯定的な効果をもたらし、特定のグループの人々(例えば、出身地や母語による)に体系的な不利益が生じないようにします。
Deutschtest.digital の検証引数のアーキテクチャ

以下では、ドイツ語能力評価のための妥当性検証論証の方法論的構造について説明します。妥当性検証論証は常に特定の対象領域、定義された能力レベル、および特定の目的に向けられているため、根拠となる証拠は、テスト結果の意図された解釈と使用に合わせて具体的に構成されなければなりません。以下に示す構造は、妥当性検証論証内の個々の結論(推論)がどのように関連付けられ、結果として得られる記述を科学的に裏付けるためにどのような種類の証拠(裏付け)が必要かを示しています。すべての経験的および統計的証拠を含む完全な妥当性検証論証は、このプレゼンテーションの範囲を超えるため、ここでは対応する証拠文書を例として列挙します。

1 ドメイン定義
主張:このテスト項目は、関連する言語知識とスキルを非常に信頼性が高く正確に評価することを可能にする。求められる言語機能は、対象分野における実際の言語使用を非常によく反映しており、欧州言語共通参照枠(CEFR)で定義されている能力領域に対応している。
カテゴリ Unser Qualitätsanspruch 証拠書類(裏付け)
ドメインの説明 対象グループの関連する言語的ニーズとコミュニケーション状況は、正確かつ完全に特定されている。 対象ドメイン仕様
表現 テスト項目は、必要な内容と認知レベルを適切な割合で網羅することにより、テスト仕様書で定義された領域を適切に表現している。 試験概要/マッピングツール
Relevanz テスト項目は内容的に適切であり、求められる能力レベルに合わせて正確に調整されています。測定対象となる構成概念の一部ではない、不適切な難易度要因は一切含まれていません。 項目レビュ​​ー手順、評価シートを用いた項目評価(CEFRレベルチェックの証明を含む)
Qualitätskontrolle 開発プロセスには、質的な欠陥、曖昧さ、または文化的偏見を示すタスクが必ず修正または破棄されるようにするための体系的な編集管理メカニズムが含まれています。 品目品質管理手順(品目レビュー)

科学的背景

心理測定学および言語テスト理論の文献では、テスト設計図とマッピングツールの使用は、内容妥当性を確保し、対象領域の適切な表現を示すための必須の方法論とされています。教育心理テストの基準では、テスト項目を内容領域にマッピングする論理構造(マッピング)を作成することを明確に推奨しています。

この網羅性を実際に確保するために、アルダーソン(2005)は、テスト仕様を、テストおよび項目の作成者がテストの構成概念妥当性を確立するために従うべき「設計図」として明確に定義している。フルチャーとデイビッドソン(2007)もまた、テスト仕様を文字通り「生成設計図」と呼んでいる。

2 評価
主張:試験結果は、高い測定精度で、参加者の試験におけるパフォーマンスを正確、客観的かつ完璧に要約している。

パート1:管理条件と改ざん防止

Unser Qualitätsanspruch 証拠書類(裏付け)
試験規則は質の高いものであり、厳格に標準化され統一された試験実施を保証する包括的かつ正確なガイドライン、および公平かつ構成要件に準拠した配慮(アクセシビリティ)に関する拘束力のある規則が含まれています。試験監督者は、適用されるガイドラインに従って信頼性の高い認証手順を用いて受験者の身元を明確に確認し、試験環境(室内管理)を継続的に監視することで、替え玉受験や不正な情報交換を構造的に防止します。 試験規則、評価手順ハンドブック - 試験室管理および本人確認
改ざん防止機能を備えた試験環境は、試験が対面式で行われるかデジタル式で行われるかにかかわらず、形式に準拠した制御メカニズム(物理的な監督スタッフ、セキュアブラウザ、リモート監督)を通じて、不正な補助手段へのアクセスを確実に防止し、不正行為の試みを完全に排除します。 物理的および電子的セキュリティ要件のリスト、セキュリティ規則違反時の緊急計画、受験者による不正行為に対する対策

試験参加者の明確な身元確認と試験環境の円滑な監視は、法的にも有効な試験手続きにおける絶対的な必要条件である。組織的な手続きに不備があり、受験者の身体的身元と試験結果を明確に結びつけることができない場合、内容や統計的妥当性に関するその後のすべての主張は無効となる。

パート2とパート3:採点の質、プロトコル、評価者

Unser Qualitätsanspruch 証拠書類(裏付け)
すべての評価方法および結果記録プロセスには、明確な規則と基準が定められており、客観性と手続きの信頼性が確保されています。CEFRの参照レベル(「できること」の記述)に基づき、特定の状況に合わせて調整された評価尺度は、測定対象となる言語能力の有効な指標となります。 評価実施のためのハンドブック、評価仕様ハンドブック:テストソフトウェアの最小要件、生産性評価基準。
採用された評価者は、必要な専門資格(例:関連する大学の学位)と関連する教育経験を有しています。 評価者の資格に関する参考文献
体系的な研修プログラムは、評価者が評価ガイドラインを一貫して正確に適用するために必要なスキルを提供する。 評価者の研修修了証
資格のある専門家による体系的な手動品質管理と妥当性チェック(ヒューマン・イン・ザ・ループ)により、自動評価プロセスの正確性と解答キーの正当性が検証されます。 機械評価の技術的処理精度の証明
試験成績の評価は、試験官個人の厳しさとは無関係であり、特定の課題や特定の集団に対する体系的な偏見からも解放されている。 客観的評価の質の確認(多面的ラッシュ分析)

目標値:適合値は0,5~1,5の範囲。交互作用効果は有意ではない(t ≤ 2,0)。

心理測定学および言語テスト理論の文献では、パフォーマンス評価の妥当性は、標準化された外部基準(基準参照測定)に依拠する必要があるとされている。主観的な基準を排除するためには、評価尺度は確立された理論に基づく参照システムに正確に整合していなければならない。

第4部:実証的品質/統計的整合性

Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値
テスト項目は、言語能力の高い受験者と低い受験者を効果的かつ確実に区別できる十分な識別力を備えている。 統計項目の識別力の証明 ターゲット選択力(r)≥ 0,50(0,30~0,49の値は許容範囲内)。識別指数(D)≥ 0,40。妨害刺激の選択頻度は0より大きい必要があります。
テスト課題の難易度は、対象集団のパフォーマンス範囲全体を適切に網羅している。 適切な項目難易度の証拠 目標とするp値の範囲は0,40~0,59(0,20~0,80が許容範囲)。テスト全体の平均難易度は約0,50。
テスト項目は、関連するサブグループ間で不変的に機能します(性別や母語による偏りはありません)。 テストの公平性の確認(項目間差分関数/DIF) マンテル・ヘンゼル法による項目機能差(DIF)(カテゴリーA:ETS分類による安全)。
3 一般化
主張:テスト結果は、特定のテストバージョンやテスト実施者などのランダムな要因とは明らかに独立しているため、高い信頼性をもって、テスト受験者の実際の安定したパフォーマンスを反映している。

テスト形式とタスク全体にわたる一貫性

Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値
テスト形式間の一貫性: テスト結果は、異なるテストバージョン間で一貫している(レベルの安定性)。 テスト形式の同等性の品質証明(並行テストの信頼性) ターゲット相関 r ≥ 0,90 ( r ≈ 0,80 許容範囲内)。有意差のない t 検定 (p > 0,05)。
タスク間の一貫性: テスト項目は均質である(内的整合性が高い)。 内部の一貫性と均質性の証明 クロンバックのアルファ係数α ≥ 0,90(0,80~0,89が許容範囲)。残りの項目の項目弁別力 ≥ 0,30。

レビュー担当者間の一貫性

Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値
一人の試験官による試験成績の評価は、時間の経過とともに安定しており、一貫性がある(判断の一貫性)。さらに、異なる試験官による評価の間には、厳密さにおいて有意な差は見られない(中立性)。 判断の一貫性と中立性に関する実証的証拠 評価者間比較:有意な平均値の差なし(p > 0,05)。ICCまたはKappa ≥ 0,90(目標値)。
4 宣言
主張:テスト結果は、CEFRのレベル記述で定義されているとおり、言語能力という根底にある概念を高い妥当性をもって反映している。
Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値
表現を構成する: テスト結果の内部構造は、理論的に定義された構成概念(GER)に対応している。 構成概念の次元性に関する実証的証拠(EFA/CFA)。 KMO値 ≥ 0,80。適合度良好値:RMSEA ≤ 0,05、SRMR ≤ 0,08、CFI/TLI ≥ 0,95。
法則ネットワーク: 試験結果は、確立された標準化された試験手順(外部基準)と相関関係にある。 基準妥当性の経験的証拠(外部基準) 強い、有意な相関関係 r ≥ 0,50 (p <0,05)。
5 外挿
主張:言語テストで記録された成績は、現実的な応用状況(例えば、学業や日常生活における職業生活)における受験者の実際の言語能力について、高い予測力をもって妥当な結論を導き出すことを可能にする。
Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値/分析
対象ドメインのパフォーマンス指標: テスト結果は、実際の現場での行動能力と相関関係がある。 同時妥当性を示す文書(教師による評価)/予測妥当性を示す文書(関連分野の専門家による実践的検証) 相関範囲は r 約0,30~0,50。
性能の比較可能性: テスト項目および評価基準は、対象分野における確立された基準に準拠している。 専門家による検証を通じて、基準の妥当性を確認する。 各分野の専門家(AERA、APA、NCMEの基準)との体系的な比較。
真正性と対応関係: 入力される素材と形式は、一般的な実務上の要件に対応しています。 状況の信憑性の確認(入力分析)。 構造的性能の同等性(MANOVA)。全体検定は有意ではない(p > 0,05)。
言語パフォーマンスは、実際のパフォーマンスサンプルと比べて、構造的に大きな逸脱は見られない。 構造的性能の同等性に関する実証的証拠(多変量分散分析)。
テスト参加者は、構成概念に関連した認知的問題解決戦略(推測ではなく真の理解)を適用する。 構成概念に準拠した精神過程の証拠(過程分析)。 -
6 使用
主張:本テストの結果は、CEFRに基づく配置および認定に関して、公正かつ客観的な判断を下すための信頼できる根拠を提供する。さらに、言語教育における的を絞った支援のための貴重な診断的洞察も提供する。
Unser Qualitätsanspruch 証拠書類(裏付け) 心理測定目標値
適合性/有用性: 関係者(大学、講師など)は、この結果が正当な意思決定を行う上で役立つと考えている。 試験結果の実用性を証明する。 総合精度 ≥ 0,90。信頼性指数(リビングストン&ルイス)Φ ≥ 0,70。
決定ルール: 合格基準点は、適切な基準設定手順に基づいて算出されたものです。 評価枠組み - 基準設定手順/カットオフスコア
分類の品質と一貫性: 分類結果は、概ね独立した参照評価と一致している。 分類精度の証明(カットオフスコア)。
解釈可能性とコミュニケーション: 試験結果は関係者にとって明確に解釈可能である。 結果報告書の解釈可能性と有用性の確認。
アプリケーションの忠実度: 意思決定者は、業務において確立された意思決定ルールを一貫して適用する。 申請内容への準拠証明。 -
7 結果
主張:テスト結果の利用は、公平な分類と機会へのアクセスを保証するとともに、教育実践にも良い影響を与えることで、すべての関係者にとって肯定的な結果をもたらす可能性が非常に高い。
Unser Qualitätsanspruch 証拠書類(裏付け)
試験実施によって実際に得られた結果は、意図した効果を実際に達成する一方で、負の副作用は最小限に抑えられている。 試験結果がもたらす影響の証拠(利用者便益およびウォッシュバック効果)
試験参加者の権利、尊厳、および機密データは、厳格なガイドライン(苦情処理手続きを含む)によって保護されています。 異議申し立てガイドライン、情報管理システムマニュアル
このテストの導入は、教育システムに良い波及効果をもたらす(テスト戦略ではなく、スキルに焦点を当てるようになる)。 試験結果がもたらす影響(マクロ的な影響と社会的利益)の証拠

現代のテスト理論では、異議申し立て手続きや情報セキュリティガイドラインの実施は、単なる管理上の行為ではなく、結果妥当性を確保するための必須の方法論的手段とみなされている(メシック、1989年、1995年参照)。規制された仲裁手続きは、構成概念とは無関係な差異を特定するための、必要な質的チェックとして機能する。

🔤 言語