Regulation (EU) 2024/1689 ／ 第III章 — 高リスクAIシステム ／ 第2節 — 高リスクAIシステムの要件
第10条 データ及びデータガバナンス
Article 10 — Data and data governance
1. データによるAIモデルの訓練を伴う技術を利用する高リスクAIシステムは、本条第2項、第3項及び第4項並びに第4a条第1項に規定する品質基準を満たす訓練、検証及び試験のデータセットを使用する場合には常にそれにもとづいて開発されなければならない。
1. High-risk AI systems which make use of techniques involving the training of AI models with data shall be developed on the basis of training, validation and testing data sets that meet the quality criteria referred to in paragraphs 2, 3 and 4 of this Article and in Article 4a(1) whenever such data sets are used.
2. 訓練、検証及びテストのデータセットは、高リスクAIシステムの意図された目的に適したデータガバナンス及びデータ管理の慣行の対象とならなければならない。当該慣行は、特に次の事項に関するものでなければならない。
2. Training, validation and testing data sets shall be subject to data governance and management practices appropriate for the intended purpose of the high-risk AI system. Those practices shall concern in particular:
(a)関連する設計上の選択
(a)the relevant design choices;
(b)データ収集のプロセス及びデータの出所、並びに個人データの場合にはデータ収集の当初の目的
(b)data collection processes and the origin of data, and in the case of personal data, the original purpose of the data collection;
(c)アノテーション、ラベル付け、クレンジング、更新、拡充及び集約などの関連するデータ準備の処理作業
(c)relevant data-preparation processing operations, such as annotation, labelling, cleaning, updating, enrichment and aggregation;
(d)特にデータが測定し表すとされる情報に関する前提の策定
(d)the formulation of assumptions, in particular with respect to the information that the data are supposed to measure and represent;
(e)必要なデータセットの利用可能性、量及び適合性の評価
(e)an assessment of the availability, quantity and suitability of the data sets that are needed;
(f)特にデータの出力が将来の運用の入力に影響を与える場合に、人の健康及び安全に影響を与え、基本的権利に悪影響を及ぼし、又は連合法の下で禁止される差別につながるおそれのある潜在的なバイアスの観点からの検討
(f)examination in view of possible biases that are likely to affect the health and safety of persons, have a negative impact on fundamental rights or lead to discrimination prohibited under Union law, especially where data outputs influence inputs for future operations;
(g)(f)に従って特定された潜在的なバイアスを検出し、防止し、及び軽減するための適切な措置
(g)appropriate measures to detect, prevent and mitigate possible biases identified according to point (f);
(h)本規則への適合を妨げる関連するデータの欠落又は不備の特定、及び当該欠落又は不備にどのように対処できるか
(h)the identification of relevant data gaps or shortcomings that prevent compliance with this Regulation, and how those gaps and shortcomings can be addressed.
3. 訓練、検証及びテストのデータセットは、意図された目的に照らして、関連性があり、十分に代表的であり、可能な限り誤りがなく、完全なものでなければならない。当該データセットは、該当する場合には高リスクAIシステムの使用が意図される対象となる者又は集団に関するものを含め、適切な統計的特性を有しなければならない。データセットのこれらの特性は、個々のデータセットの水準で、又はその組合せの水準で満たすことができる。
3. Training, validation and testing data sets shall be relevant, sufficiently representative, and to the best extent possible, free of errors and complete in view of the intended purpose. They shall have the appropriate statistical properties, including, where applicable, as regards the persons or groups of persons in relation to whom the high-risk AI system is intended to be used. Those characteristics of the data sets may be met at the level of individual data sets or at the level of a combination thereof.
4. データセットは、意図された目的が必要とする範囲で、高リスクAIシステムの使用が意図される特定の地理的、文脈的、行動的又は機能的な環境に特有の特性又は要素を考慮しなければならない。
4. Data sets shall take into account, to the extent required by the intended purpose, the characteristics or elements that are particular to the specific geographical, contextual, behavioural or functional setting within which the high-risk AI system is intended to be used.