コース: Microsoft Azure AIの基礎知識：Azureでのワークロードと機械学習
AIの透明性を確保する
AI システムは透明性と理解しやすさを 備えているべきです。 重要な関係者はシステムの目的、 その運用方法、及びその限界について、 完全に情報を持つ必要があります。 例えば 銀行のローン委任書や 教育関係での入学決定に使用される 機械モデルを開発する場合、 AI の 役割を明確に伝える必要があります。 関係者はモデルがどのように出力を生成し、 その決定の根拠を知るべきです。 透明性は三つの主要な分野に分けられます。 まず意思決定における システムの明瞭性です。 AI システムの出力が明確であり、 関係者のニーズをサポートしていることを 保証します。 また、システムの意図された使用方法、 その意思決定方法、過度な依存のリスクを 理解することも含まれます。 さらに関係者がシステム出力を適切に 解釈するための評価方法を ドキュメンテーション化することが、 重要です。 次に関係者への情報共有です。 意思決定者にはシステムの能力、 その運用方法およびその限界について 情報を提供する必要があります。 これには新機能用途及び信頼性、安全性、 正確性、性能に関する 新しい情報の更新が含まれます。 最後に AI とのインタラクションの 開示です。 ユーザーにシステムが AI を 使用していることを認識させる必要があり、 出力が AI によって生成されたもので あることや、 AI 支援であることを明確に ラべル付ける必要があります。 「このサービスは AI を使用して 音を生成します。」という ような声明を含めます。 さらにチェックボックスなどの 明示的な同意メカニズムを使用して ユーザーが AI の使用について知らされ それに同意することを確認します。 AI システムの透明性を高めるための 戦略として、システムの機能を説明する 詳細なドキュメンテーションを 提供することがあります。 これにはアルゴリズム、データソース、 意思決定プロセスが含まれ、 関係者がシステムの強みと限界の両方を 理解するのに役立ちます。 Microsoft Research の Interpret ML や Azure Machine Learning の model interoperability 機能などのツールは モデル決定を説明し、透明性を高めるのに 役立ちます。 AI の仕様を簡潔に開示することで、 「このサービスは AI を使用して、 音を生成します」という声明を使い 明確さを確保します。 出力にラべルを付け、ユーザーの 明示的な同意を得るために チェックボックスなどを使用します。 定期的な監査を実施し AI システムの性能や 変更に関する報告を公開することで、 透明性を通じて信頼を構築します。 最後に、開発と展開のプロセス全体で 開発者を巻き込むことが重要です。 ワークショップ、Q&A セッション、 アンケートなどの活動を通じて 多様な視点を考慮することができます。 要するに透明なコミュニケーションと ドキュメンテーションは信頼を醸成し AI システムが責任をもって効果的に 使用されることを確保するために 重要です。
コースをダウンロードして学習しましょう。
ラーニングコースをダウンロードしてオフラインで視聴しましょう。ダウンロードしたコースはLinkedInラーニングのモバイルアプリ (iOSまたはAndroid) で視聴できます。