Illuminate Data Q&A - AIの透明性
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
AIによる機能
Illuminate Data Q&A機能は、ユーザーのプロンプトから生成されるData Q&Aダッシュボードに提示されたデータのAI生成テキスト要約を提供します。AnthologyはAWSと提携し、この機能を提供しています。これは部分的にはAWSがAIの責任ある利用にコミットしているからです。
IlluminateのデータQ&A機能は、以下の生成AIによる機能を提供します:
データの概要と提案の生成 : ダッシュボードに表示されるデータのAI生成テキストの要約は、ユーザのプロンプトに基づいて自動的に作成されます。また、この機能では、データ要求を調整するための代替プロンプトも提案されます。
注記
これらの機能は、Amazon Q / Amazon Bedrockの制限と可用性の対象となり、変更される場合があります。詳細については、関連するリリースノートを確認してください。
重要な事実
質問 | 回答 |
|---|---|
Illuminateのどの機能がAIシステムを使用していますか？ | 上記のデータQ&A機能です。 |
これはサードパーティがサポートするAIシステムですか？ | はい。IlluminateのデータQ&A機能はQuickSightのAmazon Qによって機能しており、QuickSightはAmazon Bedrockを活用しています。Amazon Q in QuickSightは、Amazon Bedrockを通じてAnthropic ClaudeとAmazon Titan (およびAWSが開発した機械学習モデルのブレンド) を使用します。 |
AIシステムはどのように機能しますか？ | イルミネートデータのQ&Aは常にAmazon QuickSight(自然言語処理機能を備えたBIツール)に依存してきました。新しい生成AI機能のために、IlluminateはさらにAmazon Q for QuickSightも活用しています。Amazon Q for QuickSightの助けを借りて、Illuminate Data Q&AはData Q&Aダッシュボードに表示されるデータの要約を自動的に作成します。また、この機能では、データ要求を調整するための代替プロンプトも提案されます。Amazon Qは、Amazon Bedrock内のAnthropic ClaudeとAmazon Titan (および追加のAWS機械学習モデル) を活用して、これらの機能を提供します。要約を作成し、プロンプトを提案するために、Amazon Q in QuickSightは、ダッシュボードのビジュアルからユーザプロンプトと要約データをAPIを介して関連するAWS Bedrockモデルに渡します。 |
AIシステムはどこでホストされていますか？ | Amazon QuickSightとAmazon Bedrockのホスティングは、Amazonによって決定されます。通常、Amazon QuickSightは、Illuminateと同じリージョンで公開されています。Amazon Bedrockは現在、EUと米国で利用できるため、EUと米国のお客様には、それぞれのリージョンが使用されます。生成AIモデルの出力は、IlluminateやQuickSight / BedrockのAmazon Qに永続的に保存されない一時的な要約と代替プロンプトで構成されています。 |
これはオプトイン機能ですか？ | はい。管理者は、教育機関を代表してIlluminateの[設定]ページでオプトインする必要があります。詳細については、「Anthology Illuminate設定」のトピックを参照してください。 |
AIシステムはどのようにトレーニングされていますか？ | Anthologyは、Amazon Bedrockを通じてIlluminate Data Q&A機能を支えるAnthropic ClaudeおよびAmazon Titanモデルのトレーニングには関与していません。これらのモデルはそれぞれAnthropic(Anthropic Claude)とAmazon(Amazon Titan)によって訓練されています。 Anthologyは、当社またはクライアントのデータを使用してこれらのモデルをさらに改良することはありません。 |
クライアントのデータはAIシステムの (再) トレーニングに使用されますか？ | いいえ。Amazonは、公開ドキュメントにおいて、Amazon Bedrock内の大規模言語モデルの再トレーニングのために入力や出力を使用しないことを約束しています。Amazonでは、大規模言語モデルのトレーニング方法に関する情報を、以下の「詳細情報」セクションのリンクで提供しています。データの入出力は、転送中および保存時に暗号化されます。 |
Anthologyは、Illuminate Data Q&Aの提供に関して、どのように個人情報を使用していますか？ | Anthologyは、Illuminate Data Q&Aに関連して収集された情報のみを使用して、Q&Aの提供、維持、支援を行い、契約上の許可がある場合のみ使用します。データプライバシーに対するAnthologyのアプローチの詳細については、トラストセンターをご覧ください。 |
サードパーティがサポートするAIシステムの場合、サードパーティは個人情報をどのように使用しますか？ | Amazon Q for QuickSightからAmazon Bedrockへ渡されるのは、限定的なユーザープロンプトとダッシュボードのビジュアルからの要約データのみです。 AmazonもAmazonのBedrockモデルプロバイダーも、Anthologyのデータや顧客データを用いてAmazon Bedrockモデルの改善を行いません。 Amazon Bedrockのセキュリティとプライバシーに関するデータプライバシー慣行の詳細については、Amazon のドキュメントのAWS AIセキュリティページ、AWS機械学習ブログ、Amazon Q in QuickSightの概要、AWSがAmazon Q in QuickSightを発表 (ブログ記事)、およびAmazon Bedrock のセキュリティとプライバシーページを参照してください。 |
Illuminate Data Q&Aのデザインでアクセシビリティは考慮されていましたか? | IlluminateのデータQ&A機能はAmazon QuickSightを活用しています。これはサードパーティの機能であるため、アクセシビリティはAnthologyではなくAmazonによって考慮されました。Amazonでは、AWS Accessibilityページでアクセシビリティ適合性レポートを提供しています。 |
教育機関への考慮事項と提言
意図された用途
IlluminateデータのQ&Aは、上記の機能をサポートすることを目的としています。これらの機能は、クライアントの講師がデータQ&Aレポートの分析や改善を支援するために提供され、意図されています。
範囲外のユースケース
Illuminate Data Q&Aは現在、生成AIモデルに直接指示できるプロンプト機能や類似の機能を提供していません。このため、意図しない (範囲外の) ユースケースは想定されていません。
信頼できるAI原則の実践
AnthologyとAmazonは、AIの合法的、倫理的、責任ある使用が重要な優先事項であると考えています。このセクションでは、AnthologyとAmazonがAIの合法的、倫理的、責任ある使用に関連するリスクに対処し、 Anthologyの信頼できるAIの原則を実践するためにどのように取り組んできたかについて説明します。また、クライアントが自らAIや導入における倫理的AIリスクの法的レビューを行う際に考慮すべきステップも示唆しています。
透明性と説明可能性
Illuminateの管理設定オプションで、これはAIによる機能であることを明確にしています。
インストラクター向けのユーザーインターフェースでは、Illuminate DataのQ&A機能は明確に「生成的」機能として表示されています。また、教員は、使用前に出力されたテキストをレビューすることが求められます。Illuminate Data Q&A機能によって作成された出力のメタデータは、各クライアントのIlluminate使用レポートに自動生成コンテンツのフィールドとともに公開されます。また、その後インストラクターによって出力が編集されたかどうかも表示されます。
QuickSightにおけるIlluminate Data Q&A機能の動作に関する本文書の情報に加え、Amazonは以下の「追加情報」セクションのリンクでAmazon QおよびAmazon Bedrockに関する追加情報を提供しています。
クライアントには、Illuminate Data Q&AにおけるAI使用について透明性を発揮し、この文書およびここにリンクされた文書の関連情報を適切な講師やその他の関係者に提供することを推奨しています。
信頼性と精度
IlluminateのIlluminate設定ページでは、これはAIによって機能し、不正確または望ましくない出力を生む可能性があることを明確にしており、そのような出力は必ずエンドユーザーが確認すべきだと明記しています。
ユーザーインターフェースでは、ユーザーにテキスト出力の正確性を確認するよう求められます。
「Amazon Bedrockに関するよくある質問」で詳しく説明されているように、出力が不正確であるリスクがあります。Illuminate Data Q&Aの具体的な内容と実装は不正確さを最小限に抑えることを目的としていますが、結果の正確性、偏り、その他の潜在的な問題を検証するのはクライアントの責任です。
ユーザーはQ&Aプロンプトで使われた問題やフレーズを言い換えることで、不正確な出力を簡単に再生成できます。
IlluminateデータのQ&Aに関するコミュニケーションの一環として、クライアントはこの制限の可能性を担当教員に知らせるべきです。
クライアントは、冒頭に記載されているチャネルを使用して、不正確な出力を報告できます。
公平性
大規模言語モデルには、ステレオタイプ化、過剰表現または過小表現、その他の有害なバイアスに関連するリスクが本質的に存在します。
これらのリスクを踏まえ、Illuminate Data Q&A機能は、有害なバイアスに陥りやすい、またはその影響がより大きいユースケースを避けるために慎重に選びました。
それでもなお、出力の一部が有害なバイアスの影響を受ける可能性を排除することはできません。前述の「正確性」の項目にもあるように、教員は成果物のレビューを求められており、これにより有害なバイアスを減らすことができます。
IlluminateデータのQ&Aに関するコミュニケーションの一環として、クライアントはこの制限の可能性を担当教員に知らせるべきです。
クライアントは、冒頭に記載されている連絡先チャネルを使用して、潜在的に有害なバイアスを報告できます。
プライバシーとセキュリティ
上記の「主要事実」セクションで説明されているように、IlluminateデータのQ&Aで使用されるユーザープロンプトと概要データは限られており、Amazonもアクセス可能です。このセクションでは、個人情報の使用に関して当社とAmazonのコミットメントについても説明しています。
Amazonは、Amazon Bedrockのセキュリティとプライバシーのドキュメントで、データプライバシーとセキュリティの慣行とコミットメントについて説明しています。
安全
大規模な言語モデルには、不適切、攻撃的、またはその他の安全でない可能性のある出力のリスクが本質的に存在します。AmazonはこれらのリスクをAmazonのResponsible AIページの制限セクションで説明しています。
これらのリスクを考慮し、Illuminate Data Q&A機能を慎重に選び、安全でない出力が起こりやすい、またはその影響がより大きいユースケースを避けるようしました。
それでもなお、出力の一部が安全でないものになる可能性を排除することはできません。前述の「正確性」セクションで述べたように、インストラクターは出力をレビューすることが求められており、これにより安全でない成果物のリスクを減らすことができます。
IlluminateデータのQ&Aに関するコミュニケーションの一環として、クライアントはこの制限の可能性を担当教員に知らせるべきです。
クライアントは、冒頭に記載されているチャネルを使用して、安全でない可能性のある出力を当社に報告する必要があります。
人による制御
クライアントとそのユーザーの生成AI利用に伴うリスクを最小限に抑えるため、Illuminate Data Q&Aの機能は意図的にクライアントに管理させています。したがって、IlluminateデータのQ&Aはオプトイン機能です。管理者はいつでもIlluminate DataのQ&Aを有効または無効にできます。
さらに、教員は出力を管理できます。つまり、教員は出力をレビューするよう求められ、必要に応じて出力を再生成できます。
IlluminateデータのQ&Aには、学習者や他の個人に法的またはその他重大な影響を及ぼす可能性のある自動意思決定は含まれていません。
クライアントは、Illuminate Data Q&AのQ&AおよびQuickSightの基盤となるAmazon Q&Aの機能と制限を理解し、Illuminate Data Q&A機能を起動する前に、ここに記載された情報リンクを含めてこの文書を慎重に確認することをお勧めします。
価値の整合
大規模言語モデルには、偏った、不適切な、またはAnthologyの価値観やクライアントや学習者の価値観と一致しない出力に関するリスクが本質的に存在します。Amazonは以下の「追加情報」セクションでこれらのリスクを説明しています。
さらに、大規模な言語モデル(広範な目的に機能するあらゆる技術と同様に)は、Anthologyやクライアント、そのエンドユーザー、さらには社会全体の価値観(例えば犯罪活動や有害・不適切な出力の生成など)に合致しないユースケースで誤用されるリスクもあります。
これらのリスクを考慮し、私たちはIlluminate Data Q&A機能を慎重に設計・実装し、出力の不整合のリスクを最小限に抑えています。また、潜在的にリスクの高い機能を意図的に省略しています。
知的財産
大規模言語モデルには、知的財産権の潜在的な侵害に関連するリスクが本質的に存在します。世界中のほとんどの知的財産法は、大規模言語モデルの出現とその使用から生じる問題の複雑さを完全には予測しておらず、適応もしていません。その結果、これらのモデルの使用に伴う知的財産の問題やリスクに対処する明確な法的枠組みや指針は現在存在しません。
最終的には、Illuminate Data Q&Aで生成された結果を、知的財産権侵害の可能性がないか確認するのはクライアントの責任です。
アクセシビリティ
IlluminateデータのQ&Aは、Learnや他の製品全体と同様にアクセシビリティを念頭に置いて設計・開発しました。Illuminate Data Q&Aのリリース前に、意味構造、ナビゲーション、キーボード操作、ラベル、カスタムコンポーネント、画像ワークフローなど、意図的にアクセシビリティを向上させました。今後もAIを活用する際には、アクセシビリティを優先し続けていきます。
IlluminateのデータQ&A機能はAmazon QuickSightを活用しています。AWSでは、AWS Accessibilityページでアクセシビリティ適合性レポートを提供しています。
アカウンタビリティ
Anthologyには、AIの合法的、倫理的、責任ある使用を保証するように設計された信頼できるAIプログラムがあります。明確な内部説明責任と、Illuminate Data Q&Aが提供する機能の体系的な倫理的AIレビューは、このプログラムの重要な柱です。
IlluminateデータのQ&Aを提供するために、Amazonと提携し、QuickSightのAmazon Qを活用しました。AWSはAIの責任ある利用にコミットしています。
クライアントは、AIの合法的、倫理的、責任ある使用を確保するために、社内ポリシー、手順、およびサードパーティのAIアプリケーションのレビューを実装することを検討する必要があります。この情報は、クライアントがIlluminate DataのQ&A生成AI機能のレビューを検討する際に提供されています。
詳細情報
Anthologyの信頼できるAIアプローチ
Amazonの責任あるAIページ
AmazonのBedrock FAQs
AmazonのBedrockセキュリティとプライバシーに関するページ
AmazonのAIセキュリティページ
Amazonの機械学習ブログ
AmazonのQ in QuickSightの概要
AWSがAmazon Q in QuickSightを発表 (ブログ記事)