Illuminate Data Q&A – KI-Transparenz
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
KI-gestützte Funktionalitäten
Die Illuminate Data Q&A-Funktion bietet eine KI-generierte Textzusammenfassung der im Data Q&A-Dashboard präsentierten Daten, die aus dem Benutzerprompt generiert wird. Anthology hat mit AWS zusammengearbeitet, um diese Funktionalität bereitzustellen, unter anderem weil AWS sich dem verantwortungsvollen Einsatz von KI verpflichtet hat.
Die Illuminate Data Q&A-Funktion bietet folgende generative, KI-unterstützte Funktionalitäten:
Datenzusammenfassung und Vorschläge generieren: Eine KI-generierte Textzusammenfassung der auf dem Dashboard angezeigten Daten wird automatisch basierend auf der Eingabeaufforderung des Benutzers erstellt. Die Funktion schlägt auch alternative Eingabeaufforderungen zur Verfeinerung der Datenanforderung vor.
Anmerkung
Diese Funktionen unterliegen den Einschränkungen und der Verfügbarkeit von Amazon Q / Amazon Bedrock und können Änderungen unterliegen. Lesen Sie die entsprechenden Veröffentlichungshinweise für Details.
Wichtige Fakten
Frage | Antwort |
|---|---|
Welche Illuminate-Funktionalitäten nutzen KI-Systeme? | Die oben aufgeführte Data Q&A-Funktion. |
Handelt es sich um ein von Drittanbietern unterstütztes KI-System? | Ja. Die Illuminate Data Q&A-Funktion wird von Amazon Q in QuickSight betrieben, das wiederum Amazon Bedrock nutzt. Amazon Q in QuickSight verwendet Anthropic Claude und Amazon Titan über Amazon Bedrock (sowie eine Mischung aus AWS-entwickelten Machine-Learning-Modellen). |
Wie funktioniert das KI-System? | Das Illuminate Data Q&A hat sich stets auf Amazon QuickSight verlassen (ein BI-Tool mit natürlichen Sprachverarbeitungsfähigkeiten). Für die neuen generativen KI-Funktionen setzt Illuminate zusätzlich auf Amazon Q für QuickSight. Mit Hilfe von Amazon Q for QuickSight erstellt das Illuminate Data Q&A automatisch eine Zusammenfassung der auf dem Data Q&A-Dashboard angezeigten Daten. Die Funktion schlägt auch alternative Eingabeaufforderungen zur Verfeinerung der Datenanforderung vor. Amazon Q nutzt Anthropic Claude und Amazon Titan innerhalb von Amazon Bedrock (plus zusätzliche AWS-Machine-Learning-Modelle), um diese Funktionen bereitzustellen. Um Zusammenfassungen zu erstellen und Eingabeaufforderungen vorzuschlagen, übergibt Amazon Q in QuickSight Benutzeraufforderungen und Zusammenfassungsdaten aus den Dashboard-Visuals über eine API an das entsprechende AWS Bedrock-Modell. |
Wo wird das KI-System gehostet? | Das Hosting von Amazon QuickSight und Amazon Bedrock wird von Amazon festgelegt. Amazon QuickSight ist in der Regel in denselben Regionen wie Illuminate verfügbar. Amazon Bedrock ist derzeit in der EU und den USA verfügbar, sodass unsere Kunden in der EU bzw. in den USA diesen Regionen entsprechen. Die Ausgabe des generativen KI-Modells besteht aus temporären Zusammenfassungen und alternativen Eingabeaufforderungen, die nicht dauerhaft in Illuminate oder Amazon Q in QuickSight/Bedrock gespeichert sind. |
Handelt es sich um eine (optionale) Opt-in-Funktion? | Ja. Administratoren müssen sich im Namen ihrer Institution auf der Seite „Einstellungen“ von Illuminate anmelden. Weitere Informationen finden Sie im Thema „Anthology Illuminate-Einstellungen“. |
Wie wird das KI-System trainiert? | Anthology ist nicht an der Ausbildung der Anthropic Claude- und Amazon-Titan-Modelle beteiligt, die die Illuminate Data Q&A-Funktionen über Amazon Bedrock antreiben. Diese Modelle werden jeweils von Anthropic (Anthropic Claude) und Amazon (Amazon Titan) trainiert. Anthology optimiert diese Modelle nicht weiter mit unseren eigenen Daten oder denen unserer Kunden. |
Werden Kundendaten für das (erneute) Training des KI-Systems verwendet? | Nein. Amazon verpflichtet sich in seiner öffentlichen Dokumentation, keine Eingaben oder Ausgaben für das erneute Training der großen Sprachmodelle innerhalb von Amazon Bedrock zu verwenden. Informationen darüber, wie die großen Sprachmodelle trainiert werden, finden Sie unter den Links im Abschnitt „Weitere Informationen“ weiter unten. Alle Datenein- und -ausgänge werden während der Übertragung und im Ruhezustand verschlüsselt. |
Wie verwendet Anthology personenbezogene Daten im Hinblick auf die Bereitstellung von Data Q&A? | Anthology verwendet die im Zusammenhang mit Illuminate Data Q&A gesammelten Informationen ausschließlich, um die Illuminate Data Q&A bereitzustellen, zu pflegen und zu unterstützen, und wenn wir die vertragliche Genehmigung dazu haben. Weitere Informationen zum Datenschutzansatz von Anthology finden Sie in unserem Trust Center. |
Wie werden personenbezogene Daten im Falle eines von einem Drittanbieter unterstützten KI-Systems verwendet? | Nur begrenzte Benutzereingaben und Zusammenfassungsdaten aus den Dashboard-Visuals werden von Amazon Q für QuickSight an Amazon Bedrock weitergeleitet, um die Funktion bereitzustellen. Weder Amazon noch ein Amazon-Bedrock-Modellanbieter nutzen Anthology- oder Anthology-Kundendaten, um die Amazon Bedrock-Modelle zu verbessern. Weitere Informationen zu den Datenschutzpraktiken in Bezug auf Amazon Bedrock Security and Privacy finden Sie in der Amazon-Dokumentation auf der AWS AI Security Page, im AWS Machine Learning Blog, in der Übersicht über Amazon Q in QuickSight, dem Blogartikel AWS kündigt Amazon Q in QuickSight an und auf der Seite Amazon Bedrock Security and Privacy. |
Wurde Barrierefreiheit bei der Gestaltung der Illuminate Data Q&A berücksichtigt? | Die Illuminate Data Q&A-Funktion nutzt Amazon QuickSight. Da es sich um eine Funktion eines Drittanbieters handelt, wurde die Barrierefreiheit von Amazon und nicht von Anthology berücksichtigt. Amazon stellt Berichte zur Konformität mit der Barrierefreiheit über die AWS-Seiten zur Barrierefreiheit zur Verfügung. |
Überlegungen und Empfehlungen für Institutionen
Vorgesehene Anwendungsfälle
Die Illuminate Data Q&A ist ausschließlich dazu gedacht, die oben genannten Funktionen zu unterstützen. Diese Funktionen werden den Kursleitern unserer Kunden bereitgestellt und sind dafür gedacht, sie bei der Analyse und Verbesserung von Data Q&A-Berichten zu unterstützen.
Anwendungsfälle außerhalb des Anwendungsbereichs
Illuminate Data Q&A bietet derzeit keine Prompt-Funktionalität oder eine ähnliche Funktionalität, die direkt die generativen KI-Modelle anweisen kann. Aus diesem Grund erwarten wir keine unbeabsichtigten (außerhalb des Rahmenbereichs) Anwendungsfall.
Prinzipien für vertrauenswürdige KI in der Praxis
Anthology und Amazon gehen davon aus, dass der rechtmäßige, ethische und verantwortungsvolle Einsatz von KI eine der wichtigsten Prioritäten ist. In diesem Abschnitt wird erläutert, wie Anthology und Amazon daran gearbeitet haben, das entsprechende Risiko für die rechtliche, ethische und verantwortungsvolle Nutzung von KI zu handhaben und die Prinzipien für vertrauenswürdige KI von Anthology umzusetzen. Außerdem werden Schritte vorgeschlagen, die unsere Kunden bei der Durchführung ihrer eigenen KI in Betracht ziehen können, sowie rechtliche Überprüfungen der ethischen KI-Risiken ihrer Implementierung.
Transparenz und Erklärbarkeit
Wir machen in den Illuminate-Verwaltungskonfigurationsoptionen deutlich, dass dies eine KI-unterstützte Funktionalität ist.
In der Benutzeroberfläche für Kursleiter sind die Illuminate Data Q&A-Funktionen klar als "Generative" Funktionalitäten gekennzeichnet. Die Kursleiter werden außerdem gebeten, die Textausgabe vor der Verwendung zu überprüfen. Die Metadaten der durch die Illuminate Data Q&A-Funktionen erzeugten Ausgaben werden im Illuminate-Nutzungsbericht jedes Kunden mit einem Feld für automatisch generierte Inhalte bereitgestellt. Außerdem wird angezeigt, ob die Ausgabe nachträglich vom Kursleiter bearbeitet wurde.
Zusätzlich zu den in diesem Dokument bereitgestellten Informationen darüber, wie die Illuminate Data Q&A-Funktion mit Amazon Q in QuickSight funktioniert, stellt Amazon weitere Informationen zu Amazon Q und Amazon Bedrock in den Links im Abschnitt "Weitere Informationen" unten.
Wir ermutigen unsere Kunden, im Rahmen der Illuminate Data Q&A transparent über den Einsatz von KI zu sein und ihren Kursleitern und anderen Interessengruppen gegebenenfalls die relevanten Informationen aus diesem Dokument und der hier verlinkten Dokumentation zur Verfügung zu stellen.
Zuverlässigkeit und Genauigkeit
Wir machen auf der Illuminate-Einstellungsseite von Illuminate deutlich, dass dies eine KI-unterstützte Funktionalität ist, die ungenaue oder unerwünschte Ausgaben erzeugen kann, und dass diese Ausgaben immer vom Endnutzer überprüft werden sollten.
In der Benutzeroberfläche werden Nutzer gebeten, die Textausgabe auf Genauigkeit zu überprüfen.
Wie in den häufig gestellten Fragen zu Amazon Bedrock beschrieben, besteht das Risiko einer ungenauen Ausgabe. Obwohl die spezifische Natur der Illuminate Data Q&A und unserer Implementierung darauf abzielt, Ungenauigkeiten zu minimieren, liegt es in der Verantwortung unseres Kunden, die Ergebnisse auf Genauigkeit, Verzerrung und andere potenzielle Probleme zu überprüfen.
Ungenaue Ausgaben können vom Benutzer problemlos neu generiert werden, indem die Frage oder der Satz, der in der Eingabeaufforderung verwendet wurde, neu formuliert wird.
Im Rahmen ihrer Kommunikation bezüglich der Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese mögliche Einschränkung aufmerksam machen.
Kunden können uns jede unzutreffende Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Fairness
Große Sprachmodelle bergen von Natur aus Risiken in Bezug auf Stereotypisierung, Über-/Unterrepräsentation und andere Formen unerwünschter Voreingenommenheit.
Angesichts dieser Risiken haben wir die Illuminate Data Q&A-Funktionen sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für schädliche Verzerrungen sein könnten oder deren Auswirkungen größer sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe durch unerwünschte Voreingenommenheit beeinträchtigt wird. Wie oben unter "Genauigkeit" erwähnt, werden Kursleiter gebeten, die Ergebnisse zu überprüfen, was helfen kann, schädliche Vorurteile zu verringern.
Im Rahmen ihrer Kommunikation bezüglich der Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese mögliche Einschränkung aufmerksam machen.
Kunden können uns potenziell schädigende Voreingenommenheit über die in der Einleitung aufgeführten Kontaktkanäle melden.
Datenschutz und Sicherheit
Wie im Abschnitt "Key Facts" oben beschrieben, werden für die Illuminate Data Q&A nur begrenzte Benutzereingaben und Zusammenfassungsdaten verwendet, die für Amazon zugänglich sind. Der Abschnitt beschreibt auch unser und Amazons Engagement bezüglich der Nutzung aller persönlichen Informationen.
Amazon beschreibt seine Datenschutz- und Sicherheitspraktiken und -verpflichtungen in der Dokumentation Amazon Bedrock Security and Privacy.
Datenschutz
Große Sprachmodelle bergen naturgemäß das Risiko von Ausgaben, die unangemessen, anstößig oder anderweitig unerwünscht sein können. Amazon beschreibt diese Risiken im Abschnitt Einschränkungen auf Amazons Responsible AI Page.
Angesichts dieser Risiken haben wir die Illuminate Data Q&A-Funktionen sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unsichere Ergebnisse sind oder deren Auswirkungen größer sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe unerwünscht sein kann. Wie oben im Abschnitt "Genauigkeit" erwähnt, werden Kursleiter gebeten, die Ergebnisse zu überprüfen, was das Risiko unsicherer Ergebnisse weiter verringern kann.
Im Rahmen ihrer Kommunikation bezüglich der Illuminate Data Q&A sollten Kunden ihre Kursleiter auf diese mögliche Einschränkung aufmerksam machen.
Kunden sollten uns jede potenziell unerwünschte Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Persönliche Kontrolle
Um das Risiko der Nutzung generativer KI für unsere Kunden und deren Nutzer zu minimieren, haben wir die Kunden bewusst in die Kontrolle über die Funktionen der Illuminate Data Q&A übertragen. Das Illuminate Data Q&A ist daher eine Opt-in-Funktion. Administratoren können die Illuminate Data Q&A jederzeit aktivieren oder deaktivieren.
Darüber hinaus haben Kursleiter die Kontrolle über die Ausgabe. Dies bedeutet, dass sie aufgefordert werden, die Ausgabe zu überprüfen und die Ausgabe nach Bedarf neu generieren können.
Die Illuminate Data Q&A enthält keine automatisierten Entscheidungsfindungen, die rechtliche oder sonstige bedeutende Auswirkungen auf Lernende oder andere Personen haben könnten.
Wir empfehlen unseren Kunden, dieses Dokument, einschließlich der hier bereitgestellten Informationslinks, sorgfältig zu prüfen, um sicherzustellen, dass sie die Fähigkeiten und Einschränkungen der Illuminate Data Q&A sowie der zugrundeliegenden Amazon Q&A in QuickSight verstehen, bevor sie die generative KI-Funktion Illuminate Data Q&A aktivieren.
Werteausrichtung
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf Ergebnisse, die voreingenommen oder unangemessen sind oder anderweitig nicht mit den Werten von Anthology oder den Werten unserer Kunden und Lernenden übereinstimmen. Amazon beschreibt diese Risiken auf den verlinkten Webseiten im Abschnitt "Weitere Informationen" unten.
Darüber hinaus bergen große Sprachmodelle (wie jede Technologie, die breite Zwecke erfüllt) das Risiko, dass sie für Anwendungsfälle missbraucht werden können, die nicht mit den Werten von Anthology, unseren Kunden oder deren Endnutzern und denen der Gesellschaft im weiteren Sinne übereinstimmen (zum Beispiel für kriminelle Aktivitäten oder zur Erzeugung schädlicher oder anderweitig unangemessener Ausgaben).
Angesichts dieser Risiken haben wir unsere Illuminate Data Q&A-Funktionen sorgfältig entworfen und implementiert, um das Risiko von fehlgeleiteten Ergebnissen zu minimieren. Wir haben auch bewusst auf potenziell risikoreiche Funktionalitäten verzichtet.
Geistiges Eigentum
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf eine mögliche Verletzung von geistigen Eigentumsrechten. Die meisten Gesetze zum Schutz des geistigen Eigentums rund um den Globus haben das Aufkommen großer Sprachmodelle und die Komplexität der Probleme, die sich aus ihrer Verwendung ergeben, nicht vollständig antizipiert oder sich daran angepasst. Infolgedessen gibt es derzeit keinen klaren Rechtsrahmen oder Leitfaden, der sich mit den Fragen des geistigen Eigentums und den Risiken befasst, die sich aus der Verwendung dieser Modelle ergeben.
Letztlich liegt es in der Verantwortung unseres Kunden, die Ergebnisse dieser Illuminate Data Q&A auf mögliche Verletzungen von geistigen Eigentumsrechten zu überprüfen.
Barrierefreiheit
Wir haben die Illuminate Data Q&A mit Blick auf die Barrierefreiheit entworfen und entwickelt, genau wie wir es bei Learn und unseren anderen Produkten tun. Vor der Veröffentlichung der Illuminate Data Q&A haben wir gezielt die Barrierefreiheit der semantischen Struktur, der Navigation, der Tastatursteuerung, der Beschriftungen, benutzerdefinierter Komponenten und der Bild-Arbeitsabläufe verbessert, um nur einige Bereiche zu nennen. Wir werden der Barrierefreiheit auch in Zukunft Priorität einräumen, wenn wir KI nutzen.
Die Illuminate Data Q&A-Funktion nutzt Amazon QuickSight. AWS stellt Berichte zur Konformität mit der Barrierefreiheit über die AWS-Seiten zur Barrierefreiheit zur Verfügung.
Verantwortlichkeit
Anthology verfügt über ein vertrauenswürdiges KI-Programm, das den rechtlichen, ethischen und verantwortungsvollen Einsatz von KI sicherstellen soll. Klare interne Verantwortlichkeit und eine systematische ethische KI-Überprüfung von Funktionen wie die durch die Illuminate Data Q&A bereitgestellten Aspekte sind zentrale Säulen des Programms.
Um das Illuminate Data Q&A anzubieten, haben wir mit Amazon zusammengearbeitet, um das Amazon Q in QuickSight zu nutzen. AWS verpflichtet sich zum verantwortungsvollen Einsatz von KI.
Kunden sollten die Implementierung interner Richtlinien, Verfahren und die Überprüfung von KI-Anwendungen von Drittanbietern in Betracht ziehen, um ihre eigene rechtliche, ethische und verantwortungsvolle Nutzung von KI sicherzustellen. Diese Informationen werden bereitgestellt, um die Bewertung der generativen KI-Funktionen von Illuminate Data Q&A durch unsere Kunden zu unterstützen.
Weitere Informationen
Anthologys vertrauenswürdiger Ansatz für KI
Amazons Responsible AI Page
Amazons Bedrock FAQs
Amazons Seite zu Bedrock Security and Privacy
Amazons KI-Sicherheitsseite
Amazons Machine Learning Blog
Amazons Übersicht über Q in QuickSight
AWS kündigt Amazon Q in QuickSight an (Blogartikel)