AI Alt Text Assistant
Hinweis zur Transparenz
Der rechtmäßige, ethische und verantwortungsvolle Einsatz von künstlicher Intelligenz (KI) hat für Anthology höchste Priorität. Aus diesem Grund haben wir ein Programm für vertrauenswürdige KI entwickelt und implementiert. Informationen zu unserem Programm und dem allgemeinen Ansatz für vertrauenswürdige KI finden Sie in unserem Trust Center; weitere Informationen zu generativen KI-Funktionen in unserer Liste generativer KI-Funktionen.
Im Rahmen unserer Prinzipien für vertrauenswürdige KI verpflichten wir uns zu Transparenz, Erklärbarkeit und Rechenschaftspflicht. Diese Seite soll die notwendige Transparenz und Erklärungen bereitstellen, um unseren Kunden bei der Implementierung des AI Alt Text Assistant zu helfen. Wir empfehlen Administratoren, diese Seite sorgfältig zu lesen und sicherzustellen, dass die Kursleiter die folgenden Überlegungen und Empfehlungen kennen, bevor sie die Funktionen des AI Alt Text Assistant für Ihre Institution aktivieren.
So erreichen Sie uns:
Wenn Sie Fragen oder Feedback zu unserem allgemeinen Ansatz für vertrauenswürdige KI haben oder wissen möchten, wie wir diese Seite für unsere Kunden noch hilfreicher gestalten können, senden Sie uns bitte eine E-Mail an trustworthyai@Anthology.com.
Für Fragen oder Feedback zur Funktionalität oder Ausgabe des AI Alt Text Assistenten senden Sie bitte ein Support-Ticket.
KI-gestützte Funktionalitäten
Der KI-Alt-Text-Assistent bietet Kursleitern Vorschläge für alternative Texte für Bilder, die in ihren Online-Kursen über den Arbeitsablauf Ally Kursleiter-Feedback verwendet werden. Er soll Kursleiter inspirieren und die Korrekturen der Barrierefreiheit effizienter machen.
Anthology hat sich mit AWS zusammengetan, um das KI-Modell von Ally zu aktualisieren, um noch wirkungsvollere Vorschläge zu machen, und um Bildbeschreibungsvorschläge für komplexere Inhalte zu generieren, einschließlich STEM, Diagramme/Grafiken, Text in Bildern und handgeschriebene Bilder. Diese Funktion wird von Claude, einem Sprachmodell von Anthropic, über AWS Bedrock unterstützt. Wenn Ihre Institution in Kanada ansässig ist, verwendet der Assistent das neuere Modell Claude 3 Sonnet. Überall sonst wird Claude 3.5 Sonnet verwendet, es sei denn, dieses Modell ist nicht verfügbar. In diesem Fall wird standardmäßig das Anthropic-Modell Claude 3 Sonnet oder Claude 3 Haiku verwendet. Diese Auswahl basiert darauf, was AWS Bedrock in jeder Region zur Verfügung stellt.
Der AI Alt Text Assistant bietet die folgenden generativen, KI-gestützten Funktionen:
Generieren Sie einen alternativen Text für Bilder. Es wird ein alternativer Text im Ally Kursleiter-Feedback vorgeschlagen, wenn Kursleiter Bilder ohne alternativen Text korrigieren.
Wichtig
Diese Funktionen unterliegen den Einschränkungen und der Verfügbarkeit des AWS Bedrock Service und können sich ändern. Bitte lesen Sie die entsprechenden Versionshinweise für Details.
Wichtige Fakten
Frage | Antwort |
|---|---|
Welche Ally-Funktionalitäten nutzen KI-Systeme? | Alternativtextvorschlag über KI im Fenster „Ally-Kursleiterfeedback“, wenn ein Bild von Ally markiert wurde, weil es keinen Alternativtext enthält. |
Handelt es sich um ein von Drittanbietern unterstütztes KI-System? | Ja. Wir verwenden Claude, ein von Anthropic entwickeltes Modell, das über AWS Bedrock angeboten wird. Institutionen in Kanada verwenden Anthropic Claude 3 Sonnet, während andere Regionen Claude Sonnet 3.5 verwenden, je nachdem, was in der jeweiligen AWS-Region unterstützt wird. Wenn Claude Sonnet 3.5 nicht verfügbar ist, verwenden wir standardmäßig Claude 3 Sonnet (in den USA) oder Claude 3 Haiku (in der EU) als Backup-Option. |
Wie funktioniert das KI-System? | Der KI-Alt-Text-Assistent verwendet Claude-Modelle von Anthropic über AWS Bedrock, um automatisch Alt-Text-Vorschläge zu generieren. Je nach Standort Ihrer Institution kann dies Anthropic Claude 3 Sonnet (in Kanada) oder Claude Sonnet 3.5 oder Claude 3 Haiku (in anderen Regionen) sein. Dies wird erreicht, indem das Bild verwendet wird, um einen alternativen Text zu generieren, der über das AWS SDK gesendet wird. Wir haben auch die Möglichkeit hinzugefügt, kontextbezogene Aufforderungen zu senden, die auf dem umgebenden Textinhalt basieren, wenn ein Bild in ein Rich-Content-Element eingebettet ist. Es werden keine weiteren Informationen verwendet (z. B. Kurstitel, Kursbeschreibung). Bilder werden nicht zum Trainieren der AWS Bedrock-Modelle verwendet, und Bedrock generiert die Ausgabe auf der Grundlage jedes Bildes, das in den KI-Alt-Text-Assistent hochgeladen wird. |
Wo wird das KI-System gehostet? | Anthology verwendet derzeit mehrere AWS-Instanzen für Amazon Bedrock, je nach Verfügbarkeit der AWS-Region. AWS bietet diese regionale Verfügbarkeit für das derzeit von Ally verwendete Amazon Bedrock-Modell (Claude Sonnet 3.5, Claude 3 Sonnet, Claude 3 Haiku) unter Modellunterstützung nach AWS-Region in Amazon Bedrock. Gelegentlich nutzen wir Ressourcen an anderen Standorten, wie z. B. US East, um unseren Kunden die beste Verfügbarkeitsoption für AWS Bedrock zu bieten, wenn eine bestimmte Region nicht verfügbar ist. Alle vom AI Alt Text Assistant generierten Client-Ausgaben werden in der vorhandenen Ally-Datenbank jedes Clients gespeichert, die von Anthology verwaltet wird. |
Handelt es sich um eine (optionale) Opt-in-Funktion? | Ja. Administratoren müssen den AI Alt Text Assistant in den LMS Ally-Konfigurationsoptionen aktivieren. Wählen Sie „Generierung von alternativen Beschreibungen für Bilder durch KI“ auf der Registerkarte „Funktionen“ aus. Administratoren können diese Funktion jederzeit aktivieren oder deaktivieren. |
Wie wird das KI-System trainiert? | Anthology ist nicht an der Schulung des Anthropic-Modells beteiligt, das die KI-Alttext-Assistent-Funktionen über Amazon Bedrock betreibt. Diese Modelle werden von Anthropic (Anthropic Claude) trainiert. Anthology nimmt keine weitere Feinabstimmung der AWS Bedrock-Modelle anhand unserer eigenen Daten oder der Daten unserer Kunden vor. |
Werden Kundendaten für das (erneute) Training des KI-Systems verwendet? | Nein. Amazon verpflichtet sich in seiner öffentlichen Dokumentation, keine Eingaben oder Ausgaben für das Training der großen Sprachmodelle in Amazon Bedrock zu verwenden. Amazon bietet Informationen darüber, wie die großen Sprachmodelle trainiert werden, unter den Links im Abschnitt „Weitere Informationen“ unten. Alle Dateneingaben und -ausgaben werden während der Übertragung und im Ruhezustand verschlüsselt. |
Wie verwendet Anthology Ally personenbezogene Daten im Hinblick auf die Bereitstellung des KI-Alternativtext-Assistent-Systems? | Anthology Ally verwendet die im Zusammenhang mit dem KI-Alternativtext-Assistenten erfassten Bilder ausschließlich zur Bereitstellung, Wartung und Unterstützung des KI-Alternativtext-Assistenten. Weitere Informationen zum Datenschutzansatz von Anthology finden Sie im Trust Center von Anthology. |
Wie werden personenbezogene Daten im Falle eines KI-Systems, das von Dritten unterstützt wird, von diesen Dritten verwendet? | Anthology Ally verwendet die Bilder und/oder Kontextdaten in Rich Content, die ein Bild umgeben und in Verbindung mit dem KI-Alttext-Assistenten gesammelt werden, nur zur Bereitstellung, Wartung und Unterstützung des KI-Alttext-Assistenten. Weitere Informationen über den Ansatz von Anthology zum Datenschutz finden Sie im Anthology Trust Center. Für diese Funktion werden nur Bilder und/oder kontextbezogene Daten in Rich Content, der ein Bild umgibt, verwendet. Es werden keine weiteren Informationen mit AWS Bedrock geteilt. Weder Amazon noch ein Amazon Bedrock-Modellanbieter verwenden Anthology-Daten oder Anthology-Kundendaten, um die Amazon Bedrock-Modelle zu verbessern. Weitere Informationen über die Datenschutzpraktiken in Bezug auf Amazon Bedrock Security and Privacy finden Sie in der Amazon-Dokumentation auf der AWS AI-Sicherheitsseite, dem AWS-Machine-Learning-Blog und der Seite Amazon Bedrock Security and Privacy. |
Wurde die Barrierefreiheit bei der Gestaltung des KI-Alternativtext-Systems berücksichtigt? | Ja, unsere Experten für Barrierefreiheit haben mit Produktteams zusammengearbeitet, um Designs zu überprüfen, wichtige Überlegungen zur Barrierefreiheit zu kommunizieren und die neuen Funktionen speziell im Hinblick auf Barrierefreiheit zu testen. Auch in Zukunft werden wir Barrierefreiheit als integralen Bestandteil unseres Konzepts der vertrauenswürdigen KI betrachten. |
Überlegungen und Empfehlungen für Institutionen
Vorgesehene Anwendungsfälle
Der AI Alt Text Assistant ist nur dazu gedacht, die oben aufgeführten Funktionalitäten zu unterstützen. Diese Funktionen werden den Kursleitern unserer Kunden zur Verfügung gestellt und sind für diese vorgesehen, um sie bei der Behebung von Problemen mit der Barrierefreiheit von Bildern zu unterstützen, die von Ally gemeldet wurden.
Anwendungsfälle außerhalb des Anwendungsbereichs
Der AI Alt Text Assistant ist nicht dafür gedacht und garantiert auch nicht, dass jedes Bild mit einem perfekten Alternativtext verfügbar ist, denn es obliegt dem Kursleiter, den Alternativtext auf der Grundlage des Kontextes des Inhalts im Kurs anzupassen oder zu genehmigen.
Prinzipien für vertrauenswürdige KI in der Praxis
Anthology und Amazon sind der Ansicht, dass die rechtmäßige, ethische und verantwortungsvolle Nutzung von KI eine wichtige Priorität ist. In diesem Abschnitt wird erläutert, wie Anthology und Amazon daran gearbeitet haben, die anwendbaren Risiken für den rechtmäßigen, ethischen und verantwortungsvollen Einsatz von KI anzugehen und die Anthology-Grundsätze für vertrauenswürdige KI umzusetzen. Er schlägt auch Schritte vor, die unsere Kunden in Betracht ziehen können, wenn sie ihre eigenen KI- und Rechtsprüfungen der ethischen KI-Risiken ihrer Implementierung vornehmen.
Transparenz und Erklärbarkeit
Wir machen in den Konfigurationsoptionen der Ally-Administration deutlich, dass es sich um eine KI-gestützte Funktionalität handelt
In der Benutzeroberfläche für Kursleiter sind die Funktionen des AI Alt Text Assistant eindeutig als „generative“ Funktionen gekennzeichnet. Die Kursleiter werden außerdem gebeten, die Textausgabe vor der Verwendung zu überprüfen. · Die Metadaten der Ausgabe, die von den Funktionen des AI Alt Text Assistant erstellt wurden, werden im Ally-Nutzungsbericht jedes Clients mit einem Feld für automatisch generierte Inhalte angezeigt. Außerdem wird angezeigt, ob die Ausgabe nachträglich vom Kursleiter bearbeitet wurde.
Das Modell, das hinter dem KI-Alttext-Assistenten steht, kann je nach Standort Ihrer Institution variieren. In Kanada verwendet der Assistent das Modell Claude 3 Sonnet, das neuere Funktionen bietet. Überall sonst verwendet er Claude 3.5 Sonnet, es sei denn, dieses Modell ist nicht verfügbar. In diesem Fall verwenden wir standardmäßig Claude 3 Sonnet oder Claude 3 Haiku. Diese Wahl basiert darauf, was AWS Bedrock in jeder Region zur Verfügung stellt.
Wir ermutigen unsere Kunden, den Einsatz von KI innerhalb des AI Alt Text Assistant transparent zu machen und ihren Kursleitern und anderen Interessengruppen gegebenenfalls die relevanten Informationen aus diesem Dokument und der hierin verlinkten Dokumentation zur Verfügung zu stellen.
Zuverlässigkeit und Genauigkeit
In den Konfigurationsoptionen für die Ally-Verwaltung und in den Nutzungsbedingungen weisen wir darauf hin, dass es sich hierbei um eine KI-gestützte Funktion handelt, die zu ungenauen oder unerwünschten Ergebnissen führen kann, und dass solche Ergebnisse stets vom Kursleiter überprüft werden sollten.
In der Benutzeroberfläche werden die Kursleiter aufgefordert, die Textausgabe auf Richtigkeit zu überprüfen.
Wie in den Amazon Bedrock-FAQs beschrieben, besteht das Risiko einer ungenauen Ausgabe. Obwohl die spezifische Art des KI-Alttext-Assistenten und unsere Implementierung darauf abzielen, Ungenauigkeiten zu minimieren, liegt es in der Verantwortung des Kunden, die Ausgabe auf Genauigkeit, Verzerrungen und andere potenzielle Probleme zu überprüfen.
Benutzer können ungenaue Ausgaben leicht korrigieren, indem sie die in der Frage- und Antwortaufforderung verwendete Frage oder den Satz neu formulieren.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden können uns jede unzutreffende Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Fairness
Große Sprachmodelle bergen von Natur aus Risiken in Bezug auf Stereotypisierung, Über-/Unterrepräsentation und andere Formen unerwünschter Voreingenommenheit.
Angesichts dieser Risiken haben wir die Funktionen des AI Alt Text Assistant sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Voreingenommenheit sind oder bei denen die Auswirkungen einer solchen Voreingenommenheit signifikanter sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe durch unerwünschte Voreingenommenheit beeinträchtigt wird. Wie oben unter „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ergebnisse zu überprüfen, was dazu beitragen kann, unerwünschte Voreingenommenheit zu reduzieren.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden können uns potenziell schädigende Voreingenommenheit über die in der Einleitung aufgeführten Kontaktkanäle melden.
Datenschutz und Sicherheit
Wie im Abschnitt „Wichtigste Fakten“ oben beschrieben, wird nur das Bild für den KI-Alt-Text-Assistenten verwendet und ist für Amazon zugänglich. Der Abschnitt beschreibt auch unsere und Amazons Verpflichtung hinsichtlich der Verwendung personenbezogener Daten.
Amazon beschreibt seine Datenschutz- und Sicherheitspraktiken sowie Verpflichtungen in der Dokumentation zu Amazon Bedrock Sicherheit und Datenschutz.
Datenschutz
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf eine voreingenommene, unangemessene oder anderweitig nicht mit den Werten von Blackboard oder den Werten unserer Kunden und Lernenden übereinstimmende Ausgabe. Amazon beschreibt diese Risiken auf den verlinkten Websites im Abschnitt „Weitere Informationen“ weiter unten.
Angesichts dieser Risiken haben wir die Funktionen des AI Alt Text Assistant sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Ausgaben sind oder bei denen die Auswirkungen solcher Ausgaben erheblicher sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe unerwünscht sein kann. Wie oben unter „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ausgabe zu überprüfen, was dazu beitragen kann, das Risiko unerwünschter Ausgaben weiter zu verringern.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden sollten uns jede potenziell unerwünschte Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Persönliche Kontrolle
Um das Risiko im Zusammenhang mit dem Einsatz generativer KI für unsere Kunden und deren Nutzer zu minimieren, geben wir unseren Kunden bewusst die Kontrolle über die Funktionalitäten des AI Alt Text Assistant. Der AI Alt Text Assistant ist daher eine optionale Funktion. Administratoren können den AI Alt Text Assistant jederzeit aktivieren oder deaktivieren.
Darüber hinaus haben Kursleiter die Kontrolle über die Ausgabe. Dies bedeutet, dass sie aufgefordert werden, die Textausgabe zu überprüfen und die Textausgabe nach Bedarf bearbeiten können.
Der AI Alt Text Assistant enthält keine automatisierte Entscheidungsfindung, die rechtliche oder anderweitig erhebliche Auswirkungen auf Lernende oder andere Personen haben könnte.
Wir empfehlen unseren Kunden, dieses Dokument und die darin enthaltenen Links sorgfältig zu lesen, um sicherzustellen, dass sie die Möglichkeiten und Grenzen des AI Alt Text Assistant und des zugrundeliegenden Amazon Bedrock verstehen, bevor die Funktion AI Alt Text Assistant genutzt wird.
Werteausrichtung
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf voreingenommene, unangemessene oder anderweitig nicht mit den Werten von Anthology oder den Werten unserer Kunden und Lernenden übereinstimmende Ausgaben. Amazon beschreibt diese Risiken weiter unten auf den verlinkten Websites im Abschnitt „Weitere Informationen“.
Darüber hinaus bergen große Sprachmodelle (wie jede Technologie, die breit gefächerten Zwecken dient) das Risiko, dass sie im Allgemeinen für Anwendungsfälle missbraucht werden können, die nicht mit den Werten der Anthology, unserer Kunden oder ihrer Endnutzer und denen der Gesellschaft im Allgemeinen übereinstimmen (z. B. für kriminelle Aktivitäten, um schädliche oder anderweitig unangemessene Ergebnisse zu erzeugen).
Angesichts dieser Risiken haben wir unsere Funktionen des AI Alt Text Assistant sorgfältig so konzipiert und implementiert, dass das Risiko einer falsch ausgerichteten Ausgabe minimiert wird. Zum Beispiel haben wir uns auf Funktionen für Kursleiter und nicht für Lernende konzentriert. Wir haben auch bewusst auf potenziell risikoreiche Funktionalitäten verzichtet.
Geistiges Eigentum
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf eine mögliche Verletzung von geistigen Eigentumsrechten. Die meisten Gesetze zum Schutz des geistigen Eigentums rund um den Globus haben das Aufkommen großer Sprachmodelle und die Komplexität der Probleme, die sich aus ihrer Verwendung ergeben, nicht vollständig antizipiert oder sich daran angepasst. Infolgedessen gibt es derzeit keinen klaren Rechtsrahmen oder Leitfaden, der sich mit den Fragen des geistigen Eigentums und den Risiken befasst, die sich aus der Verwendung dieser Modelle ergeben.
Letztendlich liegt es in der Verantwortung unseres Kunden, die von diesem AI Alt Text Assistant generierten Ergebnisse auf mögliche Verletzungen von geistigen Eigentumsrechten zu überprüfen.
Barrierefreiheit
Bei der Konzeption und Entwicklung des AI Alt Text Assistant standen die Barrierefreiheit im Vordergrund, wie wir es auch bei Learn und unseren anderen Produkten tun. Vor der Veröffentlichung des AI Alt Text Assistant haben wir gezielt die Barrierefreiheit der semantischen Struktur, der Navigation, der Tastatursteuerelemente, der Beschriftungen, der benutzerdefinierten Komponenten und der Bild-Workflows verbessert, um nur einige Bereiche zu nennen. Wir werden der Barrierefreiheit auch in Zukunft Priorität einräumen, wenn wir KI nutzen.
Die Funktion AI Alt Text Assistant nutzt Amazon Bedrock. AWS stellt Berichte zur Konformität mit der Barrierefreiheit über die AWS-Seiten zur Barrierefreiheit bereit.
Verantwortlichkeit
Anthology verfügt über ein vertrauenswürdiges KI-Programm, das den rechtlichen, ethischen und verantwortungsvollen Einsatz von KI sicherstellen soll. Eine klare interne Verantwortlichkeit und die systematische ethische Überprüfung der KI oder Funktionalitäten, wie sie der KI-Alternativtext-Assistent bietet, sind wichtige Säulen des Programms.
Zur Bereitstellung des KI-Alttext-Assistenten sind wir eine Partnerschaft mit Amazon eingegangen, um Amazon Bedrock zu nutzen. AWS setzt sich für den verantwortungsvollen Einsatz von KI ein.
Kunden sollten die Implementierung interner Richtlinien, Verfahren und die Überprüfung von KI-Anwendungen von Drittanbietern in Betracht ziehen, um ihre eigene rechtliche, ethische und verantwortungsvolle Nutzung von KI sicherzustellen. Diese Informationen werden bereitgestellt, um unsere Kunden bei der Überprüfung des AI Alt Text Assistant zu unterstützen.
Weitere Informationen
Der Ansatz für vertrauenswürdige KI von Anthology
Liste der generativen KI-Funktionen von Anthology
Amazons Seite zu Bedrock-Sicherheit und Datenschutz
Amazons KI-Sicherheitsseite
Amazons Blog für maschinelles Lernen
Amazon’s Machine Learning Blog
AI Alt Text Assistant – Nutzungsbedingungen
AI Alt Text Assistant von Ally verwendet die generativen KI-Modelle von AWS Bedrock von AWS.
Wichtig
Diese Funktion kann unerwünschte oder ungenaue Ausgaben erzeugen. Es liegt in Ihrer Verantwortung und in der Verantwortung Ihres Kursleiters, alle Ausgaben zu überprüfen und zu korrigieren oder zu ändern, wenn dies notwendig oder angemessen ist. Bitte beachten Sie, dass keine Kundendaten zum Trainieren, Nachtrainieren oder Verbessern der generativen KI-Modelle von AWS Bedrock verwendet werden. Bilder oder kontextbezogene Texte, die in den KI-Alttext-Assistenten hochgeladen werden, werden an die AWS-Server übertragen, die sich möglicherweise außerhalb Ihres Hostings befinden.
Weitere Informationen zu Risiken und Einschränkungen der Funktion finden Sie in der Standarddokumentation für Endbenutzer.
Durch die Aktivierung dieser Funktion bestätigen Sie, dass Sie die zusätzlichen Bedingungen im Namen Ihrer Institution akzeptieren und dass Sie die Informationen zu Risiken und Einschränkungen in der oben genannten Standarddokumentation für Endbenutzer (und/oder auf die in dieser verwiesen wird) gelesen und verstanden haben.