AI Alt Text Assistant
Hinweis zur Transparenz
Der rechtmäßige, ethische und verantwortungsvolle Einsatz von künstlicher Intelligenz (KI) hat für Anthology höchste Priorität. Aus diesem Grund haben wir ein Programm für vertrauenswürdige KI entwickelt und implementiert. Informationen zu unserem Programm und dem allgemeinen Ansatz für vertrauenswürdige KI finden Sie in unserem Trust Center; weitere Informationen zu generativen KI-Funktionen in unserer Liste generativer KI-Funktionen.
Im Rahmen unserer Prinzipien für vertrauenswürdige KI verpflichten wir uns zu Transparenz, Erklärbarkeit und Rechenschaftspflicht. Diese Seite soll die notwendige Transparenz und Erklärungen bereitstellen, um unseren Kunden bei der Implementierung des AI Alt Text Assistant zu helfen. Wir empfehlen Administratoren, diese Seite sorgfältig zu lesen und sicherzustellen, dass die Kursleiter die folgenden Überlegungen und Empfehlungen kennen, bevor sie die Funktionen des AI Alt Text Assistant für Ihre Institution aktivieren.
So erreichen Sie uns:
Wenn Sie Fragen oder Feedback zu unserem allgemeinen Ansatz für vertrauenswürdige KI haben oder wissen möchten, wie wir diese Seite für unsere Kunden noch hilfreicher gestalten können, senden Sie uns bitte eine E-Mail an trustworthyai@Anthology.com.
Für Fragen oder Feedback zur Funktionalität oder Ausgabe des AI Alt Text Assistenten senden Sie bitte ein Support-Ticket.
KI-gestützte Funktionalitäten
Der AI Alt Text Assistant bietet Kursleitern Vorschläge für Alternativtext für Bilder, die in ihren Online-Kursen verwendet werden, über den Ally-Arbeitsablauf zum Kursleiterfeedback. Es soll Kursleiter inspirieren und Barrierefreiheit effizienter gestalten.
Anthology arbeitet mit AWS zusammen, um das KI-Modell von Ally zu verbessern und noch wirkungsvollere Anregungen zu liefern. Außerdem können nun Bildbeschreibungsvorschläge für komplexere Inhalte generiert werden, darunter STEM, Diagramme/Grafiken, Text in Bildern und handgeschriebene Bilder. Sie wird von den Claude-Modellen von AWS Bedrock unterstützt und bietet eine verbesserte Analyse und Ausgabe, um Kursleitern zu helfen, aussagekräftige, relevante und prägnante Bildbeschreibungen für oft schwierige und problematische Bildinhalte zu erstellen.
Der AI Alt Text Assistant bietet die folgenden generativen, KI-gestützten Funktionen:
Generieren Sie einen alternativen Text für Bilder. Es wird ein alternativer Text im Ally Kursleiter-Feedback vorgeschlagen, wenn Kursleiter Bilder ohne alternativen Text korrigieren.
Wichtig
Diese Funktionen unterliegen den Einschränkungen und der Verfügbarkeit des AWS Bedrock Service und können sich ändern. Weitere Informationen finden Sie in den entsprechenden Versionshinweisen.
Wichtige Fakten
Frage | Antwort |
|---|---|
Welche Ally-Funktionalitäten nutzen KI-Systeme? | Alternativtextvorschlag über KI im Fenster „Ally-Kursleiterfeedback“, wenn ein Bild von Ally markiert wurde, weil es keinen Alternativtext enthält. |
Handelt es sich um ein von Drittanbietern unterstütztes KI-System? | Ja – Der AI Alt Text Assistant wird von AWS Bedrock Anthropic Claude Sonnet 3.5 unterstützt. |
Wie funktioniert das KI-System? | Der KI-Alttext-Assistent verwendet das AWS Bedrock Anthropic Claude Sonnet 3.5-Modell, um automatisch Ausgaben zu generieren. Dies wird erreicht, indem das Bild verwendet wird, um einen alternativen Text zu erzeugen, der über das AWS SDK gesendet wird. Darüber hinaus haben wir die Möglichkeit hinzugefügt, kontextbezogene Eingabeaufforderungen zu senden, die auf dem umgebenden Textinhalt basieren, wenn ein Bild in einen Rich Content Artikel eingebettet ist. Es werden keine weiteren Informationen (z.B. Kurstitel, Kursbeschreibung) verwendet. Bilder werden nicht verwendet, um die AWS Bedrock-Modelle zu trainieren, und Bedrock generiert die Ausgabe auf der Grundlage jedes Bildes, das in den AI Alt Text Assistant hochgeladen wird. |
Wo wird das KI-System gehostet? | Anthology verwendet derzeit mehrere AWS-Instanzen für Amazon Bedrock, je nach Verfügbarkeit der Amazon-Region. AWS bietet diese regionale Verfügbarkeit für das derzeit von Ally verwendete Amazon Bedrock-Modell (Claude Sonnet 3.5) unter Modellunterstützung nach AWS-Region in Amazon Bedrock. Gelegentlich nutzen wir Ressourcen an anderen Standorten, z. B. im Osten der USA, um die beste Verfügbarkeitsoption für AWS Bedrock für unsere Kunden zu bieten, wenn eine bestimmte Region nicht verfügbar ist. Alle vom AI Alt Text Assistant generierten Client-Ausgaben werden in der vorhandenen Ally-Datenbank jedes Clients gespeichert, die von Anthology verwaltet wird. |
Handelt es sich um eine (optionale) Opt-in-Funktion? | Ja. Administratoren müssen den AI Alt Text Assistant in den LMS Ally-Konfigurationsoptionen aktivieren. Wählen Sie „Generierung von alternativen Beschreibungen für Bilder durch KI“ auf der Registerkarte „Funktionen“ aus. Administratoren können diese Funktion jederzeit aktivieren oder deaktivieren. |
Wie wird das KI-System trainiert? | Anthology ist nicht am Training des Anthropic-Modells beteiligt, das die AI Alt Text Assistant-Funktionen über Amazon Bedrock betreibt. Diese Modelle werden von Anthropic (Anthropic Claude) trainiert. Anthology optimiert den Azure Vision Service nicht weiter mit unseren eigenen Daten oder denen unserer Kunden. |
Werden Kundendaten für das (erneute) Training des KI-Systems verwendet? | Nein. Amazon verpflichtet sich in seiner öffentlichen Dokumentation, keine Eingaben oder Ausgaben zum (Neu-)Training der großen Sprachmodelle in Amazon Bedrock zu verwenden. Amazon stellt Informationen darüber, wie die großen Sprachmodelle trainiert werden, in den Links im Abschnitt „Weitere Informationen‟ unten zur Verfügung. Alle Datenein- und -ausgänge werden während der Übertragung und im Ruhezustand verschlüsselt. |
Wie verwendet Anthology Ally personenbezogene Daten im Hinblick auf die Bereitstellung des KI-Alternativtext-Assistent-Systems? | Anthology Ally verwendet die im Zusammenhang mit dem KI-Alternativtext-Assistenten erfassten Bilder ausschließlich zur Bereitstellung, Wartung und Unterstützung des KI-Alternativtext-Assistenten. Weitere Informationen zum Datenschutzansatz von Anthology finden Sie im Trust Center von Anthology. |
Wie werden personenbezogene Daten im Falle eines von einem Drittanbieter unterstützten KI-Systems verwendet? | Anthology Ally verwendet die Bilder und/oder Kontextdaten in Rich Content, der ein Bild umgibt und in Verbindung mit dem KI-Alttext-Assistenten erfasst wurde, nur zur Bereitstellung, Wartung und Unterstützung des KI-Alttext-Assistenten. Weitere Informationen zum Datenschutzansatz von Anthology finden Sie im Trust Center von Anthology. Für diese Funktion werden nur Bilder und/oder kontextbezogene Daten in Rich Content, die ein Bild umgeben, verwendet. Es werden keine weiteren Informationen an AWS Bedrock weitergegeben. Weder Amazon noch ein Amazon Bedrock-Modellanbieter verwenden Anthology-Daten oder Anthology-Kundendaten, um die Amazon Bedrock-Modelle zu verbessern. Weitere Informationen über die Datenschutzpraktiken in Bezug auf Amazon Bedrock Security and Privacy finden Sie in der Amazon-Dokumentation auf der AWS AI-Sicherheitsseite, dem AWS-Machine-Learning-Blog und der Seite Amazon Bedrock Security and Privacy. |
Wurde die Barrierefreiheit bei der Gestaltung des KI-Alternativtext-Systems berücksichtigt? | Ja, unsere Experten für Barrierefreiheit haben mit Produktteams zusammengearbeitet, um Designs zu überprüfen, wichtige Überlegungen zur Barrierefreiheit zu kommunizieren und die neuen Funktionen speziell im Hinblick auf Barrierefreiheit zu testen. Auch in Zukunft werden wir Barrierefreiheit als integralen Bestandteil unseres Konzepts der vertrauenswürdigen KI betrachten. |
Überlegungen und Empfehlungen für Institutionen
Vorgesehene Anwendungsfälle
Der AI Alt Text Assistant ist nur dazu gedacht, die oben aufgeführten Funktionalitäten zu unterstützen. Diese Funktionen werden den Kursleitern unserer Kunden zur Verfügung gestellt und sind für diese vorgesehen, um sie bei der Behebung von Problemen mit der Barrierefreiheit von Bildern zu unterstützen, die von Ally gemeldet wurden.
Anwendungsfälle außerhalb des Anwendungsbereichs
Der AI Alt Text Assistant ist nicht dafür gedacht und garantiert auch nicht, dass jedes Bild mit einem perfekten Alternativtext verfügbar ist, denn es obliegt dem Kursleiter, den Alternativtext auf der Grundlage des Kontextes des Inhalts im Kurs anzupassen oder zu genehmigen.
Prinzipien für vertrauenswürdige KI in der Praxis
Anthology und Microsoft gehen davon aus, dass der rechtmäßige, ethische und verantwortungsvolle Einsatz von KI eine der wichtigsten Prioritäten ist. In diesem Abschnitt wird erläutert, wie Anthology und Microsoft daran gearbeitet haben, das entsprechende Risiko für die rechtliche, ethische und verantwortungsvolle Nutzung von KI zu handhaben und die Prinzipien für vertrauenswürdige KI von Anthology umzusetzen. Außerdem werden Schritte vorgeschlagen, die unsere Kunden bei der Durchführung ihrer eigenen KI in Betracht ziehen können, sowie rechtliche Überprüfungen der ethischen KI-Risiken ihrer Implementierung.
Transparenz und Erklärbarkeit
Wir machen in den Konfigurationsoptionen der Ally-Administration deutlich, dass es sich um eine KI-gestützte Funktionalität handelt
In der Benutzeroberfläche für Kursleiter sind die Funktionen des AI Alt Text Assistant eindeutig als „generative“ Funktionen gekennzeichnet. Die Kursleiter werden außerdem gebeten, die Textausgabe vor der Verwendung zu überprüfen. · Die Metadaten der Ausgabe, die von den Funktionen des AI Alt Text Assistant erstellt wurden, werden im Ally-Nutzungsbericht jedes Clients mit einem Feld für automatisch generierte Inhalte angezeigt. Außerdem wird angezeigt, ob die Ausgabe nachträglich vom Kursleiter bearbeitet wurde.
Zusätzlich zu den Informationen in diesem Dokument, wie der KI-Alttext-Assistent mit Amazon Bedrock funktioniert, bietet Amazon zusätzliche Informationen über Amazon Bedrock unter den Links im Abschnitt „Weitere Informationen“ unten.
Wir ermutigen unsere Kunden, den Einsatz von KI innerhalb des AI Alt Text Assistant transparent zu machen und ihren Kursleitern und anderen Interessengruppen gegebenenfalls die relevanten Informationen aus diesem Dokument und der hierin verlinkten Dokumentation zur Verfügung zu stellen.
Zuverlässigkeit und Genauigkeit
In den Konfigurationsoptionen für die Ally-Verwaltung und in den Nutzungsbedingungen weisen wir darauf hin, dass es sich hierbei um eine KI-gestützte Funktion handelt, die zu ungenauen oder unerwünschten Ergebnissen führen kann, und dass solche Ergebnisse stets vom Kursleiter überprüft werden sollten.
In der Benutzeroberfläche werden die Kursleiter aufgefordert, die Textausgabe auf Richtigkeit zu überprüfen.
Wie in den Amazon Bedrock-FAQs beschrieben, besteht das Risiko einer ungenauen Ausgabe. Während die Besonderheit des AI Alt Text Assistant und unserer Implementierung darauf abzielt, Ungenauigkeiten zu minimieren, liegt es in der Verantwortung unseres Kunden, die Ausgabe auf Genauigkeit, Unvoreingenommenheit und andere potenzielle Probleme zu überprüfen.
Benutzer können ungenaue Ausgaben leicht korrigieren, indem sie die in der Frage- und Antwortaufforderung verwendete Frage oder den Satz neu formulieren.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden können uns jede unzutreffende Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Fairness
Große Sprachmodelle bergen von Natur aus Risiken in Bezug auf Stereotypisierung, Über-/Unterrepräsentation und andere Formen unerwünschter Voreingenommenheit.
Angesichts dieser Risiken haben wir die Funktionen des AI Alt Text Assistant sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Voreingenommenheit sind oder bei denen die Auswirkungen einer solchen Voreingenommenheit signifikanter sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe durch unerwünschte Voreingenommenheit beeinträchtigt wird. Wie oben unter „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ergebnisse zu überprüfen, was dazu beitragen kann, unerwünschte Voreingenommenheit zu reduzieren.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden können uns potenziell schädigende Voreingenommenheit über die in der Einleitung aufgeführten Kontaktkanäle melden.
Datenschutz und Sicherheit
Wie oben im Abschnitt „Wichtige Fakten“ beschrieben, wird nur das Bild für den AI Alt Text Assistant verwendet und ist für Microsoft zugänglich. Der Abschnitt beschreibt auch unsere und Microsofts Verpflichtung in Bezug auf die Verwendung personenbezogener Daten.
Amazon beschreibt seine Datenschutz- und Sicherheitspraktiken und -verpflichtungen in der Dokumentation Amazon Bedrock Security and Privacy.
Datenschutz
Große Sprachmodelle bergen naturgemäß das Risiko von Ausgaben, die unangemessen, anstößig oder anderweitig unerwünscht sein können. Microsoft beschreibt diese Risiken im Abschnitt „Einschränkungen“ des Transparenzhinweises für den Azure Vision Service.
Angesichts dieser Risiken haben wir die Funktionen des AI Alt Text Assistant sorgfältig ausgewählt, um Anwendungsfälle zu vermeiden, die anfälliger für unerwünschte Ausgaben sind oder bei denen die Auswirkungen solcher Ausgaben erheblicher sein könnten.
Dennoch kann nicht ausgeschlossen werden, dass ein Teil der Ausgabe unerwünscht sein kann. Wie oben unter „Genauigkeit“ erwähnt, werden die Kursleiter gebeten, die Ausgabe zu überprüfen, was dazu beitragen kann, das Risiko unerwünschter Ausgaben weiter zu verringern.
Im Rahmen ihrer Kommunikation über den AI Alt Text Assistant sollten Kunden ihre Kursleiter auf diese potenzielle Einschränkung aufmerksam machen.
Kunden sollten uns jede potenziell unerwünschte Ausgabe über die in der Einleitung aufgeführten Kanäle melden.
Persönliche Kontrolle
Um das Risiko im Zusammenhang mit dem Einsatz generativer KI für unsere Kunden und deren Nutzer zu minimieren, geben wir unseren Kunden bewusst die Kontrolle über die Funktionalitäten des AI Alt Text Assistant. Der AI Alt Text Assistant ist daher eine optionale Funktion. Administratoren können den AI Alt Text Assistant jederzeit aktivieren oder deaktivieren.
Darüber hinaus haben Kursleiter die Kontrolle über die Ausgabe. Dies bedeutet, dass sie aufgefordert werden, die Textausgabe zu überprüfen und die Textausgabe nach Bedarf bearbeiten können.
Der AI Alt Text Assistant enthält keine automatisierte Entscheidungsfindung, die rechtliche oder anderweitig erhebliche Auswirkungen auf Lernende oder andere Personen haben könnte.
Wir empfehlen unseren Kunden, dieses Dokument und die darin enthaltenen Links sorgfältig zu lesen, um sicherzustellen, dass sie die Möglichkeiten und Grenzen des AI Alt Text Assistant und des zugrundeliegenden Amazon Bedrock verstehen, bevor die Funktion AI Alt Text Assistant genutzt wird.
Werteausrichtung
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf Ergebnisse, die voreingenommen oder unangemessen sind oder anderweitig nicht mit den Werten von Anthology oder den Werten unserer Kunden und Lernenden übereinstimmen. Amazon beschreibt diese Risiken auf den verlinkten Websites im Abschnitt „Weitere Informationen“ weiter unten.
Darüber hinaus bergen große Sprachmodelle (wie jede Technologie, die breit gefächerten Zwecken dient) das Risiko, dass sie im Allgemeinen für Anwendungsfälle missbraucht werden können, die nicht mit den Werten der Anthology, unserer Kunden oder ihrer Endnutzer und denen der Gesellschaft im Allgemeinen übereinstimmen (z. B. für kriminelle Aktivitäten, um schädliche oder anderweitig unangemessene Ergebnisse zu erzeugen).
Angesichts dieser Risiken haben wir unsere Funktionen des AI Alt Text Assistant sorgfältig so konzipiert und implementiert, dass das Risiko einer falsch ausgerichteten Ausgabe minimiert wird. Zum Beispiel haben wir uns auf Funktionen für Kursleiter und nicht für Lernende konzentriert. Wir haben auch bewusst auf potenziell risikoreiche Funktionalitäten verzichtet.
Geistiges Eigentum
Große Sprachmodelle bergen naturgemäß Risiken in Bezug auf eine mögliche Verletzung von geistigen Eigentumsrechten. Die meisten Gesetze zum Schutz des geistigen Eigentums rund um den Globus haben das Aufkommen großer Sprachmodelle und die Komplexität der Probleme, die sich aus ihrer Verwendung ergeben, nicht vollständig antizipiert oder sich daran angepasst. Infolgedessen gibt es derzeit keinen klaren Rechtsrahmen oder Leitfaden, der sich mit den Fragen des geistigen Eigentums und den Risiken befasst, die sich aus der Verwendung dieser Modelle ergeben.
Letztendlich liegt es in der Verantwortung unseres Kunden, die von diesem AI Alt Text Assistant generierten Ergebnisse auf mögliche Verletzungen von geistigen Eigentumsrechten zu überprüfen.
Barrierefreiheit
Bei der Konzeption und Entwicklung des AI Alt Text Assistant standen die Barrierefreiheit im Vordergrund, wie wir es auch bei Learn und unseren anderen Produkten tun. Vor der Veröffentlichung des AI Alt Text Assistant haben wir gezielt die Barrierefreiheit der semantischen Struktur, der Navigation, der Tastatursteuerelemente, der Beschriftungen, der benutzerdefinierten Komponenten und der Bild-Workflows verbessert, um nur einige Bereiche zu nennen. Wir werden der Barrierefreiheit auch in Zukunft Priorität einräumen, wenn wir KI nutzen.
Die AI Alt Text Assistant-Funktion nutzt Amazon Bedrock. AWS stellt Berichte zur Konformität mit der Barrierefreiheit über die AWS-Seiten zur Barrierefreiheit zur Verfügung.
Verantwortlichkeit
Anthology verfügt über ein vertrauenswürdiges KI-Programm, das den rechtlichen, ethischen und verantwortungsvollen Einsatz von KI sicherstellen soll. Eine klare interne Verantwortlichkeit und die systematische ethische Überprüfung der KI oder Funktionalitäten, wie sie der KI-Alternativtext-Assistent bietet, sind wichtige Säulen des Programms.
Um den AI Alt Text Assistant bereitzustellen, haben wir uns mit Amazon zusammengeschlossen, um Amazon Bedrock zu nutzen. AWS setzt sich für den verantwortungsvollen Einsatz von KI ein.
Kunden sollten die Implementierung interner Richtlinien, Verfahren und die Überprüfung von KI-Anwendungen von Drittanbietern in Betracht ziehen, um ihre eigene rechtliche, ethische und verantwortungsvolle Nutzung von KI sicherzustellen. Diese Informationen werden bereitgestellt, um unsere Kunden bei der Überprüfung des AI Alt Text Assistant zu unterstützen.
Weitere Informationen
Der Ansatz für vertrauenswürdige KI von Anthology
Liste der generativen KI-Funktionen von Anthology
Amazons Seite zu Bedrock-Sicherheit und Datenschutz
Amazons KI-Sicherheitsseite
Amazons Blog für maschinelles Lernen
Amazon’s Machine Learning Blog
AI Alt Text Assistant – Nutzungsbedingungen
AI Alt Text Assistant von Ally verwendet die generativen KI-Modelle von AWS Bedrock von AWS.
Wichtig
Diese Funktion kann unerwünschte oder ungenaue Ausgaben generieren. Es liegt in Ihrer Verantwortung und in der Ihres Kursleiters, alle Ergebnisse zu überprüfen und gegebenenfalls zu korrigieren oder zu ändern. Bitte beachten Sie, dass keine Kundendaten zum Trainieren, Nachtrainieren oder Verbessern der generativen KI-Modelle von AWS Bedrock verwendet werden. Bilder oder kontextbezogener Text, die in den AI Alt Text Assistant hochgeladen werden, werden an die AWS-Server übertragen, die sich außerhalb Ihres Hostings befinden können.
Weitere Informationen zu Risiken und Einschränkungen der Funktion finden Sie in der Standarddokumentation für Endbenutzer.
Durch die Aktivierung dieser Funktion bestätigen Sie, dass Sie die zusätzlichen Bedingungen im Namen Ihrer Institution akzeptieren und dass Sie die Informationen zu Risiken und Einschränkungen in der oben genannten Standarddokumentation für Endbenutzer (und/oder auf die in dieser verwiesen wird) gelesen und verstanden haben.