AI Alt Text Assistant
Transparantienotitie
Het wettige, ethische en verantwoordelijke gebruik van kunstmatige intelligentie (AI) is een belangrijke prioriteit voor Anthology. Daarom hebben we een Trustworthy AI-programma ontwikkeld en geïmplementeerd. Informatie over ons programma en onze algemene benadering van Trustworthy AI vind je in ons Trust Center. Je kunt ook meer informatie vinden over de generatieve AI-functies in onze Lijst met generatieve AI-functies.
Als onderdeel van onze Trustworthy AI-principes zijn we toegewijd tot transparantie, uitlegbaarheid en aansprakelijkheid. Deze pagina is bedoeld om de nodige transparantie en uitleg te bieden om onze klanten te helpen met hun implementatie van de AI Alt Text Assistant. We raden beheerders aan om deze pagina zorgvuldig te bekijken en ervoor te zorgen dat cursusleiders op de hoogte zijn van de onderstaande overwegingen en aanbevelingen voordat je de functionaliteiten van AI Alt Text Assistant voor je instelling activeert.
Contact met ons opnemen:
Voor vragen of feedback over onze algemene aanpak van Trustworthy AI of hoe we deze pagina behulpzamer kunnen maken voor onze klanten, kunt u ons mailen op [email protected].
Voor vragen of feedback over de functionaliteit of output van de AI Alt Text Assistant, dien een supportticket in via Behind the Blackboard.
AI-gefaciliteerde functionaliteiten
The AI Alt Text Assistant provides instructors with suggestions on alternative text for images used within their online course(s) via the Ally Instructor Feedback workflow. It is intended to inspire instructors and make accessibility fixes more efficient.
Anthology has partnered with AWS to upgrade Ally’s AI model to power even more impactful suggestions, along with the ability to generate image description suggestions for more complex content, including STEM, charts/graphs, text in images, and handwritten images. This is powered by AWS Bedrock’s Claude models and brings enhanced analysis and output to help instructors author impactful, relevant, and concise image descriptions for what is often challenging and problematic image content.
De AI Alt Text Assistant biedt de volgende generatieve AI-gefaciliteerde functionaliteiten:
Genereer een alternatieve tekst voor afbeeldingen. Stelt alternatieve tekst voor in de feedback voor cursusleiders van Ally wanneer cursusleiders afbeeldingen zonder alternatieve tekst aanpassen.
Belangrijk
Deze functionaliteiten zijn onderhevig aan de beperkingen en beschikbaarheid van de Azure AI Vision Service en kunnen worden gewijzigd. Raadpleeg de relevante releaseopmerkingen voor meer informatie.
Belangrijkste feiten
Vraag | Antwoord |
|---|---|
Welke Ally-functionaliteiten gebruiken AI-systemen? | Suggesties voor alternatieve tekst via AI in het feedbackvenster van Ally voor cursusleider, wanneer een afbeelding door Ally is gemarkeerd omdat er geen alternatieve tekst is. |
Is dit een door derden ondersteund AI-systeem? | Ja – de AI Alt-tekstassistent wordt aangedreven door Microsofts Azure Vision Service. |
Hoe werkt het AI-systeem? | De AI-assistent voor alternatieve tekst maakt gebruik van de Azure Vision Service van Microsoft om automatisch resultaten te genereren. Dit wordt gerealiseerd door de afbeelding te gebruiken om een alternatieve tekst te genereren die wordt verzonden via de Azure Vision-API. Er wordt geen verdere informatie gebruikt (bijv. de titel van de cursus of de beschrijving van de cursus). Afbeeldingen worden niet gebruikt om de Microsoft Azure Vision-modellen te trainen en de Azure Vision Service genereert de uitvoer op basis van elke afbeelding die wordt geüpload naar de AI-assistent voor alternatieve tekst. Er worden geen prompts gebruikt. |
Waar wordt het AI-systeem gehost? | Anthology maakt momenteel gebruik van meerdere algemene Azure Vision Service-instanties. De primaire instantie wordt gehost in de Verenigde Staten, maar soms kunnen we bronnen in andere locaties gebruiken, zoals West-Europa, APAC om de beste beschikbaarheidsoptie voor de Azure AI Vision voor onze klanten te bieden. Alle clientuitvoer die wordt gegenereerd door de AI Alt Text Assistant wordt opgeslagen in de bestaande Ally-database van elke client die wordt beheerd door Anthology. |
Moet je je voor deze functionaliteit aanmelden? | Ja. Beheerders moeten de AI Alt Text Assistant activeren bij de configuratieopties van LMS Ally. Selecteer AI-generatie van alternatieve beschrijvingen voor afbeeldingen op het tabblad Functies. Beheerders kunnen deze functionaliteit op elk moment activeren of deactiveren. |
Hoe wordt het AI-systeem getraind? | Anthology is niet betrokken bij de training van modellen die de functionaliteiten van de AI-assistent voor alternatieve tekst aandrijven. Deze modellen worden door Microsoft getraind als onderdeel van de Azure Vision Service. Microsoft geeft in de sectie Inleiding van de Transparantie-opmerking van Microsoft en de bijbehorende koppelingen informatie over de wijze waarop de grote taalmodellen worden getraind. Anthology past de Azure Vision Service niet verder aan op basis van gegevens van ons of van onze klanten. |
Worden clientgegevens gebruikt voor het (her)trainen van het AI-systeem? | Nee. Microsoft verbindt zich contractueel in de Azure Vision-voorwaarden met Anthology geen invoer of uitvoer van de Azure Vision te gebruiken voor de (her)training van het grote taalmodel. Dezelfde toezegging wordt gedaan in de Microsoft-documentatie over Data, privacy en beveiliging voor Azure Vision service. Er worden alleen voorgebouwde modellen gebruikt. |
Hoe gebruikt Anthology Ally persoonlijke informatie bij het aanbieden van het systeem voor de AI-assistent voor alternatieve tekst? | Anthology Ally gebruikt alleen de afbeeldingen die zijn verzameld in verband met de AI-assistent voor alternatieve tekst om de AI-assistent voor alternatieve tekst aan te bieden, te onderhouden en te ondersteunen. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy in het Trust Center van Anthology. |
In the case of a third-party supported AI system, how will the third party use personal information? | Anthology Ally only uses the images and/or contextual data in rich content surrounding an image collected in connection with the AI Alt Text Assistant to provide, maintain and support the AI Alt Text Assistant. You can find more information about Anthology’s approach to data privacy in Anthology's Trust Center. Only images and/or contextual data in rich content surrounding an image are used to power this feature. No further information is shared with AWS Bedrock. Neither Amazon nor any Amazon Bedrock model provider use any Anthology data or Anthology customer data to improve the Amazon Bedrock models. You can find more information about the data privacy practices regarding Amazon Bedrock Security and Privacy in the Amazon documentation on the AWS AI Security Page, the AWS Machine Learning Blog, and the Amazon Bedrock Security and Privacy page. |
Is bij het ontwerp van het AI-systeem voor alternatieve tekst rekening gehouden met toegankelijkheid? | Ja, onze engineers voor toegankelijkheid hebben samengewerkt met productteams om ontwerpen te controleren, belangrijke toegankelijkheidsoverwegingen te communiceren en de nieuwe functies specifiek op toegankelijkheid te testen. We blijven toegankelijkheid als integraal onderdeel beschouwen van onze Trustworthy AI-aanpak. |
Overwegingen en aanbevelingen voor instellingen
Bedoelde praktijkscenario’s
De AI Alt Text Assistant is alleen bedoeld ter ondersteuning van de hierboven vermelde functionaliteiten. Deze functionaliteiten worden aangeboden aan en zijn bedoeld voor de cursusleiders van onze klanten om hen te ondersteunen bij het oplossen van toegankelijkheidsproblemen bij afbeeldingen die zijn aangegeven door Ally.
Praktijkscenario’s buiten bereik
De AI Alt Text Assistant is niet bedoeld om elke afbeelding toegankelijk te maken met perfecte alternatieve tekst en garandeert deze functionaliteit ook niet. Het is nog steeds de taak van de cursusleider om de alternatieve tekst aan te passen of goed te keuren op basis van de context van de inhoud in de cursus.
Trustworthy AI-principes in de praktijk
Anthology en Microsoft zijn van mening dat het wettelijke, ethische en verantwoordelijk gebruik van AI een belangrijke prioriteit is. In dit gedeelte wordt uitgelegd hoe Anthology en Microsoft hebben gewerkt om het toepasselijke risico voor het wettelijke, ethische en verantwoordelijk gebruik van AI aan te pakken en de Anthology Trustworthy AI-principes te implementeren. Het stelt ook stappen voor waar onze klanten rekening mee kunnen houden bij het uitvoeren van hun eigen AI- en juridische beoordelingen van ethische AI-risico's van hun implementatie.
Transparantie en uitlegbaarheid
We maken in de Ally-beheerconfiguratie-opties duidelijk dat dit een door AI-gefaciliteerde functionaliteit is
In de gebruikersinterface voor cursusleiders worden de functionaliteiten van de AI Alt Text Assistant duidelijk gemarkeerd als ‘Generatieve’ functionaliteiten. Cursusleiders kunnen ook worden gevraagd om de tekstuitvoer vóór gebruik te bekijken. · De metagegevens van de uitvoer die is gemaakt door de functionaliteiten van de AI Alt Text Assistant worden weergegeven in het gebruiksrapport van elke klant in Ally met een veld voor automatisch gegenereerde inhoud. Je ziet ook of de uitvoer vervolgens door de cursusleider is gewijzigd.
Naast de informatie in dit document over hoe de AI-assistent voor alternatieve tekst en de Azure Vision Service-modellen werken, biedt Microsoft aanvullende informatie over de Azure Vision Service in de Transparantie-opmerking.
We moedigen klanten aan om transparant te zijn over het gebruik van AI binnen de AI Alt Text Assistant. Bied cursusleiders en andere belanghebbenden indien nodig de relevante informatie uit dit document en de documentatie die hierin is gekoppeld.
Betrouwbaarheid en nauwkeurigheid
We maken in de Ally-beheerconfiguratie-opties en de gebruiksvoorwaarden duidelijk dat dit een door AI-gefaciliteerde functionaliteit is die onnauwkeurige of ongewenste resultaten kan produceren. Dergelijke resultaten moeten altijd door de cursusleider worden gecontroleerd.
In de gebruikersinterface kunnen cursusleiders worden gevraagd de tekstuitvoer te controleren op nauwkeurigheid.
Zoals nauwkeurig beschreven in de sectie Beperkingen van de Transparantie-opmerking van de Azure Vision Service, bestaat er een risico op onnauwkeurige resultaten. Hoewel de specifieke aard van de AI-assistent voor alternatieve tekst en onze implementatie bedoeld is om onnauwkeurigheden te minimaliseren, is het de verantwoordelijkheid van onze klanten om de resultaten te controleren op nauwkeurigheid, vooroordelen en andere mogelijke problemen.
Users can easily regenerate inaccurate output by rephrasing the question or phrase used in the Q&A prompt.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten kunnen alle onnauwkeurige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Eerlijkheid
Grote taalmodellen brengen inherent risico's met betrekking tot stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooroordelen met zich mee. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure Vision Service.
Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor schadelijke vooroordelen of waarin de impact van dergelijke vooroordelen groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten door schadelijke vooroordelen kan worden beïnvloed. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat kan helpen om eventuele schadelijke vooroordelen te voorkomen.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten kunnen potentiële schadelijke vooroordelen aan ons melden via de contactkanalen die in de introductie worden vermeld.
Privacy en beveiliging
Zoals hierboven is beschreven in de sectie 'Belangrijkste feiten', wordt alleen de afbeelding gebruikt voor de AI Alt Text Assistant en zijn deze beperkt toegankelijk voor Microsoft. De sectie beschrijft ook onze toewijding en die van Microsoft met betrekking tot het gebruik van persoonlijke gegevens.
Ally is ISO 27001/27017/27018/27701 gecertificeerd. Deze certificeringen bevatten uitvoer die met de AI-assistent voor alternatieve tekst te maken hebben, die worden beheerd door Anthology. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy en beveiliging in ons Trust Center.
Veiligheid
Grote taalmodellen brengen inherent risico’s met betrekking tot resultaten die ongepast, aanstootgevend of anderszins onveilig zijn met zich mee. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure Vision Service.
Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor onveilige resultaten of waarin de impact van dergelijke resultaten groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten onveilig kan zijn. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat verder kan helpen om de risico’s van onveilige resultaten te voorkomen.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten moeten alle potentiële onveilige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Menselijk beheer
Om de risico’s te verminderen met betrekking tot het gebruik van generatieve AI voor onze klanten en hun gebruikers, hebben we opzettelijk klanten de controle gegeven over de functionaliteiten van de AI Alt Text Assistant. Je moet de AI Alt Text Assistant daarom inschakelen. Beheerders kunnen de AI Alt Text Assistant op elk gewenst moment activeren of deactiveren.
Bovendien hebben cursusleiders de controle over de resultaten, wat betekent dat ze worden gevraagd de tekstuitvoer te bekijken en de tekstuitvoer indien nodig kunnen bewerken.
De AI Alt Text Assistant omvat geen geautomatiseerde besluitvorming die wettelijke of anderszins significante gevolgen kan hebben voor studenten of andere personen.
We raden klanten aan om dit document inclusief de informatiekoppelingen in dit document zorgvuldig te bekijken om er zeker van te zijn dat ze de mogelijkheden en beperkingen van de AI-assistent voor alternatieve tekst en de onderliggende Azure Vision Service begrijpen voordat ze de AI-assistent voor alternatieve tekst activeren.
Aansluiting van waarden
Grote taalmodellen brengen inherent risico's met zich mee met betrekking tot resultaten die bevooroordeeld, ongepast of die anderszins niet overeengestemd zijn met de waarden van Anthology of de waarden van onze klanten en studenten. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure Vision Service.
Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) over het algemeen worden misbruikt voor praktijkscenario’s die niet overeenstemmen met de waarden van Anthology, onze klanten of hun eindgebruikers en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten, om schadelijke of anderszins ongepaste resultaten te creëren).
Gezien deze risico's, hebben we de functionaliteiten van onze AI Alt Text Assistant zorgvuldig ontworpen en geïmplementeerd om het risico van niet-afgestemde resultaten te minimaliseren. We hebben ons bijvoorbeeld gericht op functionaliteiten voor cursusleiders in plaats van voor studenten. We hebben ook bewust functionaliteiten uitgesloten die potentieel van groot belang zijn. ·
Intellectueel eigendom
Grote taalmodellen brengen inherent risico's met zich mee betrekking tot mogelijke inbreuk op intellectuele eigendomsrechten. De meeste intellectuele eigendomsrechten over de hele wereld hebben niet volledig voorzien en zijn niet aangepast aan de opkomst van grote taalmodellen en de complexiteit van de problemen die zich voordoen door het gebruik ervan. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico's op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.
Uiteindelijk is het de verantwoordelijkheid van onze klant om de resultaten van de AI Alt Text Assistant te controleren op mogelijke inbreuk op intellectueel eigendomsrecht.
Toegankelijkheid
We hebben de AI Alt Text Assistant ontworpen en ontwikkeld met toegankelijkheid in het achterhoofd, net als bij Learn en onze andere producten. Voorafgaand aan de release van de AI Alt Text Assistant hebben we doelbewust de toegankelijkheid verbeterd van de semantische structuur, navigatie, toetsenbordbediening, labels, aangepaste componenten en afbeeldingswerkstromen, om een paar gebieden te noemen. Toegankelijkheid blijft de prioriteit terwijl we in de toekomst gebruikmaken van AI.
The AI Alt Text Assistant feature leverages Amazon Bedrock. AWS makes accessibility conformance reports available via the AWS Accessibility pages.
Verantwoordelijkheid
Anthology heeft een Trustworthy AI-programma dat is ontworpen om het wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Duidelijke interne aansprakelijkheid en de systematische ethische AI-controle of functionaliteiten zoals die van de AI-assistent voor alternatieve tekst zijn belangrijke steunpilaren van het programma.
Voor de levering van de AI-assistent voor alternatieve tekst werken we samen met Microsoft om gebruik te maken van de Azure Vision Service die de basis vormt voor de AI-assistent voor alternatieve tekst. Microsoft zet zich al lang in voor het ethische gebruik van AI.
Klanten moeten overwegen om intern beleid, procedures en evaluatie van AI-toepassingen van derden te implementeren om hun eigen wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Deze informatie is bedoeld om de beoordeling van de AI Alt Text Assistant door onze klanten te ondersteunen.
Overige informatie
Trustworthy AI-aanpak van Anthology
Lijst met generatieve AI-functies van Anthology
Pagina over verantwoorde AI van Microsoft
Amazon’s page on Bedrock Security and Privacy
Amazon’s AI Security Page
Amazon’s Machine Learning Blog
Gebruiksvoorwaarden voor de AI Alt Text Assistant
De Ally AI Alt Text Assistant gebruikt de generatieve AI-modellen van Microsoft uit Azure Vision Services.
Belangrijk
Deze functie kan ongewenste of onnauwkeurige resultaten produceren. Het is jouw verantwoordelijkheid en de verantwoordelijkheid van je cursusleider om alle resultaten te controleren en deze waar nodig of gepast aan te passen. Let op: er wordt geen clientdata gebruikt om de generatieve AI-modellen van Azure Vision te trainen, opnieuw te trainen of te verbeteren. Afbeeldingen die naar de AI Alt Text Assistant worden geüpload, worden verzonden naar de Azure AI Vision service-servers die zich mogelijk buiten je hosting bevinden.
Meer informatie over de risico's en beperkingen van de functie vind je in de standaarddocumentatie voor eindgebruikers.
Door deze functie in te schakelen, bevestig je dat je namens je instelling de aanvullende voorwaarden accepteert en dat je de informatie over risico en beperkingen in de standaarddocumentatie voor eindgebruikers waarnaar hierboven wordt verwezen, hebt gelezen en begrepen.