AI Alt Text Assistant
Transparantienotitie
Het wettige, ethische en verantwoordelijke gebruik van kunstmatige intelligentie (AI) is een belangrijke prioriteit voor Anthology. Daarom hebben we een Trustworthy AI-programma ontwikkeld en geïmplementeerd. Informatie over ons programma en onze algemene benadering van Trustworthy AI vind je in ons Trust Center. Je kunt ook meer informatie vinden over de generatieve AI-functies in onze Lijst met generatieve AI-functies.
Als onderdeel van onze Trustworthy AI-principes zijn we toegewijd tot transparantie, uitlegbaarheid en aansprakelijkheid. Deze pagina is bedoeld om de nodige transparantie en uitleg te bieden om onze klanten te helpen met hun implementatie van de AI Alt Text Assistant. We raden beheerders aan om deze pagina zorgvuldig te bekijken en ervoor te zorgen dat cursusleiders op de hoogte zijn van de onderstaande overwegingen en aanbevelingen voordat je de functionaliteiten van AI Alt Text Assistant voor je instelling activeert.
Contact met ons opnemen:
Voor vragen of feedback over onze algemene benadering van betrouwbare AI of hoe we deze pagina nuttiger kunnen maken voor onze klanten, kunt u een e-mail sturen naar trustworthyai@anthology.com.
Voor vragen of feedback over de functionaliteit of uitvoer van de AI Alt Text Assistant, kunt u een klantondersteuningsticket indienen.
AI-gefaciliteerde functionaliteiten
De AI Alt Text Assistant biedt cursusleiders suggesties over alternatieve tekst voor afbeeldingen die worden gebruikt in hun online cursus(sen) via de Ally-werkstroom voor feedback voor cursusleiders. Het is bedoeld om cursusleiders te inspireren en toegankelijkheidsfixes efficiënter te maken.
Anthology is een samenwerking aangegaan met AWS om het AI-model van Ally te upgraden om nog krachtigere suggesties te kunnen doen, samen met de mogelijkheid om afbeeldingsbeschrijvingssuggesties te genereren voor complexere inhoud, waaronder STEM, grafieken/grafieken, tekst in afbeeldingen en handgeschreven afbeeldingen. Deze wordt aangestuurd door de Claude-modellen van AWS Bedrock en biedt verbeterde analyses en output om docenten te helpen bij het schrijven van krachtige, relevante en beknopte beeldbeschrijvingen voor vaak lastige en problematische beeldcontent.
De AI Alt Text Assistant biedt de volgende generatieve AI-gefaciliteerde functionaliteiten:
Genereer een alternatieve tekst voor afbeeldingen. Stelt alternatieve tekst voor in de feedback voor cursusleiders van Ally wanneer cursusleiders afbeeldingen zonder alternatieve tekst aanpassen.
Belangrijk
Deze functionaliteiten zijn onderhevig aan de beperkingen en beschikbaarheid van de AWS Bedrock Service en kunnen worden gewijzigd. Raadpleeg de relevante releaseopmerkingen voor meer informatie.
Belangrijkste feiten
Vraag | Antwoord |
|---|---|
Welke Ally-functionaliteiten gebruiken AI-systemen? | Suggesties voor alternatieve tekst via AI in het feedbackvenster van Ally voor cursusleider, wanneer een afbeelding door Ally is gemarkeerd omdat er geen alternatieve tekst is. |
Is dit een door derden ondersteund AI-systeem? | Ja - De AI Alt Text Assistant wordt aangedreven door AWS Bedrock Anthropic Claude Sonnet 3.5. |
Hoe werkt het AI-systeem? | De AI Alt Text Assistant gebruikt het AWS Bedrock Anthropic Claude Sonnet 3.5-model om automatisch output te genereren. Dit wordt bereikt door de afbeelding te gebruiken om een alternatieve tekst te genereren die via de AWS SDK wordt verzonden. We hebben ook de mogelijkheid toegevoegd om contextuele aanwijzingen te sturen op basis van de omringende tekstinhoud wanneer een afbeelding is ingesloten in een rich content item. Er wordt geen verdere informatie gebruikt (bijv. de titel van de cursus of de beschrijving van de cursus). Afbeeldingen worden niet gebruikt om de AWS Bedrock-modellen te trainen, en de Bedrock genereert de uitvoer op basis van elke afbeelding die wordt geüpload naar de AI Alt Text Assistant. |
Waar wordt het AI-systeem gehost? | Anthology gebruikt momenteel meerdere AWS-instanties voor Amazon Bedrock, afhankelijk van de beschikbaarheid van Amazon-regio's. AWS biedt deze regiobeschikbaarheid voor het Amazon Bedrock-model dat momenteel wordt gebruikt door Ally (Claude Sonnet 3.5) op Modelondersteuning door AWS-regio in Amazon Bedrock. Soms maken we gebruik van bronnen op andere locaties, zoals US East, om onze klanten de beste beschikbaarheid voor AWS Bedrock te bieden wanneer een specifieke regio niet beschikbaar is. Alle clientuitvoer die wordt gegenereerd door de AI Alt Text Assistant wordt opgeslagen in de bestaande Ally-database van elke client die wordt beheerd door Anthology. |
Moet je je voor deze functionaliteit aanmelden? | Ja. Beheerders moeten de AI Alt Text Assistant activeren bij de configuratieopties van LMS Ally. Selecteer AI-generatie van alternatieve beschrijvingen voor afbeeldingen op het tabblad Functies. Beheerders kunnen deze functionaliteit op elk moment activeren of deactiveren. |
Hoe wordt het AI-systeem getraind? | Anthology is niet betrokken bij de training van het Anthropic-model dat de AI Alt Text Assistant-functies aanstuurt via Amazon Bedrock. Deze modellen worden getraind door Anthropic (Anthropic Claude). Anthology past de Azure Vision Service niet verder aan op basis van gegevens van ons of van onze klanten. |
Worden clientgegevens gebruikt voor het (her)trainen van het AI-systeem? | Nee. Amazon verplicht zich in zijn openbare documentatie om geen input of output te gebruiken voor de (her)training van de grote taalmodellen binnen Amazon Bedrock. Amazon geeft informatie over hoe de grote taalmodellen worden getraind in de links in het gedeelte ‘Meer informatie’ hieronder. Alle gegevens die worden ingevoerd en uitgevoerd, worden onderweg en in rust versleuteld. |
Hoe gebruikt Anthology Ally persoonlijke informatie bij het aanbieden van het systeem voor de AI-assistent voor alternatieve tekst? | Anthology Ally gebruikt alleen de afbeeldingen die zijn verzameld in verband met de AI-assistent voor alternatieve tekst om de AI-assistent voor alternatieve tekst aan te bieden, te onderhouden en te ondersteunen. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy in het Trust Center van Anthology. |
In het geval dat een AI-systeem ondersteund wordt door een derde partij: hoe gebruikt deze derde partij persoonlijke gegevens? | Anthology Ally gebruikt de afbeeldingen en/of contextuele gegevens in rijke inhoud rondom een afbeelding die zijn verzameld in verband met de AI Alt Text Assistant alleen om de AI Alt Text Assistant te leveren, te onderhouden en te ondersteunen. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy in het Trust Center van Anthology. Alleen afbeeldingen en/of contextuele gegevens in rijke inhoud rond een afbeelding worden gebruikt om deze functie te voeden. Er wordt geen verdere informatie gedeeld met AWS Bedrock. Amazon of een leverancier van Amazon Bedrock-modellen gebruikt Anthology-gegevens of Anthology-klantgegevens om de Amazon Bedrock-modellen te verbeteren. U kunt meer informatie vinden over het privacybeleid met betrekking tot Amazon Bedrock Beveiliging en Privacy in de Amazon-documentatie op de AWS AI-beveiligingspagina, de AWS Machine Learning Blog en de Amazon Bedrock Beveiliging en Privacy-pagina. |
Is bij het ontwerp van het AI-systeem voor alternatieve tekst rekening gehouden met toegankelijkheid? | Ja, onze engineers voor toegankelijkheid hebben samengewerkt met productteams om ontwerpen te controleren, belangrijke toegankelijkheidsoverwegingen te communiceren en de nieuwe functies specifiek op toegankelijkheid te testen. We blijven toegankelijkheid als integraal onderdeel beschouwen van onze Trustworthy AI-aanpak. |
Overwegingen en aanbevelingen voor instellingen
Bedoelde praktijkscenario’s
De AI Alt Text Assistant is alleen bedoeld ter ondersteuning van de hierboven vermelde functionaliteiten. Deze functionaliteiten worden aangeboden aan en zijn bedoeld voor de cursusleiders van onze klanten om hen te ondersteunen bij het oplossen van toegankelijkheidsproblemen bij afbeeldingen die zijn aangegeven door Ally.
Praktijkscenario’s buiten bereik
De AI Alt Text Assistant is niet bedoeld om elke afbeelding toegankelijk te maken met perfecte alternatieve tekst en garandeert deze functionaliteit ook niet. Het is nog steeds de taak van de cursusleider om de alternatieve tekst aan te passen of goed te keuren op basis van de context van de inhoud in de cursus.
Trustworthy AI-principes in de praktijk
Anthology en Microsoft zijn van mening dat het wettelijke, ethische en verantwoordelijk gebruik van AI een belangrijke prioriteit is. In dit gedeelte wordt uitgelegd hoe Anthology en Microsoft hebben gewerkt om het toepasselijke risico voor het wettelijke, ethische en verantwoordelijk gebruik van AI aan te pakken en de Anthology Trustworthy AI-principes te implementeren. Het stelt ook stappen voor waar onze klanten rekening mee kunnen houden bij het uitvoeren van hun eigen AI- en juridische beoordelingen van ethische AI-risico's van hun implementatie.
Transparantie en uitlegbaarheid
We maken in de Ally-beheerconfiguratie-opties duidelijk dat dit een door AI-gefaciliteerde functionaliteit is
In de gebruikersinterface voor cursusleiders worden de functionaliteiten van de AI Alt Text Assistant duidelijk gemarkeerd als ‘Generatieve’ functionaliteiten. Cursusleiders kunnen ook worden gevraagd om de tekstuitvoer vóór gebruik te bekijken. · De metagegevens van de uitvoer die is gemaakt door de functionaliteiten van de AI Alt Text Assistant worden weergegeven in het gebruiksrapport van elke klant in Ally met een veld voor automatisch gegenereerde inhoud. Je ziet ook of de uitvoer vervolgens door de cursusleider is gewijzigd.
Naast de informatie in dit document over hoe de functie AI Alt Text Assistant werkt met Amazon Bedrock, biedt Amazon aanvullende informatie over Amazon Bedrock in de koppelingen in de sectie 'Meer informatie' hieronder.
We moedigen klanten aan om transparant te zijn over het gebruik van AI binnen de AI Alt Text Assistant. Bied cursusleiders en andere belanghebbenden indien nodig de relevante informatie uit dit document en de documentatie die hierin is gekoppeld.
Betrouwbaarheid en nauwkeurigheid
We maken duidelijk in de Ally-beheerdersconfiguraties en gebruiksvoorwaarden dat dit een door AI gefaciliteerde functionaliteit is die onnauwkeurige of ongewenste uitvoer kan produceren en dat dergelijke uitvoer altijd moet worden beoordeeld door de docent.
In de gebruikersinterface kunnen cursusleiders worden gevraagd de tekstuitvoer te controleren op nauwkeurigheid.
Zoals beschreven in de Veelgestelde vragen over Amazon Bedrock, bestaat er een risico op onnauwkeurige uitvoer. Hoewel de specifieke aard van de AI Alt Text Assistant en onze implementatie bedoeld is om onnauwkeurigheden te minimaliseren, is het de verantwoordelijkheid van onze klanten om de resultaten te controleren op nauwkeurigheid, vooroordelen en andere mogelijke problemen.
Gebruikers kunnen onnauwkeurige uitvoer eenvoudig opnieuw genereren door de vraag of zin in de vraag-en-antwoordprompt te herformuleren.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten kunnen alle onnauwkeurige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Eerlijkheid
Grote taalmodellen brengen inherent risico's met betrekking tot stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooroordelen met zich mee.
Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor schadelijke vooroordelen of waarin de impact van dergelijke vooroordelen groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten door schadelijke vooroordelen kan worden beïnvloed. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat kan helpen om eventuele schadelijke vooroordelen te voorkomen.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten kunnen potentiële schadelijke vooroordelen aan ons melden via de contactkanalen die in de introductie worden vermeld.
Privacy en beveiliging
Zoals hierboven is beschreven in de sectie 'Belangrijkste feiten', wordt alleen de afbeelding gebruikt voor de AI Alt Text Assistant en zijn deze beperkt toegankelijk voor Microsoft. De sectie beschrijft ook onze toewijding en die van Microsoft met betrekking tot het gebruik van persoonlijke gegevens.
Amazon beschrijft zijn privacy- en beveiligingspraktijken en verplichtingen in de documentatie over Amazon Bedrock-beveiliging en privacy.
Veiligheid
Grote taalmodellen brengen inherent risico’s met betrekking tot resultaten die ongepast, aanstootgevend of anderszins onveilig zijn met zich mee. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure Vision Service.
Gezien deze risico's hebben we de functionaliteiten van de AI Alt Text Assistant zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor onveilige resultaten of waarin de impact van dergelijke resultaten groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten onveilig kan zijn. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat verder kan helpen om de risico’s van onveilige resultaten te voorkomen.
Als onderdeel van hun communicatie met betrekking tot de AI Alt Text Assistant, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.
Klanten moeten alle potentiële onveilige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Menselijk beheer
Om de risico’s te verminderen met betrekking tot het gebruik van generatieve AI voor onze klanten en hun gebruikers, hebben we opzettelijk klanten de controle gegeven over de functionaliteiten van de AI Alt Text Assistant. Je moet de AI Alt Text Assistant daarom inschakelen. Beheerders kunnen de AI Alt Text Assistant op elk gewenst moment activeren of deactiveren.
Bovendien hebben cursusleiders de controle over de resultaten, wat betekent dat ze worden gevraagd de tekstuitvoer te bekijken en de tekstuitvoer indien nodig kunnen bewerken.
De AI Alt Text Assistant omvat geen geautomatiseerde besluitvorming die wettelijke of anderszins significante gevolgen kan hebben voor studenten of andere personen.
We raden klanten aan om dit document inclusief de informatiekoppelingen in dit document zorgvuldig te bekijken om er zeker van te zijn dat ze de mogelijkheden en beperkingen van de AI Alt Text Assistant en de onderliggende Amazon Bedrock begrijpen voordat ze de functie AI Alt Text Assistant activeren.
Aansluiting van waarden
Grote taalmodellen brengen inherent risico's met zich mee met betrekking tot resultaten die bevooroordeeld, ongepast of die anderszins niet overeengestemd zijn met de waarden van Anthology of de waarden van onze klanten en studenten. Amazon beschrijft deze risico's in de gelinkte websites in het gedeelte ‘meer informatie’ hieronder.
Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) over het algemeen worden misbruikt voor praktijkscenario’s die niet overeenstemmen met de waarden van Anthology, onze klanten of hun eindgebruikers en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten, om schadelijke of anderszins ongepaste resultaten te creëren).
Gezien deze risico's, hebben we de functionaliteiten van onze AI Alt Text Assistant zorgvuldig ontworpen en geïmplementeerd om het risico van niet-afgestemde resultaten te minimaliseren. We hebben ons bijvoorbeeld gericht op functionaliteiten voor cursusleiders in plaats van voor studenten. We hebben ook bewust functionaliteiten uitgesloten die potentieel van groot belang zijn. ·
Intellectueel eigendom
Grote taalmodellen brengen inherent risico's met zich mee betrekking tot mogelijke inbreuk op intellectuele eigendomsrechten. De meeste intellectuele eigendomsrechten over de hele wereld hebben niet volledig voorzien en zijn niet aangepast aan de opkomst van grote taalmodellen en de complexiteit van de problemen die zich voordoen door het gebruik ervan. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico's op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.
Uiteindelijk is het de verantwoordelijkheid van onze klant om de resultaten van de AI Alt Text Assistant te controleren op mogelijke inbreuk op intellectueel eigendomsrecht.
Toegankelijkheid
We hebben de AI Alt Text Assistant ontworpen en ontwikkeld met toegankelijkheid in het achterhoofd, net als bij Learn en onze andere producten. Voorafgaand aan de release van de AI Alt Text Assistant hebben we doelbewust de toegankelijkheid verbeterd van de semantische structuur, navigatie, toetsenbordbediening, labels, aangepaste componenten en afbeeldingswerkstromen, om een paar gebieden te noemen. Toegankelijkheid blijft de prioriteit terwijl we in de toekomst gebruikmaken van AI.
De AI Alt Text Assistant-functie maakt gebruik van Amazon Bedrock. AWS maakt toegankelijkheidsconformiteitsrapporten beschikbaar via de AWS-toegankelijkheidspagina's.
Verantwoordelijkheid
Anthology heeft een Trustworthy AI-programma dat is ontworpen om het wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Duidelijke interne aansprakelijkheid en de systematische ethische AI-controle of functionaliteiten zoals die van de AI-assistent voor alternatieve tekst zijn belangrijke steunpilaren van het programma.
Om de AI Alt Text Assistant te leveren, zijn we een samenwerking aangegaan met Amazon om gebruik te maken van het Amazon Bedrock. AWS zet zich in voor verantwoord gebruik van AI.
Klanten moeten overwegen om intern beleid, procedures en evaluatie van AI-toepassingen van derden te implementeren om hun eigen wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Deze informatie is bedoeld om de beoordeling van de AI Alt Text Assistant door onze klanten te ondersteunen.
Overige informatie
Trustworthy AI-aanpak van Anthology
Lijst met generatieve AI-functies van Anthology
Amazon Bedrock-veelgestelde vragen
Amazon's pagina over Bedrock-beveiliging en privacy
Amazon AI-beveiligingspagina
Amazon's Machine Learning-blog
Gebruiksvoorwaarden voor de AI Alt Text Assistant
De Ally AI Alt Text Assistant maakt gebruik van de generatieve AI-modellen van AWS Bedrock.
Belangrijk
Deze functie kan ongewenste of onnauwkeurige resultaten produceren. Het is jouw verantwoordelijkheid en die van je docent om alle output te bekijken en te corrigeren of aan te passen als dat nodig of gepast is. Houd er rekening mee dat er geen klantgegevens worden gebruikt om de generatieve AI-modellen van AWS Bedrock te trainen, opnieuw te trainen of te verbeteren. Afbeeldingen of contextuele tekst die worden geüpload naar de AI Alt Text Assistant worden verzonden naar de AWS-servers die zich mogelijk buiten uw hostinglocatie bevinden.
Meer informatie over de risico's en beperkingen van de functie vind je in de standaarddocumentatie voor eindgebruikers.
Door deze functie in te schakelen, bevestig je dat je namens je instelling de aanvullende voorwaarden accepteert en dat je de informatie over risico en beperkingen in de standaarddocumentatie voor eindgebruikers waarnaar hierboven wordt verwezen, hebt gelezen en begrepen.