Illuminate Data Q&A - AI-TRANSPARANTIE
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
AI-gefaciliteerde functionaliteiten
De Illuminate Data Q&A-functie biedt een door AI gegenereerde tekstsamenvatting van de gegevens die in het Data Q&A-dashboard worden gepresenteerd, die wordt gegenereerd vanuit de prompt van de gebruiker. Anthology is een samenwerking aangegaan met AWS om deze functionaliteit te bieden, deels omdat AWS zich inzet voor het verantwoord gebruik van AI.
De Illuminate Data Q&A-functie biedt de volgende generatieve AI-gefaciliteerde functionaliteiten:
Genereer gegevenssamenvattingen en suggesties: Een door AI gegenereerde tekstsamenvatting van de gegevens die op het dashboard worden weergegeven, wordt automatisch gemaakt op basis van de prompt van de gebruiker. De functie stelt ook alternatieve prompts voor om het dataverzoek te verfijnen.
Opmerking
Deze functionaliteiten zijn onderhevig aan de beperkingen en beschikbaarheid van Amazon Q / Amazon Bedrock en kunnen veranderen. Bekijk de relevante release notes voor details.
Belangrijkste feiten
Vraag | Antwoord |
|---|---|
Welke Illuminate-functionaliteiten gebruiken AI-systemen? | De hierboven genoemde Data Q&A-functie. |
Is dit een door derden ondersteund AI-systeem? | Ja. De Illuminate Data Q&A-functie wordt aangedreven door Amazon Q in QuickSight, dat op zijn beurt gebruikmaakt van Amazon Bedrock. Amazon Q in QuickSight gebruikt Anthropic Claude en Amazon Titan via Amazon Bedrock (evenals een mix van door AWS ontwikkelde machine learning-modellen). |
Hoe werkt het AI-systeem? | De Illuminate Data Q&A heeft altijd vertrouwd op Amazon QuickSight (een BI-tool met natuurlijke taalverwerkingsmogelijkheden). Voor de nieuwe generatieve AI-mogelijkheden vertrouwt Illuminate ook op Amazon Q voor QuickSight. Met behulp van Amazon Q voor QuickSight maakt de Illuminate Data Q&A automatisch een samenvatting van de gegevens die op het Data Q&A-dashboard worden weergegeven. De functie stelt ook alternatieve prompts voor om het dataverzoek te verfijnen. Amazon Q maakt gebruik van Anthropic Claude en Amazon Titan binnen Amazon Bedrock (plus extra AWS machine learning-modellen) om deze mogelijkheden te bieden. Om samenvattingen en suggesties te maken, stuurt Amazon Q in QuickSight gebruikersprompts en samenvattingsgegevens van de dashboardvisuals via een API naar het relevante AWS Bedrock-model. |
Waar wordt het AI-systeem gehost? | De hosting van Amazon QuickSight en Amazon Bedrock wordt bepaald door Amazon. Amazon QuickSight is over het algemeen beschikbaar in dezelfde regio's als Illuminate. Amazon Bedrock is momenteel beschikbaar in de EU en de VS, dus voor onze EU- en Amerikaanse klanten worden deze regio's respectievelijk benut. De output van het generatieve AI-model bestaat uit tijdelijke samenvattingen en alternatieve prompts die niet permanent worden opgeslagen in Illuminate, of Amazon Q in QuickSight / Bedrock. |
Moet je je voor deze functionaliteit aanmelden? | Ja. Beheerders moeten namens hun instelling zich aanmelden op de instellingenpagina van Illuminate. Bezoek het onderwerp "Anthology Illuminate Settings" voor meer informatie. |
Hoe wordt het AI-systeem getraind? | Anthology is niet betrokken bij de training van de Anthropic Claude- en Amazon Titan-modellen die de Illuminate Data Q&A-functionaliteiten via Amazon Bedrock aandrijven. Deze modellen worden respectievelijk getraind door Anthropic (Anthropic Claude) en Amazon (Amazon Titan). Anthology verfijnt deze modellen niet verder met onze eigen data of die van onze klanten. |
Worden clientgegevens gebruikt voor het (her)trainen van het AI-systeem? | Nee. Amazon verplicht zich in zijn publieke documentatie om geen invoer of output van de grote taalmodellen binnen Amazon Bedrock te gebruiken voor de hertraining van de grote taalmodellen. Amazon geeft informatie over hoe de grote taalmodellen worden getraind via de links in de sectie "Verdere informatie" hieronder. Alle gegevens die worden ingevoerd en uitgevoerd, worden onderweg en in rust versleuteld. |
Hoe gebruikt Anthology persoonsgegevens met betrekking tot het aanbieden van de Illuminate Data Q&A? | Anthology gebruikt de informatie die in verband met Illuminate Data Q&A is verzameld alleen om de Illuminate Data Q&A te bieden, onderhouden en ondersteunen, en waar wij contractuele toestemming hebben om dit te doen. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy in ons Trust Center. |
In het geval dat een AI-systeem ondersteund wordt door een derde partij: hoe gebruikt deze derde partij persoonlijke gegevens? | Alleen beperkte gebruikersprompts en samenvattingsgegevens van de dashboardvisuals worden van Amazon Q voor QuickSight naar Amazon Bedrock doorgegeven om de functie te bieden. Noch Amazon, noch een Amazon Bedrock-modelaanbieder gebruikt Anthology-data of Anthology-klantdata om de Amazon Bedrock-modellen te verbeteren. Meer informatie over de privacypraktijken met betrekking tot Amazon Bedrock Security and Privacy vindt u in de Amazon-documentatie op de AWS AI Security Page, de AWS Machine Learning Blog, het overzicht van Amazon Q in QuickSight, AWS kondigt Amazon Q aan in QuickSight (blogartikel), en op de pagina Amazon Bedrock Security and Privacy. |
Is toegankelijkheid meegenomen bij het ontwerp van de Illuminate Data Q&A? | De Illuminate Data Q&A-functie maakt gebruik van Amazon QuickSight. Omdat dit een externe functie is, werd toegankelijkheid door Amazon in plaats van Anthology overwogen. Amazon maakt toegankelijkheidsconformiteitsrapporten beschikbaar via de AWS Accessibility pages. |
Overwegingen en aanbevelingen voor instellingen
Bedoelde praktijkscenario’s
De Illuminate Data Q&A is uitsluitend bedoeld om de hierboven genoemde functionaliteiten te ondersteunen. Deze functionaliteiten worden aangeboden aan en bedoeld voor de instructeurs van onze cliënten om hen te ondersteunen bij analyse en verbeteringen van Data Q&A-rapporten.
Praktijkscenario’s buiten bereik
Illuminate Data Q&A biedt momenteel geen promptfunctionaliteit of vergelijkbare functionaliteit die direct de generatieve AI-modellen kan instructeren. Daarom verwachten we geen onbedoelde (buiten de scope) gebruikssituaties.
Trustworthy AI-principes in de praktijk
Anthology en Amazon zijn van mening dat het wettelijke, ethische en verantwoordelijk gebruik van AI een belangrijke prioriteit is. Deze sectie legt uit hoe Anthology en Amazon hebben gewerkt aan het aanpakken van het toepasselijke risico voor het legale, ethische en verantwoorde gebruik van AI en de Anthology Trustworthy AI-principes implementeren. Het stelt ook stappen voor waar onze klanten rekening mee kunnen houden bij het uitvoeren van hun eigen AI- en juridische beoordelingen van ethische AI-risico's van hun implementatie.
Transparantie en uitlegbaarheid
We maken in de configuratieopties van Illuminate duidelijk dat dit een door AI ondersteunde functionaliteit is.
In de gebruikersinterface voor instructeurs zijn de Illuminate Data Q&A-functionaliteiten duidelijk aangeduid als "Generatieve" functionaliteiten. Docenten worden ook gevraagd de tekstoutput vooraf te bekijken. De metadata van de output die door de Illuminate Data Q&A-functionaliteiten wordt gegenereerd, worden in het Illuminate-gebruiksrapport van elke klant getoond, met een veld voor automatisch gegenereerde content. Je ziet ook of de uitvoer vervolgens door de cursusleider is gewijzigd.
Naast de informatie in dit document over hoe de Illuminate Data Q&A-functie werkt met Amazon Q in QuickSight, geeft Amazon aanvullende informatie over Amazon Q en Amazon Bedrock via de links in de sectie "Meer informatie" hieronder.
Wij moedigen klanten aan transparant te zijn over het gebruik van AI in de Illuminate Data Q&A en hun docenten en andere belanghebbenden, waar nodig, te voorzien van de relevante informatie uit dit document en de hierin gelinkte documentatie.
Betrouwbaarheid en nauwkeurigheid
We maken duidelijk op de Illuminate Setting-pagina van Illuminate dat dit een door AI gefaciliteerde functionaliteit is die onnauwkeurige of ongewenste output kan opleveren, en dat deze output altijd door de eindgebruiker moet worden beoordeeld.
In de gebruikersinterface wordt gebruikers gevraagd de tekstuitvoer te controleren op nauwkeurigheid.
Zoals beschreven in de Amazon Bedrock FAQ's, bestaat er een risico op onnauwkeurige output. Hoewel de specifieke aard van de Illuminate Data Q&A en onze implementatie bedoeld is om onnauwkeurigheden te minimaliseren, is het de verantwoordelijkheid van onze klant om de output te beoordelen op nauwkeurigheid, vooringenomenheid en andere mogelijke problemen.
Gebruikers kunnen onnauwkeurige uitvoer eenvoudig regenereren door de vraag of zin in de vraag en antwoord prompt opnieuw te formuleren.
Als onderdeel van hun communicatie over de Illuminate Data Q&A moeten klanten hun docenten bewust maken van deze mogelijke beperking.
Klanten kunnen alle onnauwkeurige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Eerlijkheid
Grote taalmodellen brengen inherent risico's met zich mee die verband houden met stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooringenomenheid.
Gezien deze risico's hebben we zorgvuldig de Illuminate Data Q&A-functionaliteiten gekozen om gebruikssituaties te vermijden die gevoeliger kunnen zijn voor schadelijke bias of waarbij de impact van zo'n bias groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten door schadelijke vooroordelen kan worden beïnvloed. Zoals hierboven vermeld onder "Nauwkeurigheid" wordt instructeurs gevraagd de output te beoordelen, wat kan helpen om schadelijke vooroordelen te verminderen.
Als onderdeel van hun communicatie over de Illuminate Data Q&A moeten klanten hun docenten bewust maken van deze mogelijke beperking.
Klanten kunnen potentiële schadelijke vooroordelen aan ons melden via de contactkanalen die in de introductie worden vermeld.
Privacy en beveiliging
Zoals beschreven in de sectie "Key facts" hierboven, worden alleen beperkte gebruikersprompts en samenvattende gegevens gebruikt voor de Illuminate Data Q&A en zijn ze toegankelijk voor Amazon. De sectie beschrijft ook onze en Amazons toezegging met betrekking tot het gebruik van persoonlijke informatie.
Amazon beschrijft zijn privacy- en beveiligingspraktijken en -verplichtingen in de documentatie over Amazon Bedrock Security and Privacy.
Veiligheid
Grote taalmodellen brengen inherent risico’s met betrekking tot resultaten die ongepast, aanstootgevend, of anderszins onveilig zijn met zich mee. Amazon beschrijft deze risico's in het gedeelte Beperkingen van Amazons Responsible AI-pagina.
Gezien deze risico's hebben we zorgvuldig gekozen voor de Illuminate Data Q&A-functionaliteiten om gebruikssituaties te vermijden die gevoeliger kunnen zijn voor onveilige uitkomsten of waarbij de impact van dergelijke uitkomsten groter kan zijn.
Toch kan niet worden uitgesloten dat een deel van de resultaten onveilig kan zijn. Zoals hierboven vermeld in de sectie "Nauwkeurigheid", worden instructeurs gevraagd output te beoordelen, wat het risico op onveilige output verder kan verminderen.
Als onderdeel van hun communicatie over de Illuminate Data Q&A moeten klanten hun docenten bewust maken van deze mogelijke beperking.
Klanten moeten alle potentiële onveilige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.
Menselijk beheer
Om het risico van het gebruik van generatieve AI voor onze klanten en hun gebruikers te minimaliseren, hebben we bewust clients de controle over de functionaliteiten van de Illuminate Data Q&A gegeven. De Illuminate Data Q&A is daarom een opt-in functie. Beheerders kunnen de Illuminate Data Q&A op elk moment activeren of deactiveren.
Daarnaast hebben instructeurs de controle over de output, wat betekent dat ze gevraagd worden de output te beoordelen en deze indien nodig opnieuw kunnen genereren.
De Illuminate Data Q&A bevat geen geautomatiseerde besluitvorming die een juridische of anderszins significante impact kan hebben op studenten of andere personen.
Wij moedigen klanten aan dit document zorgvuldig te bekijken, inclusief de informatielinks hierin, om ervoor te zorgen dat zij de mogelijkheden en beperkingen van de Illuminate Data Q&A en de onderliggende Amazon Q in QuickSight begrijpen voordat ze de Illuminate Data Q&A-generatieve AI-functie activeren.
Aansluiting van waarden
Grote taalmodellen brengen inherent risico's met zich mee met betrekking tot resultaten die bevooroordeeld, ongepast of die anderszins niet overeengestemd zijn met de waarden van Anthology of de waarden van onze klanten en studenten. Amazon beschrijft deze risico's in de gelinkte websites in het gedeelte ‘meer informatie’ hieronder.
Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) worden misbruikt voor scenario’s die niet overeenstemmen met de waarden van Anthology, onze klanten of hun eindgebruikers, en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten, om schadelijke of anderszins ongepaste resultaten te creëren).
Gezien deze risico's hebben we onze Illuminate Data Q&A-functionaliteiten zorgvuldig ontworpen en geïmplementeerd om het risico op verkeerd uitgelijnde output te minimaliseren. We hebben ook bewust functionaliteiten uitgesloten die potentieel van groot belang zijn.
Intellectueel eigendom
Grote taalmodellen brengen inherent risico's met zich mee betrekking tot mogelijke inbreuk op intellectuele eigendomsrechten. De meeste intellectuele eigendomswetten wereldwijd hebben niet volledig voorzien of zich aangepast aan de opkomst van grote taalmodellen en de complexiteit van de problemen die voortvloeien uit hun gebruik. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico's op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.
Het is uiteindelijk de verantwoordelijkheid van onze cliënt om de output van die Illuminate Data Q&A te beoordelen op mogelijke inbreuk op intellectuele eigendomsrechten.
Toegankelijkheid
We hebben de Illuminate Data Q&A ontworpen en ontwikkeld met toegankelijkheid in gedachten, net zoals we dat doen bij Learn en onze andere producten. Voor de release van de Illuminate Data Q&A hebben we bewust de toegankelijkheid van de semantische structuur, navigatie, toetsenbordbesturing, labels, aangepaste componenten en afbeeldingswerkstromen verbeterd, om er maar een paar te noemen. Toegankelijkheid blijft de prioriteit terwijl we in de toekomst gebruikmaken van AI.
De Illuminate Data Q&A-functie maakt gebruik van Amazon QuickSight. AWS stelt toegankelijkheidsconformiteitsrapporten beschikbaar via de AWS Toegankelijkheidspagina's.
Verantwoordelijkheid
Anthology heeft een Trustworthy AI-programma dat is ontworpen om het wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Duidelijke interne verantwoordelijkheid en de systematische ethische AI-review van functionaliteiten zoals die geboden door de Illuminate Data Q&A zijn belangrijke pijlers van het programma.
Om de Illuminate Data Q&A te leveren, werkten we samen met Amazon om de Amazon Q in QuickSight te benutten. AWS zet zich in voor het verantwoord gebruik van AI.
Klanten moeten overwegen om intern beleid, procedures en evaluatie van AI-toepassingen van derden te implementeren om hun eigen wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Deze informatie wordt verstrekt ter ondersteuning van de beoordeling van de generatieve AI-functies van Illuminate Data Data Q&A.
Overige informatie
Anthology's Trustworthy AI-benadering
Pagina over verantwoorde AI van Amazon
Amazon's pagina over Bedrock beveiliging en privacy
AI-beveiligingspagina van Amazon
Amazon's Machine Learning blog
Amazon's Q in QuickSight overzicht