Illuminate Data Q&A - AI-TRANSPARENS

Vi gör det tydligt i Illuminate-administrationens konfigurationsalternativ att detta är en AI-faciliterad funktion.

I användargränssnittet för instruktörer är Illuminate Data Q&A-funktionerna tydligt markerade som "Generativa" funktioner. Lärare ombeds även att granska textutmatningen före användning. Metadata för det resultat som skapas av Illuminate Data Q&A-funktionerna exponeras i varje kunds Illuminate-användningsrapport med ett fält för automatiskt genererat innehåll. Det visar också om utdata senare redigerades av läraren.

Utöver informationen i detta dokument om hur Illuminate Data Q&A-funktionen fungerar med Amazon Q i QuickSight, tillhandahåller Amazon ytterligare information om Amazon Q och Amazon Bedrock i länkarna i avsnittet "Ytterligare information" nedan.

Vi uppmuntrar kunder att vara transparenta kring användningen av AI i Illuminate Data Q&A och att ge sina lärare och andra intressenter relevant information från detta dokument och dokumentationen som länkas här, när det är lämpligt.

Vi gör det tydligt på Illuminate Setting-sidan i Illuminate att detta är en AI-faciliterad funktionalitet som kan ge felaktiga eller oönskade resultat, och att sådan utdata alltid bör granskas av slutanvändaren.

I användargränssnittet ombeds användarna granska textutmatningen för noggrannhet.

Som det beskrivs i vanliga frågor om Amazon Bedrock finns det risk för felaktiga utdata. Även om den specifika karaktären av Illuminate Data Q&A och vår implementation är avsedd att minimera felaktigheter, är det vår kunds ansvar att granska resultatet för noggrannhet, partiskhet och andra potentiella problem.

Användare kan enkelt återskapa felaktiga utdata genom att omformulera frågan eller frasen som används i Frågor och svar-prompten.

Som en del av sin kommunikation kring Illuminate Data Q&A bör klienter göra sina lärare medvetna om denna potentiella begränsning.

Klienter kan rapportera eventuella felaktiga resultat till oss med hjälp av de kanaler som anges i introduktionen.

Stora språkmodeller medför i sig risker i samband med stereotyper, över- eller underrepresentation och andra former av skadlig partiskhet.

Med tanke på dessa risker har vi noggrant valt Illuminate Data Q&A-funktioner för att undvika användningsfall som kan vara mer benägna att få skadlig partiskhet eller där effekten av sådan bias kan vara mer betydande.

Det kan dock inte uteslutas att en del av produktionen kan påverkas av skadlig partiskhet. Som nämnts ovan under "Noggrannhet" ombeds instruktörer att granska resultat, vilket kan bidra till att minska skadlig bias.

Som en del av sin kommunikation kring Illuminate Data Q&A bör klienter göra sina lärare medvetna om denna potentiella begränsning.

Klienter kan rapportera eventuell skadlig partiskhet till oss med hjälp av de kontaktkanaler som anges i introduktionen.

Som beskrivs i avsnittet "Nyckelfakta" ovan används endast begränsade användarprompts och sammanfattningsdata för Illuminate Data Q&A och är tillgängliga för Amazon. Avsnittet beskriver också vårt och Amazons åtagande angående användningen av personlig information.

Amazon beskriver sina metoder och åtaganden för datasekretess och säkerhet i dokumentationen på Amazon Bedrock Security and Privacy.

Stora språkmodeller utgör i sig en risk för utdata som kan vara olämplig, stötande eller på annat sätt osäker. Amazon beskriver dessa risker i sin begränsningssektion på Amazons Responsible AI-sida.

Med tanke på dessa risker har vi noggrant valt Illuminate Data Q&A-funktioner för att undvika användningsfall som kan vara mer benägna att få osäkra resultat eller där effekten av sådana utdata kan bli mer betydande.

Det kan dock inte uteslutas att en del av produktionen kan vara osäker. Som nämnts ovan i avsnittet "Noggrannhet" ombeds instruktörerna granska resultat, vilket ytterligare kan minska risken för osäkert resultat.

Som en del av sin kommunikation kring Illuminate Data Q&A bör klienter göra sina lärare medvetna om denna potentiella begränsning.

Klienter bör rapportera eventuell osäker utdata till oss med hjälp av de kanaler som anges i introduktionen.

För att minimera risken med användningen av generativ AI för våra kunder och deras användare, sätter vi medvetet klienterna i kontroll över Illuminate Data Q&A:s funktioner. Illuminate Data Q&A är därför en opt-in-funktion. Administratörer kan aktivera eller inaktivera Illuminate Data Q&A när som helst.

Dessutom har lärarna kontroll över utdata, vilket innebär att de uppmanas att granska utdata och kan regenerera utdata efter behov.

Illuminate Data Q&A inkluderar inga automatiserade beslut som kan ha en juridisk eller annan betydande effekt på elever eller andra individer.

Vi uppmuntrar kunder att noggrant granska detta dokument, inklusive informationslänkarna som tillhandahålls här, för att säkerställa att de förstår för- och nackdelarna med Illuminate Data Q&A och den underliggande Amazon Q&A i QuickSight innan de aktiverar Illuminate Data Q&A-funktionen generativ AI.

Stora språkmodeller har i sig risker när det gäller resultat som är partiska, olämpliga eller på annat sätt inte överensstämmer med Anthologys värderingar eller värderingarna eller våra klienter och elever. Amazon beskriver dessa risker på de länkade webbplatserna i avsnittet "Ytterligare information" nedan.

Dessutom innebär stora språkmodeller (liksom all teknik som tjänar breda syften) risken att de kan missbrukas för användningsområden som inte stämmer överens med värderingar i Anthology, våra klienter eller deras slutanvändare, och samhällets värderingar i stort (till exempel för brottslig verksamhet eller för att skapa skadliga eller på annat sätt olämpliga resultat).

Med tanke på dessa risker har vi noggrant utformat och implementerat våra Illuminate Data Q&A-funktioner på ett sätt som minimerar risken för feljusterade resultat. Vi har också avsiktligt utelämnat potentiellt höga insatser.

Stora språkmodeller medför i sig risker för potentiellt intrång i immateriella rättigheter. De flesta immaterialrättsliga lagar runt om i världen har inte helt förutsett eller anpassat sig till framväxten av stora språkmodeller och komplexiteten i de problem som skapas när de används. Till följd av detta finns det för närvarande ingen tydlig rättslig ram eller vägledning som tar itu med de immaterialrättsliga frågor och risker som uppstår vid användningen av dessa modeller.

Det är i slutändan vår klients ansvar att granska det resultat som genereras av den Illuminate Data Q&A för eventuella intrång i immateriella rättigheter.

Vi designade och utvecklade Illuminate Data Q&A med tillgänglighet i åtanke, precis som vi gör genom Learn och våra andra produkter. Innan lanseringen av Illuminate Data Q&A förbättrade vi medvetet tillgängligheten till den semantiska strukturen, navigering, tangentbordskontroller, etiketter, anpassade komponenter och bildarbetsflöden, för att nämna några områden. Vi kommer att fortsätta att prioritera tillgänglighet när vi utnyttjar AI i framtiden.

Illuminate Data Q&A-funktionen använder Amazon QuickSight. AWS gör tillgänglighetsrapporter tillgängliga via AWS tillgänglighetssidor.

Anthology har ett tillförlitligt AI-program som är utformat för att säkerställa laglig, etisk och ansvarsfull användning av AI. Tydlig intern ansvarsskyldighet och systematisk etisk AI-granskning av funktioner som de som tillhandahålls av Illuminate Data Q&A är programmets nyckelpelare.

För att leverera Illuminate Data Q&A samarbetade vi med Amazon för att utnyttja Amazon Q i QuickSight. AWS är engagerat i ansvarsfull användning av AI.

Klienter bör överväga att implementera interna policyer, förfaranden och granskning av AI-applikationer från tredje part för att säkerställa sin egen juridiska, etiska och ansvarsfulla användning av AI. Denna information tillhandahålls för att stödja våra kunders granskning av Illuminate Data Q&A-funktioner för generativ AI.

Anthologys strategi för tillförlitligt AI

Amazons Responsible AI-sida

Amazons Bedrock FAQ

Amazons sida om Bedrock Security and Privacy

Amazons AI-säkerhetssida

Amazons Machine Learning Blogg

Amazons översikt Q i QuickSight

AWS announces Amazon Q in QuickSight (bloggartikel)