Illuminate Data Q&A - AI-TRANSPARENS

Vi gjør det klart i Illuminate-administrasjonskonfigurasjonsinnstillingene at dette er en AI-drevet funksjonalitet.

I brukergrensesnittet for instruktører er Illuminate Data Q&A-funksjonalitetene tydelig merket som "Generative" funksjoner. Undervisere blir også bedt om å gå gjennom tekstutdata før bruk. Metadataene for utdataene som skapes av Illuminate Data Q&A-funksjonalitetene vises i hver kundes Illuminate-bruksrapport med et felt for automatisk generert innhold. Det viser også om utdataene senere ble redigert av underviseren.

I tillegg til informasjonen som gis i dette dokumentet om hvordan Illuminate Data Q&A-funksjonen fungerer med Amazon Q i QuickSight, gir Amazon ytterligere informasjon om Amazon Q og Amazon Bedrock i lenkene i seksjonen «Ytterligere informasjon» nedenfor.

Vi oppfordrer klienter til å være åpne om bruken av KI i Illuminate Data Q&A, og gi sine instruktører og andre interessenter relevant informasjon fra dette dokumentet og dokumentasjonen som er lenket her.

Vi gjør det klart på Illuminate Setting-siden i Illuminate at dette er en AI-drevet funksjonalitet som kan gi unøyaktig eller uønsket resultat, og at slik utdata alltid bør gjennomgås av sluttbrukeren.

I brukergrensesnittet blir brukerne bedt om å gjennomgå tekstutdataene for nøyaktighet.

Som beskrevet i vanlige spørsmål om Amazon Bedrock, er det fare for unøyaktige utdata. Selv om den spesifikke naturen til Illuminate Data Q&A og vår implementering er ment å minimere unøyaktighet, er det kundens ansvar å gjennomgå resultatet for nøyaktighet, skjevhet og andre potensielle problemer.

Brukere kan enkelt regenerere unøyaktige utdata ved å omformulere spørsmålet eller uttrykket som brukes i spørsmål og svar-ledeteksten.

Som en del av kommunikasjonen om Illuminate Data Q&A bør klientene gjøre instruktørene sine oppmerksomme på denne potensielle begrensningen.

Kunder kan rapportere eventuelle unøyaktige utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

Store språkmodeller er i en selv innebygd risiko knyttet til stereotypier, over-/underrepresentasjon og andre former for skadelige fordommer.

Gitt disse risikoene har vi nøye valgt Illuminate Data Q&A-funksjonalitetene for å unngå brukstilfeller som kan være mer utsatt for skadelig skjevhet, eller der virkningen av slik skjevhet kan være mer betydelig.

Det kan derimot ikke utelukkes at noe av produksjonen kan være påvirket av skadelige skjevheter. Som nevnt ovenfor under «Nøyaktighet» bes instruktører om å gjennomgå resultater, noe som kan bidra til å redusere skadelig skjevhet.

Som en del av kommunikasjonen om Illuminate Data Q&A bør klientene gjøre instruktørene sine oppmerksomme på denne potensielle begrensningen.

Kunder kan rapportere eventuelle potensielt skadelige skjevheter til oss ved å bruke kontaktkanalene som er oppført i introduksjonen.

Som beskrevet i avsnittet «Nøkkelfakta» ovenfor, brukes kun begrensede brukerprompts og oppsummeringsdata for Illuminate Data Q&A og er tilgjengelige for Amazon. Avsnittet beskriver også vår og Amazons forpliktelse angående bruk av personopplysninger.

Amazon beskriver sine praksiser og forpliktelser for datavern og sikkerhet i dokumentasjonen om Amazon Bedrock Security and Privacy.

Store språkmodeller utgjør i seg selv en risiko for utdata som kan være upassende, støtende eller på andre måter utrygge. Amazon beskriver disse risikoene i sin begrensningsseksjon på Amazons Responsible AI-side.

Gitt disse risikoene har vi nøye valgt Illuminate Data Q&A-funksjonalitetene for å unngå brukstilfeller som kan være mer utsatt for usikre utdata, eller hvor effekten av slike resultater kan være mer betydelig.

Det kan likevel ikke utelukkes at noe av produksjonen kan være usikker. Som nevnt ovenfor i «Nøyaktighet»-seksjonen, blir instruktørene bedt om å gjennomgå resultater, noe som ytterligere kan bidra til å redusere risikoen for usikkert resultat.

Som en del av kommunikasjonen om Illuminate Data Q&A bør klientene gjøre instruktørene sine oppmerksomme på denne potensielle begrensningen.

Kunder bør rapportere potensielt usikre utdata til oss ved å bruke kanalene som er oppført i introduksjonen.

For å minimere risikoen knyttet til bruk av generativ AI for våre kunder og deres brukere, lar vi bevisst klientene kontrollere funksjonene i Illuminate Data Q&A. Illuminate Data Q&A er derfor en opt-in-funksjon. Administratorer kan aktivere eller deaktivere Illuminate Data Q&A når som helst.

Undervisere har dessuten kontroll over utdataene, noe som betyr at de blir bedt om å gjennomgå utdata og kan redigere utdata etter behov.

Illuminate Data Q&A inkluderer ingen automatisert beslutningstaking som kan ha juridisk eller annen betydelig effekt på studenter eller andre personer.

Vi oppfordrer kundene til å nøye gjennomgå dette dokumentet, inkludert informasjonslenkene som er gitt her, for å sikre at de forstår mulighetene og begrensningene til Illuminate Data Q&A og den underliggende Amazon Q&A i QuickSight før de aktiverer Illuminate Data Q&A generative AI-funksjonen.

Store språkmodeller har i seg selv innebygd risiko med hensyn til produksjon som er skjev, upassende eller på annen måte ikke i tråd med Anthology-verdier eller verdiene til våre kunder og elever. Amazon beskriver disse risikoene på de lenkede nettsidene i seksjonen «Ytterligere informasjon» nedenfor.

I tillegg innebærer store språkmodeller (som all teknologi som tjener brede formål) en risiko for at de kan misbrukes til bruksområder som ikke samsvarer med verdiene til Anthology, våre klienter eller deres sluttbrukere, og samfunnets verdier generelt (for eksempel for kriminelle aktiviteter eller for å skape skadelige eller på annen måte upassende output).

Gitt disse risikoene har vi nøye designet og implementert våre Illuminate Data Q&A-funksjoner på en måte som minimerer risikoen for feiljustert resultat. Vi har også tilsiktet utelatt funksjonaliteter med potensielt høy innsats.

Store språkmodeller utgjør i seg selv risiko knyttet til potensielle krenkelser av immaterielle rettigheter. De fleste åndsrettslover i verden har ikke fullt ut forutsett eller tilpasset seg fremveksten av store språkmodeller og kompleksiteten i problemene som kommer fra bruken av dem. Derfor finnes det for øyeblikket ikke noe klart juridisk rammeverk eller veiledning som adresserer åndsrettsproblemer og risikoer som oppstår ved bruk av disse modellene.

Det er til syvende og sist vår klients ansvar å gjennomgå resultatene som genereres av Illuminate Data Q&A for eventuelle potensielle brudd på immaterielle rettigheter.

Vi designet og utviklet Illuminate Data Q&A med tilgjengelighet i tankene, akkurat som vi gjør gjennom Learn og våre andre produkter. Før lanseringen av Illuminate Data Q&A forbedret vi bevisst tilgjengeligheten til den semantiske strukturen, navigasjon, tastaturkontroller, etiketter, egendefinerte komponenter og bildearbeidsflyter, for å nevne noen områder. Vi vil fortsatt prioritere tilgjengelighet når vi bruker AI i fremtiden.

Illuminate Data Q&A-funksjonen benytter Amazon QuickSight. AWS gjør samsvarstilgjengelighetsrapporter tilgjengelig via AWS-tilgjengelighetssidene.

Anthology har et pålitelig AI-program som er utviklet for å sikre lovlig, etisk og ansvarlig bruk av AI. Tydelig intern ansvarlighet og systematisk etisk AI-gjennomgang av funksjoner som de som tilbys av Illuminate Data Q&A er nøkkelpilarer i programmet.

For å levere Illuminate Data Q&A samarbeidet vi med Amazon for å utnytte Amazon Q i QuickSight. AWS er forpliktet til ansvarlig bruk av KI.

Kunder bør vurdere å implementere interne retningslinjer, prosedyrer og gjennomgang av tredjeparts AI-applikasjoner for å sikre egen juridisk, etisk og ansvarlig bruk av AI. Denne informasjonen er gitt for å støtte våre kunders gjennomgang av Illuminate Data Q&A-funksjonene for generativ AI.

Anthologys pålitelige AI-tilnærming

Amazons Responsible AI-side

Amazons Bedrock FAQ

Amazons side om Bedrock Security and Privacy

Amazons AI-sikkerhetsside

Amazons maskinlæringsblogg

Amazons Q i QuickSight-oversikt

AWS kunngjør Amazon Q i QuickSight (bloggartikkel)