Illuminate Q&A Dati - Trasparenza dell'IA
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
Funzionalità facilitate dall'intelligenza artificiale
La funzione Illuminate Q&A Dati fornisce un riepilogo testuale generato dall'intelligenza artificiale dei dati presentati nel dashboard Q&A Dati che viene generato dal prompt dell'utente. Anthology ha collaborato con AWS per fornire questa funzionalità, anche perché AWS è impegnata nell'uso responsabile dell'intelligenza artificiale.
La funzione Q&A Dati di Illuminate offre le seguenti funzionalità generative facilitate dall'intelligenza artificiale:
Genera riepilogo e suggerimenti dei dati: viene creato automaticamente un riepilogo testuale generato dall'intelligenza artificiale dei dati visualizzati sulla dashboard in base al prompt dell'utente. La funzione suggerisce anche suggerimenti alternativi per perfezionare la richiesta di dati.
Nota
Queste funzionalità sono soggette alle limitazioni e alla disponibilità di Amazon Q / Amazon Bedrock e sono soggette a modifiche. Per ulteriori informazioni, consulta le note di rilascio pertinenti.
Informazioni chiave
Domanda | Risposta |
|---|---|
Quali funzionalità di Illuminate utilizzano i sistemi di intelligenza artificiale? | La funzione Q&A Dati elencata in precedenza. |
Si tratta di un sistema di intelligenza artificiale supportato da terze parti? | Sì. La funzione Q&A Dati di Illuminate è basata su Amazon Q in QuickSight, che a sua volta sfrutta Amazon Bedrock. Amazon Q in QuickSight utilizza Anthropic Claude e Amazon Titan tramite Amazon Bedrock (oltre a una combinazione di modelli di machine learning sviluppati da AWS). |
Come funziona il sistema di intelligenza artificiale? | Il Q&A di Illuminate Data si è sempre affidato ad Amazon QuickSight (uno strumento di BI con capacità di elaborazione del linguaggio naturale). Per le nuove funzionalità di intelligenza artificiale generativa, Illuminate si affida inoltre ad Amazon Q per QuickSight. Con l'aiuto di Amazon Q per QuickSight, Q&A Dati di Illuminate crea automaticamente un riepilogo dei dati visualizzati sul pannello di controllo Q&A Dati. La funzione suggerisce anche suggerimenti alternativi per perfezionare la richiesta di dati. Amazon Q sfrutta Anthropic Claude e Amazon Titan all'interno di Amazon Bedrock (oltre ad altri modelli di machine learning AWS) per fornire queste funzionalità. Per creare riepiloghi e suggerire prompt, Amazon Q in QuickSight passa i prompt dell'utente e i dati di riepilogo dagli elementi visivi del pannello di controllo tramite un'API al modello AWS Bedrock pertinente. |
Dove è ospitato il sistema di intelligenza artificiale? | L'hosting di Amazon QuickSight e Amazon Bedrock è determinato da Amazon. Amazon QuickSight è generalmente disponibile nelle stesse regioni di Illuminate. Amazon Bedrock è attualmente disponibile nell'UE e negli Stati Uniti, quindi per i nostri clienti dell'UE e degli Stati Uniti, queste regioni sono coperte rispettivamente. L'output del modello di intelligenza artificiale generativa è costituito da riepiloghi temporanei e prompt alternativi che non sono memorizzati in modo permanente in Illuminate o Amazon Q in QuickSight / Bedrock. |
Si tratta di una funzionalità di opt-in? | Sì. Gli amministratori devono effettuare l'iscrizione per conto del proprio istituto nella pagina Impostazioni di Illuminate. Visita l'argomento "Impostazioni di Anthology Illuminate" per i dettagli. |
Come viene addestrato il sistema di intelligenza artificiale? | Anthology non è coinvolta nell'addestramento dei modelli Anthropic Claude e Amazon Titan che implementano le funzionalità di Q&A Dati di Illuminate tramite Amazon Bedrock. Questi modelli sono addestrati rispettivamente da Anthropic (Anthropic Claude) e Amazon (Amazon Titan). Anthology non perfeziona ulteriormente questi modelli utilizzando i dati propri o dei nostri clienti. |
I dati dei clienti vengono utilizzati per (ri)addestrare il sistema di intelligenza artificiale? | No. Nella sua documentazione pubblica Amazon si impegna a non utilizzare alcun input o output per il riaddestramento dei modelli linguistici di grandi dimensioni all'interno di Amazon Bedrock. Amazon fornisce informazioni su come vengono addestrati i modelli linguistici di grandi dimensioni nei collegamenti nella sezione "Ulteriori informazioni" di seguito. Tutti i dati in input e output vengono crittografati in transito e a riposo. |
In che modo Anthology utilizza le informazioni personali per quanto riguarda la fornitura Q&A Dati di Illuminate? | Anthology utilizza le informazioni raccolte in relazione a Q&A Dati di Illuminate solo per fornire, mantenere e supportare Q&A Dati di Illuminate e laddove abbiamo l'autorizzazione contrattuale per farlo. Puoi trovare maggiori informazioni sull'approccio di Anthology alla privacy dei dati nel nostro Trust Center. |
Nel caso di un sistema di intelligenza artificiale supportato da terze parti, in che modo la terza parte utilizzerà le informazioni personali? | Solo i prompt utente limitati e i dati di riepilogo dagli elementi visivi del pannello di controllo vengono passati da Amazon Q per QuickSight ad Amazon Bedrock per fornire la funzionalità. Né Amazon né alcun fornitore di modelli Amazon Bedrock utilizza i dati di Anthology o i dati dei clienti di Anthology per migliorare i modelli di Amazon Bedrock. Per ulteriori informazioni sulle pratiche relative alla privacy dei dati relative alla sicurezza e alla privacy di Amazon Bedrock, consulta la documentazione di Amazon nella pagina AWS AI Security, AWS Machine Learning Blog, la panoramica Amazon Q in QuickSight AWS annuncia Amazon Q in QuickSight (articolo del blog) e la pagina Amazon Bedrock Security and Privacy. |
L'accessibilità è stata presa in considerazione nella progettazione del Q&A di Illuminate Data? | La funzione Q&A Dati di Illuminate utilizza Amazon QuickSight. Poiché si tratta di una funzionalità di terze parti, l'accessibilità è stata presa in considerazione da Amazon piuttosto che da Anthology. Amazon rende disponibili i report sulla conformità all'accessibilità tramite le pagine AWS Accessibility. |
Considerazioni e raccomandazioni per gli istituti
Casi d'uso previsti
Le domande e risposte sui dati di Illuminate hanno il solo scopo di supportare le funzionalità sopra elencate. Queste funzionalità sono fornite e destinate agli istruttori dei nostri clienti per supportarli con l'analisi e il miglioramento dei report di domande e risposte sui dati.
Casi d'uso fuori ambito
Q&A Dati di Illuminate attualmente non fornisce una funzionalità di prompt o funzionalità simili in grado di istruire direttamente i modelli di intelligenza artificiale generativa. Per questo motivo, non prevediamo casi d'uso non intenzionali (fuori dall'ambito).
Principi di IA affidabili nella pratica
Anthology e Amazon ritengono che l'uso legale, etico e responsabile dell'intelligenza artificiale sia una priorità fondamentale. Questa sezione spiega in che modo Anthology e Amazon hanno lavorato per affrontare il rischio applicabile all'uso legale, etico e responsabile dell'IA e implementare i Principi di IA affidabile di Anthology. Suggerisce inoltre i passaggi che i nostri clienti possono prendere in considerazione quando intraprendono le proprie revisioni legali e legali dei rischi etici dell'IA della loro implementazione.
Trasparenza e spiegabilità
Nelle opzioni di configurazione dell'amministrazione di Illuminate chiariamo che si tratta di una funzionalità facilitata dall'intelligenza artificiale.
Nell'interfaccia utente per gli istruttori, le funzionalità di Q&A Dati di Illuminate sono chiaramente contrassegnate come funzionalità "Generative". Gli istruttori sono inoltre pregati di rivedere l'output del testo prima dell'uso. I metadati dell'output creato dalle funzionalità di Q&A Dati di Illuminate sono esposti nel report sull'utilizzo di Illuminate di ciascun cliente con un campo per i contenuti generati automaticamente. Mostra anche se l'output è stato successivamente modificato dall'insegnante.
Oltre alle informazioni fornite in questo documento sul funzionamento della funzione Q&A Dati di Illuminate con Amazon Q in QuickSight, Amazon fornisce ulteriori informazioni su Amazon Q e Amazon Bedrock nei collegamenti nella sezione "Ulteriori informazioni" di seguito.
Incoraggiamo i clienti a essere trasparenti sull'uso dell'intelligenza artificiale nell'ambito di Q&A Dati di Illuminate e a fornire ai loro istruttori e alle altre parti interessate, a seconda dei casi, le informazioni pertinenti contenute in questo documento e la documentazione qui collegata.
Affidabilità e precisione
Nella pagina delle impostazioni di Illuminate di Illuminate chiariamo che si tratta di una funzionalità facilitata dall'intelligenza artificiale che può produrre output imprecisi o indesiderati e che tale output deve essere sempre esaminato dall'utente finale.
Nell'interfaccia utente, agli utenti viene richiesto di rivedere l'output di testo per verificarne l'accuratezza.
Come dettagliato nelle domande frequenti su Amazon Bedrock, esiste il rischio di un output impreciso. Sebbene la natura specifica di Q&A Dati di Illuminate e la nostra implementazione abbiano lo scopo di ridurre al minimo l'imprecisione, è responsabilità del nostro cliente rivedere l'output per verificarne l'accuratezza, la distorsione e altri potenziali problemi.
Gli utenti possono facilmente rigenerare l'output impreciso riformulando la domanda o la frase utilizzata nel prompt di domande e risposte.
Come parte della loro comunicazione relativa a Q&A Dati di Illuminate, i clienti dovrebbero informare i loro istruttori di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi output impreciso utilizzando i canali elencati nell'introduzione.
Equità
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a stereotipi, sovra o sottorappresentazione e altre forme di pregiudizio dannoso.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di Q&A Dati di Illuminate per evitare casi d'uso che potrebbero essere più inclini a distorsioni dannose o in cui l'impatto di tali distorsioni potrebbe essere più significativo.
Tuttavia, non si può escludere che parte della produzione possa essere influenzata da distorsioni dannose. Come accennato in precedenza in "Precisione", gli istruttori sono tenuti a rivedere l'output, il che può aiutare a ridurre eventuali pregiudizi dannosi.
Come parte della loro comunicazione relativa a Q&A Dati di Illuminate, i clienti dovrebbero informare i loro istruttori di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi pregiudizio potenzialmente dannoso utilizzando i canali di contatto elencati nell'introduzione.
Privacy e sicurezza
Come descritto nella sezione "Fatti Chiave" di cui sopra, per Q&A Dati di Illuminate vengono utilizzati solo suggerimenti utente e dati di riepilogo limitati e accessibili ad Amazon. La sezione descrive anche l'impegno nostro e di Amazon in merito all'uso di qualsiasi informazione personale.
Amazon descrive le proprie pratiche e i propri impegni in materia di privacy e sicurezza dei dati nella documentazione su Amazon Bedrock Security and Privacy.
Sicurezza
I modelli linguistici di grandi dimensioni presentano intrinsecamente un rischio di output che possono essere inappropriati, offensivi o altrimenti non sicuri. Amazon descrive questi rischi nella sezione Limitazioni della pagina Responsible AI di Amazon.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di Q&A Dati di Illuminate per evitare casi d'uso che potrebbero essere più inclini a output non sicuri o in cui l'impatto di tale output potrebbe essere più significativo.
Tuttavia, non si può escludere che parte dell'output possa essere non sicuro. Come accennato in precedenza nella sezione "Accuratezza", gli istruttori sono invitati a rivedere l'output, il che può aiutare ulteriormente a ridurre il rischio di output non sicuro.
Come parte della loro comunicazione relativa a Q&A Dati di Illuminate, i clienti dovrebbero informare i loro istruttori di questa potenziale limitazione.
I clienti devono segnalarci qualsiasi output potenzialmente non sicuro utilizzando i canali elencati nell'introduzione.
Gli esseri umani hanno il controllo
Per ridurre al minimo il rischio legato all'uso dell'intelligenza artificiale generativa per i nostri clienti e i loro utenti, abbiamo intenzionalmente messo i clienti al controllo delle funzionalità di Q&A Dati di Illuminate. La sezione Q&A Dati di Illuminate è quindi una funzione di opt-in. Gli amministratori possono attivare o disattivare le domande e risposte di Q&A Dati di Illuminate in qualsiasi momento.
Inoltre, gli istruttori hanno il controllo dell'output, cioè sono tenuti a rivedere l'output e possono rigenerare l'output secondo necessità.
Le domande e risposte di Q&A Dati di Illuminate non includono alcun processo decisionale automatizzato che possa avere un effetto legale o altrimenti significativo sugli studenti o su altri individui.
Incoraggiamo i clienti a leggere attentamente questo documento, inclusi i collegamenti alle informazioni qui forniti, per assicurarsi di aver compreso le capacità e i limiti di Q&A Dati di Illuminate e del sottostante Amazon Q in QuickSight prima di attivare la funzione di intelligenza artificiale generativa di Q&A Dati di Illuminate.
Allineamento dei valori
I modelli linguistici di grandi dimensioni presentano intrinsecamente dei rischi per quanto riguarda l'output potenzialmente distorto, inappropriato o comunque non allineato con i valori di Anthology o con i valori dei nostri clienti e studenti. Amazon descrive questi rischi nei siti web collegati nella sezione "Ulteriori informazioni" di seguito.
Inoltre, i modelli linguistici di grandi dimensioni (come ogni tecnologia che serve a scopi ampi), presentano il rischio di poter essere utilizzati in modo improprio per casi d'uso che non sono in linea con i valori di Anthology, dei nostri clienti o dei loro utenti finali e con quelli della società in generale (ad esempio, per attività criminali o per creare effetti dannosi o inappropriati).
Alla luce di questi rischi, abbiamo attentamente progettato e implementato le nostre funzionalità di Q&A Dati di Illuminate in modo da ridurre al minimo il rischio di disallineamento dell'output. Abbiamo anche intenzionalmente omesso funzionalità potenzialmente ad alto rischio.
Proprietà intellettuale
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a potenziali violazioni dei diritti di proprietà intellettuale. La maggior parte delle leggi sulla proprietà intellettuale in tutto il mondo non ha completamente anticipato né si è adattato all'emergere di modelli linguistici di grandi dimensioni e alla complessità delle questioni che derivano dal loro utilizzo. Di conseguenza, attualmente non esiste un quadro giuridico o una guida chiara che affronti le questioni di proprietà intellettuale e i rischi derivanti dall'uso di questi modelli.
In ultima analisi, è responsabilità del nostro cliente esaminare l'output generato da tale Q&A Dati di Illuminate per qualsiasi potenziale violazione dei diritti di proprietà intellettuale.
Accessibilità
Abbiamo progettato e sviluppato Q&A Dati di Illuminate pensando all'accessibilità, proprio come facciamo in Learn e negli altri nostri prodotti. Prima del rilascio di Q&A Dati di Illuminate, abbiamo volutamente migliorato l'accessibilità della struttura semantica, della navigazione, dei controlli da tastiera, delle etichette, dei componenti personalizzati e dei flussi di lavoro delle immagini, per citare alcune aree. Continueremo a dare priorità all'accessibilità man mano che sfrutteremo l'intelligenza artificiale in futuro.
La funzione Q&A Dati di Illuminate utilizza Amazon QuickSight. AWS rende disponibili i report di conformità all'accessibilità tramite le pagine AWS Accessibility.
Responsabilità
Anthology ha un programma di intelligenza artificiale affidabile progettato per garantire l'uso legale, etico e responsabile dell'intelligenza artificiale. Una chiara responsabilità interna e la revisione sistematica ed etica dell'intelligenza artificiale di funzionalità come quelle fornite da Q&A Dati di Illuminate sono i pilastri fondamentali del programma.
Per fornire Q&A Dati di Illuminate, abbiamo collaborato con Amazon per sfruttare Amazon Q in QuickSight. AWS si impegna a fare un uso responsabile dell'intelligenza artificiale.
I clienti dovrebbero prendere in considerazione l'implementazione di politiche interne, procedure e revisione delle applicazioni di intelligenza artificiale di terze parti per garantire il proprio uso legale, etico e responsabile dell'intelligenza artificiale. Queste informazioni vengono fornite per supportare la revisione dei nostri clienti delle funzionalità di intelligenza artificiale generativa di Q&A Dati di Illuminate.
Ulteriori informazioni
L'approccio AI affidabile di Anthology
La pagina Responsible AI di Amazon
Domande frequenti su Bedrock di Amazon
La pagina di Amazon su Bedrock Security and Privacy
La pagina di sicurezza dell'intelligenza artificiale di Amazon
Il blog Machine Learning di Amazon
Panoramica di Q in QuickSight di Amazon
AWS annuncia Amazon Q in QuickSight (articolo del blog)