Assistente di testo alternativo AI
Nota sulla trasparenza
L'uso legittimo, etico e responsabile dell'intelligenza artificiale (AI) è una priorità fondamentale per Anthology. Pertanto, abbiamo sviluppato e implementato un programma di intelligenza artificiale affidabile. Puoi trovare informazioni sul nostro programma e sull'approccio generale all'IA affidabile nel nostro Centro protezione e ulteriori informazioni sulle funzionalità dell'IA generativa nel nostro Elenco delle funzionalità dell'IA generativa.
Nell'ambito dei nostri principi di intelligenza artificiale affidabile, ci impegniamo a garantire trasparenza, comprensibilità e responsabilità. Questa pagina ha lo scopo di fornire la trasparenza e le spiegazioni necessarie per aiutare i nostri clienti con l'implementazione dell'AI Alt Text Assistente. Consigliamo agli amministratori di leggere attentamente questa pagina e di assicurarsi che gli insegnanti siano a conoscenza delle considerazioni e delle raccomandazioni riportate di seguito prima di attivare le funzionalità di AI Alt Text Assistente per il tuo istituto.
Come contattarci:
Per domande o feedback sul nostro approccio generale all'IA affidabile o su come possiamo rendere questa pagina più utile per i nostri clienti, inviateci un'e-mail a trustworthyai@anthology.com.
Per domande o feedback sulla funzionalità o sull'output di AI Alt Text Assistant, inviare un ticket al servizio clienti.
Funzionalità facilitate dall'intelligenza artificiale
L'Assistente AI per il Testo Alternativo fornisce agli insegnanti suggerimenti su testi alternativi per le immagini utilizzate all'interno dei loro corsi online tramite il flusso di lavoro di feedback dell'insegnante di Ally. Il suo scopo è quello di ispirare i docenti e rendere più efficienti le correzioni di accessibilità.
Anthology ha collaborato con AWS per aggiornare il modello di intelligenza artificiale di Ally per fornire suggerimenti ancora più efficaci, insieme alla capacità di generare suggerimenti di descrizione delle immagini per contenuti più complessi, tra cui STEM, diagrammi/grafici, testo in immagini e immagini scritte a mano. Questo è alimentato dai modelli Claude di AWS Bedrock e offre analisi e risultati migliorati per aiutare gli insegnanti a creare descrizioni di immagini incisive, pertinenti e concise per contenuti spesso difficili e problematici.
L'assistente di testo alternativo AI fornisce le seguenti funzionalità generative facilitate dall'intelligenza artificiale:
Genera un testo alternativo per le immagini. Suggerisce un testo alternativo all'interno del feedback dell'insegnante Ally quando gli insegnanti correggono le immagini senza testo alternativo.
Importante
Queste funzionalità sono soggette alle limitazioni e alla disponibilità del servizio AWS Bedrock e sono soggette a modifiche. Per i dettagli, consultare le note di rilascio pertinenti.
Informazioni chiave
Domanda | Risposta |
|---|---|
Quali funzionalità di Ally utilizzano i sistemi di intelligenza artificiale? | Suggerimento di testo alternativo tramite l'intelligenza artificiale nel pannello di feedback dell'insegnante di Ally, quando un'immagine è stata segnalata da Ally per mancanza di testo alternativo. |
Si tratta di un sistema di intelligenza artificiale supportato da terze parti? | Sì - l'assistente AI Alt Text è alimentato da AWS Bedrock Anthropic Claude Sonnet 3.5 |
Come funziona il sistema di intelligenza artificiale? | L'assistente AI Alt Text utilizza il modello AWS Bedrock Anthropic Claude Sonnet 3.5 per generare automaticamente i risultati. Ciò si ottiene utilizzando l'immagine per generare un testo alternativo inviato tramite l'SDK AWS. Abbiamo anche aggiunto la possibilità di inviare prompt contestuali in base al contenuto di testo, quando un'immagine è incorporata in un elemento di contenuto avanzato. Non vengono utilizzate altre informazioni (ad esempio, titolo del corso, descrizione del corso). Le immagini non vengono utilizzate per addestrare i modelli AWS Bedrock e Bedrock genera l'output in base a ciascuna immagine caricata su Assistente AI per il Testo Alternativo. |
Dove è ospitato il sistema di intelligenza artificiale? | Anthology utilizza attualmente più istanze AWS per Amazon Bedrock, determinate dalla disponibilità della regione Amazon. AWS fornisce la disponibilità della regione per il modello Amazon Bedrock attualmente utilizzato da Ally (Claude Sonnet 3.5) a Modello supportato dalla regione AWS in Amazon Bedrock. A volte possiamo utilizzare risorse in altre località, come Stati Uniti orientali, per fornire ai nostri clienti la migliore opzione di disponibilità per Amazon Bedrock quando una regione specifica non è disponibile. Tutto l'output del client generato dall'AI Alt Text Assistant viene archiviato nel database Ally esistente di ciascun clienti gestito da Anthology. |
Si tratta di una funzionalità di opt-in? | Sì. Gli amministratori devono attivare l'assistente di testo alternativo AI nelle opzioni di configurazione di LMS Ally. Seleziona AI Generazione di descrizioni alternative per le immagini nella scheda Funzionalità. Gli amministratori possono attivare o disattivare questa funzionalità in qualsiasi momento. |
Come viene addestrato il sistema di intelligenza artificiale? | Anthology non è coinvolta nella formazione del modello Anthropic che alimenta le funzionalità di Assistente AI per il Testo Alternativo tramite Amazon Bedrock. Questi modelli sono addestrati da Anthropic (Anthropic Claude). Anthology non ottimizza ulteriormente il servizio Visione di Azure usando i dati propri o dei clienti. |
I dati dei clienti vengono utilizzati per (ri)addestrare il sistema di intelligenza artificiale? | No. Amazon si impegna nella sua documentazione pubblica a non utilizzare alcun input o output per l’(ri)addestramento dei modelli linguistici di grandi dimensioni all’interno di Amazon Bedrock. Amazon fornisce informazioni su come vengono addestrati i modelli linguistici di grandi dimensioni nei collegamenti nella sezione «Ulteriori informazioni» sotto. Tutti i dati in entrata e in uscita sono crittografati in transito e a riposo. |
In che modo Anthology Ally utilizza le informazioni personali per quanto riguarda la fornitura del sistema AI Al Text Assistant? | Anthology Ally utilizza solo le immagini raccolte in relazione all'AI Alt Text Assistant per fornire, mantenere e supportare l'AI Alt Text Assistant. Puoi trovare maggiori informazioni sull'approccio di Anthology alla privacy dei dati in Anthology's Trust Center. |
Nel caso di un sistema di intelligenza artificiale supportato da terzi, in che modo questi ultimi utilizzeranno le informazioni personali? | Anthology Ally utilizza le immagini e/o i dati contestuali dai contenuti avanzati che circondano un'immagine raccolti in relazione all'Assistente AI Alt Text solo per fornire, mantenere e supportare l'Assistente AI Alt Text. Per ulteriori informazioni sull'approccio di Anthology alla privacy dei dati, consultare il Trust Center di Anthology. Per potenziare questa funzionalità vengono utilizzate solo immagini e/o dati contestuali nei contenuti avanzati che circondano un'immagine. Non vengono condivise ulteriori informazioni con AWS Bedrock. Né Amazon né alcun fornitore di modelli Amazon Bedrock utilizzano i dati di Anthology o dei clienti di Anthology per migliorare i modelli Amazon Bedrock. È possibile trovare ulteriori informazioni sulle procedure di riservatezza dei dati relative ad Amazon Bedrock Security and Privacy nella documentazione di Amazon alla Pagina sulla sicurezza dell'IA di AWS, nel Blog AWS sull'apprendimento automatico e alla pagina Amazon Bedrock Security and Privacy. |
L'accessibilità è stata presa in considerazione nella progettazione del sistema di testo alternativo AI? | Sì, i nostri ingegneri dell'accessibilità hanno collaborato con i team di prodotto per rivedere i progetti, comunicare importanti considerazioni sull'accessibilità e testare le nuove funzionalità specifiche per l'accessibilità. Continueremo a considerare l'accessibilità come parte integrante del nostro approccio all'IA affidabile. |
Considerazioni e raccomandazioni per gli istituti
Casi d'uso previsti
L'AI Alt Text Assistant è destinato esclusivamente a supportare le funzionalità sopra elencate. Queste funzionalità sono fornite e destinate agli insegnanti dei nostri clienti per supportarli nella risoluzione dei problemi di accessibilità delle immagini segnalati da Ally.
Casi d'uso fuori ambito
L'AI Alt Text Assistant non è destinato né garantito a rendere accessibile ogni immagine con un testo alternativo perfetto, poiché spetta comunque all'insegnante regolare o approvare il testo alternativo in base al contesto del contenuto del corso.
Principi di IA affidabili nella pratica
Anthology e Microsoft ritengono che l'uso legale, etico e responsabile dell'intelligenza artificiale sia una priorità fondamentale. Questa sezione illustra in che modo Anthology e Microsoft hanno collaborato per affrontare il rischio applicabile all'uso legale, etico e responsabile dell'intelligenza artificiale e implementare i principi di intelligenza artificiale affidabile di Anthology. Suggerisce inoltre i passaggi che i nostri clienti possono prendere in considerazione quando intraprendono le proprie revisioni legali e legali dei rischi etici dell'IA della loro implementazione.
Trasparenza e spiegabilità
Nelle opzioni di configurazione dell'amministrazione di Ally chiariamo che si tratta di una funzionalità facilitata dall'intelligenza artificiale
Nell'interfaccia utente per gli insegnanti, le funzionalità di AI Alt Text Assistant sono chiaramente contrassegnate come funzionalità "Generative". Gli insegnanti sono inoltre pregati di rivedere l'output del testo prima dell'uso. · I metadati dell'output creato dalle funzionalità di AI Alt Text Assistant sono esposti nel report di utilizzo di Ally di ciascun client con un campo per i contenuti generati automaticamente. Mostra anche se l'output è stato successivamente modificato dall'insegnante.
Oltre alle informazioni fornite in questo documento sul funzionamento dell'assistente AI per il testo alternativo con Amazon Bedrock, Amazon fornisce ulteriori informazioni su Amazon Bedrock nei link della sezione "Ulteriori informazioni" di seguito.
Incoraggiamo i clienti a essere trasparenti sull'uso dell'intelligenza artificiale all'interno dell'assistente di testo alternativo AI e a fornire ai loro insegnanti e alle altre parti interessate, a seconda dei casi, le informazioni pertinenti di questo documento e la documentazione qui collegata.
Affidabilità e precisione
Nelle opzioni di configurazione dell'amministrazione di Ally e nelle condizioni d'uso è chiaro che si tratta di una funzionalità basata sull'intelligenza artificiale che può produrre risultati imprecisi o indesiderati e che tali risultati devono sempre essere rivisti dall'istruttore.
Nell'interfaccia utente, agli insegnanti viene richiesto di rivedere l'output del testo per verificarne l'accuratezza.
Come spiegato nelle Domande frequenti su Amazon Bedrock, c'è il rischio di un output impreciso. Sebbene la natura specifica dell'Assistente AI per il Testo Alternativo e della nostra implementazione sia intesa a ridurre al minimo le imprecisioni, è responsabilità del nostro cliente esaminare l'output per verificare l'accuratezza, la distorsione e altri potenziali problemi.
Gli utenti possono facilmente rigenerare un output impreciso riformulando la domanda o la frase utilizzata nel prompt di domande e risposte.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi output impreciso utilizzando i canali elencati nell'introduzione.
Equità
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi legati a stereotipi, sovra/sotto-rappresentazione e altre forme di pregiudizio dannoso.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a distorsioni dannose o in cui l'impatto di tali distorsioni potrebbe essere più significativo.
Tuttavia, non si può escludere che parte della produzione possa essere influenzata da distorsioni dannose. Come accennato in precedenza alla voce "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare a ridurre eventuali pregiudizi dannosi.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi pregiudizio potenzialmente dannoso utilizzando i canali di contatto elencati nell'introduzione.
Privacy e sicurezza
Come descritto nella sezione "Fatti chiave" precedente, solo l'immagine viene utilizzata per l'assistente di testo alternativo AI ed è accessibile a Microsoft. La sezione descrive anche l'impegno nostro e di Microsoft in merito all'uso di qualsiasi informazione personale.
Amazon descrive le proprie pratiche e i propri impegni in materia di privacy e sicurezza dei dati nella documentazione su Sicurezza e privacy di Amazon Bedrock.
Sicurezza
I modelli linguistici di grandi dimensioni presentano intrinsecamente un rischio di output che possono essere inappropriati, offensivi o altrimenti non sicuri. Microsoft descrive questi rischi nella sezione Limitazioni della Nota sulla trasparenza del servizio Visione artificiale di Azure.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a output non sicuri o in cui l'impatto di tale output potrebbe essere più significativo.
Tuttavia, non si può escludere che parte dell'output possa essere non sicuro. Come accennato in precedenza nella sezione "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare ulteriormente a ridurre il rischio di output non sicuri.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti devono segnalarci qualsiasi output potenzialmente non sicuro utilizzando i canali elencati nell'introduzione.
Gli esseri umani hanno il controllo
Per ridurre al minimo il rischio legato all'uso dell'IA generativa per i nostri clienti e i loro utenti, abbiamo intenzionalmente messo i clienti al controllo delle funzionalità dell'AI Alt Text Assistant. L'AI Alt Text Assistant è quindi una funzione opt-in. Gli amministratori possono attivare o disattivare l'assistente di testo alternativo AI in qualsiasi momento.
Inoltre, gli insegnanti hanno il controllo dell'output, il che significa che sono tenuti a rivedere l'output di testo e possono modificare l'output di testo, se necessario.
L'assistente di testo alternativo AI non include alcun processo decisionale automatizzato che possa avere un effetto legale o comunque significativo sugli studenti o su altri individui.
Invitiamo i clienti a leggere attentamente questo documento, inclusi i collegamenti informativi forniti nel presente documento, per assicurarsi di comprendere le funzionalità e i limiti dell'Assistente AI per il Testo Alternativo e del sottostante Amazon Bedrock prima di attivare la funzione Assistente AI per il Testo Alternativo.
Allineamento dei valori
I modelli linguistici di grandi dimensioni comportano intrinsecamente dei rischi relativi a risultati parziali, inappropriati o comunque non allineati con i valori di Anthology o con quelli dei nostri clienti e studenti. Amazon descrive questi rischi nei siti Web collegati nella sezione 'ulteriori informazioni' sotto.
Inoltre, i modelli linguistici di grandi dimensioni (come ogni tecnologia che serve a scopi ampi), presentano il rischio di essere generalmente utilizzati in modo improprio per casi d'uso che non sono in linea con i valori di Anthology, dei nostri clienti o dei loro utenti finali e con quelli della società in generale (ad esempio, per attività criminali, per creare output dannosi o altrimenti inappropriati).
Alla luce di questi rischi, abbiamo attentamente progettato e implementato le nostre funzionalità di AI Alt Text Assistant in modo da ridurre al minimo il rischio di disallineamento dell'output. Ad esempio, ci siamo concentrati sulle funzionalità per gli insegnanti piuttosto che per gli studenti. Abbiamo anche intenzionalmente omesso funzionalità potenzialmente ad alto rischio. ·
Proprietà intellettuale
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a potenziali violazioni dei diritti di proprietà intellettuale. La maggior parte delle leggi sulla proprietà intellettuale in tutto il mondo non ha completamente anticipato né adattato all'emergere di modelli linguistici di grandi dimensioni e alla complessità delle questioni che sorgono attraverso il loro utilizzo. Di conseguenza, attualmente non esiste un quadro giuridico o una guida chiara che affronti le questioni di proprietà intellettuale e i rischi derivanti dall'uso di questi modelli.
In definitiva, è responsabilità del nostro cliente esaminare l'output generato da quell'AI Alt Text Assistant per qualsiasi potenziale violazione dei diritti di proprietà intellettuale.
Accessibilità
Abbiamo progettato e sviluppato l'AI Alt Text Assistant pensando all'accessibilità, come facciamo in Learn e negli altri nostri prodotti. Prima del rilascio dell'assistente di testo alternativo AI, abbiamo migliorato intenzionalmente l'accessibilità della struttura semantica, della navigazione, dei controlli da tastiera, delle etichette, dei componenti personalizzati e dei flussi di lavoro delle immagini, per citare alcune aree. Continueremo a dare priorità all'accessibilità man mano che sfrutteremo l'intelligenza artificiale in futuro.
La funzionalità Assistente AI per il Testo Alternativo sfrutta Amazon Bedrock. AWS rende disponibili i report di conformità all'accessibilità attraverso le pagine Accessibilità AWS.
Responsabilità
Anthology ha un programma di intelligenza artificiale affidabile progettato per garantire l'uso legale, etico e responsabile dell'intelligenza artificiale. Una chiara responsabilità interna e la revisione etica sistematica dell'IA o funzionalità come quelle fornite dall'AI Alt Text Assistant sono i pilastri fondamentali del programma.
Per fornire Assistente AI per il Testo Alternativo, abbiamo collaborato con Amazon per utilizzare Amazon Bedrock. AWS si impegna a utilizzare responsabilmente l'IA.
I clienti dovrebbero prendere in considerazione l'implementazione di politiche interne, procedure e revisione delle applicazioni di intelligenza artificiale di terze parti per garantire il proprio uso legale, etico e responsabile dell'intelligenza artificiale. Queste informazioni vengono fornite per supportare la recensione dei nostri clienti dell'AI Alt Text Assistant.
Ulteriori informazioni
Anthology’s Approccio affidabile all'intelligenza artificiale
Anthology's Elenco delle funzionalità dell'intelligenza artificiale generativa
Domande frequenti su Bedrock di Amazon
Pagina Amazon su Sicurezza e privacy di Bedrock
Amazon’s Pagina della sicurezza AI
Blog sul machine learning di Amazon
Termini d'uso di AI Alt Text Assistant
L’Assistente AI per il Testo Alternativo di Ally utilizza i modelli di intelligenza artificiale generativa AWS Bedrock forniti da AWS.
Importante
Questa funzione può produrre un output indesiderato o impreciso. È responsabilità dell'utente e dell'istruttore rivedere tutti i risultati e correggerli o modificarli se necessario o appropriato. Si noti che i dati dei clienti non vengono utilizzati per addestrare, riqualificare o migliorare i modelli di intelligenza artificiale generativa di AWS Bedrock. Le immagini o il testo contestuale caricati nell'Assistente AI Alt Text verranno trasmessi ai server AWS, che potrebbero trovarsi al di fuori del vostro Paese.
Puoi trovare ulteriori informazioni su rischi e limitazioni della funzione nella documentazione standard per l'utente finale.
Abilitando questa funzione, confermi di accettare termini aggiuntivi per conto del tuo istituto e di aver letto e compreso le informazioni sui rischi e le limitazioni all'interno e/o a cui si fa riferimento nella documentazione standard per l'utente finale di cui sopra.