Assistente di testo alternativo AI
Nota sulla trasparenza
L'uso legittimo, etico e responsabile dell'intelligenza artificiale (AI) è una priorità fondamentale per Anthology. Pertanto, abbiamo sviluppato e implementato un programma di intelligenza artificiale affidabile. Puoi trovare informazioni sul nostro programma e sull'approccio generale all'IA affidabile nel nostro Centro protezione e ulteriori informazioni sulle funzionalità dell'IA generativa nel nostro Elenco delle funzionalità dell'IA generativa.
Nell'ambito dei nostri principi di intelligenza artificiale affidabile, ci impegniamo a garantire trasparenza, comprensibilità e responsabilità. Questa pagina ha lo scopo di fornire la trasparenza e le spiegazioni necessarie per aiutare i nostri clienti con l'implementazione dell'AI Alt Text Assistente. Consigliamo agli amministratori di leggere attentamente questa pagina e di assicurarsi che gli insegnanti siano a conoscenza delle considerazioni e delle raccomandazioni riportate di seguito prima di attivare le funzionalità di AI Alt Text Assistente per il tuo istituto.
Come contattarci:
Per domande o feedback sul nostro approccio generale all'intelligenza artificiale affidabile o su come possiamo rendere questa pagina più utile per i nostri clienti, inviaci un'e-mail all'indirizzo [email protected].
Per domande o feedback sulla funzionalità o sull'output dell'AI Alt Text Assistente, invia un ticket di assistenza clienti tramite Behind the Blackboard.
Funzionalità facilitate dall'intelligenza artificiale
L'assistente di testo alternativo AI fornisce agli insegnanti suggerimenti su testi alternativi per le immagini utilizzate all'interno dei loro corsi online tramite il flusso di lavoro di feedback dell'insegnante di Ally. Ha lo scopo di ispirare gli insegnanti e rendere più efficienti le correzioni all'accessibilità. Anthology ha collaborato con Microsoft per fornire questa funzionalità, anche perché Microsoft ha un impegno di lunga data per l'uso etico dell'intelligenza artificiale.
L'assistente di testo alternativo AI fornisce le seguenti funzionalità generative facilitate dall'intelligenza artificiale:
Genera un testo alternativo per le immagini. Suggerisce un testo alternativo all'interno del feedback dell'insegnante Ally quando gli insegnanti correggono le immagini senza testo alternativo.
Importante
Queste funzionalità sono soggette alle limitazioni e alla disponibilità del servizio Visione artificiale di Azure e sono soggette a modifiche. Per ulteriori informazioni, consultare le note di rilascio pertinenti.
Informazioni chiave
Domanda | Risposta |
|---|---|
Quali funzionalità di Ally utilizzano i sistemi di intelligenza artificiale? | Suggerimento di testo alternativo tramite l'intelligenza artificiale nel pannello di feedback dell'insegnante di Ally, quando un'immagine è stata segnalata da Ally per mancanza di testo alternativo. |
Si tratta di un sistema di intelligenza artificiale supportato da terze parti? | Sì: l'assistente di testo alternativo AI è basato sul servizio Azure Vision di Microsoft. |
Come funziona il sistema di intelligenza artificiale? | L'assistente di testo alternativo AI sfrutta il servizio Azure Vision di Microsoft per generare automaticamente gli output. A tale scopo, viene utilizzata l'immagine per generare un testo alternativo inviato tramite l'API Visione d'Azure. Non vengono utilizzate ulteriori informazioni (ad esempio, titolo del corso, descrizione del corso). Le immagini non vengono usate per eseguire il training dei modelli di Visione di Microsoft Azure e il servizio di Visione di Azure genera l'output in base a ogni immagine caricata nell'assistente di testo alternativo di intelligenza artificiale. Non viene utilizzato alcun prompt. Tieni presente che per gli utenti finali che hanno configurato le loro istanze LMS in lingue diverse dall'inglese, l'output dell'ALT Text AI verrà tradotto utilizzando AWS Translate. Per una spiegazione dettagliata del funzionamento dei modelli linguistici di Azure AI Vision, fare riferimento alla sezione Introduzione della Transparency Note di Microsoft e ai collegamenti forniti al suo interno. |
Dove è ospitato il sistema di intelligenza artificiale? | Anthology attualmente utilizza più istanze globali del servizio Azure Vision. L'istanza primaria è ospitata negli Stati Uniti, ma a volte è possibile usare risorse in altre località, ad esempio l'Europa occidentale e l'APAC, per fornire la migliore opzione di disponibilità per Visione artificiale di Azure per i clienti. Tutto l'output del client generato dall'AI Alt Text Assistant viene archiviato nel database Ally esistente di ciascun clienti gestito da Anthology. |
Si tratta di una funzionalità di opt-in? | Sì. Gli amministratori devono attivare l'assistente di testo alternativo AI nelle opzioni di configurazione di LMS Ally. Seleziona AI Generazione di descrizioni alternative per le immagini nella scheda Funzionalità. Gli amministratori possono attivare o disattivare questa funzionalità in qualsiasi momento. |
Come viene addestrato il sistema di intelligenza artificiale? | Anthology non è coinvolta nell'addestramento dei modelli che alimentano le funzionalità di AI Alt Text Assistente. Questi modelli vengono sottoposti a training da Microsoft come parte del servizio Visione artificiale di Azure. Microsoft fornisce informazioni sulle modalità di training dei modelli linguistici di grandi dimensioni nella sezione Introduzione della Nota sulla trasparenza di Microsoft e nei collegamenti forniti al suo interno. Anthology non ottimizza ulteriormente il servizio Visione di Azure usando i dati propri o dei clienti. |
I dati dei clienti vengono utilizzati per (ri)addestrare il sistema di intelligenza artificiale? | No. Microsoft si impegna contrattualmente nelle condizioni di Azure Vision con Anthology a non usare alcun input o output di Azure Vision per il (ri)training del modello linguistico di grandi dimensioni. Lo stesso impegno è stato preso nella documentazione Microsoft su Data, privacy e sicurezza per Azure Vision Servizio. Vengono utilizzati solo modelli predefiniti. |
In che modo Anthology Ally utilizza le informazioni personali per quanto riguarda la fornitura del sistema AI Al Text Assistant? | Anthology Ally utilizza solo le immagini raccolte in relazione all'AI Alt Text Assistant per fornire, mantenere e supportare l'AI Alt Text Assistant. Puoi trovare maggiori informazioni sull'approccio di Anthology alla privacy dei dati in Anthology's Trust Center. Per alimentare questa funzione vengono utilizzate solo le immagini. Non vengono condivise altre informazioni con il servizio Visione d'identità di Microsoft Azure. Microsoft non utilizza i dati dell'Antologia né i dati dei client dell'Antologia a cui ha accesso (come parte del servizio Visione di Azure) per migliorare i modelli di Visione, per migliorare i servizi propri o di prodotti di terze parti, né per migliorare automaticamente i modelli di Visione d'Antologia per l'uso dell'Antologia nella risorsa dell'Antologia (i modelli sono senza stato). Per altre informazioni sulle procedure relative alla privacy dei dati relative al servizio Visione d'Azure, vedere la documentazione Microsoft su Dati, privacy e sicurezza per il servizio Visione d'Azure. |
L'accessibilità è stata presa in considerazione nella progettazione del sistema di testo alternativo AI? | Sì, i nostri ingegneri dell'accessibilità hanno collaborato con i team di prodotto per rivedere i progetti, comunicare importanti considerazioni sull'accessibilità e testare le nuove funzionalità specifiche per l'accessibilità. Continueremo a considerare l'accessibilità come parte integrante del nostro approccio all'IA affidabile. |
Considerazioni e raccomandazioni per gli istituti
Casi d'uso previsti
L'AI Alt Text Assistant è destinato esclusivamente a supportare le funzionalità sopra elencate. Queste funzionalità sono fornite e destinate agli insegnanti dei nostri clienti per supportarli nella risoluzione dei problemi di accessibilità delle immagini segnalati da Ally.
Casi d'uso fuori ambito
L'AI Alt Text Assistant non è destinato né garantito a rendere accessibile ogni immagine con un testo alternativo perfetto, poiché spetta comunque all'insegnante regolare o approvare il testo alternativo in base al contesto del contenuto del corso.
Principi di IA affidabili nella pratica
Anthology e Microsoft ritengono che l'uso legale, etico e responsabile dell'intelligenza artificiale sia una priorità fondamentale. Questa sezione illustra in che modo Anthology e Microsoft hanno collaborato per affrontare il rischio applicabile all'uso legale, etico e responsabile dell'intelligenza artificiale e implementare i principi di intelligenza artificiale affidabile di Anthology. Suggerisce inoltre i passaggi che i nostri clienti possono prendere in considerazione quando intraprendono le proprie revisioni legali e legali dei rischi etici dell'IA della loro implementazione.
Trasparenza e spiegabilità
Nelle opzioni di configurazione dell'amministrazione di Ally chiariamo che si tratta di una funzionalità facilitata dall'intelligenza artificiale
Nell'interfaccia utente per gli insegnanti, le funzionalità di AI Alt Text Assistant sono chiaramente contrassegnate come funzionalità "Generative". Gli insegnanti sono inoltre pregati di rivedere l'output del testo prima dell'uso. · I metadati dell'output creato dalle funzionalità di AI Alt Text Assistant sono esposti nel report di utilizzo di Ally di ciascun client con un campo per i contenuti generati automaticamente. Mostra anche se l'output è stato successivamente modificato dall'insegnante.
Oltre alle informazioni fornite in questo documento sul funzionamento dell'assistente di testo alternativo AI e dei modelli del servizio Visione artificiale Microsoft, Microsoft fornisce ulteriori informazioni sul servizio Visione di Azure nella Nota sulla trasparenza.
Incoraggiamo i clienti a essere trasparenti sull'uso dell'intelligenza artificiale all'interno dell'assistente di testo alternativo AI e a fornire ai loro insegnanti e alle altre parti interessate, a seconda dei casi, le informazioni pertinenti di questo documento e la documentazione qui collegata.
Affidabilità e precisione
Nelle opzioni di configurazione amministrazione Ally e nei termini di utilizzo e si precisa che si tratta di una funzionalità facilitata dall'intelligenza artificiale che potrebbe produrre risultati imprecisi o indesiderati e che tali risultati devono sempre essere verificati dal docento.
Nell'interfaccia utente, agli insegnanti viene richiesto di rivedere l'output del testo per verificarne l'accuratezza.
Come descritto in dettaglio nella sezione Limitazioni della nota sulla trasparenza del servizio Visione artificiale di Azure, esiste il rischio di un output non accurato. Sebbene la natura specifica dell'AI Alt Text Assistant e la nostra implementazione abbiano lo scopo di ridurre al minimo l'imprecisione, è responsabilità del nostro cliente rivedere l'output per verificarne l'accuratezza, la distorsione e altri potenziali problemi.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
Gli insegnanti possono utilizzare l'interfaccia Ally esistente per modificare manualmente gli output dell'assistente di testo alternativo AI prima di pubblicare l'output per gli studenti.
I clienti possono segnalarci qualsiasi output impreciso utilizzando i canali elencati nell'introduzione.
Equità
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a stereotipi, sovra/sottorappresentazione e altre forme di pregiudizio dannoso. Microsoft descrive questi rischi nella Sezione Limitazioni della nota sulla trasparenza del servizio Visione artificiale di Azure.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a distorsioni dannose o in cui l'impatto di tali distorsioni potrebbe essere più significativo.
Tuttavia, non si può escludere che parte della produzione possa essere influenzata da distorsioni dannose. Come accennato in precedenza alla voce "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare a ridurre eventuali pregiudizi dannosi.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi pregiudizio potenzialmente dannoso utilizzando i canali di contatto elencati nell'introduzione.
Privacy e sicurezza
Come descritto nella sezione "Fatti chiave" precedente, solo l'immagine viene utilizzata per l'assistente di testo alternativo AI ed è accessibile a Microsoft. La sezione descrive anche l'impegno nostro e di Microsoft in merito all'uso di qualsiasi informazione personale.
Ally è certificata ISO 27001/27017/27018/27701. Queste certificazioni includeranno l'output relativo all'AI Alt Text Assistant gestito da Anthology. Puoi trovare maggiori informazioni sull'approccio di Anthology alla privacy e alla sicurezza dei dati nel nostro Trust Center.
Microsoft descrive le procedure e gli impegni relativi alla privacy e alla sicurezza dei dati nella documentazione relativa a Dati, privacy e sicurezza per il servizio Visione Azure.
Indipendentemente dall'impegno di Anthology e Microsoft in merito alla privacy dei dati e al non utilizzo dell'input per (ri)addestrare i modelli, i clienti potrebbero voler consigliare ai propri insegnanti di non includere informazioni personali o altre informazioni riservate nelle immagini.
Sicurezza
I modelli linguistici di grandi dimensioni presentano intrinsecamente un rischio di output che possono essere inappropriati, offensivi o altrimenti non sicuri. Microsoft descrive questi rischi nella sezione Limitazioni della Nota sulla trasparenza del servizio Visione artificiale di Azure.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a output non sicuri o in cui l'impatto di tale output potrebbe essere più significativo.
Tuttavia, non si può escludere che parte dell'output possa essere non sicuro. Come accennato in precedenza nella sezione "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare ulteriormente a ridurre il rischio di output non sicuri.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti devono segnalarci qualsiasi output potenzialmente non sicuro utilizzando i canali elencati nell'introduzione.
Gli esseri umani hanno il controllo
Per ridurre al minimo il rischio legato all'uso dell'IA generativa per i nostri clienti e i loro utenti, abbiamo intenzionalmente messo i clienti al controllo delle funzionalità dell'AI Alt Text Assistant. L'AI Alt Text Assistant è quindi una funzione opt-in. Gli amministratori possono attivare o disattivare l'assistente di testo alternativo AI in qualsiasi momento.
Inoltre, gli insegnanti hanno il controllo dell'output, il che significa che sono tenuti a rivedere l'output di testo e possono modificare l'output di testo, se necessario.
L'assistente di testo alternativo AI non include alcun processo decisionale automatizzato che possa avere un effetto legale o comunque significativo sugli studenti o su altri individui.
Si consiglia ai clienti di leggere attentamente questo documento, inclusi i collegamenti alle informazioni forniti nel presente documento, per assicurarsi di comprendere le funzionalità e le limitazioni dell'Assistente di testo alternativo di intelligenza artificiale e del servizio Visione di Azure sottostante prima di attivare l'Assistente di testo alternativo di intelligenza artificiale.
Allineamento dei valori
I modelli linguistici di grandi dimensioni presentano intrinsecamente dei rischi per quanto riguarda l'output potenzialmente distorto, inappropriato o comunque non allineato con i valori di Anthology o con i valori dei nostri clienti e studenti. Microsoft descrive questi rischi nella Sezione Limitazioni della nota sulla trasparenza del servizio Visione artificiale di Azure.
Inoltre, i modelli linguistici di grandi dimensioni (come ogni tecnologia che serve a scopi ampi), presentano il rischio di essere generalmente utilizzati in modo improprio per casi d'uso che non sono in linea con i valori di Anthology, dei nostri clienti o dei loro utenti finali e con quelli della società in generale (ad esempio, per attività criminali, per creare output dannosi o altrimenti inappropriati).
Alla luce di questi rischi, abbiamo attentamente progettato e implementato le nostre funzionalità di AI Alt Text Assistant in modo da ridurre al minimo il rischio di disallineamento dell'output. Ad esempio, ci siamo concentrati sulle funzionalità per gli insegnanti piuttosto che per gli studenti. Abbiamo anche intenzionalmente omesso funzionalità potenzialmente ad alto rischio. ·
Proprietà intellettuale
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a potenziali violazioni dei diritti di proprietà intellettuale. La maggior parte delle leggi sulla proprietà intellettuale in tutto il mondo non ha completamente anticipato né adattato all'emergere di modelli linguistici di grandi dimensioni e alla complessità delle questioni che sorgono attraverso il loro utilizzo. Di conseguenza, attualmente non esiste un quadro giuridico o una guida chiara che affronti le questioni di proprietà intellettuale e i rischi derivanti dall'uso di questi modelli.
In definitiva, è responsabilità del nostro cliente esaminare l'output generato da quell'AI Alt Text Assistant per qualsiasi potenziale violazione dei diritti di proprietà intellettuale.
Accessibilità
Abbiamo progettato e sviluppato l'AI Alt Text Assistant pensando all'accessibilità, come facciamo in Learn e negli altri nostri prodotti. Prima del rilascio dell'assistente di testo alternativo AI, abbiamo migliorato intenzionalmente l'accessibilità della struttura semantica, della navigazione, dei controlli da tastiera, delle etichette, dei componenti personalizzati e dei flussi di lavoro delle immagini, per citare alcune aree. Continueremo a dare priorità all'accessibilità man mano che sfrutteremo l'intelligenza artificiale in futuro.
Responsabilità
Anthology ha un programma di intelligenza artificiale affidabile progettato per garantire l'uso legale, etico e responsabile dell'intelligenza artificiale. Una chiara responsabilità interna e la revisione etica sistematica dell'IA o funzionalità come quelle fornite dall'AI Alt Text Assistant sono i pilastri fondamentali del programma.
Per fornire l'assistente di testo alternativo di intelligenza artificiale, abbiamo collaborato con Microsoft per sfruttare il servizio Visione artificiale che alimenta l'assistente di testo alternativo di intelligenza artificiale. Microsoft ha un impegno di lunga data per l'uso etico dell'intelligenza artificiale.
I clienti dovrebbero prendere in considerazione l'implementazione di politiche interne, procedure e revisione delle applicazioni di intelligenza artificiale di terze parti per garantire il proprio uso legale, etico e responsabile dell'intelligenza artificiale. Queste informazioni vengono fornite per supportare la recensione dei nostri clienti dell'AI Alt Text Assistant.
Ulteriori informazioni
Anthology’s Approccio affidabile all'intelligenza artificiale
Anthology's Elenco delle funzionalità dell'intelligenza artificiale generativa
La pagina dell'intelligenza artificiale responsabile di Microsoft
Nota sulla trasparenza di Microsoft per il servizio Visione di Azure
Pagina di Microsoft su Dati, privacy e sicurezza per il servizio Visione Azure
Termini d'uso di AI Alt Text Assistant
L'assistente di testo alternativo Ally AI usa i modelli di intelligenza artificiale generativa di Microsoft da Azure Vision Services.
Importante
Questa funzione può produrre output indesiderati o imprecisi. È responsabilità dell'utente e dell'insegnante rivedere tutti i risultati e correggerli o modificarli come necessario o appropriato. Si noti che i dati dei client non vengono usati per eseguire il training, ripetere il training o migliorare i modelli di intelligenza artificiale generativa di Visione di Azure. Le immagini caricate nell'assistente di testo alternativo AI verranno trasmesse ai server del servizio Visione artificiale di Azure che potrebbero trovarsi all'esterno dell'hosting.
Puoi trovare ulteriori informazioni su rischi e limitazioni della funzione nella documentazione standard per l'utente finale.
Abilitando questa funzione, confermi di accettare termini aggiuntivi per conto del tuo istituto e di aver letto e compreso le informazioni sui rischi e le limitazioni all'interno e/o a cui si fa riferimento nella documentazione standard per l'utente finale di cui sopra.