Assistente di testo alternativo AI
Nota sulla trasparenza
L'uso legittimo, etico e responsabile dell'intelligenza artificiale (AI) è una priorità fondamentale per Anthology. Pertanto, abbiamo sviluppato e implementato un programma di intelligenza artificiale affidabile. Puoi trovare informazioni sul nostro programma e sull'approccio generale all'IA affidabile nel nostro Centro protezione e ulteriori informazioni sulle funzionalità dell'IA generativa nel nostro Elenco delle funzionalità dell'IA generativa.
Nell'ambito dei nostri principi di intelligenza artificiale affidabile, ci impegniamo a garantire trasparenza, comprensibilità e responsabilità. Questa pagina ha lo scopo di fornire la trasparenza e le spiegazioni necessarie per aiutare i nostri clienti con l'implementazione dell'AI Alt Text Assistente. Consigliamo agli amministratori di leggere attentamente questa pagina e di assicurarsi che gli insegnanti siano a conoscenza delle considerazioni e delle raccomandazioni riportate di seguito prima di attivare le funzionalità di AI Alt Text Assistente per il tuo istituto.
Come contattarci:
Per domande o feedback sul nostro approccio generale all'IA affidabile o su come possiamo rendere questa pagina più utile per i nostri clienti, inviateci un'e-mail a trustworthyai@anthology.com.
Per domande o feedback sulla funzionalità o sull'output di AI Alt Text Assistant, inviare un ticket al servizio clienti.
Funzionalità facilitate dall'intelligenza artificiale
L'Assistente testo alternativo AI fornisce agli istruttori suggerimenti su testi alternativi per le immagini utilizzate nei loro corsi online tramite il flusso di lavoro Ally Instructor Feedback. Il suo scopo è quello di ispirare gli istruttori e rendere più efficienti le correzioni di accessibilità.
Anthology ha collaborato con AWS per aggiornare il modello di intelligenza artificiale di Ally, in modo da offrire suggerimenti ancora più efficaci, oltre alla possibilità di generare suggerimenti per la descrizione delle immagini per contenuti più complessi, tra cui STEM, grafici e diagrammi, testo nelle immagini e immagini scritte a mano. Questa funzione è basata su Claude, un modello linguistico di Anthropic, tramite AWS Bedrock. Se il vostro istituto ha sede in Canada, l'assistente utilizza il nuovo modello Claude 3 Sonnet. In tutti gli altri paesi, l'assistente utilizza Claude Sonnet 3.5, tranne nei casi in cui questo non sia disponibile, nel qual caso verrà utilizzato il modello Anthropic Claude 3 Sonnet o Claude 3 Haiku. Questa scelta si basa su ciò che AWS Bedrock rende disponibile in ogni regione.
L'assistente di testo alternativo AI fornisce le seguenti funzionalità generative facilitate dall'intelligenza artificiale:
Genera un testo alternativo per le immagini. Suggerisce un testo alternativo all'interno del feedback dell'insegnante Ally quando gli insegnanti correggono le immagini senza testo alternativo.
Importante
Queste funzionalità sono soggette alle limitazioni e alla disponibilità del servizio AWS Bedrock e sono soggette a modifiche. Per i dettagli, consultare le note di rilascio pertinenti.
Informazioni chiave
Domanda | Risposta |
|---|---|
Quali funzionalità di Ally utilizzano i sistemi di intelligenza artificiale? | Suggerimento di testo alternativo tramite l'intelligenza artificiale nel pannello di feedback dell'insegnante di Ally, quando un'immagine è stata segnalata da Ally per mancanza di testo alternativo. |
Si tratta di un sistema di intelligenza artificiale supportato da terze parti? | Sì. Utilizziamo Claude, un modello sviluppato da Anthropic e offerto tramite AWS Bedrock. Le istituzioni in Canada utilizzano Anthropic Claude 3 Sonnet, mentre le altre regioni utilizzano Claude Sonnet 3.5, a seconda di ciò che è supportato in ciascuna regione AWS. Se Claude Sonnet 3.5 non è disponibile, come opzione di backup utilizzeremo Claude 3 Sonnet (negli USA) o Claude 3 Haiku (nell'UE). |
Come funziona il sistema di intelligenza artificiale? | L'assistente AI per i testi alt utilizza i modelli Claude di Anthropic attraverso AWS Bedrock per generare automaticamente suggerimenti per i testi alt. A seconda del luogo in cui si trova l'istituto, questo può essere Anthropic Claude 3 Sonnet (in Canada) o Claude Sonnet 3.5 o Claude 3 Haiku (in altre regioni). Questo si ottiene utilizzando l'immagine per generare un testo alternativo che viene inviato tramite l'SDK di AWS. Abbiamo anche aggiunto la possibilità di inviare suggerimenti contestuali basati sul contenuto del testo circostante quando un'immagine è incorporata in un elemento di contenuto avanzato. Non vengono utilizzate altre informazioni (ad esempio, titolo del corso, descrizione del corso). Le immagini non vengono utilizzate per addestrare i modelli di AWS Bedrock e Bedrock genera l'output in base a ciascuna immagine caricata nell'assistente AI per i testi alt. |
Dove è ospitato il sistema di intelligenza artificiale? | Anthology attualmente utilizza più istanze AWS per Amazon Bedrock, determinate dalla disponibilità regionale di Amazon. AWS fornisce questa disponibilità regionale per il modello Amazon Bedrock attualmente utilizzato da Ally (Claude Sonnet 3.5, Claude 3 Sonnet, Claude 3 Haiku) in Modello supportato dalla regione AWS in Amazon Bedrock. A volte possiamo utilizzare risorse in altre località, come gli Stati Uniti orientali, per fornire ai nostri clienti la migliore opzione di disponibilità per AWS Bedrock quando una regione specifica non è disponibile. Tutto l'output del client generato dall'AI Alt Text Assistant viene archiviato nel database Ally esistente di ciascun clienti gestito da Anthology. |
Si tratta di una funzionalità di opt-in? | Sì. Gli amministratori devono attivare l'assistente di testo alternativo AI nelle opzioni di configurazione di LMS Ally. Seleziona AI Generazione di descrizioni alternative per le immagini nella scheda Funzionalità. Gli amministratori possono attivare o disattivare questa funzionalità in qualsiasi momento. |
Come viene addestrato il sistema di intelligenza artificiale? | Anthology non è coinvolta nell'addestramento del modello Anthropic che alimenta le funzionalità dell'assistente AI Alt Text tramite Amazon Bedrock. Questi modelli sono addestrati da Anthropic (Anthropic Claude). Anthology non perfeziona ulteriormente i modelli AWS Bedrock utilizzando i dati propri o dei clienti. |
I dati dei clienti vengono utilizzati per (ri)addestrare il sistema di intelligenza artificiale? | Amazon si impegna nella sua documentazione pubblica a non utilizzare alcun input o output per la (ri)formazione dei modelli linguistici di grandi dimensioni all'interno di Amazon Bedrock. Amazon fornisce informazioni sulle modalità di addestramento dei modelli linguistici di grandi dimensioni nei link della sezione "Ulteriori informazioni" di seguito. Tutti i dati in ingresso e in uscita sono crittografati in transito e a riposo. |
In che modo Anthology Ally utilizza le informazioni personali per quanto riguarda la fornitura del sistema AI Al Text Assistant? | Anthology Ally utilizza solo le immagini raccolte in relazione all'AI Alt Text Assistant per fornire, mantenere e supportare l'AI Alt Text Assistant. Puoi trovare maggiori informazioni sull'approccio di Anthology alla privacy dei dati in Anthology's Trust Center. |
Nel caso di un sistema di intelligenza artificiale supportato da terzi, in che modo questi ultimi utilizzeranno le informazioni personali? | Anthology Ally utilizza le immagini e/o i dati contestuali dei contenuti avanzati che circondano un'immagine, raccolti in relazione all'Assistente AI Alt Text, solo per fornire, mantenere e supportare l'Assistente AI Alt Text. È possibile trovare ulteriori informazioni sull'approccio di Anthology alla privacy dei dati nel Centro fiducia di Anthology. Per questa funzione vengono utilizzate solo immagini e/o dati contestuali nei contenuti avanzati che circondano un'immagine. Non vengono condivise ulteriori informazioni con AWS Bedrock. Né Amazon né alcun fornitore di modelli Amazon Bedrock utilizzano i dati di Anthology o dei clienti di Anthology per migliorare i modelli Amazon Bedrock. È possibile trovare ulteriori informazioni sulle procedure di riservatezza dei dati relative ad Amazon Bedrock Security and Privacy nella documentazione di Amazon alla Pagina sulla sicurezza dell'IA di AWS, nel Blog AWS sull'apprendimento automatico e alla pagina Amazon Bedrock Security and Privacy. |
L'accessibilità è stata presa in considerazione nella progettazione del sistema di testo alternativo AI? | Sì, i nostri ingegneri dell'accessibilità hanno collaborato con i team di prodotto per rivedere i progetti, comunicare importanti considerazioni sull'accessibilità e testare le nuove funzionalità specifiche per l'accessibilità. Continueremo a considerare l'accessibilità come parte integrante del nostro approccio all'IA affidabile. |
Considerazioni e raccomandazioni per gli istituti
Casi d'uso previsti
L'AI Alt Text Assistant è destinato esclusivamente a supportare le funzionalità sopra elencate. Queste funzionalità sono fornite e destinate agli insegnanti dei nostri clienti per supportarli nella risoluzione dei problemi di accessibilità delle immagini segnalati da Ally.
Casi d'uso fuori ambito
L'AI Alt Text Assistant non è destinato né garantito a rendere accessibile ogni immagine con un testo alternativo perfetto, poiché spetta comunque all'insegnante regolare o approvare il testo alternativo in base al contesto del contenuto del corso.
Principi di IA affidabili nella pratica
Anthology e Amazon ritengono che l'uso legale, etico e responsabile dell'IA sia una priorità fondamentale. Questa sezione spiega come Anthology e Amazon hanno lavorato per affrontare i rischi applicabili all'uso legale, etico e responsabile dell'IA e implementare i principi di Anthology Trustworthy AI. Suggerisce inoltre i passi che i nostri clienti possono prendere in considerazione quando intraprendono le loro revisioni legali e dell'IA sui rischi etici dell'IA della loro implementazione.
Trasparenza e spiegabilità
Nelle opzioni di configurazione dell'amministrazione di Ally chiariamo che si tratta di una funzionalità facilitata dall'intelligenza artificiale
Nell'interfaccia utente per gli insegnanti, le funzionalità dell'assistente AI Alt Text sono chiaramente indicate come funzionalità "generative". Gli istruttori sono inoltre invitati a rivedere il testo prodotto prima dell'uso. I metadati dell'output creato dalle funzionalità di AI Alt Text Assistant sono esposti nel report di utilizzo di Ally di ogni cliente con un campo per i contenuti generati automaticamente. Viene inoltre indicato se l'output è stato successivamente modificato dall'istruttore.
Il modello alla base dell'assistente AI Alt Text può variare a seconda della sede dell'istituto. In Canada, l'assistente utilizza il modello Claude 3 Sonnet, che offre funzionalità più recenti. In tutti gli altri paesi, utilizza il modello Claude Sonnet 3.5, tranne nei casi in cui questo non sia disponibile, nel qual caso viene utilizzato il modello Anthropic Claude 3 Sonnet o Claude 3 Haiku. La scelta si basa su ciò che AWS Bedrock rende disponibile in ogni regione.
Incoraggiamo i clienti a essere trasparenti sull'uso dell'intelligenza artificiale all'interno dell'assistente di testo alternativo AI e a fornire ai loro insegnanti e alle altre parti interessate, a seconda dei casi, le informazioni pertinenti di questo documento e la documentazione qui collegata.
Affidabilità e precisione
Nelle opzioni di configurazione di amministrazione di Ally e nelle condizioni d'uso è chiaro che si tratta di una funzionalità basata sull'intelligenza artificiale che può produrre risultati imprecisi o indesiderati e che tali risultati devono sempre essere rivisti dall'istruttore.
Nell'interfaccia utente, gli istruttori sono invitati a verificare l'accuratezza del testo prodotto.
Come descritto nelle FAQ di Amazon Bedrock, esiste il rischio di un output impreciso. Sebbene la natura specifica dell'assistente AI Alt Text e la nostra implementazione siano intese a ridurre al minimo l'imprecisione, è responsabilità del cliente controllare l'output per verificare l'accuratezza, le distorsioni e altri potenziali problemi.
Gli utenti possono facilmente rigenerare un output impreciso riformulando la domanda o la frase utilizzata nel prompt di domande e risposte.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi output impreciso utilizzando i canali elencati nell'introduzione.
Equità
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi legati a stereotipi, sovra/sotto-rappresentazione e altre forme di pregiudizio dannoso.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a distorsioni dannose o in cui l'impatto di tali distorsioni potrebbe essere più significativo.
Tuttavia, non si può escludere che parte della produzione possa essere influenzata da distorsioni dannose. Come accennato in precedenza alla voce "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare a ridurre eventuali pregiudizi dannosi.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti possono segnalarci qualsiasi pregiudizio potenzialmente dannoso utilizzando i canali di contatto elencati nell'introduzione.
Privacy e sicurezza
Come descritto nella sezione "Fatti salienti", solo l'immagine viene utilizzata per l'assistente AI per il testo alternativo ed è accessibile ad Amazon. La sezione descrive anche il nostro e l'impegno di Amazon in merito all'utilizzo di qualsiasi informazione personale.
Amazon descrive le proprie pratiche e i propri impegni in materia di privacy e sicurezza dei dati nella documentazione su Amazon Bedrock Security and Privacy.
Sicurezza
I modelli linguistici di grandi dimensioni comportano intrinsecamente rischi relativi a risultati parziali, inappropriati o comunque non in linea con i valori di Blackboard o con i valori dei nostri clienti e studenti. Amazon descrive questi rischi nei siti web collegati nella sezione Ulteriori informazioni.
Alla luce di questi rischi, abbiamo scelto con cura le funzionalità di AI Alt Text Assistant per evitare casi d'uso che potrebbero essere più inclini a output non sicuri o in cui l'impatto di tale output potrebbe essere più significativo.
Tuttavia, non si può escludere che parte dell'output possa essere non sicuro. Come accennato in precedenza nella sezione "Accuratezza", gli insegnanti sono tenuti a rivedere l'output, il che può aiutare ulteriormente a ridurre il rischio di output non sicuri.
Come parte della loro comunicazione relativa all'AI Alt Text Assistant, i clienti dovrebbero informare i loro insegnanti di questa potenziale limitazione.
I clienti devono segnalarci qualsiasi output potenzialmente non sicuro utilizzando i canali elencati nell'introduzione.
Gli esseri umani hanno il controllo
Per ridurre al minimo il rischio legato all'uso dell'IA generativa per i nostri clienti e i loro utenti, abbiamo intenzionalmente messo i clienti al controllo delle funzionalità dell'AI Alt Text Assistant. L'AI Alt Text Assistant è quindi una funzione opt-in. Gli amministratori possono attivare o disattivare l'assistente di testo alternativo AI in qualsiasi momento.
Inoltre, gli insegnanti hanno il controllo dell'output, il che significa che sono tenuti a rivedere l'output di testo e possono modificare l'output di testo, se necessario.
L'assistente di testo alternativo AI non include alcun processo decisionale automatizzato che possa avere un effetto legale o comunque significativo sugli studenti o su altri individui.
Invitiamo i clienti a leggere attentamente questo documento, inclusi i collegamenti informativi forniti nel presente documento, per assicurarsi di comprendere le funzionalità e i limiti dell'Assistente AI per il Testo Alternativo e del sottostante Amazon Bedrock prima di attivare la funzione Assistente AI per il Testo Alternativo.
Allineamento dei valori
I modelli linguistici di grandi dimensioni comportano intrinsecamente dei rischi relativi a risultati parziali, inappropriati o comunque non allineati con i valori di Anthology o con i valori dei nostri clienti e studenti. Amazon descrive questi rischi nei siti web collegati nella sezione "Ulteriori informazioni".
Inoltre, i modelli linguistici di grandi dimensioni (come ogni tecnologia che serve a scopi ampi), presentano il rischio di essere generalmente utilizzati in modo improprio per casi d'uso che non sono in linea con i valori di Anthology, dei nostri clienti o dei loro utenti finali e con quelli della società in generale (ad esempio, per attività criminali, per creare output dannosi o altrimenti inappropriati).
Alla luce di questi rischi, abbiamo attentamente progettato e implementato le nostre funzionalità di AI Alt Text Assistant in modo da ridurre al minimo il rischio di disallineamento dell'output. Ad esempio, ci siamo concentrati sulle funzionalità per gli insegnanti piuttosto che per gli studenti. Abbiamo anche intenzionalmente omesso funzionalità potenzialmente ad alto rischio. ·
Proprietà intellettuale
I modelli linguistici di grandi dimensioni presentano intrinsecamente rischi relativi a potenziali violazioni dei diritti di proprietà intellettuale. La maggior parte delle leggi sulla proprietà intellettuale in tutto il mondo non ha completamente anticipato né adattato all'emergere di modelli linguistici di grandi dimensioni e alla complessità delle questioni che sorgono attraverso il loro utilizzo. Di conseguenza, attualmente non esiste un quadro giuridico o una guida chiara che affronti le questioni di proprietà intellettuale e i rischi derivanti dall'uso di questi modelli.
In definitiva, è responsabilità del nostro cliente esaminare l'output generato da quell'AI Alt Text Assistant per qualsiasi potenziale violazione dei diritti di proprietà intellettuale.
Accessibilità
Abbiamo progettato e sviluppato l'AI Alt Text Assistant pensando all'accessibilità, come facciamo in Learn e negli altri nostri prodotti. Prima del rilascio dell'assistente di testo alternativo AI, abbiamo migliorato intenzionalmente l'accessibilità della struttura semantica, della navigazione, dei controlli da tastiera, delle etichette, dei componenti personalizzati e dei flussi di lavoro delle immagini, per citare alcune aree. Continueremo a dare priorità all'accessibilità man mano che sfrutteremo l'intelligenza artificiale in futuro.
La funzione Assistente IA per testo alternativo sfrutta Amazon Bedrock. AWS rende disponibili i rapporti di conformità all'accessibilità tramite le pagine Accessibilità AWS.
Responsabilità
Anthology ha un programma di intelligenza artificiale affidabile progettato per garantire l'uso legale, etico e responsabile dell'intelligenza artificiale. Una chiara responsabilità interna e la revisione etica sistematica dell'IA o funzionalità come quelle fornite dall'AI Alt Text Assistant sono i pilastri fondamentali del programma.
Per fornire l'assistente IA Alt Text, abbiamo collaborato con Amazon per sfruttare Amazon Bedrock. AWS è impegnata nell'uso responsabile dell'IA.
I clienti dovrebbero prendere in considerazione l'implementazione di politiche interne, procedure e revisione delle applicazioni di intelligenza artificiale di terze parti per garantire il proprio uso legale, etico e responsabile dell'intelligenza artificiale. Queste informazioni vengono fornite per supportare la recensione dei nostri clienti dell'AI Alt Text Assistant.
Ulteriori informazioni
Anthology’s Approccio affidabile all'intelligenza artificiale
Anthology's Elenco delle funzionalità dell'intelligenza artificiale generativa
Domande frequenti su Bedrock di Amazon
Pagina Amazon su Sicurezza e privacy di Bedrock
Amazon’s Pagina della sicurezza AI
Blog sul machine learning di Amazon
Termini d'uso di AI Alt Text Assistant
L’Assistente AI per il Testo Alternativo di Ally utilizza i modelli di intelligenza artificiale generativa AWS Bedrock forniti da AWS.
Importante
Questa funzione può produrre risultati indesiderati o imprecisi. È responsabilità dell'utente e dell'istruttore rivedere tutti i risultati e correggerli o modificarli come necessario o appropriato. Si prega di notare che nessun dato del cliente viene utilizzato per addestrare, riaddestrare o migliorare i modelli generativi di intelligenza artificiale di AWS Bedrock. Le immagini o il testo contestuale caricati nell'Assistente AI Alt Text saranno trasmessi ai server AWS, che potrebbero trovarsi al di fuori del vostro hosting.
Puoi trovare ulteriori informazioni su rischi e limitazioni della funzione nella documentazione standard per l'utente finale.
Abilitando questa funzione, confermi di accettare termini aggiuntivi per conto del tuo istituto e di aver letto e compreso le informazioni sui rischi e le limitazioni all'interno e/o a cui si fa riferimento nella documentazione standard per l'utente finale di cui sopra.