AI Alt Text Assistant
Nota de transparència
L'ús legal, ètic i responsable de la intel·ligència artificial (IA) és una prioritat clau per a Anthology. Per això, hem desenvolupat i hem implementat un programa d'IA de confiança. Podeu trobar informació sobre el programa i l'enfocament general de la IA de confiança al nostre Centre de confiança i més informació sobre les funcions d'IA generativa a la nostra llista de funcions d'IA generativa.
Com a part dels nostres principis d'IA de confiança, ens comprometem a garantir transparència, claredat i responsabilitat. El propòsit d'aquesta pàgina és proporcionar la transparència i les explicacions necessàries per ajudar els nostres clients a l'hora d'implementar AI Alt Text Assistant. Recomanem que els administradors revisin minuciosament aquesta pàgina i s'assegurin que els docents siguin coneixedors de les consideracions i recomanacions següents abans d'activar les funcionalitats d'AI Alt Text Assistant en la vostra institució.
Com podeu posar-vos en contacte amb nosaltres:
Per a preguntes o comentaris sobre el nostre enfocament general de la IA fiable o sobre com podem fer que aquesta pàgina sigui més útil per als nostres clients, envieu-nos un correu electrònic a trustworthyai@anthology.com.
Per a preguntes o comentaris sobre la funcionalitat o el resultat de l'Assistent d'Alt Text IA, si us plau envieu un tiquet de suport al client.
Funcionalitats facilitades per IA
L'Assistent de text alternatiu amb IA ofereix als instructors suggeriments de text alternatiu per a les imatges utilitzades en els seus cursos en línia mitjançant el flux de treball de comentaris de l'instructor d'Ally. Està pensat per inspirar els instructors i fer que les correccions d'accessibilitat siguin més eficients.
Anthology s'ha associat amb AWS per actualitzar el model d'IA d'Ally i oferir suggeriments encara més impactants, juntament amb la capacitat de generar suggeriments de descripcions d'imatges per a contingut més complex, incloent-hi STEM, gràfics i diagrames, text en imatges i imatges manuscrites. Aquesta funció està impulsada per Claude, un model lingüístic d'Anthropic, a través d'AWS Bedrock. Si la vostra institució està establerta al Canadà, l'assistent utilitza el model més nou, Claude 3 Sonnet. A la resta de llocs, utilitza Claude Sonnet 3.5, excepte quan això no estigui disponible, en aquest cas s'utilitzarà per defecte Anthropic Claude 3 Sonnet o Claude 3 Haiku. Aquesta elecció es basa en el que AWS Bedrock posa a disposició a cada regió.
AI Alt Text Assistant ofereix les funcionalitats generatives facilitades per IA següents:
Generar un text alternatiu per a les imatges. Suggereix un text alternatiu dins dels Comentaris del docent d'Ally quan els docents corregeixen imatges sense text alternatiu.
Important
Aquestes funcionalitats estan subjectes a les limitacions i a la disponibilitat del servei AWS Bedrock i poden canviar. Consulteu les notes de la versió corresponents per a més detalls.
Informació essencial
Pregunta | Resposta |
|---|---|
Quines funcionalitats d'Ally utilitzen sistemes d'IA? | Suggeriment de text alternatiu per IA en el tauler de Comentaris del docent d'Ally, quan Ally ha marcat una imatge per no tenir text alternatiu. |
Es tracta d'un sistema d'IA assistit per tercers? | Sí. Utilitzem Claude, un model desenvolupat per Anthropic i ofert a través d'AWS Bedrock. Les institucions del Canadà utilitzen Anthropic Claude 3 Sonnet, mentre que altres regions utilitzen Claude Sonnet 3.5, en funció del que estigui suportat a cada regió d'AWS. Si Claude Sonnet 3.5 no està disponible, recorrerem a Claude 3 Sonnet (als EUA) o Claude 3 Haiku (a la UE) com a opció de reserva. |
Com funciona el sistema d'IA? | L'Assistent de text alternatiu amb IA utilitza els models Claude d'Anthropic a través d'AWS Bedrock per generar automàticament suggeriments de text alternatiu. Segons la ubicació de la vostra institució, això pot ser Anthropic Claude 3 Sonnet (al Canadà) o Claude 3.5 Sonnet o Claude 3 Haiku (en altres regions). Això s'aconsegueix utilitzant la imatge per generar un text alternatiu que s'envia a través de l'AWS SDK. També hem afegit la possibilitat d'enviar suggeriments contextuals basats en el contingut de text circumdant quan una imatge s'integra en un element de contingut enriquit. No s'utilitza cap altra informació (p. ex., el títol del curs o la descripció del curs). Les imatges no s'utilitzen per entrenar els models de Bedrock d'AWS, i Bedrock genera la sortida a partir de cada imatge que es puja a l'Assistent de text alternatiu amb IA. |
On s'allotja el sistema d'IA? | Actualment, Anthology utilitza diverses instàncies d'AWS per a Amazon Bedrock, segons la disponibilitat regional d'Amazon. AWS proporciona aquesta disponibilitat regional per al model d'Amazon Bedrock actualment utilitzat per Ally (Claude Sonnet 3.5, Claude 3 Sonnet, Claude 3 Haiku) a Suport de models per regió d'AWS a Amazon Bedrock. De vegades, podem utilitzar recursos en altres ubicacions, com ara US East, per oferir la millor opció de disponibilitat per a AWS Bedrock als nostres clients quan una regió específica no estigui disponible. Tots els resultats del client generats per AI Alt Text Assistant s'emmagatzemen en la base de dades d'Ally existent de cada client gestionada per Anthology. |
És aquesta una funcionalitat d'adhesió voluntària? | Sí. Els administradors han d'activar AI Alt Text Assistant en les opcions de configuració del sistema de gestió de l'aprenentatge d'Ally. Seleccioneu Generació de descripcions alternatives per a imatges amb IA a la pestanya Funcions. Els administradors poden activar o desactivar aquesta funcionalitat en qualsevol moment. |
Com s'entrena el sistema d'IA? | Anthology no participa en l'entrenament del model d'Anthropic que impulsa les funcionalitats de l'Assistent de text alternatiu d'IA a través d'Amazon Bedrock. Aquests models són entrenats per Anthropic (Anthropic Claude). Anthology no ajusta més els models d'AWS Bedrock amb les nostres pròpies dades ni amb les dels nostres clients. |
S'utilitzen les dades dels clients per entrenar o tornar a entrenar el sistema d'IA? | No. Amazon es compromet en la seva documentació pública a no utilitzar cap dada d'entrada ni de sortida per a la (re)formació dels models de llenguatge de gran mida dins d'Amazon Bedrock. Amazon proporciona informació sobre com s'entren els models de llenguatge de gran mida en els enllaços de la secció «Informació addicional» que es troba a continuació. Totes les dades d'entrada i sortida estan xifrades durant la transmissió i en repòs. |
Com fa servir Anthology Ally la informació personal en la implementació del sistema de l'Assistent de text alternatiu amb IA? | Anthology Ally només utilitza les imatges recopilades en relació amb l'assistent de text alternatiu amb tecnologia d'IA per oferir, mantenir i prestar suport a l'assistent de text alternatiu amb tecnologia d'IA. Podeu trobar més informació sobre l'enfocament d'Anthology pel que fa a la privadesa de les dades al Centre de confiança d'Anthology. |
En el cas d'un sistema d'IA assistit per un tercer, com utilitzarà aquest tercer la informació personal? | Anthology Ally només utilitza les imatges i/o les dades contextuals del contingut ric que envolta una imatge, recopilades en relació amb l'Assistent d'Alt Text IA, per proporcionar, mantenir i donar suport a l'Assistent d'Alt Text IA. Podeu trobar més informació sobre l'enfocament d'Anthology en la privacitat de les dades al Centre de Confiança d'Anthology. Només s'utilitzen imatges i/o dades contextuals del contingut ric que envolta una imatge per alimentar aquesta funció. No es comparteix cap altra informació amb AWS Bedrock. Ni Amazon ni cap proveïdor de models d'Amazon Bedrock utilitzen dades d'Anthology o dades de clients d'Anthology per millorar els models d'Amazon Bedrock. Podeu trobar més informació sobre les pràctiques de privadesa de dades relacionades amb la seguretat i la privadesa d'Amazon Bedrock en la documentació d'Amazon en la pàgina de Seguretat d'IA d'AWS, el Blog sobre aprenentatge automàtic d'AWS i la pàgina Seguretat i privadesa d'Amazon Bedrock. |
S'ha tingut en compte l'accessibilitat a l'hora de dissenyar el sistema de text alternatiu amb IA? | Sí, els nostres enginyers d'accessibilitat han col·laborat amb els equips de productes per revisar els dissenys, comunicar consideracions importants d'accessibilitat i provar les noves funcions específicament per garantir que siguin accessibles. L'accessibilitat serà sempre una part integral del nostre enfocament d'IA de confiança. |
Consideracions i recomanacions per a les institucions
Casos d'ús previstos
AI Alt Text Assistant només està dissenyat per admetre les funcionalitats indicades anteriorment. Aquestes funcionalitats s'ofereixen als docents dels nostres clients, i s'han dissenyat per a aquests usuaris, a fi de donar-los suport amb la correcció dels problemes d'accessibilitat en les imatges detectats per Ally.
Casos d'ús no previstos
AI Alt Text Assistant no té la intenció ni garanteix que totes les imatges siguin accessibles amb un text alternatiu perfecte, ja que encara depèn del docent editar o aprovar el text alternatiu en funció del context del contingut del curs.
Acompliment dels principis d'IA de confiança
Anthology i Amazon consideren que l'ús legal, ètic i responsable de la IA és una prioritat clau. Aquesta secció explica com Anthology i Amazon han treballat per abordar el risc aplicable a l'ús legal, ètic i responsable de la IA i implementar els principis d'IA de confiança d'Anthology. També suggereix passos que els nostres clients poden considerar per dur a terme les seves pròpies revisions legals i d'IA sobre els riscos ètics de la IA en la seva implementació.
Transparència i explicabilitat
En les opcions de configuració d'administració d'Ally, deixem clar que es tracta d'una funcionalitat facilitada per la IA
En la interfície d'usuari dels docents, les funcionalitats d'AI Alt Text Assistant estan clarament marcades com a funcionalitats "generatives". També es demana als docents que revisin els resultats del text abans d'utilitzar-lo. Les metadades dels resultats creats per les funcionalitats d'AI Alt Text Assistant s'exposen en l'informe d'ús d'Ally de cada client amb un camp per al contingut generat automàticament. També es mostra si el docent ha editat els resultats posteriorment.
El model que hi ha darrere de l'Assistent de text alternatiu amb IA pot variar segons la ubicació de la vostra institució. Al Canadà, l'assistent utilitza el model Claude 3 Sonnet, que ofereix funcionalitats més recents. A la resta de llocs, utilitza Claude Sonnet 3.5, excepte quan no estigui disponible, en aquest cas s'utilitzarà per defecte Anthropic Claude 3 Sonnet o Claude 3 Haiku. Aquesta elecció es basa en el que AWS Bedrock posa a disposició a cada regió.
Aconsellem els clients que utilitzin la IA de manera transparent a AI Alt Text Assistant i que proporcionin als seus docents i a altres parts interessades, segons correspongui, la informació pertinent d'aquest document i de la documentació que hi està vinculada.
Fiabilitat i precisió
En les opcions de configuració d'administració d'Ally i en les condicions d'ús, deixem clar que es tracta d'una funcionalitat facilitada per la IA que pot generar resultats inexactes o no desitjats i que el docent sempre els ha de revisar.
En la interfície d'usuari, es demana als docents que revisin el text produït per comprovar-ne la precisió.
Tal com s'indica a les Preguntes freqüents d'Amazon Bedrock, existeix un risc de resultats inexactes. Tot i que la naturalesa específica de l'Assistent de text alternatiu d'IA i la nostra implementació estan dissenyades per minimitzar la inexactitud, és responsabilitat del client revisar els resultats per comprovar-ne l'exactitud, la presència de biaix i altres possibles problemes.
Els usuaris poden regenerar amb facilitat els resultats imprecisos reformulant la pregunta o la frase utilitzada en la pregunta.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Els clients poden informar-nos de qualsevol resultat inexacte mitjançant els canals que s'indiquen en la introducció.
Imparcialitat
Els grans models lingüístics presenten inherentment riscos relacionats amb els estereotips, les representacions excessives o insuficients i altres formes de biaixos nocius.
Tenint en compte aquests riscos, hem escollit les funcionalitats d'AI Alt Text Assistant amb molta cura per evitar casos d'ús que puguin ser més propensos a contenir biaixos nocius o en els quals l'impacte d'aquest tipus de biaix sigui més significatiu.
No obstant això, no podem garantir que tots els resultats estiguin exempts d'aquests biaixos. Com s'ha esmentat abans en l'apartat "Precisió", es demana als docents que revisin els resultats, cosa que pot ajudar a reduir els biaixos nocius.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Per informar-nos de qualsevol biaix potencialment nociu, els clients poden utilitzar els canals de contacte que s'indiquen en la introducció.
Privacitat i seguretat
Tal com es descriu a la secció «Dades clau» anterior, la imatge només s'utilitza per a l'Assistent d'IA de text alternatiu i és accessible per a Amazon. Aquesta secció també descriu el nostre compromís i el d'Amazon pel que fa a l'ús de qualsevol informació personal.
Amazon descriu les seves pràctiques i els seus compromisos de privadesa i seguretat de dades en la documentació sobre Seguretat i privacitat d'Amazon Bedrock.
Protecció
Els grans models lingüístics tenen riscos inherents pel que fa als resultats que poden ser parcials, inadequats o que, d'alguna manera, no s'alineïn amb els valors de Blackboard o amb els valors dels nostres clients i estudiants. Amazon descriu aquests riscos als llocs web enllaçats a la secció d'Informació addicional que es troba a continuació.
Donats aquests riscos, hem seleccionat amb cura les funcionalitats de l'Assistent de text alternatiu d'IA per evitar casos d'ús que puguin ser més propensos a resultats insegurs o on l'impacte d'aquests resultats pugui ser més significatiu.
No obstant això, no es pot descartar que algunes de les sortides puguin ser insegures. Com s'ha esmentat més amunt a l'apartat «Exactitud», es demana als instructors que revisin les sortides, cosa que pot ajudar encara més a reduir el risc de sortides insegures.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Els clients han de notificar-nos qualsevol resultat potencialment insegur mitjançant els canals indicats a la introducció.
Humans al control
Per minimitzar el risc relacionat amb l'ús de la IA generativa per als nostres clients i els seus usuaris, hem decidit que siguin els clients qui tinguin el control de les funcionalitats d'AI Alt Text Assistant. Per tant, hem fet que AI Alt Text Assistant sigui una funció opcional. Els administradors poden activar o desactivar AI Alt Text Assistant en qualsevol moment.
A més, els docents controlen els resultats, de manera que se'ls demana que els revisin i els editin quan calgui.
AI Alt Text Assistant no inclou cap presa de decisions automatitzada que pugui afectar de manera legal o significativa l'alumnat o altres persones.
Recomanem als clients que revisin detingudament aquest document, inclosos els enllaços d'informació que s'hi proporcionen, per assegurar-se que entenen les capacitats i limitacions d'AI Alt Text Assistant i del servei Amazon Bedrock subjacent abans d'activar la funció AI Alt Text Assistant.
Coherència amb els valors
Els grans models lingüístics tenen riscos inherents pel que fa als resultats que poden ser parcials, inadequats o que, d'altra manera, no s'alineïn amb els valors d'Anthology o amb els valors dels nostres clients i estudiants. Amazon descriu aquests riscos als llocs web enllaçats a la secció «Informació addicional» que figura a continuació.
A més, aquests models (igual que passa amb totes les tecnologies que s'utilitzen per a diverses finalitats) presenten el risc que, generalment, es puguin fer servir de manera indeguda per a casos d'ús que no s'ajustin als valors d'Anthology, dels nostres clients o dels seus usuaris finals ni els de la societat en general (per exemple, per a activitats delictives o per crear resultats nocius o inapropiats).
Tenint en compte aquests riscos, hem dissenyat i hem implementat amb molta cura les funcionalitats d'AI Alt Text Assistant, amb l'objectiu de minimitzar el risc que es produeixin resultats que no siguin coherents amb els nostres valors. Per exemple, en lloc de centrar-nos en les funcionalitats per als alumnes, ens hem centrat en les adreçades als docents. També hem omès de manera intencionada funcionalitats potencialment crítiques. ·
Propietat intel·lectual
Els grans models de llenguatge presenten inherentment riscos relacionats amb possibles violacions dels drets de propietat intel·lectual. La majoria de les lleis de propietat intel·lectual del món no s'han anticipat ni s'han adaptat del tot a l'aparició dels grans models lingüístics ni a la complexitat dels problemes que sorgeixen en utilitzar-los. Com a conseqüència, actualment no hi ha un marc legal clar ni cap orientació que tracti els assumptes de propietat intel·lectual i els riscos que sorgeixen amb l'ús d'aquests models.
En última instància, és responsabilitat del nostre client revisar els resultats generats per AI Alt Text Assistant a fi de detectar qualsevol possible violació dels drets de propietat intel·lectual.
Accessibilitat
Vam dissenyar i desenvolupar l'Assistent de text alternatiu amb IA pensant en l'accessibilitat, tal com fem a Learn i en els nostres altres productes. Abans del llançament de l'Assistent de text alternatiu amb IA, vam millorar deliberadament l'accessibilitat de l'estructura semàntica, la navegació, els controls de teclat, les etiquetes, els components personalitzats i els fluxos de treball d'imatges, per esmentar algunes àrees. Continuarem prioritzant l'accessibilitat a mesura que aprofitem la IA en el futur.
La funció Assistent de text alternatiu d'IA aprofita Amazon Bedrock. AWS posa a disposició informes de conformitat d'accessibilitat a través de les pàgines d'accessibilitat d'AWS.
Responsabilitat
Anthology té un programa d'IA de confiança dissenyat per garantir l'ús legal, ètic i responsable de la IA. La responsabilitat interna clara i la revisió ètica sistemàtica de la IA o les funcionalitats com les proporcionades per l'assistent de text alternatiu amb tecnologia d'IA són elements fonamentals del programa.
Per oferir l'Assistent de text alternatiu amb IA, vam col·laborar amb Amazon per aprofitar Amazon Bedrock. AWS està compromesa amb el ús responsable de la IA.
Els clients haurien de contemplar la possibilitat d'implementar polítiques i procediments interns, així com la revisió de les aplicacions d'IA de tercers per garantir que el seu propi ús de la IA sigui legal, ètic i responsable. Aquesta informació es proporciona per donar suport a la valoració que els nostres clients fan d'AI Alt Text Assistant.
Informació addicional
Enfocament de la IA de confiança d'Anthology
Llista de funcions d'IA generativa d'Anthology
Pàgina d'Amazon sobre Seguretat i privadesa de Bedrock
Pàgina sobre Seguretat de la IA d'Amazon
Blog sobre aprenentatge automàtic d'Amazon
Amazon’s Machine Learning Blog
Condicions d'ús d'AI Alt Text Assistant
AI Alt Text Assistant d'Ally utilitza els models d'IA generativa del servei d'Amazon Bedrock d'AWS.
Important
Aquesta funció pot produir resultats no desitjats o inexactes. És responsabilitat vostra i del vostre instructor revisar tots els resultats i corregir-los o modificar-los segons sigui necessari o adient. Tingueu en compte que no s'utilitzen dades de cap client per entrenar, reentrenar o millorar els models d'IA generativa d'AWS Bedrock. Les imatges o el text contextual pujats a l'Auxiliar de text alternatiu d'IA es transmetran als servidors d'AWS, que poden estar ubicats fora del vostre allotjament.
Podeu trobar més informació sobre els riscos i les limitacions de la funció en la documentació estàndard per a l'usuari final.
En habilitar aquesta funció, confirmeu que accepteu les condicions addicionals en nom de la vostra institució, així com que heu llegit i heu entès la informació sobre els riscos i les limitacions inclosa en la documentació estàndard per a l'usuari final esmentada abans, o a la qual es fa referència en aquesta documentació.