AI Alt Text Assistant
Nota de transparència
L'ús legal, ètic i responsable de la intel·ligència artificial (IA) és una prioritat clau per a Anthology. Per això, hem desenvolupat i hem implementat un programa d'IA de confiança. Podeu trobar informació sobre el programa i l'enfocament general de la IA de confiança al nostre Centre de confiança i més informació sobre les funcions d'IA generativa a la nostra llista de funcions d'IA generativa.
Com a part dels nostres principis d'IA de confiança, ens comprometem a garantir transparència, claredat i responsabilitat. El propòsit d'aquesta pàgina és proporcionar la transparència i les explicacions necessàries per ajudar els nostres clients a l'hora d'implementar AI Alt Text Assistant. Recomanem que els administradors revisin minuciosament aquesta pàgina i s'assegurin que els docents siguin coneixedors de les consideracions i recomanacions següents abans d'activar les funcionalitats d'AI Alt Text Assistant en la vostra institució.
Com podeu posar-vos en contacte amb nosaltres:
Si voleu fer preguntes o comentaris sobre el nostre enfocament general de la IA de confiança o sobre com podem fer que aquesta pàgina sigui més útil per als nostres clients, envieu-nos un correu electrònic a [email protected].
Si voleu fer preguntes o comentaris sobre la funcionalitat o sobre els resultats de l'AI Alt Text Assistant, envieu un tiquet d'assistència del client amb Behind the Blackboard.
Funcionalitats facilitades per IA
AI Alt Text Assistant proporciona als docents suggeriments sobre text alternatiu per a les imatges utilitzades en els seus cursos en línia mitjançant el flux de treball Comentaris del docent d'Ally. Està pensat per inspirar els docents i simplificar la correcció dels errors d'accessibilitat. Anthology ha col·laborat amb Microsoft per oferir aquesta funcionalitat, entre altres motius perquè Microsoft manté un compromís de llarg recorregut amb l'ús ètic de la IA.
AI Alt Text Assistant ofereix les funcionalitats generatives facilitades per IA següents:
Generar un text alternatiu per a les imatges. Suggereix un text alternatiu dins dels Comentaris del docent d'Ally quan els docents corregeixen imatges sense text alternatiu.
Important
Aquestes funcionalitats estan subjectes a les limitacions i la disponibilitat del servei d'Azure AI Vision i a canvis. Per saber-ne més, consulteu les notes de la versió rellevants.
Informació essencial
Pregunta | Resposta |
|---|---|
Quines funcionalitats d'Ally utilitzen sistemes d'IA? | Suggeriment de text alternatiu per IA en el tauler de Comentaris del docent d'Ally, quan Ally ha marcat una imatge per no tenir text alternatiu. |
Es tracta d'un sistema d'IA assistit per tercers? | Sí. L'AI Alt Text Assistant funciona amb el servei d'Azure Vision de Microsoft. |
Com funciona el sistema d'IA? | L'assistent de text alternatiu amb tecnologia d'IA aprofita el servei d'Azure Vision de Microsoft per generar resultats automàticament. Això s'assoleix utilitzant la imatge per generar un text alternatiu que s'envia amb l'API d'Azure Vision. No es fa servir cap altra informació (per exemple, el títol o la descripció del curs). Les imatges no s'utilitzen per entrenar els models de Microsoft Azure Vision i el servei d'Azure Vision genera els resultats en funció de cada imatge que es carrega a l'assistent de text alternatiu amb tecnologia d'IA. No es fan servir sol·licituds. Tingueu en compte que per als usuaris finals que tinguin les instàncies del sistema de gestió de l'aprenentatge configurades en idiomes diferents de l'anglès, els resultats de text alternatiu de la IA es traduiran amb AWS Translate. Per obtenir una explicació detallada sobre com funcionen els models de llenguatge d'Azure AI Vision, consulteu la secció introductòria de la nota de transparència de Microsoft i els enllaços que s'hi proporcionen. |
On s'allotja el sistema d'IA? | Actualment, Anthology utilitza diverses instàncies globals del servei d'Azure Vision. La instància principal està allotjada als Estats Units, però de vegades podem fer servir recursos en altres ubicacions, com ara Europa occidental o la regió d'Àsia-Pacífic, per oferir la millor opció de disponibilitat d'Azure AI Vision als nostres clients. Tots els resultats del client generats per AI Alt Text Assistant s'emmagatzemen en la base de dades d'Ally existent de cada client gestionada per Anthology. |
És una funcionalitat opcional? | Sí. Els administradors han d'activar AI Alt Text Assistant en les opcions de configuració del sistema de gestió de l'aprenentatge d'Ally. Seleccioneu Generació de descripcions alternatives per a imatges amb IA a la pestanya Funcions. Els administradors poden activar o desactivar aquesta funcionalitat en qualsevol moment. |
Com s'entrena el sistema d'IA? | Anthology no participa en l'entrenament dels models que fan anar les funcionalitats de l'assistent de text alternatiu amb tecnologia d'IA. Microsoft és qui entrena aquests models com a part del servei d'Azure Vision. Microsoft facilita informació sobre com s'entrenen els models de llenguatge extensos a la secció introductòria de la nota de transparència de Microsoft i els enllaços que s'hi proporcionen. Anthology no ajusta encara més el servei d'Azure Vision amb les nostres dades o les dades dels nostres clients. |
S'utilitzen les dades dels clients per entrenar o tornar a entrenar el sistema d'IA? | No. Microsoft es compromet amb Anthology contractualment mitjançant les condicions d'Azure Vision a no fer servir cap entrada o sortida d'Azure Vision per tornar a entrenar el model de llenguatge extens. El mateix compromís s'especifica a la documentació de Microsoft sobre dades, privadesa i seguretat per al servei d'Azure Vision. Només s'utilitzen models preconstruïts. |
Com fa servir Anthology Ally la informació personal en la implementació del sistema de l'Assistent de text alternatiu amb IA? | Anthology Ally només utilitza les imatges recopilades en relació amb l'assistent de text alternatiu amb tecnologia d'IA per oferir, mantenir i prestar suport a l'assistent de text alternatiu amb tecnologia d'IA. Podeu trobar més informació sobre l'enfocament d'Anthology pel que fa a la privadesa de les dades al Centre de confiança d'Anthology. Només s'utilitzen les imatges per fer anar aquesta funció. No es comparteix més informació amb el servei de Microsoft Azure Vision. Microsoft no fa servir les dades d'Anthology ni les dades dels clients d'Anthology a les quals té accés (com a part del servei d'Azure Vision ) per millorar els models de Vision o els serveis de productes propis o de tercers, ni tampoc per millorar automàticament els models d'Azure Vision per a l'ús d'Anthology al recurs d'Anthology (els models no tenen estat). Podeu trobar més informació sobre les pràctiques de privadesa de dades relacionades amb el servei d'Azure Vision a la documentació de Microsoft sobre dades, privadesa i seguretat per al servei d'Azure Vision. |
S'ha tingut en compte l'accessibilitat a l'hora de dissenyar el sistema de text alternatiu amb IA? | Sí, els nostres enginyers d'accessibilitat han col·laborat amb els equips de productes per revisar els dissenys, comunicar consideracions importants d'accessibilitat i provar les noves funcions específicament per garantir que siguin accessibles. L'accessibilitat serà sempre una part integral del nostre enfocament d'IA de confiança. |
Consideracions i recomanacions per a les institucions
Casos d'ús previstos
AI Alt Text Assistant només està dissenyat per admetre les funcionalitats indicades anteriorment. Aquestes funcionalitats s'ofereixen als docents dels nostres clients, i s'han dissenyat per a aquests usuaris, a fi de donar-los suport amb la correcció dels problemes d'accessibilitat en les imatges detectats per Ally.
Casos d'ús no previstos
AI Alt Text Assistant no té la intenció ni garanteix que totes les imatges siguin accessibles amb un text alternatiu perfecte, ja que encara depèn del docent editar o aprovar el text alternatiu en funció del context del contingut del curs.
Acompliment dels principis d'IA de confiança
Anthology i Microsoft creuen que l'ús legal, ètic i responsable de la IA és una prioritat clau. En aquesta secció s'explica com Anthology i Microsoft han treballat per tractar el risc aplicable a l'ús legal, ètic i responsable de la IA i implementar els principis de la IA de confiança d'Anthology. També se suggereixen passos que els nostres clients poden tenir en compte a l'hora de dur a terme les seves revisions legals i d'IA dels riscos ètics de la seva implementació relacionats amb la IA.
Transparència i explicabilitat
En les opcions de configuració d'administració d'Ally, deixem clar que es tracta d'una funcionalitat facilitada per la IA
En la interfície d'usuari dels docents, les funcionalitats d'AI Alt Text Assistant estan clarament marcades com a funcionalitats "generatives". També es demana als docents que revisin els resultats del text abans d'utilitzar-lo. Les metadades dels resultats creats per les funcionalitats d'AI Alt Text Assistant s'exposen en l'informe d'ús d'Ally de cada client amb un camp per al contingut generat automàticament. També es mostra si el docent ha editat els resultats posteriorment.
A més de la informació proporcionada en aquest document sobre com funcionen els models de l'assistent de text alternatiu amb tecnologia d'IA i el servei d'Azure Vision, Microsoft facilita informació addicional sobre el servei d'Azure Vision a la seva nota de transparència.
Aconsellem els clients que utilitzin la IA de manera transparent a AI Alt Text Assistant i que proporcionin als seus docents i a altres parts interessades, segons correspongui, la informació pertinent d'aquest document i de la documentació que hi està vinculada.
Fiabilitat i precisió
En les opcions de configuració d'administració d'Ally i en les condicions d'ús, deixem clar que es tracta d'una funcionalitat facilitada per la IA que pot generar resultats inexactes o no desitjats i que el docent sempre els ha de revisar.
En la interfície d'usuari, es demana als docents que revisin el text produït per comprovar-ne la precisió.
Com es detalla a la secció Limitacions de la nota de transparència del servei d'Azure Vision, existeix el risc d'obtenir resultats inexactes. Tot i que l'assistent de text alternatiu amb tecnologia d'IA i la nostra implementació han estat dissenyats específicament per minimitzar la inexactitud, és responsabilitat del nostre client comprovar que no hi hagi inexactituds, biaixos o altres possibles problemes als resultats.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Els instructors poden utilitzar la interfície existent d'Ally per editar manualment els resultats de l'assistent de text alternatiu amb tecnologia d'IA abans de publicar-los per als estudiants.
Els clients poden informar-nos de qualsevol resultat inexacte mitjançant els canals que s'indiquen en la introducció.
Imparcialitat
Els grans models lingüístics presenten inherentment riscos relacionats amb els estereotips, les representacions excessives o insuficients i altres formes de biaixos nocius. Microsoft descriu aquests riscos a la secció Limitacions de la nota de transparència del servei d'Azure Vision.
Tenint en compte aquests riscos, hem escollit les funcionalitats d'AI Alt Text Assistant amb molta cura per evitar casos d'ús que puguin ser més propensos a contenir biaixos nocius o en els quals l'impacte d'aquest tipus de biaix sigui més significatiu.
No obstant això, no podem garantir que tots els resultats estiguin exempts d'aquests biaixos. Com s'ha esmentat abans en l'apartat "Precisió", es demana als docents que revisin els resultats, cosa que pot ajudar a reduir els biaixos nocius.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Per informar-nos de qualsevol biaix potencialment nociu, els clients poden utilitzar els canals de contacte que s'indiquen en la introducció.
Privacitat i seguretat
Tal com es descriu en la secció "Informació essencial" anterior, AI Alt Text Assistant només utilitza la imatge i Microsoft hi pot accedir. En aquesta secció també s'hi descriu el nostre compromís i el de Microsoft pel que fa a l'ús de qualsevol informació personal.
Ally té la certificació ISO 27001/27017/27018/27701. Aquestes certificacions inclouran els resultats relacionats amb l'assistent de text alternatiu amb tecnologia d'IA gestionats per Anthology. Podeu trobar més informació sobre l'enfocament d'Anthology en matèria de privadesa i seguretat de les dades al nostre Centre de confiança.
Microsoft descriu les seves pràctiques i els seus compromisos de privadesa i seguretat de dades a la documentació sobre dades, privadesa i seguretat per al servei d'Azure Vision.
Independentment del compromís d'Anthology i Microsoft pel que fa a la privadesa de les dades i a no utilitzar les entrades per tornar a entrenar els models, és possible que els clients contemplin la possibilitat de recomanar als instructors que no incloguin dades personals o altres dades confidencials a les imatges.
Protecció
Els grans models de llenguatge presenten inherentment un risc de proporcionar resultats que poden ser inadequats, ofensius o perillosos. Microsoft descriu aquests riscos a la secció Limitacions de la nota de transparència del servei d'Azure Vision.
Tenint en compte aquests riscos, hem escollit les funcionalitats d'AI Alt Text Assistant amb molta cura per evitar casos d'ús que puguin ser més propensos a contenir biaixos nocius o en els quals l'impacte d'aquest tipus de biaix sigui més significatiu.
No obstant això, no es pot descartar que alguns dels resultats siguin insegurs. Com s'ha esmentat anteriorment a l'apartat "Precisió", es demana als docents que revisin els resultats, fet que pot ajudar a reduir el risc de resultats perillosos.
Com a part del pla de comunicació quant a AI Alt Text Assistant, els clients s'han d'assegurar que els docents siguin conscients d'aquesta possible limitació.
Els clients han d'informar-nos de qualsevol resultat potencialment perillós mitjançant els canals que s'indiquen en la introducció.
El control, els humans
Per minimitzar el risc relacionat amb l'ús de la IA generativa per als nostres clients i els seus usuaris, hem decidit que siguin els clients qui tinguin el control de les funcionalitats d'AI Alt Text Assistant. Per tant, hem fet que AI Alt Text Assistant sigui una funció opcional. Els administradors poden activar o desactivar AI Alt Text Assistant en qualsevol moment.
A més, els docents controlen els resultats, de manera que se'ls demana que els revisin i els editin quan calgui.
AI Alt Text Assistant no inclou cap presa de decisions automatitzada que pugui afectar de manera legal o significativa l'alumnat o altres persones.
Recomanem als clients que revisin detingudament aquest document, inclosos els enllaços d'informació que es proporcionen aquí, per assegurar-se que entenen les funcions i limitacions de l'assistent de text alternatiu amb tecnologia d'IA i del servei d'Azure Vision subjacent abans d'activar l'assistent de text alternatiu amb tecnologia d'IA.
Coherència amb els valors
Els grans models de llenguatge presenten riscos inherents pel que fa als resultats esbiaixats, inadequats o que no tenen coherència amb els valors d'Anthology o dels nostres clients i alumnes. Microsoft descriu aquests riscos a la secció Limitacions de la nota de transparència del servei d'Azure Vision.
A més, aquests models (igual que passa amb totes les tecnologies que s'utilitzen per a diverses finalitats) presenten el risc que, generalment, es puguin fer servir de manera indeguda per a casos d'ús que no s'ajustin als valors d'Anthology, dels nostres clients o dels seus usuaris finals ni els de la societat en general (per exemple, per a activitats delictives o per crear resultats nocius o inapropiats).
Tenint en compte aquests riscos, hem dissenyat i hem implementat amb molta cura les funcionalitats d'AI Alt Text Assistant, amb l'objectiu de minimitzar el risc que es produeixin resultats que no siguin coherents amb els nostres valors. Per exemple, en lloc de centrar-nos en les funcionalitats per als alumnes, ens hem centrat en les adreçades als docents. També hem omès de manera intencionada funcionalitats potencialment crítiques. ·
Propietat intel·lectual
Els grans models de llenguatge presenten inherentment riscos relacionats amb possibles violacions dels drets de propietat intel·lectual. La majoria de les lleis de propietat intel·lectual del món no s'han anticipat ni s'han adaptat del tot a l'aparició dels grans models lingüístics ni a la complexitat dels problemes que sorgeixen en utilitzar-los. Com a conseqüència, actualment no hi ha un marc legal clar ni cap orientació que tracti els assumptes de propietat intel·lectual i els riscos que sorgeixen amb l'ús d'aquests models.
En última instància, és responsabilitat del nostre client revisar els resultats generats per AI Alt Text Assistant a fi de detectar qualsevol possible violació dels drets de propietat intel·lectual.
Accessibilitat
Hem dissenyat i hem desenvolupat AI Alt Text Assistant tenint en compte l'accessibilitat, de la mateixa manera que ho fem amb Learn i la resta dels nostres productes. Abans de llançar AI Alt Text Assistant, hem millorat tant com hem pogut l'accessibilitat de l'estructura semàntica, la navegació, els controls del teclat, les etiquetes, els components personalitzats i els fluxos de treball d'imatges, entre moltes altres àrees. A mesura que anem avançant en l'ús de la IA, continuarem donant prioritat a l'accessibilitat.
Responsabilitat
Anthology té un programa d'IA de confiança dissenyat per garantir l'ús legal, ètic i responsable de la IA. La responsabilitat interna clara i la revisió ètica sistemàtica de la IA o les funcionalitats com les proporcionades per l'assistent de text alternatiu amb tecnologia d'IA són elements fonamentals del programa.
A fi d'oferir l'assistent de text alternatiu amb tecnologia d'IA, ens hem associat amb Microsoft per aprofitar el servei d'Azure Vision, que fa anar l'assistent de text alternatiu amb tecnologia d'IA. Microsoft feia temps que havia adquirit un compromís amb l'ús ètic de la IA.
Els clients haurien de contemplar la possibilitat d'implementar polítiques i procediments interns, així com la revisió de les aplicacions d'IA de tercers per garantir que el seu propi ús de la IA sigui legal, ètic i responsable. Aquesta informació es proporciona per donar suport a la valoració que els nostres clients fan d'AI Alt Text Assistant.
Informació addicional
Enfocament de la IA de confiança d'Anthology
Llista de funcions d'IA generativa d'Anthology
Pàgina d'IA responsable de Microsoft
Nota de transparència per al servei d'Azure Vision de Microsoft
Pàgina de Microsoft sobre dades, privadesa i seguretat per al servei d'Azure Vision
Condicions d'ús d'AI Alt Text Assistant
L'AI Alt Text Assistant d'Ally utilitza els models d'IA generativa dels serveis d'Azure Vision de Microsoft.
Important
Aquesta funció pot generar resultats no desitjats o inexactes. És responsabilitat vostra i del docent revisar tots els resultats i corregir-los o modificar-los quan calgui o sigui adequat fer-ho. Tingueu en compte que no s'utilitzen dades del client per entrenar, tornar a entrenar o millorar els models d'IA generativa d'Azure Vision. Les imatges penjades a AI Alt Text Assistant es transmetran als servidors d'Azure AI Vision Service que poden estar ubicats fora de l'allotjament.
Podeu trobar més informació sobre els riscos i les limitacions de la funció en la documentació estàndard per a l'usuari final.
En habilitar aquesta funció, confirmeu que accepteu les condicions addicionals en nom de la vostra institució, així com que heu llegit i heu entès la informació sobre els riscos i les limitacions inclosa en la documentació estàndard per a l'usuari final esmentada abans, o a la qual es fa referència en aquesta documentació.