Skip to main content

AI Alt Text Assistant

Nota de transparencia

El uso legal, ético y responsable de la inteligencia artificial (IA) es una de las principales prioridades de Anthology. Por eso, hemos desarrollado e implementado un programa de IA fiable. Puede encontrar información sobre nuestro programa y enfoque general de la IA confiable en nuestro Centro de confianza y más información sobre las características de la IA generativa en nuestra Lista de características de IA generativa.

Como parte de nuestros principios de IA fiable, nos comprometemos a ofrecer transparencia, claridad y responsabilidad. Esta página pretende ofrecer la transparencia y las explicaciones necesarias para ayudar a nuestros clientes a implementar el AI Alt Text Assistant. Aconsejamos a los administradores que revisen detenidamente esta página y se aseguren de que los profesores estén al tanto de las siguientes consideraciones y recomendaciones antes de activar las funcionalidades del AI Alt Text Assistant en su institución.

Cómo ponerse en contacto con nosotros:

  • Si tiene preguntas o comentarios sobre nuestro enfoque general de la IA fiable o sobre cómo podemos hacer que esta página sea más útil para nuestros clientes, envíenos un correo electrónico a trustworthyai@anthology.com.

  • Si tiene preguntas o comentarios sobre la funcionalidad o los resultados del Asistente de IA para texto alternativo, envíe un ticket de soporte al cliente.

Funciones facilitadas con IA

El AI Alt Text Assistant ofrece a los profesores sugerencias sobre texto alternativo para las imágenes que se usan en sus cursos en línea a través del flujo de trabajo Comentarios del profesor de Ally. Su objetivo es inspirar a los profesores y hacer que las correcciones de accesibilidad sean más eficientes.

Anthology se ha asociado con AWS para actualizar el modelo de IA de Ally para impulsar sugerencias aún más impactantes, junto con la capacidad de generar sugerencias de descripción de imágenes para contenido más complejo, incluidos STEM, tablas/gráficos, texto en imágenes e imágenes escritas a mano. Se basa en los modelos Claude de AWS Bedrock y ofrece análisis y resultados mejorados para ayudar a los profesores a crear descripciones de imágenes impactantes, relevantes y concisas para lo que suele ser contenido de imágenes problemático y desafiante.

El AI Alt Text Assistant ofrece las siguientes funcionalidades generativas facilitadas por la IA:

  • Genera un texto alternativo para las imágenes. Sugiere un texto alternativo dentro de los comentarios del profesor de Ally cuando los profesores corrigen imágenes sin texto alternativo.

Importante

Estas funcionalidades están sujetas a las limitaciones y a la disponibilidad del servicio AWS Bedrock y están sujetas a cambios. Para obtener más información, consulte las notas de la versión relevantes.

Información esencial

tabla 2. Tabla de ejemplo

Pregunta

Respuesta

¿Qué funcionalidades de Ally utilizan los sistemas de IA?

Sugerencia de texto alternativo a través de IA en el panel Comentarios del profesor de Ally cuando ha marcado una imagen por no tener texto alternativo.

¿Se trata de un sistema de IA con respaldo de terceros?

Sí: el asistente AI Alt Text funciona con AWS Bedrock Anthropic Claude Sonnet 3.5

¿Cómo funciona el sistema de IA?

El Asistente de texto alternativo de IA utiliza el modelo AWS Bedrock Anthropic Claude Sonnet 3.5 para generar automáticamente resultados. Esto se logra utilizando la imagen para generar un texto alternativo que se envía a través del SDK de AWS. También hemos añadido la capacidad de enviar mensajes contextuales basados en el contenido de texto circundante cuando se incrusta una imagen en un elemento de contenido enriquecido. No se utiliza ninguna otra información (p. ej., título del curso, descripción del curso). Las imágenes no se utilizan para entrenar los modelos de AWS Bedrock, y Bedrock genera resultados en función de cada imagen que se carga en el AI Alt Text Assistant.

¿Dónde se aloja el sistema de IA?

Anthology utiliza actualmente varias instancias de AWS para Amazon Bedrock, determinadas por la disponibilidad de la región de Amazon Bedrock. AWS proporciona esta disponibilidad de región para el modelo de Amazon Bedrock utilizado actualmente por Ally (Claude Sonnet 3.5) en Soporte del modelo por región de AWS en Amazon Bedrock. En ocasiones, podemos utilizar recursos en otras ubicaciones, como el este de EE. UU., para ofrecer la mejor opción de disponibilidad de AWS Bedrock a nuestros clientes cuando una región específica no esté disponible.

Todos los resultados generados por el AI Alt Text Assistant se almacenan en la base de datos de Ally existente de cada cliente y gestionada por Anthology.

¿Esta funcionalidad es opcional?

Sí. Los administradores deben activar el AI Alt Text Assistant en las opciones de configuración del LMS de Ally. Seleccione Generación de descripciones alternativas para imágenes de IA en la pestaña Funciones. Los administradores pueden activar o desactivar esta funcionalidad en cualquier momento.

¿Cómo se entrena el sistema de IA?

Anthology no participa en el entrenamiento del modelo Anthropic que alimenta las funcionalidades del AI Alt Text Assistant a través de Amazon Bedrock. Estos modelos son entrenados por Anthropic (Anthropic Claude).

Anthology no utiliza datos propios ni de los clientes para mejorar Azure Vision Service.

¿Se utilizan los datos de los clientes para entrenar o volver a entrenar el sistema de IA?

No. Amazon se compromete en su documentación pública a no utilizar ninguna entrada o salida para el (re)entrenamiento de los modelos lingüísticos de gran tamaño dentro de Amazon Bedrock. Amazon proporciona información sobre cómo se entrenan los grandes modelos lingüísticos en los enlaces de la sección "Más información" que aparece a continuación. Todos los datos de entrada y salida se encriptan en tránsito y en reposo.

¿Cómo Anthology Ally utiliza la información personal en la implementación del sistema AI Alt Text Assistant?

Anthology Ally solo utiliza las imágenes recopiladas en relación con el Asistente de texto alternativo de IA para proporcionar, mantener y respaldar esta función. Si desea obtener más información sobre el enfoque de Anthology con respecto a la privacidad de datos, diríjase a nuestro Centro de confianza de Anthology.

En el caso de un sistema de IA desarrollado por terceros, ¿cómo se utilizarán los datos personales?

Anthology Ally solo utiliza las imágenes y/o los datos contextuales del contenido enriquecido que rodea una imagen recopilados en relación con el Asistente de texto alternativo de IA para proporcionar, mantener y dar soporte al Asistente de texto alternativo de IA. Si desea obtener más información sobre el enfoque de Anthology con respecto a la privacidad de datos, diríjase a nuestro Centro de confianza de Anthology.

Solo se utilizan imágenes y/o datos contextuales en contenido enriquecido que rodea a una imagen para potenciar esta característica. No se comparte más información con AWS Bedrock.

Ni Amazon ni ningún proveedor de modelos de Amazon Bedrock utilizan datos de Anthology ni datos de clientes de Anthology para mejorar los modelos de Amazon Bedrock.

Puede encontrar más información sobre las prácticas de privacidad de datos relativas a Amazon Bedrock Security and Privacy en la documentación de Amazon en la página Página de seguridad de IA de AWS, el blog Blog de aprendizaje automático de AWS y la página Seguridad y privacidad de Amazon Bedrock.

¿Se ha tenido en cuenta la accesibilidad en el diseño del sistema de texto alternativo con IA?

Sí, nuestros ingenieros de accesibilidad colaboraron con los equipos de productos para revisar los diseños, informar de las consideraciones importantes al respecto y probar las nuevas características específicamente para asegurarse de que sean accesibles. La accesibilidad es una parte integral de nuestro enfoque de IA fiable.



Consideraciones y sugerencias para las instituciones

Casos de uso previstos

El AI Alt Text Assistant solo está diseñado para admitir las funcionalidades enumeradas anteriormente. Estas funcionalidades se proporcionan a los profesores de nuestros clientes, y están destinadas a ayudarlos en la solución de los problemas de accesibilidad en las imágenes marcados por Ally.

Casos de uso fuera de alcance

El AI Alt Text Assistant no está diseñado ni garantiza que todas las imágenes sean accesibles con un texto alternativo perfecto, ya que sigue siendo responsabilidad del profesor ajustar o aprobar dicho texto en función del contexto del contenido del curso.

Principios de IA fiable puestos en práctica

El uso legal, ético y responsable de la IA es una de las principales prioridades de Anthology y Microsoft. En esta sección, se explica cómo ambas empresas trabajaron para abordar el riesgo aplicable a este uso de la IA e implementar los principios de IA confiable de Anthology. También se sugieren los pasos que los clientes pueden considerar a la hora de emprender sus propias revisiones legales y de la IA sobre los riesgos éticos de su aplicación.

Transparencia y explicabilidad

  • En las opciones de configuración de administración de Ally, dejamos claro que se trata de una funcionalidad facilitada por la IA

  • En la interfaz de usuario para profesores, las funcionalidades del AI Alt Text Assistant se marcan claramente como funcionalidades "Generativas". También se solicita a los profesores que revisen el resultado del texto antes de utilizarlo. Los metadatos de los resultados creados por las funcionalidades del AI Alt Text Assistant se muestran en el informe de uso de Ally de cada cliente con un campo para el contenido generado automáticamente. Además, muestra si el profesor editó el resultado posteriormente.

  • Además de la información proporcionada en este documento sobre cómo funciona la función Asistente de texto alternativo de IA con Amazon Bedrock, Amazon proporciona información adicional sobre Amazon Bedrock en los enlaces de la sección "Más información" que aparece a continuación.

  • Animamos a los clientes a que utilicen la IA de forma transparente en el AI Alt Text Assistant y que proporcionen a sus profesores y a otras partes interesadas, según corresponda, la información pertinente de este documento y de la documentación vinculada al mismo.

Fiabilidad y precisión

  • Dejamos claro en las opciones de configuración del administrador de Ally y en las condiciones de uso que se trata de una funcionalidad facilitada por la IA que puede producir resultados imprecisos o no deseados y que dichos resultados deben ser siempre revisados por el profesor.

  • En la interfaz de usuario, se solicita a los profesores que revisen el texto producido para comprobar su precisión.

  • Como se detalla en las Preguntas frecuentes de Amazon Bedrock, existe el riesgo de obtener resultados inexactos. Si bien la naturaleza específica del AI Alt Text Assistant y nuestra implementación están diseñadas para minimizar las imprecisiones, es responsabilidad del cliente revisar los resultados para comprobar su exactitud, posibles sesgos u otros problemas.

  • Los usuarios pueden regenerar fácilmente los resultados imprecisos reformulando la pregunta o la frase utilizada en la pregunta.

  • Como parte de su plan de comunicación con respecto al AI Alt Text Assistant, los clientes deben informar a los profesores sobre esta posible limitación.

  • Los clientes pueden notificarnos cualquier resultado inexacto utilizando los canales que se indican en la introducción.

Imparcialidad

  • Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con los estereotipos, las representaciones excesivas o insuficientes y otras formas de sesgos dañinos.

  • Teniendo en cuenta estos riesgos, hemos elegido las funcionalidades del AI Alt Text Assistant con mucho cuidado para evitar que se produzcan casos de uso con más probabilidades de contener sesgos dañinos o en los que el impacto de dichos sesgos pueda ser más significativo.

  • Sin embargo, no podemos garantizar que todos los resultados estén exentos de estos sesgos dañinos. Como se mencionó anteriormente en el apartado "Precisión", se solicita a los profesores que revisen los resultados, lo cual ayuda a disminuir los sesgos dañinos que pueda haber.

  • Como parte de su plan de comunicación con respecto al AI Alt Text Assistant, los clientes deben informar a los profesores sobre esta posible limitación.

  • Para informarnos sobre los sesgos potencialmente dañinos, pueden utilizar los canales de contacto que se encuentran en la introducción.

Privacidad y seguridad

  • Como se describe en la sección "Información esencial" que aparece más arriba, el AI Alt Text Assistant solo utiliza la imagen y Microsoft puede acceder a ella. Allí, se explica además nuestro compromiso y el de Microsoft con respecto a su uso.

  • Amazon describe sus prácticas y compromisos de privacidad y seguridad de datos en la documentación sobre Privacidad y seguridad para Amazon Bedrock.

Protección

  • Los grandes modelos de lenguaje presentan siempre el riesgo de generar resultados que pueden ser inapropiados, ofensivos o peligrosos. Microsoft los describe en la sección Limitaciones de la Nota de transparencia de Azure Vision Service.

  • Dado estos riesgos, hemos seleccionado cuidadosamente las funcionalidades del AI Alt Text Assistant para evitar casos de uso que puedan ser más propensos a generar resultados inseguros o en los que el impacto de dichos resultados pueda ser más significativo.

  • Sin embargo, no podemos garantizar que todos los resultados sean seguros. Como se mencionó anteriormente en el apartado "Precisión", se solicita a los profesores que revisen los resultados, lo cual ayuda a disminuir los sesgos dañinos que pueda haber.

  • Como parte de su plan de comunicación con respecto al AI Alt Text Assistant, los clientes deben informar a los profesores sobre esta posible limitación.

  • Los clientes deben informarnos sobre los resultados potencialmente peligrosos a través de los canales que se indican en la introducción.

Personas al mando

  • Para minimizar los riesgos relacionados con el uso de la IA generativa para nuestros clientes y sus personas usuarias, hemos decidido de forma deliberada que sean los propios clientes quienes controlen las funcionalidades del AI Alt Text Assistant. Por lo tanto, hicimos que el AI Alt Text Assistant sea una característica opcional. Los administradores pueden activar o desactivar el AI Alt Text Assistant en cualquier momento.

  • Además, los profesores tienen el control de los resultados, por lo que se les solicita que los revisen y editen según sea necesario.

  • El AI Alt Text Assistant no incluye ninguna toma de decisiones automatizada que pueda afectar de manera legal o considerable a los alumnos o a otras personas.

  • Recomendamos a los clientes que revisen detenidamente este documento, incluida la información enlazada, para asegurarse de que comprenden las capacidades y las limitaciones del AI Alt Text Assistant y del servicio subyacente Amazon Bedrock antes de activar esta característica.

Alineación con los valores

  • El uso de grandes modelos de lenguaje conlleva riesgos inherentes en cuanto a resultados sesgados, inapropiados o no acordes con los valores de Anthology o de nuestros clientes y alumnos. Amazon describe estos riesgos en los sitios web enlazados en la sección “más información” que figura a continuación.

  • Además, los grandes modelos de lenguaje (como toda tecnología que sirve para fines amplios), presentan el riesgo de que, por lo general, puedan utilizarse indebidamente para casos de uso que no se ajusten a los valores de Anthology, de nuestros clientes o de sus usuarios finales ni a los de la sociedad en general (por ejemplo, para actividades delictivas, para crear resultados perjudiciales o inapropiados por cualquier otro motivo).

  • Teniendo en cuenta estos riesgos, hemos diseñado e implementado cuidadosamente las funcionalidades del AI Alt Text Assistant para minimizar el riesgo de generar contenido no alineado. Por ejemplo, nos centramos más en las funcionalidades para los profesores que para los alumnos. Además, omitimos intencionalmente aquellas que podrían ser de alto riesgo.

Propiedad intelectual

  • Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con posibles violaciones de los derechos de propiedad intelectual. La mayoría de las leyes de propiedad intelectual de todo el mundo no se anticiparon ni adaptaron por completo a la aparición de estos modelos ni a la complejidad de los problemas que surgen a partir de su uso. Como resultado, actualmente no existe un marco jurídico claro ni una orientación que aborde las cuestiones y los riesgos en torno a la propiedad intelectual que aparecen debido al uso de estos modelos.

  • En última instancia, es responsabilidad de los clientes revisar los resultados generados con el AI Alt Text Assistant para detectar cualquier posible violación de los derechos de propiedad intelectual.

Accesibilidad

  • Hemos diseñado y desarrollado el AI Alt Text Assistant teniendo en cuenta la accesibilidad, como hacemos en Learn y en el resto de nuestros productos. Antes del lanzamiento del AI Alt Text Assistant, mejoramos deliberadamente la accesibilidad de la estructura semántica, la navegación, los controles de teclado, las etiquetas, los componentes personalizados y los flujos de trabajo con imágenes, entre otras áreas. A medida que avancemos en el uso de la IA, seguiremos dando prioridad a la accesibilidad.

  • La característica del AI Alt Text Assistant se basa en Amazon Bedrock. AWS pone a disposición informes de conformidad con la accesibilidad a través de las páginas de accesibilidad de AWS.

Responsabilidad

  • Anthology cuenta con un programa de IA confiable diseñado para garantizar el uso legal, ético y responsable de la IA. La responsabilidad interna clara y la revisión ética sistemática de la IA o las funcionalidades como las que ofrece el Asistente de texto alternativo de IA son elementos fundamentales del programa.

  • Para ofrecer el AI Alt Text Assistant, nos asociamos con Amazon para aprovechar Amazon Bedrock. AWS se compromete a hacer un uso responsable de la IA.

  • Los clientes deben considerar la implementación de políticas y procedimientos internos y la revisión de las aplicaciones de IA de terceros para garantizar que su propio uso de la IA sea legal, ético y responsable. Esta información se ofrece para respaldar la valoración que nuestros clientes hacen del AI Alt Text Assistant.

Información adicional

Condiciones de uso de AI Alt Text Assistant

AI Alt Text Assistant de Ally utiliza los modelos de IA generativa de AWS Bedrock de AWS.

Importante

Esta característica puede producir resultados no deseados o inexactos. Es su responsabilidad y la del profesor revisar todos los resultados y corregirlos o modificarlos según sea necesario o apropiado. Tenga en cuenta que no se utilizan datos de clientes para entrenar, volver a entrenar o mejorar los modelos de IA generativa de AWS Bedrock.  Las imágenes o el texto contextual cargados en AI Alt Text Assistant se transmitirán a los servidores de AWS, que pueden estar ubicados fuera de su entorno de alojamiento.

Puede encontrar más información sobre los riesgos y limitaciones de la característica en la documentación estándar para el usuario final.

Al habilitar esta función, confirma que acepta los términos adicionales en nombre de su institución, y que ha leído y comprendido la información sobre los riesgos y las limitaciones dentro de la documentación estándar para el usuario final mencionada anteriormente, o a la que se hace referencia en ella.