Illuminate Data Q&A - Transparencia en IA
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
Funciones facilitadas con IA
La función de preguntas y respuestas Illuminate Data proporciona un resumen de texto generado por IA de los datos presentados en el tablero de preguntas y respuestas de datos, que se genera a partir del prompt del usuario. Anthology se ha asociado con AWS para ofrecer esta funcionalidad, en parte porque AWS está comprometida con el uso responsable de la IA.
La función de preguntas y respuestas Illuminate Data ofrece las siguientes funcionalidades facilitadas por IA generativa:
Generación de resumen de datos y sugerencias: se crea automáticamente un resumen de texto generado por IA de los datos que se muestran en el tablero según las indicaciones del usuario. La función también sugiere indicaciones alternativas para perfeccionar la solicitud de datos.
Nota
Estas funcionalidades están sujetas a cambios, así como a las limitaciones y la disponibilidad de Amazon Q / Amazon Bedrock. Consulte las notas de la versión relevantes.
Información esencial
Pregunta | Respuesta |
|---|---|
¿Qué funcionalidades de Illuminate utilizan los sistemas de IA? | La función de preguntas y respuestas de datos mencionada anteriormente. |
¿Se trata de un sistema de IA con respaldo de terceros? | Sí. La función de preguntas y respuestas de Illuminate Data está impulsada por Amazon Q en QuickSight, que a su vez aprovecha Amazon Bedrock. Amazon Q en QuickSight utiliza Anthropic Claude y Amazon Titan a través de Amazon Bedrock (así como una combinación de modelos de aprendizaje automático desarrollados por AWS). |
¿Cómo funciona el sistema de IA? | La sesión de preguntas y respuestas de Illuminate Data siempre ha dependido de Amazon QuickSight (una herramienta de BI con capacidades de procesamiento de lenguaje natural). Para las nuevas capacidades generativas de IA, Illuminate también se basa en Amazon Q para QuickSight. Con la ayuda de Amazon Q para QuickSight, la sección de preguntas y respuestas de Illuminate Data crea automáticamente un resumen de los datos mostrados en el tablero de preguntas y respuestas de datos. La función también sugiere indicaciones alternativas para perfeccionar la solicitud de datos. Amazon Q aprovecha Anthropic Claude y Amazon Titan dentro de Amazon Bedrock (además de modelos adicionales de aprendizaje automático de AWS) para proporcionar estas capacidades. Para crear resúmenes y sugerir indicaciones, Amazon Q en QuickSight transmite las indicaciones del usuario y los datos del resumen de los elementos visuales del tablero a través de una API al modelo de AWS Bedrock relevante. |
¿Dónde se aloja el sistema de IA? | Amazon determina el alojamiento de Amazon QuickSight y Amazon Bedrock. Por lo general, Amazon QuickSight está disponible en las mismas regiones que Illuminate. Amazon Bedrock está disponible actualmente en la UE y en EE. UU., por lo que para nuestros clientes de estos lugares, estas regiones se aprovechan respectivamente. El resultado del modelo de IA generativa consiste en resúmenes temporales e indicaciones alternativas que no se almacenan permanentemente en Illuminate o Amazon Q en QuickSight / Bedrock. |
¿Esta funcionalidad es opcional? | Sí. Los administradores deben participar en nombre de su institución en la página de configuración de Illuminate. Visite el tema "Configuración de Anthology Illuminate" para obtener más información. |
¿Cómo se entrena el sistema de IA? | Anthology no participa en el entrenamiento de los modelos antrópicos Claude y Amazon Titan que alimentan las funcionalidades de preguntas y respuestas de Illuminate Data a través de Amazon Bedrock. Estos modelos son entrenados por Anthropic (Anthropic Claude) y Amazon (Amazon Titan), respectivamente. Anthology no perfecciona estos modelos mediante el uso de datos propios ni de los clientes. |
¿Se utilizan los datos de los clientes para entrenar o volver a entrenar el sistema de IA? | No. Amazon se compromete en su documentación pública a no utilizar ninguna entrada o salida para volver a entrenar los modelos de lenguaje grandes dentro de Amazon Bedrock. Amazon proporciona información sobre cómo se entrenan los modelos de idiomas grandes en los enlaces de la sección "Más información" que se encuentra a continuación. Todos los datos de entrada y salida se encriptan en tránsito y en reposo. |
¿Cómo utiliza Anthology la información personal en relación con la provisión de la sesión de preguntas y respuestas de Illuminate Data? | Anthology solo utiliza la información recopilada en relación con Illuminate Data Q&A para proporcionar, mantener y apoyar la Consulta y Respuesta de Illuminate Data y cuando tenemos el permiso contractual para hacerlo. Si desea obtener más información sobre el enfoque de Anthology con respecto a la privacidad de datos, diríjase a nuestro Centro de confianza. |
En el caso de un sistema de IA desarrollado por terceros, ¿cómo se utilizarán los datos personales? | Solo se transmiten de Amazon Q para QuickSight a Amazon Q para QuickSight y datos resumen limitados de los usuarios y datos resumen de los gráficos de Amazon Q a Amazon Bedrock para proporcionar esta función. Ni Amazon ni ningún proveedor de modelos Amazon Bedrock utilizan datos de Anthology ni datos de clientes de Anthology para mejorar los modelos de Amazon Bedrock. Puede encontrar más información sobre las prácticas de privacidad de datos relacionadas con la seguridad y privacidad de Amazon Bedrock en la documentación de Amazon en la página de seguridad de IA de AWS, el blog de aprendizaje automático de AWS, la descripción general de Amazon Q en QuickSight , AWS anuncia Amazon Q en QuickSight (artículo de blog) y la página de seguridad y privacidad de Amazon Bedrock. |
¿Se tuvo en cuenta la accesibilidad en el diseño de la sesión de preguntas y respuestas de Illuminate Data? | La función de preguntas y respuestas de Illuminate Data aprovecha Amazon QuickSight. Dado que se trata de una función de terceros, Amazon tuvo en cuenta la accesibilidad en lugar de Anthology. Amazon pone a disposición informes de conformidad con la accesibilidad a través de las páginas de accesibilidad de AWS. |
Consideraciones y sugerencias para las instituciones
Casos de uso previstos
La sesión de preguntas y respuestas de Illuminate Data está destinada únicamente a soportar las funcionalidades mencionadas anteriormente. Estas funcionalidades se proporcionan y están destinadas a los profesores de nuestros clientes para apoyarles en el análisis y mejoras de los informes de preguntas y respuestas de datos.
Casos de uso fuera de alcance
Actualmente, Illuminate Data Q&A no ofrece una funcionalidad de prompt ni una funcionalidad similar que pueda instruir directamente a los modelos de IA generativa. Por eso, no anticipamos ningún caso de uso no deseado (fuera de alcance).
Principios de IA fiable puestos en práctica
El uso legal, ético y responsable de la IA es una de las principales prioridades de Anthology y Amazon. En esta sección, se explica cómo ambas empresas trabajaron para abordar el riesgo aplicable a este uso de la IA e implementar los principios de IA confiable de Anthology. También se sugieren los pasos que los clientes pueden considerar a la hora de emprender sus propias revisiones legales y de la IA sobre los riesgos éticos de su aplicación.
Transparencia y explicabilidad
Dejamos claro en las opciones de configuración de administración de Illuminate que esta es una funcionalidad facilitada por IA.
En la interfaz de usuario para profesores, las funcionalidades de preguntas y respuestas de Illuminate Data están claramente marcadas como funcionalidades "Generativas". También se pide a los profesores que revisen la salida del texto antes de su utilización. Los metadatos de la salida creada por las funcionalidades de preguntas y respuestas de Illuminate Data se exponen en el informe de uso de Illuminate de cada cliente, con un campo para contenido autogenerado. Además, muestra si el profesor editó el resultado posteriormente.
Además de la información proporcionada en este documento sobre cómo funciona la función de preguntas y respuestas Illuminate Data con Amazon Q en QuickSight, Amazon proporciona información adicional sobre Amazon Q y Amazon Bedrock en los enlaces de la sección "Más información" a continuación.
Animamos a los clientes a ser transparentes sobre el uso de la IA en la sesión de preguntas y respuestas de Illuminate Data y a proporcionar a sus profesores y otros interesados, según corresponda, la información relevante de este documento y la documentación enlazada aquí.
Fiabilidad y precisión
Dejamos claro en la página de Configuración de Illuminate que esta es una funcionalidad facilitada por IA que puede producir resultados inexactos o no deseados, y que dicho resultado siempre debe ser revisado por el usuario final.
En la interfaz de usuario, se solicita a los usuarios que revisen la salida del texto para comprobar su precisión.
Como se detalla en las preguntas frecuentes de Amazon Bedrock, existe el riesgo de un resultado inexacto. Aunque la naturaleza específica de la Consulta y Respuestas de Illuminate Data y nuestra implementación pretende minimizar la inexactitud, es responsabilidad de nuestro cliente revisar los resultados para comprobar su exactitud, sesgo y otros posibles problemas.
Los usuarios pueden regenerar fácilmente los resultados inexactos reformulando la pregunta o la frase utilizada en preguntas y respuestas.
Como parte de su comunicación sobre la sesión de preguntas y respuestas de Illuminate Data, los clientes deben informar a sus profesores sobre esta posible limitación.
Los clientes pueden notificarnos cualquier resultado inexacto utilizando los canales que se indican en la introducción.
Imparcialidad
Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con los estereotipos, las representaciones excesivas o insuficientes y otras formas de sesgos dañinos.
Dadas estas riesgos, hemos elegido cuidadosamente las funcionalidades de preguntas y respuestas de Illuminate Data para evitar casos de uso que puedan ser más propensos a sesgos dañinos o donde el impacto de dicho sesgo pueda ser más significativo.
Sin embargo, no podemos garantizar que todos los resultados estén exentos de estos sesgos dañinos. Como se mencionó anteriormente en la sección "Precisión", se pide a los profesores que revisen la producción, lo que puede ayudar a reducir cualquier sesgo perjudicial.
Como parte de su comunicación sobre la sesión de preguntas y respuestas de Illuminate Data, los clientes deben informar a sus profesores sobre esta posible limitación.
Para informarnos sobre los sesgos potencialmente dañinos, pueden utilizar los canales de contacto que se encuentran en la introducción.
Privacidad y seguridad
Como se describe en la sección "Datos clave" anterior, solo se utilizan preguntas y resumen limitados para los usuarios para la sesión de preguntas y respuestas de Illuminate Data y son accesibles para Amazon. La sección también describe nuestro compromiso y el de Amazon respecto al uso de cualquier información personal.
Amazon describe sus prácticas y compromisos de privacidad y seguridad de datos en la documentación sobre Privacidad y seguridad para Amazon Bedrock.
Protección
Los grandes modelos de lenguaje presentan siempre el riesgo de generar resultados que pueden ser inapropiados, ofensivos o peligrosos. Amazon describe estos riesgos en su sección de Limitaciones de la página IA responsable.
Dadas estas riesgos, hemos elegido cuidadosamente las funcionalidades de preguntas y respuestas de Illuminate Data para evitar casos de uso que puedan ser más propensos a resultados inseguros o donde el impacto de dichos resultados podría ser más significativo.
Sin embargo, no podemos garantizar que todos los resultados sean seguros. Como se mencionó anteriormente en la sección "Precisión", se solicita a los profesores que revisen la producción, lo que puede ayudar a reducir aún más el riesgo de resultados inseguros.
Como parte de su comunicación sobre la sesión de preguntas y respuestas de Illuminate Data, los clientes deben informar a sus profesores sobre esta posible limitación.
Los clientes deben informarnos sobre los resultados potencialmente peligrosos a través de los canales que se indican en la introducción.
Personas al mando
Para minimizar el riesgo relacionado con el uso de IA generativa para nuestros clientes y sus usuarios, ponemos intencionadamente a los clientes en control de las funcionalidades de la Illuminate Data Q&A. Por tanto, la función de preguntas y respuestas de Illuminate Data es opcional. Los administradores pueden activar o desactivar la sesión de preguntas y respuestas de Illuminate Data en cualquier momento.
Además, los profesores tienen el control de los resultados, por lo que se les solicita que los revisen y vuelvan a generar según sea necesario.
La sesión de preguntas y respuestas de Illuminate Data no incluye ninguna toma de decisiones automatizada que pueda tener un efecto legal o significativo sobre los alumnos u otras personas.
Animamos a los clientes a revisar cuidadosamente este documento, incluidos los enlaces de información aquí proporcionados, para asegurarse de que comprenden las capacidades y limitaciones de la sección de preguntas y respuestas de Illuminate Data y la pregunta subyacente de Amazon en QuickSight antes de activar la función de IA generativa de preguntas y respuestas de Illuminate Data.
Alineación con los valores
El uso de grandes modelos de lenguaje conlleva riesgos inherentes en cuanto a resultados sesgados, inapropiados o no acordes con los valores de Anthology o de nuestros clientes y alumnos. Amazon describe estos riesgos en los sitios web enlazados en la sección "Información adicional" más abajo.
Además, los grandes modelos de lenguaje (como toda tecnología que cumple fines amplios) presentan el riesgo de que puedan ser mal utilizados en casos de uso que no se alinean con los valores de Anthology, nuestros clientes o sus usuarios finales, y los de la sociedad en general (por ejemplo, para actividades delictivas o para crear resultados dañinos o inapropiados).
Dadas estas riesgos, hemos diseñado e implementado cuidadosamente nuestras funcionalidades de preguntas y respuestas de Illuminate Data para minimizar el riesgo de salida desalineada. Además, omitimos intencionalmente aquellas que podrían ser de alto riesgo.
Propiedad intelectual
Los grandes modelos de lenguaje presentan intrínsecamente riesgos relacionados con posibles violaciones de los derechos de propiedad intelectual. La mayoría de las leyes de propiedad intelectual de todo el mundo no se anticiparon ni adaptaron por completo a la aparición de estos modelos ni a la complejidad de los problemas que derivan a partir de su uso. Como resultado, actualmente no existe un marco jurídico claro ni una orientación que aborde las cuestiones y los riesgos en torno a la propiedad intelectual que aparecen debido al uso de estos modelos.
En última instancia, es responsabilidad de nuestro cliente revisar los resultados generados por esa sesión de preguntas y respuestas de Illuminate Data para detectar posibles infracciones de derechos de propiedad intelectual.
Accesibilidad
Diseñamos y desarrollamos la sesión de preguntas y respuestas de Illuminate Data pensando en la accesibilidad, tal como hacemos en Learn y nuestros otros productos. Antes del lanzamiento de la sesión de preguntas y respuestas de Illuminate Data, mejoramos intencionadamente la accesibilidad de la estructura semántica, la navegación, los controles del teclado, las etiquetas, los componentes personalizados y los flujos de trabajo de imágenes, por nombrar algunas áreas. A medida que avancemos en el uso de la IA, seguiremos dando prioridad a la accesibilidad.
La función de preguntas y respuestas de Illuminate Data aprovecha Amazon QuickSight. AWS pone a disposición informes de conformidad con la accesibilidad a través de las páginas de accesibilidad de AWS.
Responsabilidad
Anthology cuenta con un programa de IA confiable diseñado para garantizar el uso legal, ético y responsable de la IA. La clara responsabilidad interna y la revisión sistemática ética de la IA de funcionalidades como las proporcionadas por Illuminate Data Q&A son pilares clave del programa.
Para ofrecer la sesión de preguntas y respuestas de Illuminate Data, nos asociamos con Amazon para aprovechar el Amazon Q en QuickSight. AWS está comprometida con el uso responsable de la IA.
Los clientes deben considerar la implementación de políticas y procedimientos internos y la revisión de las aplicaciones de IA de terceros para garantizar que su propio uso de la IA sea legal, ético y responsable. Esta información se proporciona para apoyar la revisión de nuestros clientes sobre las funciones de preguntas y respuestas de IA generativa de Illuminate Data.
Información adicional
El enfoque IA confiable de Anthology
La página de IA responsable de Amazon
Preguntas frecuentes Bedrock de Amazon
La página de Amazon sobre Seguridad y Privacidad de Bedrock
Página de seguridad de IA de Amazon
El blog de Machine Learning de Amazon
Descripción general de Amazon Q en QuickSight
AWS anuncia Amazon Q en QuickSight (artículo de blog)