Illuminate Data Q&A - Transparência de IA
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
Funcionalidades assistidas por IA
O recurso Illuminate Data Q&A fornece um resumo em texto gerado por IA dos dados apresentados no painel de perguntas e respostas de dados, que é gerado a partir do prompt do usuário. A Anthology fez parceria com a AWS para fornecer essa funcionalidade, em parte porque a AWS está comprometida com o uso responsável da IA.
O recurso Illuminate Data Q&A oferece as seguintes funcionalidades facilitadas por IA generativa:
Gerar resumo de dados e sugestões: um resumo de texto gerado por IA dos dados exibidos no painel é criado automaticamente com base no prompt do usuário. O recurso também sugere prompts alternativos para refinar a solicitação de dados.
Nota
Essas funcionalidades estão sujeitas às limitações e à disponibilidade do Amazon Q/Amazon Bedrock e estão sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.
Principais fatos
Pergunta | Resposta |
|---|---|
Quais funcionalidades do Illuminate usam sistemas de IA? | O recurso de perguntas e respostas de dados listado acima. |
Este sistema de IA é compatível com terceiros? | Sim. O recurso de perguntas e respostas Illuminate Data é alimentado pela Amazon Q no QuickSight, que por sua vez aproveita o Amazon Bedrock. O Amazon Q in QuickSight usa o Anthropic Claude e o Amazon Titan por meio do Amazon Bedrock (bem como uma combinação de modelos de aprendizado de máquina desenvolvidos pela AWS). |
Como o sistema de IA funciona? | A Illuminate Data Q&A sempre se baseou no Amazon QuickSight (uma ferramenta de BI com capacidades de processamento de linguagem natural). Para os novos recursos de IA generativa, o Illuminate também conta com o Amazon Q for QuickSight. Com a ajuda do Amazon Q para o QuickSight, a Perguntas e Respostas do Illuminate Data cria automaticamente um resumo dos dados exibidos no painel de Perguntas e Respostas de dados. O recurso também sugere prompts alternativos para refinar a solicitação de dados. O Amazon Q utiliza o Anthropic Claude e o Amazon Titan no Amazon Bedrock (além de modelos adicionais de aprendizado de máquina da AWS) para fornecer esses recursos. Para criar resumos e sugerir prompts, o Amazon Q in QuickSight passa os prompts do usuário e os dados de resumo dos visuais do painel por meio de uma API para o modelo AWS Bedrock relevante. |
Onde o sistema de IA fica hospedado? | A hospedagem do Amazon QuickSight e do Amazon Bedrock é determinada pela Amazon. O Amazon QuickSight geralmente está disponível nas mesmas regiões que o Illuminate. O Amazon Bedrock está atualmente disponível na UE e nos EUA e, portanto, os clientes dessas respectivas regiões podem ser beneficiados. A saída do modelo de IA generativo consiste em resumos temporários e prompts alternativos que não são armazenados permanentemente no Illuminate ou no Amazon Q in QuickSight/Bedrock. |
Essa funcionalidade é opcional? | Sim. Os administradores precisam aceitar em nome de sua instituição na página Configurações do Illuminate. Para obter mais informações, visite o tópico "Configurações do Anthology Illuminate". |
Como o sistema de IA é treinado? | A Anthology não está envolvida no treinamento dos modelos Anthropic Claude e Amazon Titan que alimentam as funcionalidades de perguntas e respostas do Illuminate Data através do Amazon Bedrock. Esses modelos são treinados pela Anthropic (Anthropic Claude) e Amazon (Amazon Titan), respectivamente. A Anthology não refina ainda mais esses modelos usando nossos próprios dados ou os dados de nossos clientes. |
Os dados do cliente são utilizados para treinar o sistema de IA? | Não. A Amazon se compromete, em sua documentação pública, a não usar nenhuma entrada ou saída para o retreinamento dos grandes modelos de linguagem no Amazon Bedrock. A Amazon fornece informações sobre como os grandes modelos de linguagem são treinados nos links da seção “Mais informações” abaixo. Todas as entradas e saídas de dados são criptografadas em trânsito e em repouso. |
Como a Anthology usa as informações pessoais com relação ao fornecimento do Illuminate Data Q&A? | A Anthology utiliza apenas as informações coletadas em conexão com o Q&A do Illuminate Data para fornecer, manter e apoiar o Q&A do Illuminate Data, e quando temos permissão contratual para isso. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados na Central de confiabilidade. |
No caso de um sistema de IA compatível com terceiros, como o terceiro usará as informações pessoais? | Apenas alguns pedidos limitados de usuários e dados resumidos dos visuais do painel são encaminhados da Amazon Q para o QuickSight para a Amazon Bedrock fornecer o recurso. Nem a Amazon nem qualquer provedor de modelos Amazon Bedrock utilizam dados da Anthology ou dados de clientes da Anthology para melhorar os modelos do Amazon. Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas à segurança e privacidade do Amazon Bedrock na documentação da Amazon na Página de segurança de IA da AWS, no blog de aprendizado de máquina da AWS, na visão geral do Amazon Q in QuickSight, no artigo de blog AWS anuncia o Amazon Q in QuickSight e na página de Segurança e privacidade do Amazon Bedrock. |
A acessibilidade foi considerada no desenvolvimento do Q&A do Illuminate Data? | O recurso de perguntas e respostas Illuminate Data aproveita o Amazon QuickSight. Como se trata de um recurso de terceiros, a acessibilidade foi considerada pela Amazon e não pela Anthology. A Amazon disponibiliza relatórios de conformidade de acessibilidade por meio das páginas de acessibilidade da AWS. |
Considerações e recomendações para instituições
Estudos de caso programados
A Perguntas e Respostas de Dados Illuminate tem a intenção de suportar apenas as funcionalidades listadas acima. Essas funcionalidades são fornecidas e destinadas aos instrutores de nossos clientes, para apoiá-los na análise e aprimoramento dos relatórios de perguntas e respostas de dados.
Estudos de caso fora do escopo
O Illuminate Data Q&A atualmente não oferece uma funcionalidade de prompt ou funcionalidade semelhante que possa instruir diretamente os modelos de IA generativa. Por isso, não antecipamos nenhum caso de uso não intencional (fora do escopo).
Princípios de IA confiável na prática
A Anthology e a Amazon acreditam que o uso legítimo, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como a Anthology e a Amazon trabalharam para lidar com o risco aplicável ao uso legal, ético e responsável da IA e implementar os princípios de IA confiável da Anthology. Também sugere medidas que nossos clientes podem considerar ao realizar as próprias análises jurídicas e de IA dos riscos éticos da IA na implementação.
Transparência e explicabilidade
Deixamos claro nas opções de configuração de administração do Illuminate que esta é uma funcionalidade facilitada por IA.
Na interface do usuário para instrutores, as funcionalidades de perguntas e respostas do Illuminate Data estão claramente marcadas como funcionalidades "Generativas". Os instrutores também são solicitados a analisar a saída de texto antes do uso. Os metadados da saída criada pelas funcionalidades de perguntas e respostas do Illuminate Data são expostos no relatório de uso do Illuminate de cada cliente, com um campo para conteúdo gerado automaticamente. Ele também mostra se os resultados foram posteriormente editados pelo instrutor.
Além das informações fornecidas neste documento sobre como o recurso Illuminate Data Q&A funciona com a Amazon Q no QuickSight, a Amazon fornece informações adicionais sobre Amazon Q e Amazon Bedrock nos links na seção "Mais informações" abaixo.
Incentivamos os clientes a serem transparentes sobre o uso de IA no Q&A do Illuminate Data e a fornecer aos seus instrutores e outros interessados, conforme apropriado, as informações relevantes deste documento e da documentação aqui linkada.
Confiabilidade e precisão
Deixamos claro na página de Configuração do Illuminate que esta é uma funcionalidade facilitada por IA que pode produzir resultados imprecisos ou indesejados, e que esse resultado deve sempre ser revisado pelo usuário final.
Na interface do usuário, solicita-se que os usuários revisem a saída do texto para verificar a precisão.
Conforme detalhado nas perguntas frequentes do Amazon Bedrock, há o risco de uma saída imprecisa. Embora a natureza específica do Q&A do Illuminate Data e nossa implementação tenha como objetivo minimizar imprecisões, é responsabilidade do nosso cliente revisar os resultados quanto à precisão, viés e outros possíveis problemas.
Os usuários podem facilmente regenerar resultados imprecisos, reformulando a pergunta ou frase usada no prompt de perguntas e respostas.
Como parte da comunicação sobre a sessão de perguntas e respostas da Illuminate Data, os clientes devem informar seus instrutores sobre essa possível limitação.
Os clientes podem reportar qualquer saída imprecisa para nós utilizando os canais citados na introdução.
Justiça
Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a estereótipos, sobrerrepresentação, sub-representação e outras formas de viés prejudicial.
Diante desses riscos, escolhemos cuidadosamente as funcionalidades de perguntas e respostas do Illuminate Data para evitar casos de uso que possam ser mais propensos a viés prejudicial ou onde o impacto desse viés possa ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Como mencionado acima na seção "Precisão", os instrutores são solicitados a revisar a produção, o que pode ajudar a reduzir qualquer viés prejudicial.
Como parte da comunicação sobre a sessão de perguntas e respostas da Illuminate Data, os clientes devem informar seus instrutores sobre essa possível limitação.
Os clientes podem relatar qualquer viés potencialmente prejudicial por meio dos canais de contato relacionados na introdução.
Privacidade e segurança
Como descrito na seção "Fatos-chave" acima, apenas prompts limitados para usuários e dados resumidos são usados para a sessão de perguntas e respostas do Illuminate Data e acessíveis à Amazon. A seção também descreve nosso compromisso e o da Amazon com o uso de qualquer informação pessoal.
A Amazon descreve as próprias práticas e compromissos de privacidade e segurança de dados na documentação sobre Segurança e privacidade do Amazon Bedrock.
Segurança
Os grandes modelos de linguagem apresentam inerentemente um risco de saídas que podem ser inadequadas, ofensivas ou não seguras. A Amazon descreve esses riscos em sua seção de Limitações da página IA Responsável.
Diante desses riscos, escolhemos cuidadosamente as funcionalidades de perguntas e respostas do Illuminate Data para evitar casos de uso que possam ser mais propensos a resultados inseguros ou onde o impacto desse tipo de resultado possa ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser insegura. Como mencionado acima na seção "Precisão", solicita-se que os instrutores revisem a saída, o que pode ajudar a reduzir ainda mais o risco de saída insegura.
Como parte da comunicação sobre a sessão de perguntas e respostas da Illuminate Data, os clientes devem informar seus instrutores sobre essa possível limitação.
Os clientes devem relatar qualquer resultado potencialmente inseguro utilizando os canais relacionados na introdução.
Pessoas no controle
Para minimizar o risco relacionado ao uso de IA generativa para nossos clientes e seus usuários, colocamos intencionalmente os clientes no controle das funcionalidades do Q&A do Illuminate Data. Portanto, o Illuminate Data Q&A é um recurso opt-in. Administradores podem ativar ou desativar a sessão de perguntas e respostas do Illuminate Data a qualquer momento.
Além disso, os instrutores estão no controle da saída, ou seja, eles podem analisá-la e refazê-la, conforme necessário.
A Perguntas e Respostas Illuminate Data não inclui nenhuma tomada de decisão automatizada que possa ter efeito legal ou significativo sobre alunos ou outras pessoas.
Incentivamos os clientes a revisarem cuidadosamente este documento, incluindo os links de informações aqui fornecidos, para garantir que compreendam as capacidades e limitações do Q&A do Illuminate Data e do Q subjacente da Amazon no QuickSight antes de ativarem o recurso de Perguntas e Respostas de IA generativa do Illuminate Data.
Alinhamento de valor
Os grandes modelos de linguagem representam inerentemente riscos em relação a resultados tendenciosos, inapropriados ou não alinhados aos valores da Anthology ou aos valores dos clientes e alunos. A Amazon descreve esses riscos nos sites vinculados na seção "Mais Informações" abaixo.
Além disso, grandes modelos de linguagem (como toda tecnologia que serve a propósitos amplos) apresentam o risco de serem usados indevidamente em estudos de caso que não estejam alinhados com os valores da Anthology, nossos clientes ou seus usuários finais, e com os valores da sociedade de forma mais ampla (por exemplo, para atividades criminosas ou para criar resultados prejudiciais ou inadequados).
Diante desses riscos, projetamos e implementamos cuidadosamente nossas funcionalidades de perguntas e respostas Illuminate Data de modo a minimizar o risco de saída desalinhada. Também omitimos intencionalmente funcionalidades com potencial de alto risco.
Propriedade intelectual
Os grandes modelos de linguagem representam inerentemente riscos relacionados a possíveis violações a direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou totalmente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da utilização deles. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos.
É, em última análise, responsabilidade do nosso cliente revisar o resultado gerado por essa sessão de perguntas e respostas da Illuminate Data para possíveis violações de direitos de propriedade intelectual.
Acessibilidade
Projetamos e desenvolvemos o Q&A do Illuminate Data pensando na acessibilidade, assim como fazemos em todo o Learn e nossos outros produtos. Antes do lançamento do Q&A do Illuminate Data, melhoramos propositalmente a acessibilidade da estrutura semântica, navegação, controles do teclado, etiquetas, componentes personalizados e fluxos de trabalho de imagens, para citar algumas áreas. Continuaremos a priorizar a acessibilidade à medida que aproveitarmos a IA no futuro.
O recurso de perguntas e respostas Illuminate Data aproveita o Amazon QuickSight. A AWS disponibiliza relatórios de conformidade de acessibilidade por meio das páginas de acessibilidade da AWS.
Responsabilidade
A Anthology tem um programa de IA confiável, projetado para garantir o uso legal, ético e responsável da IA. A clara responsabilidade interna e a revisão sistemática ética da IA sobre funcionalidades, como as fornecidas pelo Illuminate Data Q&A, são pilares fundamentais do programa.
Para entregar o Q&A de Dados Illuminate, fizemos parceria com a Amazon para aproveitar o Amazon Q no QuickSight. A AWS está comprometida com o uso responsável da IA.
Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir o próprio uso de forma legítima, ética e responsável da IA. Estas informações são fornecidas para apoiar a análise dos nossos clientes sobre os recursos de Q&A generativa de IA do Illuminate Data.
Outras informações
A abordagem Confiável de IA da Anthology
Página IA Responsável da Amazon
Perguntas Frequentes Bedrock da Amazon
Página da Amazon sobre Segurança e Privacidade Bedrock
Página de segurança de IA da Amazon
Visão geral sobre o Q in QuickSight da Amazon
AWS anuncia o Amazon Q in QuickSight (artigo de blog)