AI Alt Text Assistant
Nota de Transparência
O uso legítimo, ético e responsável da inteligência artificial (IA) é uma prioridade fundamental para a Anthology. Portanto, desenvolvemos e implementamos um programa de IA confiável. Você pode encontrar informações sobre nosso programa e nossa abordagem geral para IA confiável em nosso Trust Center e mais informações sobre recursos de IA generativa em Listar recursos de IA generativa.
Como parte dos nossos princípios de IA confiável, nos comprometemos com a transparência, explicabilidade e responsabilidade. Esta página tem como objetivo oferecer a transparência e as explicações necessárias para ajudar nossos clientes com a implementação do AI Design Assistant. Recomendamos que os administradores examinem cuidadosamente esta página e se certifiquem de que os instrutores estejam cientes das considerações e recomendações abaixo antes da ativação das funcionalidades do AI Alt Text Assistant na sua instituição.
Como entrar em contato conosco:
Caso tenha dúvidas ou comentários sobre nossa abordagem geral à IA confiável ou sobre como podemos tornar esta página mais útil para nossos clientes, envie um e-mail para trustworthyai@anthology.com.
Em caso de dúvidas ou comentários sobre a funcionalidade ou o resultado do AI Alt Text Assistant, envie um tíquete de suporte ao cliente.
Funcionalidades assistidas por IA
O AI Alt Text Assistant fornece aos instrutores sugestões de textos alternativos para imagens usadas em seus cursos on-line por meio do fluxo de trabalho de comentários do Ally Instructor. Seu objetivo é inspirar os instrutores e tornar as correções de acessibilidade mais eficientes.
A Anthology fez uma parceria com a AWS para atualizar o modelo de IA do Ally e oferecer sugestões ainda mais impactantes, além da capacidade de gerar sugestões de descrição de imagens para conteúdo mais complexo, incluindo STEM, gráficos, texto em imagens e imagens manuscritas. Esse recurso é alimentado pelo Claude, um modelo de linguagem da Anthropic, por meio do AWS Bedrock. Se sua instituição estiver sediada no Canadá, o assistente usará o modelo mais recente do Claude 3 Sonnet. Em todos os outros lugares, ele usa o Claude 3.5 Sonnet, exceto quando ele estiver indisponível, caso em que o padrão será o Anthropic Claude 3 Sonnet ou o Claude 3 Haiku. Essa escolha é baseada no que o AWS Bedrock disponibiliza em cada região.
O AI Alt Text Assistant oferece as seguintes funcionalidades assistidas por IA generativa:
Gerar um texto alternativo para imagens. Sugerir um texto alternativo nos comentários do Ally Instructor quando os instrutores estiverem fixando imagens sem texto alternativo.
Importante
Essas funcionalidades estão sujeitas às limitações e à disponibilidade do serviço AWS Bedrock e estão sujeitas a alterações. Consulte as notas de versão relevantes para obter detalhes.
Principais fatos
Pergunta | Resposta |
|---|---|
Que funcionalidades do Ally utilizam sistemas de IA? | Sugestão de texto alternativo por IA no Painel de comentários do instrutor do Ally, quando uma imagem for marcada pelo Ally por não ter texto alternativo. |
Este sistema de IA é compatível com sistemas de terceiros? | Sim. Usamos o Claude, um modelo desenvolvido pela Anthropic e oferecido pelo AWS Bedrock. As instituições no Canadá usam o Anthropic Claude 3 Sonnet, enquanto outras regiões usam o Claude Sonnet 3.5, dependendo do que é suportado em cada região da AWS. Se o Claude Sonnet 3.5 não estiver disponível, usaremos como padrão o Claude 3 Sonnet (nos EUA) ou o Claude 3 Haiku (na UE) como opção de backup. |
Como o sistema de IA funciona? | O AI Alt Text Assistant usa modelos do Claude do Anthropic por meio do AWS Bedrock para gerar automaticamente sugestões de texto alternativo. Dependendo da localização de sua instituição, pode ser o Anthropic Claude 3 Sonnet (no Canadá) ou o Claude Sonnet 3.5 ou o Claude 3 Haiku (em outras regiões). Isso é feito usando a imagem para gerar um texto alternativo que é enviado por meio do AWS SDK. Também adicionamos a capacidade de enviar prompts contextuais com base no conteúdo do texto ao redor quando uma imagem é incorporada em um item de conteúdo avançado. Nenhuma outra informação é usada (por exemplo, título do curso, descrição do curso). As imagens não são usadas para treinar os modelos do AWS Bedrock, e o Bedrock gera a saída com base em cada imagem que é carregada no AI Alt Text Assistant. |
Onde o sistema de IA fica hospedado? | Atualmente, a Anthology usa várias instâncias da AWS para o Amazon Bedrock, determinadas pela disponibilidade da região da Amazon. A AWS fornece essa disponibilidade de região para o modelo do Amazon Bedrock usado atualmente pela Ally (Claude Sonnet 3.5, Claude 3 Sonnet, Claude 3 Haiku) em Suporte de modelo por região da AWS no Amazon Bedrock Às vezes, podemos utilizar recursos em outros locais, como o leste dos EUA, para fornecer a melhor opção de disponibilidade do AWS Bedrock para nossos clientes quando uma região específica não estiver disponível. Todos os resultados de clientes gerados pelo AI Alt Text Assistant são armazenados no banco de dados do Ally de cada cliente gerenciado pelo Anthology. |
Essa funcionalidade é opcional? | Sim. Os administradores devem ativar o AI Alt Text Assistant nas opções de configuração do LMS Ally. Clique em Geração de IA de descrições alternativas para imagens na guia Recursos. Os administradores podem ativar ou desativar essa funcionalidade quando quiserem. |
Como o sistema de IA é treinado? | A Anthology não está envolvida no treinamento do modelo da Anthropic que alimenta as funcionalidades do AI Alt Text Assistant por meio do Amazon Bedrock. Esses modelos são treinados pela Anthropic (Anthropic Claude). A Anthology não ajusta ainda mais os modelos do AWS Bedrock usando nossos próprios dados ou os dados de nossos clientes. |
Os dados do cliente são utilizados para treinar o sistema de IA? | Não. A Amazon se compromete, em sua documentação pública, a não usar nenhuma entrada ou saída para o (re)treinamento dos modelos de linguagem grandes no Amazon Bedrock. A Amazon fornece informações sobre como os grandes modelos de linguagem são treinados nos links da seção "Mais informações" abaixo. Todas as entradas e saídas de dados são criptografadas em trânsito e em repouso. |
Como o Anthology Ally usa informações pessoais em relação ao sistema de AI Alt Text Assistant? | O Anthology Ally usa apenas as imagens coletadas em conexão com o AI Alt Text Assistant para fornecer, manter e dar suporte a esse assistente. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados na Central de confiabilidade da Anthology. |
No caso de um sistema de IA suportado por terceiros, como esses terceiros usarão as informações pessoais? | A Anthology Ally só usa as imagens e/ou os dados contextuais em conteúdo rico em torno de uma imagem coletada em conexão com o AI Alt Text Assistant para fornecer, manter e dar suporte ao AI Alt Text Assistant. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados em Centro de Confiança da Anthology. Somente imagens e/ou dados contextuais no conteúdo ao redor de uma imagem são usados para alimentar esse recurso. Nenhuma outra informação é compartilhada com o AWS Bedrock. Nem a Amazon nem qualquer fornecedor de modelos do Amazon Bedrock utilizam dados da Anthology ou de seus clientes para otimizar modelos do Amazon Bedrock. Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas à segurança e privacidade do Amazon Bedrock na documentação da Amazon na página AWS AI Security, no blog de Aprendizagem de Máquina da AWS e na página de Segurança e Privacidade do Amazon Bedrock. |
A acessibilidade foi considerada no desenvolvimento do sistema AI Alt Text? | Sim, nossos engenheiros de acessibilidade colaboraram com as equipes de produtos para avaliar o desenvolvimento, comunicar considerações importantes sobre acessibilidade e testar os novos recursos especificamente em termos de acessibilidade. Continuaremos a considerar a acessibilidade como parte integrante da nossa abordagem à IA confiável. |
Considerações e recomendações para instituições
Estudos de caso programados
O AI Alt Text Assistant destina-se apenas a oferecer suporte às funcionalidades relacionadas acima. Essas funcionalidades são fornecidas e destinadas aos instrutores dos nossos clientes para dar suporte à correção dos problemas de acessibilidade identificados pelo Ally.
Estudos de caso fora do escopo
O AI Alt Text Assistant não tem a finalidade de tornar todas as imagens acessíveis com o texto alternativo perfeito, pois ainda cabe ao instrutor ajustar ou aprovar o texto alternativo com base no contexto do conteúdo do curso.
Princípios de IA confiável na prática
A Anthology e a Amazon acreditam que o uso legal, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como a Anthology e a Amazon trabalharam para abordar o risco aplicável ao uso legal, ético e responsável da IA e implementar os princípios da Anthology Trustworthy AI. Ela também sugere as etapas que nossos clientes podem considerar ao realizar suas próprias revisões legais e de IA dos riscos éticos de IA de sua implementação.
Transparência e explicabilidade
Deixamos claro nas opções de configuração de administração do Ally que esta é uma funcionalidade assistida por IA
Na interface de usuário dos instrutores, as funcionalidades do AI Alt Text Assistant estão claramente marcadas como funcionalidades "Generativas". Os instrutores também devem avaliar o texto gerado antes de utilizá-lo. Os metadados dos resultados gerados pelas funcionalidades do AI Alt Text Assistant são incluídos no Relatório de utilização do Ally de cada cliente com um campo para conteúdo gerado automaticamente. Ele também mostra se os resultados foram posteriormente editados pelo instrutor.
O modelo por trás do AI Alt Text Assistant pode variar dependendo de onde sua instituição está localizada. No Canadá, o assistente usa o modelo Claude 3 Sonnet, que oferece recursos mais recentes. Em todos os outros lugares, ele usa o Claude 3.5 Sonnet, exceto quando ele não estiver disponível, caso em que usaremos como padrão o Anthropic Claude 3 Sonnet ou o Claude 3 Haiku. Essa escolha é baseada no que o AWS Bedrock disponibiliza em cada região.
Incentivamos os clientes a serem transparentes sobre o uso de IA no AI Alt Text Assistant e oferecemos aos instrutores e outras partes interessadas, conforme apropriado, as informações relevantes deste documento e a documentação vinculada neste documento.
Confiabilidade e precisão
Deixamos claro nas opções de Configuração de administração e nos Termos de uso do Ally que esta é uma funcionalidade assistida por IA, que pode produzir resultados imprecisos ou indesejados e que devem sempre ser analisados pelo instrutor.
Na interface do usuário, o sistema solicita aos instrutores que analisem o texto gerado quanto à precisão.
Conforme detalhado nas Perguntas frequentes sobre o Amazon Bedrock, existe o risco de resultados imprecisos. Embora a natureza específica do AI Alt Text Assistant e a nossa implementação tenham o objetivo de minimizar a imprecisão, é responsabilidade do nosso cliente revisar os resultados para verificar a precisão, a parcialidade e outros possíveis problemas.
Os usuários podem facilmente regenerar resultados imprecisos, reformulando a pergunta ou frase usada no prompt de perguntas e respostas.
Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os clientes podem reportar qualquer saída imprecisa para nós utilizando os canais citados na introdução.
Justiça
Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a estereótipos, representação além/aquém do desejável e outras formas de viés prejudicial.
Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Alt Text Assistant para evitar estudos de caso que possam ser mais propensos a vieses prejudiciais ou em que o impacto dessas ocorrências de viés possa ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Conforme mencionado acima no item "Precisão", solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir qualquer viés prejudicial.
Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os clientes podem relatar qualquer viés potencialmente prejudicial por meio dos canais de contato relacionados na introdução.
Privacidade e segurança
Conforme descrito na seção "Principais fatos" acima, apenas a imagem é usada para o Assistente de Texto Alternativo de IA e está acessível à Amazon. A seção também descreve o nosso compromisso e o da Amazon em relação ao uso de qualquer informação pessoal.
A Amazon descreve suas práticas e compromissos de privacidade e segurança de dados na documentação sobre Segurança e privacidade do Amazon Bedrock.
Segurança
Grandes modelos de linguagem têm riscos inerentes em relação a resultados tendenciosos, inadequados ou que não estejam alinhados com os valores da Blackboard ou com os valores de nossos clientes e alunos. A Amazon descreve esses riscos nos sites vinculados na seção Mais informações abaixo.
Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Alt Text Assistant para evitar estudos de caso que possam ser mais propensos a resultados inseguros ou onde o impacto de tais resultados poderia ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser insegura. Conforme mencionado acima no item "Precisão", solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir o risco de resultados inseguros.
Como parte da comunicação relativa ao AI Alt Text Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os clientes devem relatar qualquer resultado potencialmente inseguro utilizando os canais relacionados na introdução.
Pessoas no controle
Para minimizar o risco relacionado ao uso de IA generativa para clientes e usuários, deixamos os clientes intencionalmente no controle das funcionalidades do AI Alt Text Assistant. O AI Alt Text Assistant é, portanto, um recurso facultativo. Os administradores podem ativar ou desativar o AI Alt Text Assistant a qualquer momento.
Além disso, os instrutores tem o controle dos resultados, o que significa que devem analisar o texto gerado e podem editá-lo, conforme necessário.
O AI Alt Text Assistant não inclui qualquer tipo de tomada de decisão automatizada que possa gerar um efeito legal ou significativo sobre os alunos ou outras pessoas.
Incentivamos os clientes a lerem cuidadosamente este documento, incluindo os links de informações aqui fornecidos, para se certificarem de que entenderam os recursos e as limitações do AI Alt Text Assistant e do Amazon Bedrock subjacentes, antes de ativar o recurso AI Alt Text Assistant.
Alinhamento de valor
Modelos de linguagem de grande porte apresentam riscos inerentes de resultados tendenciosos, inadequados ou que não estejam alinhados aos valores da Anthology ou aos valores de nossos clientes e alunos. A Amazon descreve esses riscos nos sites vinculados na seção "mais informações" abaixo.
Além disso, os grandes modelos de linguagem (como todas as tecnologias com objetivos abrangentes), apresentam o risco de serem mal utilizados para estudos de caso que não se alinhem aos valores da Anthology, dos clientes ou dos usuários finais e da sociedade em geral (por exemplo, para atividades criminosas, para gerar resultados prejudiciais ou indevidos).
Devido a esses riscos, desenvolvemos e implementamos cuidadosamente nossas funcionalidades do AI Alt Text Assistant para minimizar o risco de resultados desalinhados. Por exemplo, nos concentramos em funcionalidades para instrutores e não para alunos. Também omitimos intencionalmente funcionalidades potencialmente de alto risco.
Propriedade intelectual
Os grandes modelos de linguagem representam inerentemente riscos relacionados a possíveis violações a direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou inteiramente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da sua utilização. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos.
Em última análise, é responsabilidade do cliente avaliar os resultados gerados pelo AI Alt Text Assistant em busca de qualquer possível violação de direitos de propriedade intelectual.
Acessibilidade
Projetamos e desenvolvemos o AI Alt Text Assistant tendo em mente a acessibilidade, assim como fazemos no Learn e em nossos outros produtos. Antes do lançamento do AI Alt Text Assistant, aperfeiçoamos deliberadamente a acessibilidade da estrutura semântica, da navegação, do controle de teclado, de rótulos, componentes personalizados e fluxos de trabalho de imagens, apenas para citar algumas áreas. Continuaremos a priorizar a acessibilidade à medida que aproveitarmos a IA no futuro.
O recurso AI Alt Text Assistant utiliza o Amazon Bedrock. A AWS disponibiliza relatórios de conformidade de acessibilidade por meio das páginas Acessibilidade da AWS.
Responsabilidade
A Anthology tem um programa de IA confiável, projetado para garantir o uso legal, ético e responsável da IA. A responsabilidade interna clara e a análise ética sistemática da IA ou de funcionalidades, como as oferecidas pelo AI Alt Text Assistant, são pilares fundamentais do programa.
Para fornecer o AI Alt Text Assistant, fizemos uma parceria com a Amazon para aproveitar o Amazon Bedrock. A AWS está comprometida com o uso responsável de IA.
Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir o próprio uso de forma legítima, ética e responsável da IA. Essas informações são disponibilizadas para substanciar a avaliação dos nossos clientes em relação ao AI Alt Text Assistant.
Outras informações
Abordagem de IA confiávelda Anthology
Lista de recursos de IA generativa da Anthology
Página da Amazon sobre Segurança e Privacidade do Bedrock
Página de Segurança do Amazon AI
Amazon’s Machine Learning Blog
Termos de uso do AI Alt Text Assistant
O Ally AI Alt Text Assistant usa os modelos de IA generativa do AWS Bedrock.
Importante
Esse recurso pode produzir resultados indesejados ou imprecisos. É de sua responsabilidade e de seu instrutor revisar todos os resultados e corrigi-los ou modificá-los conforme necessário ou apropriado. Observe que nenhum dado do cliente é usado para treinar, retreinar ou melhorar os modelos de IA generativa da AWS Bedrock. As imagens ou o texto contextual carregados no AI Alt Text Assistant serão transmitidos para os servidores da AWS, que podem estar localizados fora de sua hospedagem.
Você pode encontrar mais informações sobre os riscos e as limitações do recurso na documentação padrão do usuário final.
Ao ativar esse recurso, você confirma que aceita os termos adicionais em nome da sua instituição e que leu e compreendeu as informações sobre riscos e limitações contidas e/ou mencionadas na documentação padrão do usuário final acima.