Assistente de Design de IA da Blackboard
O uso legal, ético e responsável da inteligência artificial (IA) é uma prioridade fundamental para a Anthology; portanto, desenvolvemos e implementamos um programa de IA confiável. Você pode encontrar informações sobre nosso programa e nossa abordagem geral para IA confiável na Central de confiabilidade.
Como parte de nossos princípios de IA confiável, nós nos comprometemos com transparência, explicabilidade e responsabilidade. Esta página tem como objetivo possibilitar a transparência e a explicabilidade necessárias para ajudar nossos clientes com a implementação do AI Design Assistant. Recomendamos que os administradores examinem cuidadosamente esta página e garantam que os instrutores estejam cientes das considerações e recomendações abaixo antes da ativação das funcionalidades do AI Design Assistant para sua instituição.
Como entrar em contato conosco:
Para perguntas ou comentários sobre nossa abordagem geral de IA confiável ou como podemos tornar esta página mais útil para os clientes, envie um e-mail para trustworthy-ai@anthology.com.
Se tiver dúvidas ou comentários sobre a funcionalidade ou o resultado do AI Design Assistant, envie um tíquete de suporte ao cliente.
Funcionalidades facilitadas por IA
O AI Design Assistant auxilia os instrutores na criação e no desenvolvimento de novos cursos. O objetivo é inspirar os instrutores e tornar a criação de cursos mais eficiente. A Anthology fez uma parceria com a Microsoft para fornecer essa funcionalidade, principalmente porque a Microsoft tem um compromisso de longa data com o uso ético da IA.
O Assistente de Design de IA fornece as seguintes funcionalidades generativas facilitadas por IA na Blackboard:
Gerar palavras-chave para o serviço de imagens isentas de royalties na Blackboard, com o auxílio do Unsplash - Sugerir palavras-chave para a pesquisa no Unsplash para maior eficiência.
Gerar módulos de aprendizagem - Ajuda os instrutores sugerindo uma estrutura de curso.
Gerar imagens do módulo de aprendizagem - Cria e sugere imagens para cada módulo de aprendizagem.
Gerar tarefas autênticas - Fornece sugestões de tarefas usando o contexto do curso
Gerar perguntas de teste e bancos de perguntas - Inspira os instrutores sugerindo uma série de perguntas em um teste ou criando um banco de perguntas.
Gerar discussões e diários - Fornece aos instrutores sugestões para incentivar a interação na classe
Seletor de contexto - Use o contexto do curso que você escolher para gerar conteúdo para muitos dos nossos recursos de IA
Seletor de idioma - Seleciona o idioma de saída entre qualquer um dos idiomas compatíveis com a Blackboard
Gerar um critério de avaliação - Sugere um critério de avaliação com estrutura e critérios para uma determinada avaliação, o que cria eficiência para o instrutor e oferece transparência de avaliação para os alunos.
Gerar uma conversa de IA - Cria uma conversa entre um aluno e um personagem de IA em um exercício de perguntas socráticas ou em um cenário de dramatização
Gerar imagens do documento - Gera imagens para uso em um documento, tornando-o mais atraente visualmente para os alunos.
São dez níveis de complexidade para o conteúdo gerado por IA.
Séries iniciais do nível primário
Últimos anos da escola primária
Séries iniciais do ensino fundamental
Últimos anos do ensino fundamental
Séries iniciais do ensino médio
Final do ensino médio
Divisão inferior de graduação
Divisão superior do ensino superior
Pós-graduação
Doutorado avançado
Visite nossa página do AI Design Assistant para instrutores e saiba mais sobre todos os recursos.
Importante
Essas funcionalidades estão sujeitas às limitações e à disponibilidade do serviço OpenAI do Azure, bem como estão sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.
Principais fatos
Pergunta | Resposta |
|---|---|
Quais funcionalidades usam sistemas de IA? | Todas as funcionalidades do AI Design Assistant descritas acima (geração de palavras-chave para o Unsplash, geração de módulos de aprendizagem, perguntas de teste e bancos de perguntas, rubricas de avaliação, imagens para documentos Blackboard LMS). |
Este sistema de IA é compatível com terceiros? | Sim — o AI Design Assistant foi desenvolvido pelo serviço OpenAI do Azure da Microsoft. |
Como o sistema de IA funciona? | O AI Design Assistant aproveita o serviço OpenAI do Azure da Microsoft para gerar resultados automaticamente. Isso é feito usando informações limitadas do curso (por exemplo, título do curso, descrição do curso) como base para solicitações no serviço OpenAI do Azure, por meio da API de serviço OpenAI do Azure. Os instrutores podem incluir mais contexto nas solicitações para a geração de resultados mais personalizados. O serviço Azure OpenAI gera a saída com base no prompt e o conteúdo é exibido na interface do usuário Blackboard LMS. Para obter uma explicação detalhada sobre como o Serviço Azure OpenAI e os modelos de linguagem grandes subjacentes do OpenAI GPT funcionam, consulte a seção Introdução da Nota de Transparência da Microsoft e os links fornecidos nela. |
Onde o sistema de IA é hospedado? | Blackboard atualmente usa várias instâncias globais do Serviço OpenAI do Azure. A instância principal está hospedada nos Estados Unidos. Mas, às vezes, podemos utilizar recursos em outros locais, como Canadá, Reino Unido ou França, para oferecer aos clientes a melhor opção de disponibilidade do serviço OpenAI do Azure. Todos os dados do curso do cliente usados como entrada e toda a saída gerada pelo AI Design Assistant são armazenados no banco de dados Blackboard LMS existente do cliente por Blackboard. |
Esta funcionalidade é opcional? | Sim. Os administradores precisam ativar o Assistente de Design de IA no console de administração Blackboard LMS. As configurações do AI Design Assistant estão na categoria Blocos de Construção. Selecione AI Design Assistant e Unsplash. Os administradores podem ativar ou desativar cada funcionalidade separadamente. Os administradores também precisam atribuir privilégios do AI Design Assistant às funções do curso, como a função Instrutor, conforme necessário. Os privilégios que precisam ser atribuídos são "Pesquisar imagens usando o Unsplash" e "Usar Assistente de IA para desenvolvimento". |
Como o sistema de IA é treinado? | Blackboard não está envolvido no treinamento dos grandes modelos de linguagem que alimentam os recursos do AI Design Assistant. Esses modelos são treinados pela Microsoft como parte do serviço OpenAI do Azure, que alimenta as funcionalidades do AI Design Assistant. A Microsoft fornece informações sobre como os grandes modelos de linguagem são treinados na seção Introdução da Nota de transparência da Microsoft e nos links contidos nela. Blackboard não faz nenhum ajuste fino adicional do Serviço OpenAI do Azure usando nossos próprios dados ou os dados de nossos clientes. |
Os dados do cliente são utilizados para treinar o sistema de IA? | Não. A Microsoft se compromete contratualmente, em seus termos do Azure OpenAI, com Blackboard a não usar nenhuma entrada ou saída do Azure OpenAI para o (re)treinamento do modelo de linguagem grande. O mesmo compromisso é assumido na documentação da Microsoft sobre Dados, privacidade e segurança do Azure OpenAI Service |
Como Blackboard usa as informações pessoais em relação ao fornecimento do sistema de IA? | Blackboard Apenas usa as informações coletadas em conexão com o AI Design Assistant para fornecer, manter e dar suporte ao AI Design Assistant e quando tivermos a permissão contratual para fazê-lo de acordo com a legislação aplicável. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade de dados em nosso Centro de Confiança. |
No caso de um sistema de IA compatível com terceiros, como o terceiro usará as informações pessoais? | Apenas informações limitadas do curso são disponibilizadas à Microsoft para o serviço OpenAI do Azure. Isso geralmente não deve incluir informações pessoais (exceto nos casos em que informações pessoais são incluídas em títulos do curso, descrições e informações semelhantes do curso). Além disso, qualquer informação que os instrutores decidirem incluir na solicitação estará acessível. A Microsoft não usa dados Blackboard nem dados Blackboard do cliente aos quais tem acesso (como parte do Serviço Azure OpenAI) para aprimorar os modelos OpenAI, para aprimorar seus próprios serviços ou os serviços de produtos de terceiros, nem para aprimorar automaticamente os modelos Azure OpenAI para uso do Anthology no recurso do Anthology (os modelos são sem estado). A Microsoft analisa as solicitações e as saídas para filtragem de conteúdo para evitar abusos e geração de conteúdo prejudicial. Os prompts e a saída são armazenados apenas por até 30 dias. Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas ao serviço OpenAI do Azure na documentação da Microsoft sobre Dados, privacidade e segurança para o serviço OpenAI do Azure. |
A acessibilidade foi considerada no projeto do sistema de IA? | Sim, nossos engenheiros de acessibilidade colaboraram com as equipes de produtos para avaliar os desenvolvimentos, comunicar considerações importantes sobre acessibilidade e testar os novos recursos especificamente em termos de acessibilidade. Continuaremos a considerar a acessibilidade como parte integrante da nossa abordagem de IA confiável. |
Considerações e recomendações para as instituições
Casos de uso pretendidos
O AI Design Assistant destina-se apenas a dar suporte às funcionalidades listadas acima (geração de palavras-chave para o Unsplash, geração de módulos de aprendizagem, perguntas de testes e bancos de perguntas, rubricas de avaliação, imagens para documentos do Blackboard). Essas funcionalidades são fornecidas e destinadas aos instrutores de nossos clientes para apoiá-los na criação e no design de cursos na Blackboard.
Estudos de caso fora do escopo
Como o AI Design Assistant é alimentado pelo Azure OpenAI Service da Microsoft, que tem uma gama muito ampla de casos de uso, pode ser possível usar a funcionalidade de prompt no AI Design Assistant para solicitar resultados além das funcionalidades pretendidas. Desencorajamos fortemente o uso do AI Design Assistant para qualquer finalidade além do escopo das funcionalidades planejadas. Fazer isso pode resultar na geração de resultados que não são adequados ou compatíveis com o ambiente do Blackboard e com as medidas que implementamos para minimizar resultados imprecisos.
Em especial, os pontos abaixo devem ser seguidos ao solicitar:
Use apenas solicitações de saídas mais relevantes do AI Design Assistant (por exemplo, fornecer mais detalhes sobre a estrutura pretendida do curso)
Não use solicitações de saídas além da funcionalidade pretendida. Por exemplo, você não deve usar solicitações de fontes ou referências para a saída. Em nossos testes, determinamos que há problemas de precisão com esse tipo de saída.
Tenha em mente que solicitações de saída no estilo de uma pessoa específica ou solicitações de uma saída semelhante a itens protegidos por direitos autorais ou marcas registradas podem resultar em uma saída que acarreta o risco de violação de direito de propriedade intelectual.
A saída sugerida para tópicos sensíveis pode ser limitada. O serviço OpenAI do Azure foi treinado e implementado de maneira a minimizar o conteúdo ilegal e prejudicial. Isso inclui uma funcionalidade de filtro de conteúdo. Isso poderá resultar em resultados limitados ou mensagens de erro quando o AI Design Assistant for usado para cursos relacionados a tópicos sensíveis (por exemplo, automutilação, violência, ódio, sexo).
Não use solicitações que violem os termos do contrato da sua instituição com a Anthology ou que violem o Código de Conduta da Microsoft para o serviço OpenAI do Azure e a Política de uso aceitável nos Termos de serviços on-line da Microsoft.
Princípios de IA confiável na prática
A Anthology e a Microsoft acreditam que o uso legal, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como a Anthology e a Microsoft trabalharam para lidar com o risco aplicável ao uso legal, ético e responsável da IA e implementar os princípios de IA confiável da Anthology. Também sugere medidas que nossos clientes podem considerar ao realizar suas próprias análises legais e de IA dos riscos éticos de IA em sua implementação.
Transparência e explicabilidade
Deixamos claro no console do administrador do Blackboard que esta é uma funcionalidade facilitada por IA
Na interface de usuário dos instrutores, as funcionalidades do AI Design Assistant estão claramente marcadas como funcionalidades "Gerar". Os instrutores também são solicitados a analisar a saída de texto antes do uso.
Os metadados do resultado criado pelas funcionalidades do AI Design Assistant têm um campo para o conteúdo gerado automaticamente e se o conteúdo foi editado posteriormente pelo instrutor.
Além das informações apresentadas neste documento sobre como funcionam os modelos do AI Design Assistant e do serviço OpenAI do Azure, a Microsoft disponibiliza informações adicionais sobre o serviço OpenAI do Azure em sua Nota de transparência.
Incentivamos os clientes a serem transparentes sobre o uso de IA no AI Design Assistant e oferecemos aos instrutores e outras partes interessadas, conforme apropriado, as informações relevantes deste documento e a documentação vinculada aqui.
Confiabilidade e precisão
Deixamos claro no console do administrador do Blackboard que essa é uma funcionalidade facilitada por IA que pode produzir resultados imprecisos ou indesejados e que esses resultados devem ser sempre revisados.
Na interface do usuário, é solicitado que os instrutores analisem a saída do texto quanto à precisão.
Conforme detalhado na seção Limitações da Nota de transparência do serviço OpenAI do Azure, há o risco de resultados imprecisos (inclusive “alucinações”). Embora a natureza específica do AI Design Assistant e nossa implementação tenham como objetivo minimizar a imprecisão, é responsabilidade de nosso cliente analisar os resultados quanto a precisão, parcialidade e outros problemas potenciais.
Conforme mencionado acima, os clientes não devem usar solicitações de saídas além dos casos de uso pretendidos, principalmente porque isso poderá resultar em resultados imprecisos (por exemplo, quando referências ou fontes são solicitadas).
Como parte da comunicação sobre o AI Design Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os instrutores podem usar solicitações e configurações adicionais nos fluxos de trabalho generativos para dar mais contexto ao AI Design Assistant e melhorar o alinhamento e a precisão.
Os instrutores podem usar os fluxos de trabalho existentes no Blackboard para editar manualmente os resultados do AI Design Assistant antes de publicá-los para os alunos.
Os clientes podem reportar qualquer saída imprecisa para nós usando os canais listados na introdução.
Equidade
Os grandes modelos de linguagem apresentam inerentemente riscos relacionados com estereótipos, sobrerrepresentação/sub-representação e outras formas de viés prejudicial. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.
Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Design Assistant para evitar casos de uso que possam ser mais propensos a viés prejudicial ou em que o impacto de tais ocorrências de viés poderia ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Conforme mencionado acima em "Precisão", solicitamos aos instrutores que avaliem a saída, o que poderá ajudar a reduzir qualquer viés prejudicial.
Como parte da comunicação sobre o AI Design Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os clientes podem relatar qualquer viés potencialmente prejudicial para nós usando os canais de contato listados na introdução.
Privacidade e segurança
Conforme descrito na seção "Principais fatos" acima, apenas informações pessoais limitadas são usadas para o AI Design Assistant e acessíveis à Microsoft. A seção também descreve o nosso comprometimento e o da Microsoft em relação ao uso de quaisquer informações pessoais. Dada a natureza do AI Design Assistant, espera-se que as informações pessoais na saída gerada também sejam limitadas.
Nosso produto Blackboard SaaS tem certificação ISO 27001/27017/27018 e atualmente está trabalhando para obter a certificação ISO 27701. Essas certificações incluirão as informações pessoais relacionadas ao AI Design Assistant gerenciadas pela Anthology. Você pode encontrar mais informações sobre a abordagem da Anthology em relação à privacidade e à segurança de dados na Central de confiabilidade.
A Microsoft descreve suas práticas e compromissos de privacidade e segurança de dados na documentação sobre Dados, privacidade e segurança para o serviço OpenAI do Azure.
Independentemente do compromisso da Anthology e da Microsoft em relação à privacidade de dados e ao não uso de informações para treinar os modelos, os clientes poderão aconselhar os instrutores a não incluir nenhuma informação pessoal ou outras informações confidenciais nas solicitações.
Segurança
Os grandes modelos de linguagem apresentam inerentemente um risco de saídas que podem ser inadequadas, ofensivas ou de outra forma não seguras. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.
Devido a esses riscos, escolhemos cuidadosamente as funcionalidades do AI Design Assistant para evitar casos de uso que possam ser mais propensos a resultados inseguros ou onde o impacto de tais resultados poderia ser mais significativo.
No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser insegura. Conforme mencionado acima, em "Precisão", solicitamos aos instrutores que avaliem a saída, o que pode ajudar a reduzir o risco de saída insegura.
Como parte da comunicação sobre o AI Design Assistant, os clientes devem alertar os instrutores sobre essa possível limitação.
Os clientes devem relatar qualquer saída potencialmente insegura para nós usando os canais listados na introdução.
Humanos no controle
Para minimizar o risco relacionado ao uso de IA generativa para os clientes e os usuários, colocamos os clientes intencionalmente no controle das funcionalidades do AI Design Assistant. O AI Design Assistant é, portanto, um recurso de opcional. Os administradores devem ativar o Assistente de Design de IA e, em seguida, podem ativar cada funcionalidade separadamente. Eles também podem desativar o AI Design Assistant no todo ou cada uma das funcionalidades individuais.
Além disso, os instrutores estão no controle da saída. Eles devem avaliar a saída de texto e podem editá-la.
O AI Design Assistant não inclui nenhuma tomada de decisão automatizada que possa ter um efeito legal ou significativo sobre os alunos ou outros indivíduos.
Incentivamos os clientes a analisarem cuidadosamente este documento, inclusive os links de informações disponíveis, para garantir que compreendam as capacidades e limitações do AI Design Assistant e do serviço OpenAI do Azure subjacente antes de ativarem o AI Design Assistant no ambiente de produção.
Alinhamento de valor
Os grandes modelos de linguagem apresentam inerentemente riscos em relação a saídas tendenciosas, inapropriadas ou de outra forma não alinhadas aos valores da Anthology ou aos valores dos clientes e alunos. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.
Além disso, os grandes modelos de linguagem (como todas as tecnologias que servem a propósitos amplos), apresentam o risco de serem mal utilizados para casos de uso que não se alinhem aos valores de Anthology, dos clientes ou dos usuários finais e da sociedade em geral (por exemplo, para atividades criminosas, para criar saída prejudicial ou de outra forma inadequada).
Devido a esses riscos, desenvolvemos e implementamos cuidadosamente nossas funcionalidades do AI Design Assistant para minimizar o risco de resultados desalinhados. Por exemplo, nos concentramos em funcionalidades para instrutores e não para alunos. Também omitimos intencionalmente funcionalidades potencialmente de alto risco.
A Microsoft também avalia as solicitações e saídas como parte de sua funcionalidade de filtragem de conteúdo, para evitar abusos e geração de conteúdo prejudicial.
Propriedade intelectual
Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a possíveis violações dos direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou totalmente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da utilização deles. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos.
Em última análise, é responsabilidade do cliente avaliar os resultados gerados pelo AI Design Assistant em busca de qualquer possível violação de direito de propriedade intelectual. Tenha em mente que solicitações de saída no estilo de uma pessoa específica ou solicitações de uma saída semelhante a itens protegidos por direitos autorais ou marcas registradas podem resultar em uma saída que acarreta um risco aumentado de infrações.
Acessibilidade
Projetamos e desenvolvemos o AI Design System com a acessibilidade em mente, como fazemos em toda a Blackboard e em nossos outros produtos. Antes do lançamento do AI Design System, melhoramos deliberadamente a acessibilidade da estrutura semântica, navegação, controle de teclado, rótulos, componentes personalizados e fluxos de trabalho de imagem, para citar algumas áreas. Continuaremos a priorizar a acessibilidade à medida que aproveitarmos a IA no futuro.
Responsabilidade
A Anthology tem um programa de IA confiável, projetado para garantir o uso legal, ético e responsável da IA. A responsabilidade interna clara e a análise ética sistemática da IA ou de suas funcionalidades, como as oferecidas pelo AI Design Assistant, são pilares fundamentais do programa.
Para fornecer o AI Design Assistant, fizemos uma parceria com a Microsoft para aproveitar o serviço OpenAI do Azure, que alimenta o AI Design Assistant. A Microsoft tinha um compromisso de longa data com o uso ético da IA.
Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir seu próprio uso legal, ético e responsável da IA. Estas informações são disponibilizadas para dar suporte à avaliação dos nossos clientes sobre o AI Design Assistant.
Outras informações
Abordagem de IA confiável da Anthology
Página de IA responsável da Microsoft
Nota de transparência da Microsoft para o serviço OpenAI do Azure
Página da Microsoft sobre Dados, privacidade e segurança para o serviço OpenAI do Azure
Idiomas de saída compatíveis com fluxos de trabalho de IA
O AI Design Assistant pode produzir resultados em muitos idiomas:
Árabe
Azerbaijano
Catalão
Chinês simplificado
Chinês tradicional
Croata
Tcheco
Dinamarquês
Holandês
Inglês, Americano
Inglês australiano
Inglês britânico
Francês
Francês, Canadense
Alemão
Grego
Hebraico
Italiano
Irlandês
Japonês
Coreano
Malaio
Norueguês (Bokmål)
Norueguês nynorsk
Polonês
Português brasileiro
Português de Portugal
Russo
Esloveno
Espanhol
Sueco
Tailandês
Turco
Ucraniano
Galês