Skip to main content

Conversa com IA – Nota de transparência

Note

Esta documentação foi traduzida utilizando tradução automática assistida por IA. As traduções são fornecidas “no estado em que se encontram”, sem qualquer garantia quanto à sua precisão. A versão em inglês deste conteúdo é a fonte oficial e de referência.

Conversa com IA – Nota de transparência

O uso legal, ético e responsável da inteligência artificial (IA) é uma prioridade fundamental para o Blackboard. Portanto, desenvolvemos e implementamos um programa de IA confiável. Você pode encontrar informações sobre nosso programa e nossa abordagem geral para IA confiável na Central de confiabilidade. Você pode encontrar uma visão geral das soluções do Blackboard com IA generativa em nossa Lista de recursos de IA generativa.

Como parte dos nossos princípios de IA confiável, nos comprometemos com a transparência, explicabilidade e responsabilidade. Esta página tem como objetivo possibilitar a transparência e a explicabilidade necessárias para ajudar nossos clientes com a implementação da Conversa com IA. Recomendamos que os administradores examinem cuidadosamente esta página e garantam que os instrutores estejam cientes das considerações e recomendações abaixo antes da ativação de quaisquer funcionalidades de Conversa com IA para sua instituição.

Como entrar em contato conosco:

  • Para perguntas ou comentários sobre nossa abordagem geral à IA confiável ou como podemos tornar esta página mais útil para nossos clientes, envie um e-mail para trustworthy-ai@anthology.com

  • Em caso de dúvidas ou comentários sobre a funcionalidade ou o resultado do diálogo com a IA, envie um chamado de suporte ao cliente.

Funcionalidades assistidas por IA

Conversa com IA

A Conversa com IA foi desenvolvida especificamente como uma nova atividade interativa na qual os alunos podem participar ativamente. Os instrutores podem criar uma conversa de IA nos cursos, determinar um tópico e uma persona de IA, e podem selecionar o tipo de conversa para os alunos participarem. No recurso “Conversa com IA”, os instrutores podem escolher entre três opções: “Questionamento Socrático”, em que a personagem de IA incentiva os alunos a pensar criticamente com uma sequência de perguntas; “Dramatização”, que permite aos alunos representar um cenário com a personagem de IA; ou “Pulse Quiz”, em que a personagem de IA faz ao aluno uma série de perguntas geradas com base no conteúdo do curso selecionado pelo instrutor.

Questionamento Socrático

É uma atividade de questionamento guiada ou exercício socrático. A persona de IA não confirmará ou rejeitará qualquer resposta do aluno, mas moverá o aluno por uma série de perguntas. No final da conversa, os alunos fazem uma reflexão sobre a atividade, destacando pontos fracos ou pontos fortes da aprendizagem, ou se o bot de IA mostrou parcialidade, alucinações ou imprecisões. No envio, o instrutor receberá uma transcrição da conversa e da reflexão, dando total transparência das interações. Essa é uma ótima maneira de ter um diálogo instigante sobre os temas do curso sem ter reuniões individuais, o que para cursos maiores ou mais complexos pode ser difícil.

A Conversa com IA oferece aos instrutores a capacidade de gerar uma imagem para a persona da Conversa com IA usando IA generativa.

Essas funcionalidades estão sujeitas às limitações e à disponibilidade do serviço OpenAI do Azure, bem como estão sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.

Dramatização

O recurso de Dramatização permite que os instrutores configurem conversas simuladas para os alunos definindo funções específicas para a persona da IA e para os alunos. Essa opção interativa otimiza as experiências de aprendizagem e treinamento, permitindo que os alunos pratiquem habilidades de comunicação em cenários realistas, fornecendo oportunidades de aprendizagem ativas. Com traços de personalidade personalizáveis para a persona de IA e prompts contextuais, o recurso de Dramatização promove trocas envolventes e dinâmicas, enriquecendo o processo geral de aprendizado e incentivando o pensamento crítico.

Os instrutores podem personalizar o persona de IA atribuindo um nome e uma imagem. Eles também definem os traços de personalidade da persona de IA e selecionam a complexidade das respostas. Os traços de personalidade atribuídos à persona da IA nesta opção de Dramatização moldam suas respostas e interações.

Observe: os instrutores devem selecionar os traços de personalidade cuidadosamente e visualizar a conversa simulada, já que os traços de personalidade influenciam significativamente o tom e o conteúdo da conversa. Por exemplo, se o instrutor configurar a persona da IA como calorosa e empática, a persona de IA responderá com esses traços. Se um instrutor configurar a persona da IA como controversa ou tendenciosa, o resultado da persona de IA provavelmente será controverso ou tendencioso. A persona de IA também nem sempre desafiará ideias controversas, tendenciosas ou perigosas dos alunos.

Como parte dos nossos testes dessa funcionalidade, o Blackboard analisou e discutiu esses resultados para determinar se o recurso deveria ser limitado, a fim de evitar qualquer tendenciosidade ou resultado indevido. Concluímos que, no equilíbrio, as instituições e os instrutores devem ter a liberdade acadêmica de permitir que os alunos se envolvam em conversas simuladas que possam ser controversas ou tendenciosas. Ao mesmo tempo, entendemos que há limites para a produção que a persona de IA deve ser capaz de produzir. Assim, os instrutores são responsáveis em última instância pelo conteúdo gerado pela Conversa com IA e pelos diálogos que os alunos encontrarão no recurso de dramatização. Em nossos testes, os mecanismos de proteção já implementados pela OpenAI, pela Microsoft e pelo Blackboard impediram qualquer resultado inválido ou que, de alguma forma, não atendesse aos nossos padrões de IA confiável. Continuaremos monitorando este recurso e qualquer comentário relacionado dos clientes para garantir que possamos fazer as alterações necessárias para que este recurso atenda aos nossos padrões de IA Confiável.

As funcionalidades de Conversa com IA estão sujeitas às limitações e à disponibilidade do serviço OpenAI do Azure, e estão sujeitas a alterações. Verifique as notas de lançamento relevantes para saber mais.

Pulse Quiz

O Pulse Quiz apresenta uma série de perguntas curtas para um aluno durante uma conversa. O instrutor seleciona o conteúdo do curso do qual as perguntas serão extraídas, define o número de perguntas e determina a personagem de IA que conduzirá o questionário. A personagem faz as perguntas, uma de cada vez, replica a resposta do aluno e resume os resultados no final.

As perguntas de um Pulse Quiz são geradas durante a conversa. O instrutor não vê nem revisa as questões antes de os alunos as recebam e cada aluno recebe um conjunto diferente. O Pulse Quiz foi criado para uma prática informal e sem muita pressão. Os instrutores que precisarem revisar e verificar questões específicas com antecedência devem recorrer a um teste, o que lhes dá controle total sobre o que será perguntado e como será avaliado.

As respostas enviadas no Pulse Quiz não são avaliadas automaticamente. Embora o relatório da conversa indique quantas questões o aluno respondeu corretamente, esse resultado não é transferido para o boletim. O instrutor revisa a transcrição completa e a reflexão do aluno antes de fazer comentários e dar uma nota, o que garante que um ser humano mantenha o controle sobre como a atividade é avaliada.

O Pulse Quiz requer uma licença da AVA e vem desabilitado por padrão. Os administradores habilitam esse recurso separadamente das demais funcionalidades de conversação com IA.

Linguagem coloquial

Os instrutores podem definir a linguagem a ser utilizada em uma conversa com IA. Quando a linguagem é definida, a personagem de IA usa essa linguagem na mensagem inicial, nas perguntas, nas respostas ao aluno e no resumo final, e não a mudará, mesmo que o aluno peça. Quando uma conversa se baseia no conteúdo do curso, a IA gera sua resposta na linguagem definida, qualquer que seja a linguagem do material de origem. Essa configuração está disponível para os três tipos de conversa.

Principais fatos

tabela 67. Tabela de perguntas e respostas sobre a abordagem do Blackboard para a IA

Pergunta

Resposta

Quais funcionalidades usam sistemas de IA?

Imagens geradas por IA para a persona (conforme descrito em funcionalidades facilitadas por IA).

Funcionalidades da Conversa com IA (conforme descrito acima).

Geração de perguntas do Pulse Quiz (conforme descrita na seção “Pulse Quiz”, em “Funcionalidades coordenadas por IA”).

Este sistema de IA é compatível com sistemas de terceiros?

Sim – As imagens geradas por IA e pela Conversa com IA são desenvolvidas pelo serviço Azure OpenAI da Microsoft.

Como o sistema de IA funciona?

A Conversa com IA aproveita o serviço OpenAI do Azure da Microsoft para gerar resultados automaticamente. Isso é alcançado usando informações fornecidas pelo instrutor na própria opção Socrática ou de Dramatização, como tema, persona de IA, traços de personalidade e complexidade, junto com nosso prompt para facilitar as respostas.

No caso do Pulse Quiz, as informações fornecidas também incluem o conteúdo do curso que o instrutor seleciona como fonte das perguntas e o número de perguntas. Para qualquer tipo de conversa, a conversa inclui uma linguagem obrigatória, caso o instrutor tenha definido uma.

Para obter uma explicação detalhada sobre como o serviço OpenAI do Azure e os grandes modelos de linguagem GPT da OpenAI subjacente funcionam, consulte a seção Introdução da Nota de transparência da Microsoft e os links contidos nela.

Onde o sistema de IA fica hospedado?

Atualmente, o Blackboard utiliza várias instâncias globais do Azure OpenAI Service. A instância principal está hospedada nos Estados Unidos. Mas, às vezes, podemos utilizar recursos em outros locais, como Canadá, Reino Unido ou França, para oferecer aos clientes a melhor opção de disponibilidade do serviço OpenAI do Azure.

Todos os dados dos cursos dos clientes e as informações fornecidas pelos instrutores, utilizados como entrada, bem como todas as saídas geradas pela Conversa com IA, são armazenados pelo Blackboard no banco de dados de clientes existente.

Essa funcionalidade é opcional?

Sim. Os administradores precisam ativar a Conversa com IA no console do administrador da Blackboard. As configurações da Conversa com IA estão na categoria Building Blocks. Clique em AI Design Assistant e Unsplash. Os administradores podem ativar ou desativar cada funcionalidade separadamente. Os administradores também precisam atribuir privilégios de “Usar o AI Design Assistant” às funções do curso, como a função Instrutor, conforme necessário.

O Pulse Quiz requer uma licença da AVA e vem desabilitado por padrão. As instituições que adquirem a licença do AVA o ativam separadamente na mesma área de configurações. As instituições que não têm uma licença do AVA não podem utilizar o Pulse Quiz, mesmo que a configuração esteja habilitada.

Como o sistema de IA é treinado?

O Blackboard não se envolve no treinamento dos grandes modelos de linguagem que alimentam as funcionalidades de conversação por IA. Esses modelos são treinados pela OpenAI/Microsoft como parte do serviço OpenAI do Azure, que alimenta as funcionalidades da Conversa com IA. A Microsoft fornece informações sobre como os grandes modelos de linguagem são treinados na seção Introdução da Nota de transparência da Microsoft e nos links contidos nela.

O Blackboard não faz ajustes no serviço OpenAI do Azure usando nossos próprios dados ou os de nossos clientes.

Os dados do cliente são utilizados para treinar o sistema de IA?

Não. A Microsoft se compromete contratualmente, nos termos do Azure OpenAI firmados com a Blackboard, a não utilizar qualquer dado de entrada ou saída do Azure OpenAI para o (re)treinamento do modelo de linguagem em grande escala. O mesmo compromisso é assumido na documentação da Microsoft sobre Dados, privacidade e segurança do serviço OpenAI do Azure.

Como o Blackboard utiliza informações pessoais no que diz respeito à disponibilização do sistema de IA?

O Blackboard usa as informações coletadas em relação à Conversa com IA exclusivamente para fornecer, manter e dar suporte à Conversa com IA e, nos casos em que têm permissão contratual para tanto, de acordo com a legislação em vigor. Mais informações sobre a abordagem da Blackboard em relação à privacidade de dados na nossa Central de confiança.

No caso de um sistema de IA compatível com terceiros, como o terceiro usará as informações pessoais?

Apenas informações limitadas do curso são disponibilizadas à Microsoft para o serviço OpenAI do Azure. Isso geralmente não deve incluir informações pessoais (exceto nos casos em que informações pessoais são incluídas no tópico, campos de persona de IA ou personalidade ou as perguntas e respostas do aluno ao bot de IA). Além disso, qualquer informação que os instrutores decidirem incluir na solicitação estará acessível.

A Microsoft não utiliza qualquer dado do Blackboard nem de clientes do Blackboard aos quais tenha acesso (como parte do Serviço Azure OpenAI) para otimizar modelos da OpenAI, seus próprios produtos e serviços ou os de terceiros, nem para otimizar automaticamente os modelos do Azure OpenAI para uso nos recursos do Blackboard. Os modelos não têm estado. A Microsoft revisa os avisos e a saída da filtragem de conteúdo. Prompts e saídas são armazenados apenas por até 30 dias.

Você pode encontrar mais informações sobre as práticas de privacidade de dados relacionadas ao serviço OpenAI do Azure na documentação da Microsoft sobre Dados, privacidade e segurança para o serviço OpenAI do Azure.

A acessibilidade foi considerada no desenvolvimento do Sistema de IA?

Sim, nossos engenheiros de acessibilidade colaboraram com as equipes de produtos para avaliar os desenvolvimentos, comunicar considerações importantes sobre acessibilidade e testar os novos recursos especificamente em termos de acessibilidade. Continuaremos a considerar a acessibilidade como parte integrante da nossa abordagem à IA confiável.



Considerações e recomendações para instituições

Estudos de caso programados

A Conversa com IA destina-se apenas a oferecer suporte às funcionalidades listadas acima. Essas funcionalidades são fornecidas e destinadas aos instrutores e alunos de nossos clientes, com o objetivo de otimizar o aprendizado dos alunos por meio de atividades apoiadas por IA.

Estudos de caso fora do escopo

Como a Conversa com IA foi desenvolvido pela Microsoft com uma ampla gama de estudos de casos, pode ser possível usar a funcionalidade de solicitação na Conversa com IA para resultados além das funcionalidades desejadas. Desencorajamos fortemente o uso da Conversa com IA para qualquer finalidade além do escopo das funcionalidades planejadas. Fazer isso pode resultar na geração de resultados que não são adequados ou compatíveis com o ambiente Blackboard e com as medidas que implementamos para minimizar resultados imprecisos.

Em especial, os pontos abaixo devem ser seguidos ao solicitar:

  • Use apenas avisos que destinam-se a prosseguir a conversa sobre o tópico atribuído para a Conversa com IA. Por exemplo, responda às perguntas e prompts do bot de IA ou faça perguntas ao bot de IA sobre o tema designado.

  • Não use solicitações de saídas além da funcionalidade pretendida. Por exemplo, você não deve usar solicitações de fontes ou referências para a saída. Em nossos testes, determinamos que há problemas de precisão com esse tipo de saída.

  • Tenha em mente que solicitações de saída no estilo de uma pessoa específica ou solicitações de uma saída semelhante a itens protegidos por direitos autorais ou marcas registradas podem resultar em uma saída que acarreta o risco de violação de direito de propriedade intelectual.

  • A saída sugerida para tópicos sensíveis pode ser limitada. O serviço OpenAI do Azure foi treinado e implementado de maneira a minimizar o conteúdo ilegal e prejudicial. Isso inclui uma funcionalidade de filtro de conteúdo. Isso poderá resultar em resultados limitados ou mensagens de erro quando a Conversa com IA for usada para cursos relacionados a tópicos sensíveis (por exemplo, automutilação, violência, ódio ou sexo). Não utilize prompts que violem os termos do contrato da sua instituição com a Blackboard ou que violem o Código de Conduta do Serviço Azure OpenAI da Microsoft e a Política de Uso Aceitável prevista nos Termos dos Serviços Online da Microsoft.

Para Dramatização: Os instrutores devem selecionar cuidadosamente os traços de personalidade e pré-visualizar a conversa simulada, pois esses traços influenciam significativamente o tom e o conteúdo da conversa. Consulte a descrição da função acima para obter mais detalhes.

Princípios de IA confiável na prática

O Blackboard acredita que o uso legítimo, ético e responsável da IA é uma prioridade fundamental. Esta seção explica como o Blackboard e a Microsoft têm trabalhado para lidar com os riscos relacionados ao uso legítimo, ético e responsável da IA e para implementar os princípios de IA Confiável do Blackboard. Também sugere medidas que nossos clientes podem considerar ao realizar as próprias análises dos riscos éticos da IA.

Transparência e explicabilidade

  • Deixamos claro no console do administrador do Blackboard que esta Conversa com IA é uma funcionalidade facilitada por IA.

  • Na interface de usuário dos instrutores, as funcionalidades da Conversa com IA estão claramente marcadas como funcionalidades de IA. Os instrutores têm a capacidade de pré-visualizar a conversa e testá-la antes de disponibilizá-la aos alunos.

  • Além das informações fornecidas neste documento sobre como funcionam os modelos de Conversa com IA e do Azure OpenAI Service, a Microsoft fornece informações adicionais sobre o Azure OpenAI Service na sua Nota de Transparência.

  • Incentivamos os clientes a serem transparentes sobre o uso de IA na Conversa com IA e oferecemos aos instrutores, alunos e outras partes interessadas, conforme apropriado, as informações relevantes deste documento e a documentação vinculada aqui.

Confiabilidade e precisão

  • Deixamos claro no console de administração do Blackboard que a Conversa com IA é uma funcionalidade facilitada por IA que pode produzir resultados imprecisos ou indesejados, e que tal resultado deve sempre ser revisado.

  • Na interface do usuário, na prévia do instrutor e os alunos que usam a Conversa com IA são informados de que as respostas são geradas pela IA e, portanto, podem ter viés ou ser imprecisas.

  • Dramatização: Os instrutores devem estar cientes de que os traços de personalidade da persona IA moldam suas respostas e interações com os alunos e podem impactar a confiabilidade e a precisão dos resultados (incluindo o aumento do risco de alucinações). Os instrutores devem selecionar os traços de personalidade cuidadosamente e visualizar a conversa. Veja a descrição da função para mais detalhes.

  • Conforme detalhado na seção Limitações da Nota de transparência do serviço OpenAI do Azure, há o risco de resultados imprecisos (inclusive alucinações). Embora a natureza específica da Conversa com IA e nossa implementação tenham como objetivo minimizar a imprecisão, é responsabilidade de nosso cliente analisar os resultados quanto a precisão, parcialidade e outros problemas potenciais. Se houver preocupações, a Conversa com IA não precisará ser usada com os alunos. Esta é uma funcionalidade opcional do curso, a critério do instrutor.

  • Conforme mencionado acima, os clientes não devem usar solicitações de saídas além dos estudos de caso pretendidos, principalmente porque isso poderá resultar em resultados imprecisos (por exemplo, quando referências ou fontes são solicitadas).

  • Como parte da comunicação sobre a Conversa com IA, os clientes devem alertar seus instrutores e alunos sobre essas potenciais limitações e riscos.

  • Os instrutores podem usar os prompts e configurações adicionais nos fluxos de trabalho generativos para fornecer mais contexto à Conversa com IA, melhorando o alinhamento e a precisão.

  • Os clientes podem nos reportar qualquer saída imprecisa usando os canais listados na introdução desta nota.

  • Para a Conversa com IA: o conteúdo gerado durante a conversa não é revisado pelo instrutor antes de ser enviado aos alunos; portanto, é possível que um aluno receba informações imprecisas. Basear a conversa em conteúdos selecionados do curso reduz esse risco, mas não o elimina. Os instrutores revisam o histórico de notas após o envio e devem considerar a atividade como um exercício informal e não como uma avaliação que constará no histórico escolar.

Justiça

  • Os grandes modelos de linguagem apresentam inerentemente riscos relacionados a estereótipos, sobrerrepresentação, sub-representação e outras formas de viés prejudicial. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.

  • Diante desses riscos, escolhemos cuidadosamente as funcionalidades de Conversa com IA para evitar estudos de caso que possam ser mais propensos a viés prejudicial ou onde o impacto desse viés possa ser mais significativo.

  • Dramatização: Os instrutores devem estar cientes de que os traços de personalidade da persona IA moldam suas respostas e interações com os alunos e podem resultar em resultados que incluem estereótipos, super-representação ou sub-representação e outras formas de viés prejudicial. Os instrutores devem selecionar os traços de personalidade cuidadosamente e visualizar a conversa. Veja a descrição da função para mais detalhes.

  • No entanto, não pode ser excluída a possibilidade de que parte da produção possa ser afetada por viés prejudicial. Conforme mencionado acima no item “Precisão”, solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir o risco de resultados inseguros.

  • Como parte da comunicação sobre a IA Conversation, os clientes devem informar seus instrutores sobre essa possível limitação.

  • Os clientes podem relatar qualquer viés potencialmente prejudicial para nós usando os canais de contato listados na introdução desta nota.

Privacidade e segurança

  • Conforme descrito na seção “Principais fatos” acima, apenas informações pessoais limitadas são usadas para a Conversa com IA e acessíveis à Microsoft. A seção também descreve o nosso comprometimento e o da Microsoft em relação ao uso de quaisquer informações pessoais. Dada a natureza da Conversa com IA, as informações pessoais na produção gerada também devem ser limitadas.

  • Nosso produto Blackboard LMS é certificado ISO 27001/27017/27018 e ISO 27701. Essas certificações incluem informações pessoais relacionadas às conversas por IA gerenciadas pelo Blackboard. Mais informações sobre a abordagem do Blackboard em relação à privacidade e à segurança de dados na nossa Central de Confiança.

  • A Microsoft descreve suas práticas e compromissos de privacidade e segurança de dados na documentação sobre Dados, privacidade e segurança para o serviço OpenAI do Azure.

  • Independentemente do compromisso do Blackboard e da Microsoft em relação à privacidade de dados e ao não uso de informações para treinar os modelos, os clientes poderão aconselhar os instrutores e alunos a não incluir nenhuma informação pessoal ou outras informações confidenciais nas solicitações ou conversas.

Segurança

  • Os grandes modelos de linguagem apresentam inerentemente um risco de saídas que podem ser inadequadas, ofensivas ou não seguras. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.

  • Diante desses riscos, escolhemos cuidadosamente as funcionalidades da Conversa com IA para evitar estudos de caso que possam ser mais propensos a resultados inseguros ou onde o impacto desses resultados possa ser mais significativo.

  • Dramatização: Os instrutores devem estar cientes de que os traços de personalidade da persona IA moldam suas respostas e interações com os alunos e podem resultar em resultados que podem ser considerados inadequados, ofensivos ou inseguros. Os instrutores devem selecionar os traços de personalidade cuidadosamente e visualizar a conversa. Veja a descrição da função para mais detalhes.

  • No entanto, não pode ser excluída a possibilidade de que parte da Conversa com IA possa ser insegura. Conforme mencionado acima no item “Precisão”, solicitamos aos instrutores que avaliem os resultados, o que pode ajudar a reduzir o risco de resultados inseguros.

  • Como parte da comunicação sobre a Conversa com IA, os clientes devem informar seus instrutores e alunos sobre essa possível limitação.

  • Os clientes devem relatar qualquer saída potencialmente insegura para nós usando os canais listados na introdução desta nota.

Pessoas no controle

  • Para minimizar o risco relacionado ao uso de IA generativa para os clientes e os usuários, colocamos os clientes intencionalmente no controle das funcionalidades da Conversa com IA. A Conversa com IA é, portanto, um recurso de ativação (opt-in). Os administradores devem ativar a Conversa com IA e podem ativar cada funcionalidade separadamente. Eles também podem desativar a Conversa com IA como um todo ou cada uma das funcionalidades individuais.

  • A Conversa com IA não inclui nenhuma tomada de decisão automatizada que possa ter um efeito legal ou significativo sobre os alunos ou outros pessoas.

  • Incentivamos os clientes a analisarem cuidadosamente este documento, inclusive os links de informações disponíveis, para garantir que compreendam as capacidades e limitações da Conversa com IA e do serviço OpenAI do Azure subjacente antes de ativarem a Conversa com IA no ambiente de produção.

  • Para a Conversa com IA: o conteúdo gerado durante a conversa não é revisado pelo instrutor antes de ser enviado aos alunos; portanto, é possível que um aluno receba informações imprecisas. Basear a conversa em conteúdos selecionados do curso reduz esse risco, mas não o elimina. Os instrutores revisam o histórico de notas após o envio e devem considerar a atividade como um exercício informal e não como uma avaliação que constará no histórico escolar.

Alinhamento de valor

  • Os modelos de linguagem de grande porte apresentam riscos inerentes no que diz respeito a resultados tendenciosos, inadequados ou que, de alguma forma, não estejam alinhados aos valores do Blackboard ou dos nossos clientes e alunos. A Microsoft descreve esses riscos na seção Limitações da Nota de transparência do serviço OpenAI do Azure.

  • Além disso, grandes modelos de linguagem (como toda tecnologia que serve a propósitos amplos) apresentam o risco de serem usados indevidamente em estudos de caso que não estejam alinhados com os valores do Blackboard, nossos clientes ou seus usuários finais, e com os valores da sociedade de forma mais ampla (por exemplo, para atividades criminosas ou para criar resultados prejudiciais ou inadequados).

  • Devido a esses riscos, desenvolvemos e implementamos cuidadosamente nossas funcionalidades da Conversa com IA para minimizar o risco de resultados desalinhados. Também omitimos intencionalmente funcionalidades potencialmente de alto risco.

  • A Microsoft também avalia as solicitações e saídas como parte da sua funcionalidade de filtragem de conteúdo, para evitar abusos e geração de conteúdo prejudicial.

Propriedade intelectual

  • Os grandes modelos de linguagem representam inerentemente riscos relacionados a possíveis violações a direitos de propriedade intelectual. A maioria das leis mundiais de propriedade intelectual não antecipou nem se adaptou inteiramente ao surgimento dos grandes modelos de linguagem e à complexidade das questões que surgem da sua utilização. Como resultado, atualmente não há orientação nem parâmetros jurídicos claros que abordem as questões de propriedade intelectual e os riscos que surgem do uso desses modelos.

  • Em última análise, é responsabilidade do cliente avaliar os resultados gerados pela Conversa com IA em busca de qualquer possível violação de direito de propriedade intelectual. Tenha em mente que solicitações de saída no estilo de uma pessoa específica ou solicitações de uma saída semelhante a itens protegidos por direitos autorais ou marcas registradas podem resultar em uma saída que acarreta um risco aumentado de infrações.

Acessibilidade

Projetamos e desenvolvemos a Conversa com IA tendo em mente a acessibilidade, assim como fazemos na Blackboard e em nossos outros produtos. Antes do lançamento da Conversa com IA, melhoramos deliberadamente a acessibilidade da estrutura semântica, navegação, controle de teclado, rótulos, componentes personalizados e fluxos de trabalho de imagem, para citar algumas áreas. Continuaremos a priorizar a acessibilidade à medida que aproveitarmos a IA no futuro.

Responsabilidade

  • O Blackboard conta com um programa chamado “Trustworthy AI”, criado para garantir o uso legítimo, ético e responsável da IA. Responsabilidade interna clara e a revisão ou funcionalidades sistemáticas éticas da IA, como as fornecidas pela Conversa com IA, são pilares fundamentais do programa.

  • Para fornecer a Conversa com IA, fizemos uma parceria com a Microsoft para aproveitar o serviço OpenAI do Azure, que alimenta a Conversa com IA. A Microsoft tem um compromisso de longa data com o uso ético da IA.

  • Os clientes devem considerar a implementação de políticas e procedimentos internos, além da análise de aplicações de IA de terceiros para garantir o próprio uso de forma legítima, ética e responsável da IA. Estas informações são disponibilizadas para dar suporte à avaliação dos nossos clientes sobre a Conversa com IA.

Outras informações