AI Conversation — Note de transparence

Pour toute question ou commentaire sur notre approche générale en matière d'IA fiable ou sur la manière dont nous pouvons rendre cette page plus utile pour nos clients, veuillez nous envoyer un e-mail à trustworthy-ai@anthology.com

Pour toute question ou commentaire concernant les fonctionnalités ou les résultats d'AI Conversation, veuillez envoyer un ticket d'assistance client.

Nous indiquons clairement dans la console d'administration Blackboard que la conversation d'IA est une fonctionnalité facilitée par l'IA.

Dans l'interface utilisateur des professeurs, les fonctionnalités de l'outil de conversation d'IA sont clairement identifiées comme des fonctionnalités d'« IA ». Les professeurs ont la possibilité de prévisualiser la conversation et de l'essayer avant de la mettre à la disposition des étudiants.

Outre les informations fournies dans ce document sur le fonctionnement d'AI Conversation et des modèles de service Azure OpenAI, Microsoft fournit des informations supplémentaires sur le service Azure OpenAI dans sa Note de transparence.

Nous encourageons les clients à communiquer clairement au sujet de l'utilisation de l'IA dans l'outil AI Conversation et à fournir à leurs professeurs, étudiants et autres parties prenantes, le cas échéant, les informations pertinentes de ce document et la documentation liée aux présentes.

Dans la console d'administration Blackboard, nous indiquons clairement qu'AI Conversation est une fonctionnalité facilitée par l'IA qui peut produire des résultats inexacts ou indésirables et que ces résultats doivent toujours être revus.

Dans l'interface utilisateur, l'aperçu du professeur et les étudiants utilisant AI Conversation sont informés que les réponses sont générées par l'IA et peuvent donc être biaisées ou inexactes.

Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les élèves et peuvent avoir une incidence sur la fiabilité et la précision des résultats (y compris un risque accru d'hallucinations). Les enseignants doivent sélectionner soigneusement les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

Comme indiqué dans la section Limitations de la note de transparence du service Azure OpenAI, il existe un risque de production inexacte (y compris d'« hallucinations »).https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations Bien que la nature spécifique de l'outil AI Conversation et de notre mise en œuvre vise à minimiser les inexactitudes, il est de la responsabilité de notre client d'examiner les productions pour détecter les erreurs, les biais et d'autres problèmes potentiels. Si des problèmes sont constatés, vous pouvez cesser d'utiliser AI Conversation. Il s'agit d'une fonctionnalité optionnelle du cours à la discrétion de l'instructeur.

Comme nous l'avons mentionné précédemment, les clients ne doivent pas utiliser d'invite pour solliciter des productions qui sortent des cas d'utilisation prévus, d'autant plus que cela pourrait entraîner des productions inexactes (p. ex. : lorsque des références ou des sources sont demandées).

Dans le cadre de leur communication concernant AI Conversation, les clients doivent informer leurs professeurs et leurs étudiants de ces limites et risques potentiels.

Les professeurs peuvent utiliser les instructions et paramètres supplémentaires des flux de travail génératifs pour fournir plus de contexte à AI Conversation afin d'améliorer l'alignement et la précision.

Les clients peuvent nous signaler toute sortie inexacte en utilisant les canaux répertoriés dans l'introduction de cette note.

Les grands modèles de langage présentent intrinsèquement des risques liés aux stéréotypes, à la surreprésentation ou à la sous-représentation, et à d'autres formes de biais préjudiciables. Microsoft décrit ces risques dans sa section Limitations de la Note de transparence du service Azure OpenAI.

Compte tenu de ces risques, nous avons choisi avec soin les fonctionnalités d'AI Conversation afin d'éviter les cas d'utilisation susceptibles d'être plus sujets à des biais préjudiciables ou dont l'impact pourrait être plus important.

Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les étudiants et peuvent donner lieu à des résultats qui peuvent inclure des stéréotypes, une surreprésentation ou une sous-représentation et d'autres formes de biais préjudiciables. Les enseignants doivent sélectionner soigneusement les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

Néanmoins, il ne peut être exclu qu'une partie de la production puisse être affectée par un biais préjudiciable. Comme indiqué ci-dessus dans la section « Précision », les instructeurs sont priés de revoir l'activité, ce qui peut contribuer à réduire tout biais préjudiciable.

Dans le cadre de leur communication concernant AI Conversation, les clients doivent informer leurs professeurs de cette limitation potentielle.

Les clients peuvent nous signaler tout biais potentiellement préjudiciable en utilisant les canaux de contact énumérés dans l'introduction de cette note.

Comme décrit dans la section « Faits clés » ci-dessus, une quantité limitée d'informations personnelles sont utilisées par l'outil AI Conversation et accessibles à Microsoft. Cette section décrit également notre engagement et celui de Microsoft concernant l'utilisation des données personnelles. Compte tenu de la nature d'AI Conversation, les informations personnelles contenues dans les résultats générés devraient également être limitées.

Notre produit Blackboard SaaS est certifié ISO 27001/27017/27018 et ISO 27701. Ces certifications prennent en compte la gestion des données personnelles dans le cadre des fonctionnalités l'outil AI Conversation d'Anthology. Vous trouverez plus d'informations sur l'approche d'Anthology en matière de confidentialité et de sécurité des données dans notre Trust Center.

Microsoft décrit ses pratiques et engagements en matière de confidentialité et de sécurité des données dans la documentation sur les données, la confidentialité et la sécurité pour le service Azure OpenAI.

Indépendamment de l'engagement d'Anthology et de Microsoft en matière de confidentialité des données et de non-utilisation des données pour entraîner et réentraîner les modèles, les clients peuvent conseiller à leurs professeurs et étudiants de ne pas inclure d'informations personnelles ni d'autres informations confidentielles dans les invites et conversations.

Les grands modèles de langage présentent intrinsèquement un risque de sorties inappropriées, offensantes ou autrement dangereuses. Microsoft décrit ces risques dans sa section Limitations de la Note de transparence du service Azure OpenAI.

Compte tenu de ces risques, nous avons choisi avec soin les fonctionnalités d'AI Conversation afin d'éviter les cas d'utilisation qui pourraient être plus sujets à des sorties dangereuses ou dont l'impact pourrait être plus important.

Jeu de rôle : les professeurs doivent être conscients que les traits de personnalité du personnage IA façonnent ses réponses et ses interactions avec les étudiants et peuvent donner lieu à des résultats qui peuvent être considérés comme inappropriés, offensants ou dangereux. Les enseignants doivent sélectionner soigneusement les traits de personnalité et prévisualiser la conversation. Consultez la description de la fonction pour plus de détails.

Néanmoins, nous ne pouvons pas exclure la possibilité de réponses dangereuses générées par la conversation d'IA. Comme indiqué ci-dessus dans la section « Précision », les instructeurs sont invités à revoir les résultats, ce qui peut contribuer à réduire le risque de résultats dangereux.

Dans le cadre de leur communication concernant AI Conversation, les clients doivent informer leurs professeurs et leurs étudiants de cette limitation potentielle.

Ils sont également tenus de nous signaler toute sortie potentiellement dangereuse en utilisant les canaux énumérés dans l'introduction de cette note.

Afin de minimiser le risque lié à l'utilisation de l'IA générative pour nos clients et leurs utilisateurs, nous donnons intentionnellement aux clients le contrôle des fonctionnalités de l'outil AI Conversation. AI Conversation n'est donc pas une fonctionnalité accessible par défaut. Les administrateurs doivent activer cet outil et peuvent ensuite activer chacune de ses fonctionnalités séparément. Ils peuvent également désactiver AI Conversation dans son ensemble ou chacune des fonctionnalités individuelles.

AI Conversation n'implique aucune prise de décision automatisée qui pourrait avoir des conséquences légales ou d'autres conséquences significatives pour les apprenants ou d'autres personnes.

Nous encourageons les clients à lire attentivement ce document, y compris les liens d'information qui y sont fournis, pour s'assurer qu'ils comprennent les capacités et les limites de l'outil de conversation d'IA et du service Azure OpenAI sous-jacent avant de l'activer dans leur environnement de production.

Les grands modèles de langage comportent intrinsèquement des risques de sorties biaisées, inappropriées ou autrement non alignées avec les valeurs d'Anthology, de nos clients et des étudiants. Microsoft décrit ces risques dans sa section Limitations de la Note de transparence du service Azure OpenAI.

De plus, comme toute technologie servant à des fins générales, ils présentent le risque d'être utilisés pour des cas d'utilisation qui ne correspondent pas aux valeurs d'Anthology, de nos clients ou de leurs utilisateurs finaux, ou aux valeurs de la société de façon plus générale (par exemple, pour des activités criminelles, pour créer des sorties nuisibles ou autrement inappropriées).

Compte tenu de ces risques, nous avons soigneusement conçu et mis en œuvre les fonctionnalités de notre outil AI Conversation de manière à minimiser le désalignement des productions. Nous avons également intentionnellement omis des fonctionnalités à enjeux potentiellement élevés.

Microsoft examine également les invites et les données de sortie dans le cadre de sa fonctionnalité de filtrage de contenu afin d'éviter les abus et la génération de contenu nuisible.

Les grands modèles de langage présentent intrinsèquement des risques de violation des droits de propriété intellectuelle. La plupart des lois sur la propriété intellectuelle dans le monde n'ont pas pleinement anticipé, et ne sont pas adaptées à l'émergence de grands modèles de langage ni à la complexité des questions qui découlent de leur utilisation. Par conséquent, il n'existe actuellement aucun cadre juridique ni orientation clairs qui traitent des questions de propriété intellectuelle et des risques qui découlent de l'utilisation de ces modèles.

En fin de compte, il est de la responsabilité de notre client d'examiner les productions générées par AI Conversation afin d'éviter toute violation potentielle des droits de propriété intellectuelle. N'oubliez pas que les invites demandant de copier le style d'une personne spécifique, des éléments protégés par des droits d'auteur ou des marques déposées présentent un risque élevé de générer une production qui ne respecte pas la loi en matière de propriété intellectuelle.

Anthology a mis en place un programme afin de garantir une utilisation légale, éthique et responsable de l'IA. Une responsabilité interne claire et la révision éthique systématique de l'IA ou des fonctionnalités, telles que celles fournies par AI Conversation, sont les principaux piliers du programme.

Nous nous sommes associés à Microsoft pour tirer parti du service Azure OpenAI qui alimente AI Conversation. Microsoft s'engage depuis longtemps en faveur d'une utilisation éthique de l'IA.

Il est recommandé aux clients de mettre en œuvre des politiques, des procédures internes et d'examiner les applications d'IA tierces afin de garantir leur propre utilisation légale, éthique et responsable de l'IA. Ces informations sont fournies pour encourager nos clients à examiner les productions de l'outil AI Conversation.

L'Approche d'IA fiable d'Anthology

Liste des fonctionnalités d'IA générative d'Anthology

La Page de Microsoft sur l'IA responsable

Note de transparence de Microsoft pour Azure Vision Service

Page de Microsoft sur les données, la confidentialité et la sécurité pour le service Azure Vision