Skip to main content

AI Alt Text Assistant

Remarque de transparence

L'utilisation légale, éthique et responsable de l'intelligence artificielle (IA) est une priorité pour Anthology. Pour cette raison, nous avons développé et mis en œuvre un programme d'IA éthique. Vous trouverez des informations sur notre programme et notre approche générale de l'IA éthique dans notre Trust Center et plus d'informations sur les fonctionnalités d'IA générative dans notre Liste des fonctionnalités d'IA générative.

Dans le cadre de nos principes d'utilisation éthique de l'IA, nous tenons à faire preuve de transparence et à nous montrer responsables. Cette page est destinée à fournir aux clients les explications nécessaires à la mise en œuvre de l'outil AI Alt Text Assistant. Nous recommandons aux administrateurs de l'examiner attentivement et de vérifier que les professeurs sont au courant des considérations et des recommandations qu'elle contient avant d'activer les fonctionnalités d'AI Alt Text Assistant pour leur établissement.

Comment nous contacter :

  • Si vous avez des questions ou des retours sur notre approche générale de l'IA digne de confiance ou sur la manière dont nous pouvons rendre cette page plus utile pour nos clients, veuillez nous envoyer un e-mail à l'adresse suivante : trustworthyai@anthology.com.

  • Pour toute question ou retour sur la fonctionnalité ou les résultats de l’assistant AI Alt Text, veuillez soumettre un ticket d’assistance client.

Fonctionnalités facilitées par l'IA

L'outil AI Alt Text Assistant fournit aux professeurs des suggestions de texte alternatif pour les images utilisées dans leur(s) cours(s) en ligne via le workflow de feed-back du professeur Ally. Il est destiné à inspirer les professeurs et à rendre les correctifs d'accessibilité plus efficaces.

Anthology s'est associée à AWS pour améliorer le modèle d'IA d'Ally afin de proposer des suggestions encore plus percutantes, ainsi que la possibilité de générer des suggestions de description d'images pour des contenus plus complexes, notamment des STEM, des graphiques/graphiques, du texte dans les images et des images manuscrites. Elle est alimentée par les modèles Claude d'AWS Bedrock et apporte une analyse et des résultats améliorés pour aider les enseignants à rédiger des descriptions d'images percutantes, pertinentes et concises pour ce qui est souvent un contenu d'image difficile et problématique.

AI Alt Text Assistant fournit les fonctionnalités suivantes facilitées par l'IA générative :

  • Génère un texte alternatif pour les images. Suggère un texte alternatif dans les commentaires d'Ally Instructor lorsque les professeurs corrigent des images sans texte alternatif.

Important

Ces fonctionnalités sont soumises aux limites et à la disponibilité du service AWS Bedrock et peuvent faire l'objet de modifications. Consultez les notes de publication correspondantes pour plus de détails.

Points clés

Tableau 2. Tableau d'exemple

Question

Réponse

Quelles fonctionnalités Ally utilisent des systèmes d'IA ?

Suggestion de texte alternatif via l'IA dans le panneau de feed-back du professeur de Ally, lorsqu'une image a été signalée par Ally parce qu'elle ne contient pas de texte alternatif.

S'agit-il d'un système d'IA pris en charge par un tiers ?

Oui - L'assistant de texte alternatif IA est alimenté par AWS Bedrock Anthropic Claude Sonnet 3.5.

Comment fonctionne ce système d'IA ?

L’assistant de texte alternatif IA utilise le modèle AWS Bedrock Anthropic Claude Sonnet 3.5 pour générer automatiquement des résultats. Pour ce faire, utilisez l'image pour générer un texte alternatif qui est envoyé via le SDK AWS. Nous avons également ajouté la possibilité d'envoyer des invites contextuelles en fonction du contenu textuel environnant lorsqu'une image est intégrée à un élément de contenu enrichi. Aucune autre information n'est utilisée (par exemple, titre du cours, description du cours). Les images ne sont pas utilisées pour entraîner les modèles AWS Bedrock, et le Bedrock génère la sortie en fonction de chaque image téléchargée vers AI Alt Text Assistant.

Où le système d'IA est-il hébergé ?

Anthology utilise actuellement plusieurs instances AWS pour Amazon Bedrock, en fonction de la disponibilité de la région Amazon. AWS fournit cette disponibilité régionale pour le modèle Amazon Bedrock actuellement utilisé par Ally (Claude Sonnet 3.5) à Prise en charge du modèle par région AWS dans Amazon Bedrock. Parfois, nous pouvons utiliser des ressources dans d'autres endroits, comme l’Est des États-Unis, pour fournir la meilleure option de disponibilité pour Amazon Bedrock à nos clients lorsqu'une région spécifique n'est pas disponible.

Toutes les productions générées par AI Alt Text Assistant sont stockées dans la base de données Ally existante, gérée par Anthology, associée à chaque client.

S'agit-il d'une fonctionnalité facultative ?

Oui. Les administrateurs doivent activer AI Alt Text Assistant dans les options de configuration de LMS Ally. Sélectionnez Génération par l'IA de descriptions alternatives pour les images sous l'onglet Fonctionnalités. Les administrateurs peuvent activer ou désactiver cette fonctionnalité à tout moment.

Comment le système d'IA est-il entraîné ?

Anthology ne participe pas à la formation du modèle anthropique qui alimente les fonctionnalités de AI Alt Text Assistant via Amazon Bedrock. Ces modèles sont entraînés par Anthropic (Anthropic Claude).

Anthology n'affine pas davantage le service Azure Vision à l'aide de ses propres données ni de celles de ses clients.

Les données des clients sont-elles utilisées pour entraîner ou réentraîner le système d'IA ?

Amazon s'engage dans sa documentation publique à ne pas utiliser les entrées ou sorties pour le (ré)entraînement des grands modèles linguistiques dans Amazon Bedrock. Les informations fournies par Amazon sur l'entraînement des grands modèles de langage sont disponibles dans les liens de la section « Informations complémentaires » ci-dessous. Toutes les données d'entrée et de sortie sont chiffrées en transit et au repos.

Comment les données personnelles sont-elles utilisées par Anthology Ally dans le cadre de son système d'IA AI Text Assistant ?

Anthology Ally utilise uniquement les images collectées par AI Alt Text Assistant pour fournir, gérer et prendre en charge AI Alt Text Assistant. Vous trouverez plus d'informations sur l'approche d'Anthology en matière de confidentialité des données dans le Trust Center d'Anthology.

Dans le cas d'un système d'IA pris en charge par un tiers, comment le tiers utilisera-t-il les données personnelles ?

Anthology Ally utilise les images et/ou les données contextuelles du contenu riche entourant une image collectée dans le cadre de l’assistant AI Alt Text uniquement pour fournir, maintenir et soutenir l’assistant AI Alt Text. Vous trouverez plus d'informations sur l'approche d'Anthology en matière de confidentialité des données dans le Trust Center d'Anthology.

Seules les images et/ou les données contextuelles du contenu enrichi entourant une image sont utilisées pour alimenter cette fonctionnalité. Aucune autre information n'est partagée avec AWS Bedrock.

Ni Amazon ni aucun fournisseur de modèles Amazon Bedrock n'utilise les données d'Anthology ou les données des clients d'Anthology pour améliorer les modèles Amazon Bedrock.

Vous pouvez trouver plus d'informations sur les pratiques de confidentialité des données concernant la sécurité et la confidentialité d'Amazon Bedrock dans la documentation d'Amazon sur la Page sur la sécurité de l'IA AWS, le Blog Amazon sur l'apprentissage automatique et la page Sécurité et confidentialité d'Amazon Bedrock.

L'accessibilité a-t-elle été prise en compte dans la conception du système d'IA Alt Text ?

Oui, nos ingénieurs spécialistes de l'accessibilité ont collaboré avec les équipes produit pour examiner les conceptions, communiquer les considérations importantes et tester spécifiquement l'accessibilité des nouvelles fonctionnalités. Nous continuerons à considérer l'accessibilité comme une partie intégrante de notre approche éthique de l'IA.



Considérations et recommandations à l'intention des établissements

Cas d'utilisation prévus

L'outil AI Alt Text Assistant est uniquement destiné à prendre en charge les fonctionnalités énumérées ci-dessus. Ces fonctionnalités sont fournies et destinées aux professeurs de nos clients pour les aider à résoudre les problèmes d'accessibilité des images signalés par Ally.

Cas d'utilisation hors champ d'application

L'AI Alt Text Assistant n'a pas pour but et n'est pas garanti de rendre chaque image accessible avec un texte alternatif parfait, car il appartient toujours au professeur d'ajuster ou d'approuver le texte alternatif en fonction du contexte du contenu du cours.

Les principes d'utilisation éthique de l'IA dans la pratique

Anthology et Microsoft sont convaincus que l'utilisation légale, éthique et responsable de l'IA doit rester une priorité. Cette section explique comment Anthology et Microsoft ont collaboré pour faire face aux risques applicables à l'utilisation légale, éthique et responsable de l'IA, et mettre en œuvre les principes d'utilisation éthique de l'IA par Anthology. Elle suggère également des mesures que nos clients peuvent prendre lorsqu'ils entreprennent leurs propres examens juridiques de l'IA et des risques éthiques liés à sa mise en œuvre.

Transparence et explicabilité

  • Nous indiquons clairement dans les options de configuration d'administration Ally qu'il s'agit d'une fonctionnalité facilitée par l'IA

  • Dans l'interface utilisateur des professeurs, les fonctionnalités d'AI Alt Text Assistant sont clairement identifiées comme des fonctionnalités « génératives ». Les professeurs sont également priés d'examiner le texte avant de l'utiliser. Les métadonnées des productions issues des fonctionnalités d'AI Alt Text Assistant incluses dans le rapport d'utilisation d'Ally de chaque client comportent un champ pour le contenu généré automatiquement. Elles indiquent également si le contenu a été modifié ultérieurement par le professeur.

  • Outre les informations fournies dans le présent document sur le fonctionnement de la fonctionnalité AI Alt Text Assistant avec Amazon Bedrock, Amazon fournit des informations supplémentaires sur Amazon Bedrock dans les liens de la section « Informations complémentaires » ci-dessous.

  • Nous encourageons les clients à communiquer clairement au sujet de l'utilisation de l'IA dans l'outil AI Alt Text Assistant et à fournir à leurs professeurs et aux autres parties prenantes, le cas échéant, les informations pertinentes de ce document et la documentation liée aux présentes.

Fiabilité et précision

  • Dans les options de configuration et les conditions d’utilisation de l’administration d’Ally, nous indiquons clairement qu’il s’agit d’une fonctionnalité assistée par l’IA qui peut produire des résultats inexacts ou indésirables et que ces résultats doivent toujours être examinés par l’instructeur.

  • Dans l'interface utilisateur, les professeurs sont invités à examiner la précision du texte produit.

  • Comme indiqué dans la FAQ Amazon Bedrock, il existe un risque de résultats inexacts. Bien que la nature spécifique de l'outil AI Alt Text Assistant et de notre mise en œuvre vise à minimiser les inexactitudes, il est de la responsabilité de notre client de vérifier les productions pour détecter les erreurs, biais et autres problèmes potentiels.

  • Les utilisateurs peuvent facilement régénérer des résultats inexacts en reformulant la question ou la phrase utilisée dans l’invite Q&A.

  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.

  • Les clients peuvent nous signaler toute production inexacte en utilisant les canaux répertoriés dans l'introduction.

Équité

  • Les grands modèles de langage présentent intrinsèquement des risques liés aux stéréotypes, à la surreprésentation ou à la sous-représentation, et à d'autres formes de biais préjudiciables.

  • Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités de l'outil AI Alt Text Assistant de façon à éviter les cas d'utilisation les plus sujets à des biais ou pour lesquels l'impact de ces biais pourrait être plus important.

  • Néanmoins, il ne peut être exclu qu'une partie de la production puisse être affectée par un biais préjudiciable. Comme décrit dans la section « Exactitude » ci-dessus, les professeurs sont invités à examiner les productions, ce qui peut aider à réduire ce genre de problème.

  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.

  • Les clients peuvent nous signaler tout biais potentiellement préjudiciable en utilisant les canaux de contact énumérés dans l'introduction.

Confidentialité et sécurité

  • Comme décrit dans la section « Faits clés » ci-dessus, seules des images sont utilisées par l'outil AI Alt Text Assistant et accessibles à Microsoft. Cette section décrit également notre engagement et celui de Microsoft concernant l'utilisation des données personnelles.

  • Amazon décrit ses pratiques et engagements en matière de confidentialité et de sécurité des données dans la documentation sur la sécurité et la confidentialité pour Amazon Bedrock.

Sécurité

  • Les grands modèles de langage présentent intrinsèquement un risque de productions inappropriées, offensantes ou autrement dangereuses. Microsoft décrit ces risques dans la section Limitations de la Note de transparence du service Azure Vision.

  • Compte tenu de ces risques, nous avons soigneusement sélectionné les fonctionnalités de l'outil AI Alt Text Assistant pour éviter les cas d'utilisation plus sujets à des productions dangereuses ou pour lesquels l'impact de ces productions pourrait être plus important.

  • Néanmoins, nous ne pouvons pas exclure la possibilité de productions dangereuses. Comme décrit dans la section « Précision » ci-dessus, les professeurs sont priés d'examiner les productions, ce qui peut contribuer à réduire ce risque.

  • Dans le cadre de leur communication concernant AI Alt Text Assistant, les clients doivent informer leurs professeurs de cette limitation potentielle.

  • Ils sont également tenus de nous signaler toute production potentiellement dangereuse en utilisant les canaux énumérés dans l'introduction.

Laisser l'humain aux commandes

  • Afin de minimiser le risque lié à l'utilisation de l'IA générative pour nos clients et leurs utilisateurs, nous donnons intentionnellement aux clients le contrôle des fonctionnalités de l'outil AI Alt Text Assistant. AI Alt Text Assistant est donc une fonctionnalité facultative. Les administrateurs peuvent activer ou désactiver AI Alt Text Assistant à tout moment.

  • De plus, les professeurs contrôlent les productions, ce qui signifie qu'ils sont invités à examiner les textes et à les modifier si nécessaire.

  • AI Alt Text Assistant n'inclut aucune prise de décision automatisée qui pourrait avoir des conséquences légales ou d'autres conséquences significatives pour les apprenants ou d'autres personnes.

  • Nous encourageons les clients à lire attentivement ce document, y compris les liens d'information fournis ici, afin de s'assurer qu'ils comprennent les fonctionnalités et les limites de AI Alt Text Assistant et de l'Amazon Bedrock sous-jacent avant d'activer la fonctionnalité AI Alt Text Assistant.

Alignement avec nos valeurs

  • Les grands modèles de langage comportent intrinsèquement des risques de productions biaisées, inappropriées ou autrement non alignées avec les valeurs d'Anthology, de nos clients et des apprenants. Amazon décrit ces risques sur les sites Web liés dans la section « Informations complémentaires » ci-dessous.

  • De plus, comme toute technologie servant à des fins générales, ils présentent le risque d'être utilisés pour des cas d'utilisation qui ne correspondent pas aux valeurs d'Anthology, de nos clients ou de leurs utilisateurs finaux, ou aux valeurs de la société de façon plus générale (p. ex., pour des activités criminelles, pour créer des productions nuisibles ou autrement inappropriées).

  • Compte tenu de ces risques, nous avons soigneusement conçu et mis en œuvre les fonctionnalités de notre outil AI Alt Text Assistant de manière à minimiser le désalignement des productions. Par exemple, nous nous sommes concentrés sur les fonctionnalités destinées aux professeurs plutôt qu'aux apprenants. Nous avons également intentionnellement omis des fonctionnalités à enjeux potentiellement élevés.

Propriété intellectuelle

  • Les grands modèles de langage présentent intrinsèquement des risques de violation des droits de propriété intellectuelle. La plupart des lois sur la propriété intellectuelle dans le monde n'ont pas pleinement anticipé, et ne sont pas adaptées à l'émergence de grands modèles de langage ni à la complexité des questions qui découlent de leur utilisation. Par conséquent, il n'existe actuellement aucun cadre juridique ni orientation clairs qui traitent des questions de propriété intellectuelle et des risques qui découlent de l'utilisation de ces modèles.

  • En définitive, il est de la responsabilité de notre client d'examiner les productions générées par AI Alt Text Assistant afin d'éviter toute violation potentielle des droits de propriété intellectuelle.

Accessibilité

  • Nous avons conçu et développé AI Alt Text Assistant en gardant l'accessibilité à l'esprit, comme nous le faisons pour Learn et nos autres produits. Avant la mise à disposition d'AI Alt Text Assistant, nous avons délibérément amélioré l'accessibilité de la structure sémantique, de la navigation, des commandes clavier, des étiquettes, des composants personnalisés et des workflows d'images, pour ne citer que quelques domaines. Nous continuerons à accorder la priorité à l'accessibilité à mesure que nous tirerons parti de l'IA à l'avenir.

  • La fonctionnalité AI Alt Text Assistant utilise les propriétés d'Amazon Bedrock. AWS met à disposition les rapports de conformité en matière d'accessibilité sur les pages relatives à l'accessibilité d'AWS.

Responsabilité

  • Anthology a mis en place un programme afin de garantir une utilisation légale, éthique et responsable de l'IA. Une définition claire des responsabilités en interne et un examen éthique systématique de l'IA et des fonctionnalités telles que celles fournies par AI Alt Text Assistant sont des piliers clés du programme.

  • Pour fournir AI Alt Text Assistant, nous nous sommes associés à Amazon pour profiter des propriétés d'Amazon Bedrock. AWS s'engage à utiliser l'IA de manière responsable.

  • Il est recommandé aux clients de mettre en œuvre des politiques, des procédures internes et d'examiner les applications d'IA tierces afin de garantir leur propre utilisation légale, éthique et responsable de l'IA. Ces informations sont fournies pour encourager nos clients à examiner les productions de l'outil AI Alt Text Assistant.

Autres informations

Conditions d'utilisation d'AI Alt Text Assistant

L'AI Alt Text Assistant Ally utilise les modèles d'IA génératifs d'AWS Bedrock d'AWS.

Important

Cette fonctionnalité peut produire des résultats indésirables ou inexacts. Il est de votre responsabilité et de celle de votre instructeur d'examiner tous les résultats et de les corriger ou de les modifier si cela s'avère nécessaire ou approprié. Veuillez noter qu’aucune donnée client n’est utilisée pour former, reformer ou améliorer les modèles d’IA générative d’AWS Bedrock.  Les images ou le texte contextuel téléchargés dans l’assistant Ally AI Alt Text seront transmis aux serveurs AWS qui peuvent être situés en dehors de votre hébergement.

Vous trouverez plus d'informations sur les risques et les limitations de la fonctionnalité dans la documentation standard pour l'utilisateur final.

En activant cette fonctionnalité, vous confirmez que vous acceptez les conditions supplémentaires au nom de votre établissement et que vous avez lu et compris les informations sur les risques et les limitations contenues dans la documentation standard pour l'utilisateur final présentée ci-dessus et/ou mentionnées dans celle-ci.