Blackboard AI-designassistent

We maken duidelijk in de Blackboard-beheerconsole dat dit een door AI gefaciliteerde functionaliteit is.

In de gebruikersinterface voor cursusleiders worden de functionaliteiten van de AI-ontwerpassistenten duidelijk gemarkeerd als functionaliteiten die ‘Genereren’. Docenten wordt ook gevraagd de tekstuitvoer te bekijken voor gebruik.

De metagegevens van de uitvoer die is gemaakt door de functionaliteiten van de AI Design Assistant hebben een veld voor automatisch gegenereerde inhoud en of de inhoud later is bewerkt door de docent.

Naast de informatie in dit document over hoe de AI-ontwerpassistent en de Azure OpenAI Service-modellen werken, biedt Microsoft aanvullende informatie over de Azure OpenAI Service in de Transparantie-opmerking.

We moedigen klanten aan om transparant te zijn over het gebruik van AI binnen de AI-ontwerpassistent. Bied cursusleiders en andere belanghebbenden indien nodig de relevante informatie uit dit document en de documentatie die hierin is gekoppeld.

In de beheerconsole van Blackboard maken we duidelijk dat dit een door AI gefaciliteerde functionaliteit is die onnauwkeurige of ongewenste uitvoer kan produceren en dat dergelijke uitvoer altijd moet worden gecontroleerd.

In de gebruikersinterface kunnen cursusleiders worden gevraagd de tekstuitvoer te controleren op nauwkeurigheid.

Zoals nauwkeurig beschreven in de sectie Beperkingen van de Transparantie-opmerking van Azure OpenAI Service, bestaat er een risico van onnauwkeurige resultaten (inclusief 'hallucinaties'). Hoewel de specifieke aard van de AI-ontwerpassistent en onze implementatie bedoeld is om onnauwkeurigheden te minimaliseren, is het de verantwoordelijkheid van onze klanten om de resultaten te controleren op nauwkeurigheid, vooroordelen en andere mogelijke problemen.

Zoals hierboven vermeld, dienen klanten de prompt niet te gebruiken buiten die hiervoor bedoelde praktijkscenario’s, aangezien dit kan resulteren in onnauwkeurige resultaten (bijv. als er om referenties en bronnen wordt gevraagd).

Als onderdeel van hun communicatie met betrekking tot de AI-ontwerpassistent, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.

Cursusleiders kunnen de aanvullende prompts en instellingen in de opeengestelde werkstromen gebruiken om meer context te bieden aan de AI-ontwerpassistent om de overeenstemming en nauwkeurigheid te verbeteren.

Docenten kunnen bestaande workflows in Blackboard gebruiken om de output van de AI Design Assistant handmatig te bewerken voordat de output aan studenten wordt gepubliceerd.

Klanten kunnen alle onnauwkeurige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.

Grote taalmodellen brengen inherent risico's met betrekking tot stereotypering, over- of ondervertegenwoordiging en andere vormen van schadelijke vooroordelen met zich mee. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure OpenAI Service.

Gezien deze risico's hebben we de functionaliteiten van de AI-ontwerpassistent zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor schadelijke vooroordelen of waarin de impact van dergelijke vooroordelen groter kan zijn.

Toch kan niet worden uitgesloten dat een deel van de resultaten door schadelijke vooroordelen kan worden beïnvloed. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat kan helpen om eventuele schadelijke vooroordelen te voorkomen.

Als onderdeel van hun communicatie met betrekking tot de AI-ontwerpassistent, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.

Klanten kunnen potentiële schadelijke vooroordelen aan ons melden via de contactkanalen die in de introductie worden vermeld.

Zoals hierboven is beschreven in de sectie 'Belangrijkste feiten', worden alleen beperkte persoonlijke gegevens gebruikt voor de AI-ontwerpassistent en zijn deze beperkt toegankelijk voor Microsoft. De sectie beschrijft ook onze toewijding en die van Microsoft met betrekking tot het gebruik van persoonlijke gegevens. Gezien de aard van de AI-ontwerpassistent zullen naar verwachting ook persoonlijke gegevens in de gegenereerde resultaten beperkt zijn.

Ons Blackboard SaaS-product is ISO 27001/27017/27018 gecertificeerd en werkt momenteel aan certificering tegen ISO 27701. Deze certificeringen omvatten persoonlijke gegevens die met de AI-ontwerpassistenten te maken hebben, die worden beheerd door Anthology. Je kunt meer informatie vinden over de benadering van Anthology ten aanzien van gegevensprivacy en beveiliging in ons Trust Center.

Microsoft beschrijft de procedures en toezeggingen voor gegevensprivacy en beveiliging in de documentatie over gegevens, privacy en beveiliging voor Azure OpenAI Service.

Ongeacht de toewijding van Anthology en Microsoft met betrekking tot gegevensprivacy en het niet gebruiken van invoer om de modellen te (her)trainen, moeten klanten mogelijk hun cursusleiders adviseren om geen persoonlijke gegevens of andere gevoelige informatie in de prompts in te voeren.

Grote taalmodellen brengen inherent risico’s met betrekking tot resultaten die ongepast, aanstootgevend of anderszins onveilig zijn met zich mee. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure OpenAI Service.

Gezien deze risico's hebben we de functionaliteiten van de AI-ontwerpassistent zorgvuldig gekozen om praktijkscenario’s te vermijden die gevoeliger zijn voor onveilige resultaten of waarin de impact van een dergelijke resultaten groter kan zijn.

Toch kan niet worden uitgesloten dat een deel van de resultaten onveilig kan zijn. Zoals hierboven vermeld onder 'Nauwkeurigheid', worden cursusleiders gevraagd de resultaten te controleren, wat verder kan helpen om de risico’s van onveilige resultaten te voorkomen.

Als onderdeel van hun communicatie met betrekking tot de AI-ontwerpassistent, moeten klanten hun cursusleiders bewust maken van deze potentiële beperking.

Klanten moeten alle potentiële onveilige resultaten aan ons melden via de kanalen die in de introductie worden vermeld.

Om de risico’s te verminderen met betrekking tot het gebruik van generatieve AI voor onze klanten en hun gebruikers, hebben we opzettelijk klanten de controle gegeven over de functionaliteiten van de AI-ontwerpassistent. Je moet de AI-ontwerpassistent daarom inschakelen. Beheerders moeten de AI-ontwerpassistent activeren en kunnen vervolgens elke functionaliteit afzonderlijk activeren. Ze kunnen ook de AI-ontwerpassistent als geheel of elk van de afzonderlijke functionaliteiten deactiveren.

Bovendien hebben cursusleiders de controle over de resultaten. Ze moeten de tekstuitvoer doornemen en kunnen de tekstuitvoer bewerken.

De AI-ontwerpassistent omvat geen geautomatiseerde besluitvorming die wettelijke of anderszins significante gevolgen kan hebben voor studenten of andere personen.

We raden klanten aan om dit document inclusief de informatiekoppelingen in dit document zorgvuldig te bekijken om er zeker van te zijn dat ze de mogelijkheden en beperkingen van de AI-ontwerpassistent en de onderliggende Azure OpenAI Service begrijpen voordat ze de AI-ontwerpassistent activeren in de productieomgeving.

Grote taalmodellen brengen inherent risico's met zich mee met betrekking tot resultaten die bevooroordeeld, ongepast of die anderszins niet overeengestemd zijn met de waarden van Anthology of de waarden van onze klanten en studenten. Microsoft beschrijft deze risico's in de sectie Beperkingen in de Transparantie-opmerking van Azure OpenAI Service.

Daarnaast bestaat het risico dat grote taalmodellen (net als elke technologie die een breed doel dient) over het algemeen worden misbruikt voor praktijkscenario’s die niet overeenstemmen met de waarden van Anthology, onze klanten of hun eindgebruikers en die van de samenleving in bredere zin (bijvoorbeeld voor criminele activiteiten, om schadelijke of anderszins ongepaste resultaten te creëren).

Gezien deze risico's, hebben we de functionaliteiten van onze AI-ontwerpassistent zorgvuldig ontworpen en geïmplementeerd om het risico van niet-afgestemde resultaten te minimaliseren. We hebben ons bijvoorbeeld gericht op functionaliteiten voor cursusleiders in plaats van voor studenten. We hebben ook bewust functionaliteiten uitgesloten die potentieel van groot belang zijn.

Microsoft controleert ook prompts en resultaten als onderdeel van de functie filteren van inhoud om misbruik en het genereren van schadelijke inhoud te voorkomen.

Grote taalmodellen brengen inherent risico's met zich mee betrekking tot mogelijke inbreuk op intellectuele eigendomsrechten. De meeste intellectuele eigendomsrechten over de hele wereld hebben niet volledig voorzien en zijn niet aangepast aan de opkomst van grote taalmodellen en de complexiteit van de problemen die zich voordoen door het gebruik ervan. Hierdoor is er op dit moment geen duidelijk juridisch kader of een duidelijke richtlijn voor de kwesties en risico's op het gebied van intellectueel eigendom die voortkomen uit het gebruik van deze modellen.

Uiteindelijk is het de verantwoordelijkheid van onze klant om de resultaten van de AI-ontwerpassistent te controleren op mogelijke inbreuk op intellectueel eigendomsrecht. Houd er rekening mee dat het aanvragen van resultaten in de stijl van een specifieke persoon of het aanvragen van resultaten die eruitziet als items met copyrightrechten of handelsmerken, kan leiden tot resultaten die het risico met zich meebrengen tot hogere schending van intellectuele eigendomsrechten.

Anthology heeft een Trustworthy AI-programma dat is ontworpen om het wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Duidelijke interne aansprakelijkheid en de systematische ethische AI-controle of functionaliteiten zoals die van de AI-ontwerpassistent zijn belangrijke steunpilaren van het programma.

Voor de levering van de AI-ontwerpassistent werken we samen met Microsoft om gebruik te maken van de Azure OpenAI Service die de basis vormt voor de AI-ontwerpassistent. Microsoft zet zich al lang in voor het ethische gebruik van AI.

Klanten moeten overwegen om intern beleid, procedures en evaluatie van AI-toepassingen van derden te implementeren om hun eigen wettelijke, ethische en verantwoordelijke gebruik van AI te garanderen. Deze informatie is bedoeld om de beoordeling van de AI-ontwerpassistent door onze klanten te ondersteunen.

Trustworthy AI-aanpak van Anthology

Pagina over verantwoorde AI van Microsoft

Transparantie-opmerking van Microsoft voor Azure OpenAI Service

Microsoft-pagina over gegevens, privacy en beveiliging voor Azure OpenAI-service