Blackboard AI 디자인 도우미

Blackboard 관리자 콘솔에서 이 기능이 AI 지원 기능임을 분명히 밝힙니다.

교수자용 사용자 인터페이스에서 AI Design Assistant 기능은 '생성' 기능으로 명확하게 표시되어 있습니다. 교수자는 사용 전에 텍스트 출력을 검토해야 합니다.

AI 디자인 도우미 기능으로 생성된 결과물의 메타데이터에는 자동 생성된 콘텐츠와 해당 콘텐츠를 이후 교수자가 편집했는지 여부에 대한 필드가 있습니다.

이 문서에 제공된 AI Design Assistant 및 Azure OpenAI Service 모델의 작동 방식에 대한 정보 외에도 Microsoft는 투명성 노트에서 Azure OpenAI Service에 대한 추가 정보를 제공합니다.

당사는 고객이 AI Design Assistant 내에서 AI 사용에 대해 투명하게 공개하고, 강사 및 기타 이해관계자에게 적절하게 이 문서 및 여기에 링크된 문서의 관련 정보를 제공할 것을 권장합니다.

Blackboard 관리자 콘솔에서 이것이 부정확하거나 원치 않는 출력을 생성할 수 있는 AI 지원 기능이며 이러한 출력은 항상 검토해야 한다는 점을 명확히 밝히고 있습니다.

사용자 인터페이스에서 교수자는 텍스트 출력의 정확성을 검토하도록 요청받습니다.

Azure OpenAI Service Transparency Note의 제한 사항 섹션에 자세히 설명된 대로, 부정확한 출력('환각' 포함)이 발생할 위험이 있습니다. AI 디자인 어시스턴트의 구체적인 특성과 당사의 구현은 부정확성을 최소화하기 위한 것이지만, 출력물의 정확성, 편향성 및 기타 잠재적 문제를 검토하는 것은 고객의 책임입니다.

위에서 언급한 바와 같이, 클라이언트는 의도된 사용 사례를 넘어서는 출력을 얻기 위해 프롬프트를 사용해서는 안 되며, 특히 이로 인해 부정확한 출력(예: 참조 또는 출처가 요청되는 경우)이 발생할 수 있으므로 주의해야 합니다.

AI 디자인 어시스턴트와 관련된 커뮤니케이션의 일환으로, 고객은 강사에게 이러한 잠재적 제한 사항을 알려야 합니다.

교수자는 생성 워크플로의 추가 프롬프트 및 설정을 사용하여 AI 디자인 어시스턴트에 더 많은 컨텍스트를 제공함으로써 정렬 및 정확성을 개선할 수 있습니다.

교수자는 학생에게 출력을 게시하기 전에 Blackboard의 기존 워크플로를 사용하여 AI 디자인 도우미 출력을 수동으로 편집할 수 있습니다.

클라이언트는 소개에 나열된 채널을 사용하여 부정확한 출력 결과를 당사에 신고할 수 있습니다.

대규모 언어 모델은 본질적으로 고정관념화, 과대/과소 표현 및 기타 형태의 유해한 편견과 관련된 위험을 내포하고 있습니다. Microsoft는 Azure OpenAI Service Transparency Note의 제한 사항 섹션에서 이러한 위험에 대해 설명합니다.

이러한 위험성을 고려하여 유해한 편견에 더 취약하거나 그러한 편견의 영향이 더 클 수 있는 사용 사례를 피하기 위해 AI 디자인 도우미 기능을 신중하게 선택했습니다.

그럼에도 불구하고 일부 출력이 유해한 편견의 영향을 받을 가능성을 배제할 수 없습니다. 위의 ‘정확성’에서 언급했듯이 교수자는 출력물을 검토하도록 요청받으며, 이는 유해한 편견을 줄이는 데 도움이 될 수 있습니다.

AI 디자인 어시스턴트와 관련된 커뮤니케이션의 일환으로, 고객은 강사에게 이러한 잠재적 제한 사항을 알려야 합니다.

고객은 소개에 나와 있는 연락처 채널을 사용하여 잠재적으로 유해한 편견을 저희에게 신고할 수 있습니다.

위의 ‘주요 사실’ 섹션에 설명된 대로 AI 디자인 도우미에는 제한된 개인 정보만 사용되며 Microsoft에서 액세스할 수 있습니다. 이 섹션에서는 개인 정보 사용에 관한 당사와 Microsoft의 약속에 대해서도 설명합니다. AI 디자인 도우미의 특성상 생성된 결과물에 포함된 개인 정보도 제한될 것으로 예상됩니다.

Blackboard SaaS 제품은 ISO 27001/27017/27018 인증을 받았으며 현재 ISO 27701에 대한 인증을 향해 노력하고 있습니다. 이러한 인증에는 Anthology에서 관리하는 AI 디자인 어시스턴트 관련 개인정보가 포함됩니다. Anthology의 데이터 개인정보 보호 및 보안에 대한 접근 방식에 대한 자세한 내용은 신뢰 센터에서 확인할 수 있습니다.

Microsoft는 Azure OpenAI Service에 대한 데이터, 개인 정보 및 보안 문서에서 데이터 개인 정보 보호 및 보안 관행과 약속을 설명합니다.

데이터 개인 정보 보호 및 모델 (재)학습에 입력을 사용하지 않겠다는 Anthology 및 Microsoft의 약속과 관계없이 고객은 강사에게 프롬프트에 개인 정보 또는 기타 기밀 정보를 포함하지 않도록 조언할 수 있습니다.

대규모 언어 모델은 본질적으로 부적절하거나 모욕적이거나 안전하지 않을 수 있는 출력의 위험을 내포하고 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 노트의 제한 사항 섹션에서 이러한 위험을 설명합니다.

이러한 위험을 고려하여 안전하지 않은 출력이 발생하기 쉬운 사용 사례나 그러한 출력의 영향이 더 클 수 있는 사용 사례를 피하기 위해 AI 디자인 어시스턴트 기능을 신중하게 선택했습니다.

그럼에도 불구하고 출력물 중 일부가 안전하지 않을 수 있음을 배제할 수 없습니다. 위의 '정확도'에서 언급했듯이 교수자는 출력을 검토하도록 요청되며, 이는 안전하지 않은 출력의 위험을 줄이는 데 더욱 도움이 될 수 있습니다.

AI 디자인 어시스턴트와 관련된 커뮤니케이션의 일환으로, 고객은 강사에게 이러한 잠재적 제한 사항을 알려야 합니다.

클라이언트는 잠재적으로 안전하지 않은 결과물을 발견하면 소개에 나와 있는 채널을 통해 당사에 신고해야 합니다.

고객과 그 사용자의 생성형 AI 사용과 관련된 위험을 최소화하기 위해, 의도적으로 고객이 AI Design Assistant의 기능을 제어할 수 있도록 했습니다. 따라서 AI 디자인 어시스턴트는 선택적 기능입니다. 관리자는 AI 디자인 도우미를 활성화해야 하며, 그런 다음 각 기능을 개별적으로 활성화할 수 있습니다. 또한 AI 디자인 어시스턴트를 전체적으로 또는 개별 기능별로 비활성화할 수도 있습니다.

또한 교수자가 출력물을 제어합니다. 텍스트 출력을 검토하도록 요청되며 텍스트 출력을 편집할 수 있습니다.

AI 디자인 도우미에는 학습자 또는 다른 개인에게 법적 또는 기타 중대한 영향을 미칠 수 있는 자동화된 의사 결정이 포함되지 않습니다.

고객이 프로덕션 환경에서 AI Design Assistant를 활성화하기 전에 AI Design Assistant 및 기본 Azure OpenAI Service의 기능 및 제한 사항을 이해할 수 있도록, 여기에 제공된 정보 링크를 포함하여 이 문서를 자세히 검토하는 것이 좋습니다.

대규모 언어 모델에는 본질적으로 편향되거나 부적절하거나 Anthology의 가치 또는 고객과 학습자의 가치에 부합하지 않는 결과물에 대한 위험이 있습니다. Microsoft는 Azure OpenAI Service Transparency Note의 제한 사항 섹션에서 이러한 위험에 대해 설명합니다.

또한 대규모 언어 모델은 (광범위한 목적을 위해 사용되는 모든 기술과 마찬가지로) 일반적으로 Anthology, 당사의 고객 또는 해당 최종 사용자, 더 넓게는 사회의 가치에 부합하지 않는 사용 사례(예: 범죄 활동, 유해하거나 부적절한 결과물 생성)에 오용될 수 있는 위험이 존재합니다.

이러한 리스크를 고려하여 잘못된 출력의 위험을 최소화하는 방식으로 AI 디자인 어시스턴트 기능을 신중하게 설계하고 구현했습니다. 예를 들어, 학습자보다는 강사를 위한 기능에 중점을 두었습니다. 또한 잠재적으로 위험도가 높은 기능은 의도적으로 생략했습니다. ·

Microsoft는 남용 및 유해 콘텐츠 생성을 방지하기 위해 콘텐츠 필터링 기능의 일부로 프롬프트 및 출력을 검토합니다.

대규모 언어 모델은 본질적으로 지적 재산권의 잠재적 침해와 관련된 위험을 내포하고 있습니다. 전 세계 대부분의 지적 재산권 법률은 대규모 언어 모델의 출현과 그 사용으로 인해 발생하는 문제의 복잡성을 완전히 예상하거나 이에 적응하지 못했습니다. 그 결과, 현재 이러한 모델의 사용으로 인해 발생하는 지적 재산권 문제와 위험을 다루는 명확한 법적 프레임워크나 지침이 없습니다.

궁극적으로 해당 AI 디자인 어시스턴트가 생성한 출력물에 대해 지적재산권 침해 가능성이 있는지 검토하는 것은 고객의 책임입니다. 특정 인물의 스타일로 출력을 요청하거나 저작권 또는 상표가 있는 항목과 유사한 출력을 요청하는 메시지는 침해 위험이 높은 출력을 초래할 수 있다는 점에 유의하세요.

Anthology에는 AI의 합법적, 윤리적, 책임감 있는 사용을 보장하도록 설계된 신뢰할 수 있는 AI 프로그램이 있습니다. 명확한 내부 책임과 체계적인 윤리적 AI 검토 또는 AI 설계 도우미에서 제공하는 기능과 같은 기능은 이 프로그램의 핵심 축입니다.

AI 디자인 어시스턴트를 제공하기 위해 Microsoft와 파트너십을 맺어 AI 디자인 어시스턴트를 구동하는 Azure OpenAI Service를 활용했습니다. Microsoft는 AI의 윤리적 사용에 대한 오랜 약속을 해왔습니다.

고객은 내부 정책, 절차 및 제3자 AI 적용 검토를 도입하여 법적이고 윤리적이며 책임감 있는 AI 사용을 보장해야 합니다. 이 정보는 AI Design Assistant에 대한 고객의 검토를 지원하기 위해 제공됩니다.

Anthology의 신뢰할 수 있는 AI 접근 방식

Microsoft의 책임 있는 AI 페이지

Azure OpenAI Service에 대한 Microsoft의 투명성 참고 사항

Azure OpenAI Service의 데이터, 개인 정보 보호, 보안에 대한 Microsoft 페이지