Blackboard AI Design Assistant

블랙보드 관리자 콘솔에서 이것이 AI 지원 기능임을 명확히 밝힙니다.

강사용 사용자 인터페이스에서 AI 설계 보조 기능은 명확하게 ‘생성’ 기능으로 표시되어 있다. 강사님들께서는 사용하기 전에 텍스트 출력물을 검토해 주실 것을 요청드립니다.

AI 설계 어시스턴트 기능이 생성한 결과물의 메타데이터에는 자동 생성된 콘텐츠와 교수자가 이후에 편집했는지 여부를 확인할 수 있는 필드가 포함되어 있습니다.

AI 설계 도우미 및 Azure OpenAI 서비스 모델의 작동 방식에 대한 이 문서에 제공된 정보 외에도 Microsoft는 투명성 노트 에 Azure OpenAI 서비스에 대한 추가 정보를 제공합니다.

AI 설계 어시스턴트에서 AI 사용에 대해 고객에게 투명하게 알리고, 이 문서 및 연결된 문서에서 관련 정보를 교수자와 이해관계자에게 적절히 제공할 것을 권장합니다.

Blackboard 관리자 콘솔에서 이 기능이 AI 기반으로 제공되며 부정확하거나 원치 않는 결과가 생성될 수 있으므로 반드시 검토해야 함을 명확히 안내하고 있습니다.

교수자들은 사용자 인터페이스를 통해 텍스트 출력물의 정확성을 검토하도록 요청받습니다.

Azure OpenAI 서비스 투명성 노트의 제한 사항에 자세히 설명된 바와 같이 부정확한 출력(환각 포함)의 위험이 존재합니다. AI 설계 어시스턴트와 구현의 특성상 부정확성을 최소화하기 위한 것이지만 정확성, 편향 및 기타 잠재적 문제를 검토하는 것은 고객의 책임입니다.

클라이언트는 앞서 언급한 바와 같이, 의도된 사용 사례를 넘어서는 출력을 프롬프트를 통해 요청해서는 안 되며, 이는 부정확한 결과(예: 참조나 출처 요청 등)를 초래할 수 있습니다.

AI 디자인 지원(AI Design Assistant)과 관련된 커뮤니케이션의 일환으로, 고객은 강사들에게 이러한 잠재적 제한 사항을 숙지시켜야 합니다.

교수자들은 AI 설계 보조기능에 추가적인 프롬프트와 설정을 활용하여 더 많은 맥락을 제공하고 정렬 및 정확성을 향상시킬 수 있다.

교수진은 Blackboard에 있는 기존 워크플로우를 활용하여 AI 설계 어시스턴트의 결과물을 수동으로 수정한 다음 학생들에게 공개할 수 있다.

고객은 소개에 나열된 채널을 통해 부정확한 출력을 저희에게 신고할 수 있습니다.

대규모 언어 모델은 본질적으로 고정관념, 과잉대표 및 과소대표, 그리고 기타 해로운 편향과 관련된 위험을 내포하고 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지(Transparency Note)의 '제한 사항(Limitations)' 섹션에서 이러한 위험들을 설명하고 있습니다.https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations

AI 설계 보조 기능을 신중히 선택하여 해로운 편향에 취약하거나 그 영향이 클 수 있는 사용 사례를 피했습니다.

그럼에도 불구하고, 일부 결과물이 유해한 편향(harmful bias)의 영향을 받을 가능성을 배제할 수 없습니다. 교수자들은 앞서 언급한 '정확성' 항목에서처럼 결과물을 검토하여 해로운 편향을 줄이는 데 도움을 줄 수 있습니다.

AI 디자인 지원(AI Design Assistant)과 관련된 커뮤니케이션의 일환으로, 고객은 강사들에게 이러한 잠재적 제한 사항을 숙지시켜야 합니다.

고객은 서론에 명시된 연락 채널을 통해 잠재적으로 해로운 편향을 저희에게 보고할 수 있습니다.

'핵심 사실' 섹션에서 설명한 바와 같이, AI 설계 어시스턴트는 제한된 개인정보만을 사용하며, 이는 마이크로소프트가 접근 가능합니다. 본 섹션은 또한 개인 정보의 사용과 관련하여 당사와 Microsoft의 약속을 설명합니다. AI 설계 보조기능은 생성된 결과물에 포함된 개인정보도 제한할 것으로 예상됩니다.

Blackboard SaaS 제품은 ISO 27001/27017/27018 인증을 획득했으며, 현재 ISO 27701 인증을 위한 작업을 진행하고 있습니다. 이 자격증에는 Anthology가 관리하는 AI 설계 어시스턴트와 관련된 개인 정보가 포함되어 있습니다. 트러스트 센터에서 앤솔로지 데이터 프라이버시 및 보안 접근 방식에 관한 자세한 정보를 확인할 수 있습니다.

Microsoft는 Azure OpenAI 서비스의 데이터, 개인 정보 보호, 보안 에 대한 설명서의 데이터 개인 정보 보호 및 보안 관행과 약속을 설명합니다.

데이터 개인 정보 보호에 대한 Anthology 및 Microsoft의 약속과 관계없이 모델을 (재) 훈련하기 위해 입력을 사용하지 않는 경우, 고객은 교수자에게 프롬프트에 개인 정보 또는 기타 기밀 정보를 포함하지 말라고 조언 할 수 있습니다.

대규모 언어 모델은 본질적으로 부적절하거나 불쾌하거나 안전하지 않은 출력을 생성할 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 노트의 제한 사항 섹션에서 이러한 위험을 설명합니다.

AI 설계 보조 기능을 신중히 선택하여 위험한 결과물이 발생하거나 그 영향이 클 수 있는 사용 사례를 피하였습니다.

일부 출력물이 안전하지 않을 가능성을 배제할 수는 없습니다. 앞서 언급한 ‘정확성’ 항목에서 교수자들은 산출물을 검토할 것을 요청받으며, 이는 안전하지 않은 산출물의 위험을 줄이는 데 더욱 도움이 됩니다.

AI 디자인 지원(AI Design Assistant)과 관련된 커뮤니케이션의 일환으로, 고객은 강사들에게 이러한 잠재적 제한 사항을 숙지시켜야 합니다.

고객은 소개된 채널을 통해 잠재적으로 안전하지 않은 출력물을 보고해야 합니다.

생성형 AI 사용으로 인한 위험을 고객 및 사용자에게 최소화하기 위해, 의도적으로 AI 설계 어시스턴트 기능을 고객이 직접 통제할 수 있도록 하고 있습니다. AI 설계 보조기능은 선택이 가능합니다. 관리자는 AI 설계 보조기능을 활성화한 후 각 기능을 개별적으로 활성화할 수 있다. AI 설계 어시스턴트 전체나 개별 기능을 비활성화할 수도 있습니다.

교수자들은 결과물을 통제한다. 텍스트 출력물을 검토하고 편집할 수 있습니다.

AI 설계 어시스턴트에는 학습자나 다른 개인에게 법적이거나 중대한 영향을 미치는 자동화된 의사결정 기능이 포함되어 있지 않습니다.

고객은 AI 설계 보조 도구 및 기본 Azure OpenAI 서비스의 기능과 한계를 충분히 이해한 다음, 본 문서에 포함된 정보 링크를 꼼꼼히 검토하시기를 권장합니다.

대형 언어 모델은 본질적으로 편향되거나 부적절하거나 Anthology의 가치나 고객 및 학습자의 가치와 일치하지 않는 결과물을 생성할 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지(Transparency Note)의 '제한 사항(Limitations)' 섹션에서 이러한 위험들을 설명하고 있습니다.https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations

대형 언어 모델(광범위한 목적을 수행하는 모든 기술과 마찬가지로)은 Anthology, 고객 또는 최종 사용자, 그리고 더 넓은 사회의 가치(예: 범죄 행위, 해로운 또는 부적절한 출력 생성)에 부합하지 않는 용도로 오용될 위험이 있다.

이러한 위험을 고려하여, 우리는 부적절한 출력이 발생할 가능성을 최소화하도록 AI Design Assistant 기능을 신중하게 설계하고 구현했습니다. 예를 들어, 학습자보다는 교수자를 위한 기능성에 더 집중해 왔습니다. 또한 잠재적으로 부담이 큰 기능들은 의도적으로 생략했습니다.

Microsoft는 또한 오용 및 유해한 콘텐츠 생성을 방지하기 위해 콘텐츠 필터링 기능의 일부로 프롬프트 및 출력을 검토합니다.

언어 모델의 대규모 사용은 본질적으로 지적 재산권 침해와 관련된 위험을 내포하고 있습니다. 전 세계 대부분의 지적 재산권 법률은 거대 언어 모델(LLMs)의 출현과 그 사용으로 인해 발생하는 문제의 복잡성을 완전히 예측하거나 이에 적응하지 못했습니다." 현재 이 모델 사용으로 인한 지적 재산권 문제와 위험을 다루는 명확한 법적 틀이나 지침이 부재한 상태입니다.

고객은 AI 설계 어시스턴트가 생성한 결과물을 검토할 책임이 있다. 특정인의 스타일로 결과물을 요청하는 프롬프트나 저작권 또는 상표권이 있는 항목과 유사해 보이는 결과물을 요청하는 프롬프트는 침해 위험이 고조된(높아진) 결과물을 초래할 수 있음을 유념하십시오.

앤솔로지는 AI를 합법적이고 윤리적이며 책임감 있게 사용할 수 있도록 설계된 신뢰할 수 있는 AI 프로그램을 운영하고 있습니다. 명확한 내부 책임성 및 AI 설계 보조원이 제공하는 기능과 같은 체계적이고 윤리적인 AI 검토 기능은 프로그램의 핵심 축입니다.

우리는 AI 디자인 어시스턴트를 제공하기 위해 마이크로소프트와 협력하여 AI 디자인 어시스턴트를 구동하는 Azure OpenAI 서비스를 활용했습니다. Microsoft는 AI의 윤리적 사용에 대한 오랜 약속을 가지고 있었습니다.

고객은 내부 정책, 절차 및 제3자 AI 적용 검토를 도입하여 법적이고 윤리적이며 책임감 있는 AI 사용을 보장해야 합니다. 고객들이 AI 디자인 어시스턴트를 평가하는 데 도움이 되도록 이 정보를 제공합니다.

앤솔로지의 신뢰할 수 있는 AI 접근법

Microsoft의 책임 있는 AI 페이지

Microsoft의 투명성 참고 자료 - Azure OpenAI 서비스용

Azure OpenAI Service의 데이터, 개인 정보 보호, 보안에 대한 Microsoft 페이지