AI 대화 — 투명성 고지

신뢰할 수 있는 AI에 대한 일반적인 접근 방식이나 이 페이지를 고객에게 더 유용하게 만드는 방법에 대한 질문 또는 피드백은 trustworthy-ai@blackboard.com으로 이메일을 보내 주시기 바랍니다.

AI 대화의 기능 또는 출력에 대한 질문이나 피드백은 고객 지원 티켓을 제출하시기 바랍니다.

Blackboard 관리자 콘솔에서 AI 대화가 AI 지원 기능임을 명확히 밝힙니다.

교수자용 사용자 인터페이스에서 AI 대화 기능은 AI 기능으로 명확히 표시되어 있습니다. 교수자는 학생에게 공개하기 전에 대화를 미리 보고 시험해 볼 수 있습니다.

이 문서에서 제공하는 AI 대화 및 Azure OpenAI 서비스 모델의 작동 방식에 대한 정보 외에도, Microsoft는 투명성 고지에서 Azure OpenAI 서비스에 대한 추가 정보를 제공합니다.

고객은 AI 대화에서의 AI 사용에 대해 투명하게 알리고, 교수자, 학생 및 기타 이해관계자에게 이 문서와 여기에 연결된 문서의 관련 정보를 적절히 제공할 것을 권장합니다.

Blackboard 관리자 콘솔에서 AI 대화는 부정확하거나 원치 않는 출력을 생성할 수 있는 AI 지원 기능이며 이러한 출력은 항상 검토해야 한다고 명확히 밝힙니다.

사용자 인터페이스, 교수자 미리보기 및 AI 대화를 사용하는 학생에게 응답이 AI로 생성되므로 편향되거나 부정확할 수 있다는 점을 알립니다.

역할극: 교수자는 AI 페르소나의 성격 특성이 학생에 대한 응답과 상호작용을 결정하며 출력의 신뢰성과 정확성에 영향을 미칠 수 있다는 점(환각 위험 증가 포함)을 인지해야 합니다. 교수자는 성격 특성을 신중하게 선택하고 대화를 미리 확인해야 합니다. 자세한 내용은 기능 설명을 참조하시기 바랍니다.

Azure OpenAI 서비스 투명성 고지의 제한 사항 섹션에 자세히 설명된 바와 같이 부정확한 출력(환각 포함)의 위험이 있습니다. AI 대화의 고유한 특성과 Blackboard의 구현 방식은 부정확성을 최소화하도록 설계되었지만, 출력의 정확성, 편향 및 기타 잠재적 문제를 검토하는 것은 고객의 책임입니다. 우려 사항이 있는 경우 학생과 함께 AI 대화를 사용할 필요는 없습니다. 이는 교수자의 재량에 따라 사용하는 코스의 선택적 기능입니다.

앞서 언급했듯이 고객은 의도된 사용 사례를 벗어나는 출력을 프롬프트로 요청해서는 안 됩니다. 특히 이는 부정확한 출력으로 이어질 수 있습니다(예: 참고 자료나 출처를 요청하는 경우).

고객은 AI 대화에 대한 안내의 일환으로 교수자와 학생이 이러한 잠재적 한계와 위험을 인지하도록 해야 합니다.

교수자는 생성 워크플로의 추가 프롬프트와 설정을 사용하여 AI 대화에 더 많은 맥락을 제공함으로써 의도와의 일치도와 정확성을 높일 수 있습니다.

고객은 이 고지의 서두에 나열된 채널을 통해 부정확한 출력을 Blackboard에 보고할 수 있습니다.

AI 대화의 경우: 대화 중에 생성된 콘텐츠는 학생에게 전달되기 전에 교수자가 검토하지 않으므로 부정확한 콘텐츠가 학생에게 전달될 수 있습니다. 선택한 코스 콘텐츠를 기반으로 대화를 진행하면 이러한 위험이 줄어들지만 완전히 없어지지는 않습니다. 교수자는 제출 후 대화 기록을 검토하며, 이 활동을 공식 평가가 아닌 비공식적인 연습으로 취급해야 합니다.

대규모 언어 모델에는 본질적으로 고정관념, 과대 또는 과소 대표 및 기타 유해한 편향과 관련된 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지의 제한 사항 섹션에서 이러한 위험을 설명합니다.

이러한 위험을 고려하여 유해한 편향이 발생하기 쉽거나 그 영향이 클 수 있는 사용 사례를 피하도록 AI 대화 기능을 신중하게 선택했습니다.

역할극: 교수자는 AI 페르소나의 성격 특성이 학생에 대한 응답과 상호작용을 결정하며, 고정관념, 과대 또는 과소 대표 및 기타 유해한 편향이 포함된 출력이 생성될 수 있다는 점을 인지해야 합니다. 교수자는 성격 특성을 신중하게 선택하고 대화를 미리 확인해야 합니다. 자세한 내용은 기능 설명을 참조하시기 바랍니다.

그럼에도 불구하고 일부 출력이 유해한 편향의 영향을 받을 가능성은 배제할 수 없습니다. 위의 ‘정확성’에서 언급했듯이 교수자는 활동을 검토해야 하며, 이는 유해한 편향을 줄이는 데 도움이 될 수 있습니다.

고객은 AI 대화에 대한 안내의 일환으로 교수자가 이러한 잠재적 한계를 인지하도록 해야 합니다.

고객은 이 고지의 서두에 나열된 연락 채널을 통해 잠재적으로 유해한 편향을 Blackboard에 보고할 수 있습니다.

위의 ‘주요 사실’ 섹션에서 설명한 바와 같이 AI 대화에는 제한된 개인 정보만 사용되며 Microsoft가 액세스할 수 있는 개인 정보도 제한적입니다. 이 섹션에서는 개인 정보 사용과 관련한 Blackboard와 Microsoft의 약속도 설명합니다. AI 대화의 특성상 생성된 출력에 포함되는 개인 정보도 제한적일 것으로 예상됩니다.

당사의 Blackboard LMS 제품은 ISO 27001/27017/27018 및 ISO 27701 인증을 받았습니다. 이러한 인증에는 Blackboard가 관리하는 AI 대화 관련 개인 정보가 포함됩니다. Blackboard의 데이터 개인 정보 보호 및 보안 접근 방식에 대한 자세한 내용은 Trust Center에서 확인할 수 있습니다.

Microsoft는 Azure OpenAI 서비스의 데이터, 개인 정보 보호 및 보안 문서에서 데이터 개인 정보 보호 및 보안 관행과 약속을 설명합니다.

데이터 개인 정보 보호 및 입력을 모델 재학습에 사용하지 않는다는 Blackboard와 Microsoft의 약속과 관계없이, 고객은 교수자와 학생에게 프롬프트나 대화에 개인 정보 또는 기타 기밀 정보를 포함하지 않도록 안내할 수 있습니다.

대규모 언어 모델에는 본질적으로 부적절하거나 불쾌하거나 안전하지 않은 출력이 생성될 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지의 제한 사항 섹션에서 이러한 위험을 설명합니다.

이러한 위험을 고려하여 안전하지 않은 출력이 발생하기 쉽거나 그 영향이 클 수 있는 사용 사례를 피하도록 AI 대화 기능을 신중하게 선택했습니다.

역할극: 교수자는 AI 페르소나의 성격 특성이 학생에 대한 응답과 상호작용을 결정하며, 부적절하거나 불쾌하거나 안전하지 않은 출력이 생성될 수 있다는 점을 인지해야 합니다. 교수자는 성격 특성을 신중하게 선택하고 대화를 미리 확인해야 합니다. 자세한 내용은 기능 설명을 참조하시기 바랍니다.

그럼에도 불구하고 AI 대화 출력의 일부가 안전하지 않을 가능성은 배제할 수 없습니다. 위의 ‘정확성’에서 언급했듯이 교수자는 출력을 검토해야 하며, 이는 안전하지 않은 출력의 위험을 줄이는 데 더욱 도움이 될 수 있습니다.

고객은 AI 대화에 대한 안내의 일환으로 교수자와 학생이 이러한 잠재적 한계를 인지하도록 해야 합니다.

고객은 이 고지의 서두에 나열된 채널을 통해 잠재적으로 안전하지 않은 출력을 Blackboard에 보고해야 합니다.

고객과 사용자의 생성형 AI 사용과 관련된 위험을 최소화하기 위해 AI 대화 기능을 고객이 직접 제어하도록 의도적으로 설계했습니다. 따라서 AI 대화는 옵트인 기능입니다. 관리자가 AI 대화를 활성화해야 하며, 이후 각 기능을 개별적으로 활성화할 수 있습니다. 또한 AI 대화 전체 또는 개별 기능을 비활성화할 수도 있습니다.

AI 대화에는 학습자나 다른 개인에게 법적 또는 기타 중대한 영향을 미칠 수 있는 자동화된 의사 결정이 포함되어 있지 않습니다.

운영 환경에서 AI 대화를 활성화하기 전에 AI 대화와 기반이 되는 Azure OpenAI 서비스의 기능과 한계를 이해할 수 있도록 여기에 제공된 정보 링크를 포함하여 이 문서를 꼼꼼히 검토할 것을 권장합니다.

AI 대화의 경우: 대화 중에 생성된 콘텐츠는 학생에게 전달되기 전에 교수자가 검토하지 않으므로 부정확한 콘텐츠가 학생에게 전달될 수 있습니다. 선택한 코스 콘텐츠를 기반으로 대화를 진행하면 이러한 위험이 줄어들지만 완전히 없어지지는 않습니다. 교수자는 제출 후 대화 기록을 검토하며, 이 활동을 공식 평가가 아닌 비공식적인 연습으로 취급해야 합니다.

대규모 언어 모델에는 본질적으로 편향되거나 부적절하거나 Blackboard 또는 고객 및 학습자의 가치와 부합하지 않는 출력과 관련된 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지의 제한 사항 섹션에서 이러한 위험을 설명합니다.

또한 대규모 언어 모델은 (광범위한 목적에 사용되는 모든 기술과 마찬가지로) Blackboard, 고객 또는 최종 사용자, 그리고 더 넓게는 사회의 가치와 부합하지 않는 사용 사례(예: 범죄 활동, 유해하거나 부적절한 출력 생성)에 오용될 위험이 있습니다.

이러한 위험을 고려하여 가치와 부합하지 않는 출력의 위험을 최소화하는 방식으로 AI 대화 기능을 신중하게 설계하고 구현했습니다. 또한 잠재적으로 중대한 결과를 초래할 수 있는 기능은 의도적으로 제외했습니다.

또한 Microsoft는 오용 및 유해한 콘텐츠 생성을 방지하기 위해 콘텐츠 필터링 기능의 일환으로 프롬프트와 출력을 검토합니다.

대규모 언어 모델에는 본질적으로 지적 재산권 침해 가능성과 관련된 위험이 있습니다. 전 세계 대부분의 지적 재산권 법률은 대규모 언어 모델의 출현과 그 사용으로 인해 발생하는 문제의 복잡성을 완전히 예상하거나 이에 적응하지 못했습니다. 그 결과, 현재 이러한 모델 사용으로 인해 발생하는 지적 재산권 문제와 위험을 다루는 명확한 법적 체계나 지침이 없습니다.

궁극적으로 AI 대화가 생성한 출력에 지적 재산권 침해 가능성이 있는지 검토하는 것은 고객의 책임입니다. 특정인의 스타일로 출력을 요청하거나 저작권 또는 상표권이 있는 항목과 유사한 출력을 요청하는 프롬프트는 침해 위험이 높은 출력을 초래할 수 있다는 점에 유의하십시오.

Blackboard는 AI의 합법적이고 윤리적이며 책임감 있는 사용을 보장하기 위해 설계된 신뢰할 수 있는 AI 프로그램을 운영하고 있습니다. 명확한 내부 책임 체계와 AI 대화가 제공하는 기능 등에 대한 체계적인 윤리적 AI 검토가 이 프로그램의 핵심 축입니다.

AI 대화를 제공하기 위해 Blackboard는 Microsoft와 협력하여 AI 대화를 구동하는 Azure OpenAI 서비스를 활용합니다. Microsoft는 AI의 윤리적 사용을 오랫동안 약속해 왔습니다.

고객은 자체적으로 AI를 합법적이고 윤리적이며 책임감 있게 사용할 수 있도록 내부 정책, 절차 및 타사 AI 애플리케이션 검토 체계를 마련하는 것을 고려해야 합니다. 이 정보는 고객의 AI 대화 검토를 지원하기 위해 제공됩니다.

Blackboard의 신뢰할 수 있는 AI 접근 방식

Blackboard의 생성형 AI 기능 목록

Microsoft의 책임 있는 AI 페이지

Azure Vision 서비스에 대한 Microsoft의 투명성 고지

Azure Vision 서비스의 데이터, 개인 정보 보호 및 보안에 대한 Microsoft 페이지