AI 대화 — 투명성 안내

신뢰할 수 있는 AI에 대한 당사의 일반적인 접근 방식이나, 이 페이지를 고객에게 더 유용하게 만드는 방법에 대한 질문 또는 피드백이 있으시면trustworthy-ai@anthology.com으로이메일을 보내주십시오.

고객 지원 티켓을 통해 AI 대화 기능 및 결과물에 대한 질문이나 피드백을 제출해 주십시오.

블랙보드 관리자 콘솔에서 AI 대화가 AI 지원 기능임을 명확히 밝힙니다.

강사용 사용자 인터페이스에서 AI 대화 기능은 명확히 AI 기능으로 표시되어 있다. 교수자들은 학생들에게 제공하기 전에 대화를 미리 보고 체험할 수 있는 권한을 부여받습니다.

이 문서에서는 AI 대화 및 Azure OpenAI 서비스 모델의 작동 방식뿐만 아니라, 마이크로소프트가 투명성 노트를 통해 Azure OpenAI 서비스에 관한 추가 정보를 제공한다는 점도 설명하고 있습니다.

AI 대화에서 AI 사용에 대해 투명하게 알리며 교수자, 학생 및 기타 이해관계자에게 이 문서와 연결된 문서에서 적절한 정보를 제공할 것을 권장합니다.

블랙보드 관리자 콘솔에서 AI 대화는 AI가 지원하는 기능이며, 부정확하거나 원치 않는 결과를 낼 수 있기 때문에 이런 결과는 반드시 검토해야 한다고 명시합니다.

사용자 인터페이스와 교수자 미리보기, 그리고 AI 대화 기능을 사용하는 학생들에게 답변이 AI에 의해 생성되어 편향되거나 부정확할 수 있다는 점을 알립니다.

교수자는 AI 페르소나의 성격 특성이 반응 및 학생과의 상호작용에 영향을 주어 결과물의 신뢰성과 정확성(환각 위험 증가 포함)에 영향을 미칠 수 있다는 점을 인지해야 합니다. 강사는 성격 특성(personality traits)을 신중하게 선택하고 대화를 미리보기 해야 합니다. 기능 설명을 참고하시기 바랍니다.

Azure OpenAI 서비스 투명성 고지(Transparency Note)의'제한 사항(Limitations)' 섹션에 상세히 설명된 바와 같이, 부정확한 결과물(환각(hallucinations) 포함)의 위험이 존재합니다. AI 대화의 구체적인 특징과 구현은 부정확성을 최소화하는 것을 목표로 하지만 정확성, 편향 및 기타 잠재적 문제에 대한 검토는 고객의 책임입니다. AI 대화에 우려가 있다면 학생들과 함께 사용할 필요가 없습니다. 과정 선택은 교수자의 재량에 따른 기능입니다.

클라이언트는 앞서 말한 바와 같이, 의도된 사용 사례를 넘어서는 출력을 프롬프트를 통해 요청해서는 안 되며, 이는 부정확한 결과(예: 참조나 출처 요청 등)를 초래할 수 있습니다.

고객은 AI 대화의 일환으로 교수자와 학생들에게 잠재적 한계와 위험을 알려야 합니다.

교수자들은 생성 워크플로우에 추가된 프롬프트와 설정을 사용하여 AI 대화에 더 많은 맥락을 제공함으로써 정렬과 정확성을 향상시킬 수 있다.

고객은 노트 서두에 명시된 채널을 통해 부정확한 출력을 보고할 수 있습니다.

대규모 언어 모델은 본질적으로 고정관념, 과대 또는 과소 대표 및 기타 해로운 편향과 관련된 위험을 내포하고 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지(Transparency Note)의 '제한 사항(Limitations)' 섹션에서 이러한 위험들을 설명하고 있습니다.https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations

위험을 고려하여 AI 대화 기능을 신중히 선택해 해로운 편향에 취약하거나 영향이 클 수 있는 사용 사례를 피하였습니다.

교수자들은 AI 페르소나의 성격 특성이 학생들과의 반응 및 상호작용을 형성하고, 고정관념, 과잉대표 또는 과소대표, 기타 해로운 편향 등을 낳을 수 있다는 것을 인지해야 합니다. 강사는 성격 특성(personality traits)을 신중하게 선택하고 대화를 미리보기 해야 합니다. 더 자세한 내용은 기능 설명을 참조하십시오.

그럼에도 불구하고, 일부 결과물이 유해한 편향(harmful bias)의 영향을 받을 가능성을 배제할 수 없습니다. "정확성"과 같이 교수자들은 활동을 검토하라는 요청을 받으며, 이것은 해로운 편향을 줄이는 데 도움이 될 수 있다.

고객은 교수자에게 AI 대화의 잠재적 한계를 알리는 것이 의사소통의 일부입니다.

고객은 노트 서두에 명시된 연락 채널을 통해 잠재적으로 해로운 편향을 저희에게 보고할 수 있습니다.

"핵심 사실" 섹션에서 설명한 바와 같이, AI 대화에서는 제한된 개인정보만 사용되며 이는 마이크로소프트가 접근할 수 있습니다. 본 섹션은 또한 개인 정보의 사용과 관련하여 당사와 Microsoft의 약속을 설명합니다. AI 대화의 특성상 생성된 결과물에 포함된 개인정보도 제한될 것으로 예상됩니다.

Blackboard SaaS 제품은 ISO 27001/27017/27018 및 ISO 27701 인증을 획득했습니다. 이 자격증에는 Anthology가 관리하는 AI 대화와 관련된 개인정보가 포함되어 있습니다. Anthology의 데이터 개인 정보 보호 및 보안 접근 방식에 대한 자세한 정보는 당사의 Trust Center(신뢰 센터)에서 확인하실 수 있습니다. https://www.anthology.com/trust-center/data-privacy-approach

Microsoft는 Azure OpenAI 서비스의 데이터, 개인 정보 보호, 보안 에 대한 설명서의 데이터 개인 정보 보호 및 보안 관행과 약속을 설명합니다.

데이터 개인 정보 보호에 대한 Anthology 및 Microsoft의 약속과 관계없이 입력을 사용하여 모델을 재교육하지 않는 경우 고객은 강사와 학생에게 프롬프트 또는 대화에 개인 정보 또는 기타 기밀 정보를 포함하지 말라고 조언 할 수 있습니다.

대규모 언어 모델은 본질적으로 부적절하거나 불쾌한, 또는 안전하지 않은 출력을 생성할 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지(Transparency Note)의 '제한 사항(Limitations)' 섹션에서 이러한 위험들을 설명하고 있습니다.https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations

AI 대화 기능을 선택할 때 이러한 위험을 고려하여 위험한 출력이 발생할 가능성이 높거나 그 영향이 클 수 있는 사용 사례를 피하였습니다.

교수자는 AI 페르소나의 성격 특성이 학생과의 반응 및 상호작용에 영향을 미치고 부적절하거나 불쾌하거나 안전하지 않은 결과를 초래할 수 있음을 인식해야 합니다. 강사는 성격 특성(personality traits)을 신중하게 선택하고 대화를 미리보기 해야 합니다. 더 자세한 내용은 기능 설명을 참조하십시오.

AI 대화 출력 중 일부가 안전하지 않을 가능성도 배제할 수 없음에도 불구하고. 위의 '정확성(Accuracy)' 항목에서 언급된 바와 같이, 강사들은 결과물을 검토하도록 요청되며, 이는 안전하지 않은 결과물 발생 위험을 추가적으로 줄이는 데 도움이 될 수 있습니다.

고객은 AI 대화의 일환으로 교수자 및 학생들이 이 잠재적 한계를 인지하도록 해야 합니다.

고객은 노트 서두에 명시된 채널을 통해 잠재적으로 안전하지 않은 출력물을 보고해 주시기 바랍니다.

생성형 AI 사용으로 인한 위험을 고객 및 사용자들에게 최소화하기 위하여, AI 대화 기능을 고객이 직접 통제할 수 있도록 의도적으로 설계하였습니다. AI 대화는 선택 가능한 기능이다. 관리자는 AI 대화 기능을 활성화해야 하며, 각 기능을 개별적으로 활성화할 수 있습니다. AI 대화 전체나 개별 기능을 비활성화할 수 있습니다.

AI 대화는 학습자나 다른 개인에게 법적 또는 중대한 영향을 미치는 자동화된 의사결정을 포함하고 있지 않습니다.

고객은 AI 대화 기능 및 기본 Azure OpenAI 서비스를 이해하기 위해 이 문서를 면밀히 검토하고 운영 환경에서 AI 대화를 활성화할 것을 권장합니다.

대형 언어 모델은 본질적으로 편향되거나 부적절하거나 Anthology의 가치나 고객 및 학습자의 가치와 일치하지 않는 결과물을 생성할 위험이 있습니다. Microsoft는 Azure OpenAI 서비스 투명성 고지(Transparency Note)의 '제한 사항(Limitations)' 섹션에서 이러한 위험들을 설명하고 있습니다.https://learn.microsoft.com/en-us/legal/cognitive-services/openai/transparency-note?tabs=text#limitations

대형 언어 모델(광범위한 목적을 위한 모든 기술과 마찬가지로)은 앤솔로지, 고객 또는 최종 사용자, 그리고 더 넓은 사회의 가치(예: 범죄 활동이나 해롭거나 부적절한 산출물 생성)와 일치하지 않는 사용 사례에 오용될 위험이 있습니다.

AI 대화 기능을 설계 및 구현하는 과정에서 출력 불균형의 위험을 최소화하기 위해 신중을 기했습니다. 또한 잠재적으로 부담이 큰 기능들은 의도적으로 생략했습니다.

Microsoft는 또한 오용 및 유해한 콘텐츠 생성을 방지하기 위해 콘텐츠 필터링 기능의 일부로 프롬프트 및 출력을 검토합니다.

언어 모델의 대규모 사용은 본질적으로 지적 재산권 침해와 관련된 위험을 내포하고 있습니다. 전 세계 대부분의 지적 재산권 법률은 거대 언어 모델(LLMs)의 출현과 그 사용으로 인해 발생하는 문제의 복잡성을 완전히 예측하거나 이에 적응하지 못했습니다." 현재 이 모델 사용으로 인한 지적 재산권 문제와 위험을 다루는 명확한 법적 틀이나 지침이 부재한 상태입니다.

고객은 AI 대화가 생성한 결과물을 검토하여 잠재적인 지적 재산권 침해 여부를 확인할 책임이 있다. 특정인의 스타일로 결과물을 요청하는 프롬프트나 저작권 또는 상표권이 있는 항목과 유사해 보이는 결과물을 요청하는 프롬프트는 침해 위험이 고조된(높아진) 결과물을 초래할 수 있음을 유념하십시오.

앤솔로지는 AI를 합법적이고 윤리적이며 책임감 있게 사용할 수 있도록 설계된 신뢰할 수 있는 AI 프로그램을 운영하고 있습니다. AI 대화와 같은 체계적인 윤리적 AI 검토 또는 기능은 프로그램의 핵심 축이며, 명확한 내부 책임성을 제공합니다.

우리는 AI 대화를 제공하기 위해 마이크로소프트와 협력하여 Azure OpenAI 서비스를 활용했습니다. Microsoft는 AI의 윤리적 사용에 대한 오랜 약속 을 가지고 있습니다.

고객은 내부 정책, 절차 및 제3자 AI 애플리케이션에 대한 검토를 도입하여 법적, 윤리적, 책임 있는 AI 사용을 보장해야 합니다. 고객 리뷰를 지원하기 위해 AI 대화에 대한 이 정보를 제공합니다.

Anthology의 신뢰할 수 있는 AI 접근 방식

Anthology의 생성 AI 기능 목록

Microsoft의 책임 있는 AI 페이지

Microsoft Azure Vision Service용 투명성 메모

Azure Vision 서비스의 데이터, 개인 정보 보호, 보안 에 대한 Microsoft 페이지