데이터 Q&A 조명: AI 투명성
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
AI 지원 기능
Illuminate Data Q&A 기능은 사용자 프롬프트에서 생성된 Data Q&A 대시보드에 제시된 데이터에 대해 AI가 생성한 텍스트 요약을 제공합니다. 앤솔로지는 AWS와 협력하여 이 기능을 제공하는데, 그 이유는 AWS가 AI의 책임 있는 사용에 전념하기 때문이다.
Illuminate Data Q&A 기능은 다음과 같은 생성형 AI 지원 기능을 제공합니다:
데이터 요약 및 제안 생성: 대시보드에 표시되는 데이터를 기반으로 AI가 사용자 요청에 따라 자동으로 텍스트 요약을 생성합니다. 대체 프롬프트를 통해 데이터 요청을 정제하는 방안을 제안합니다.
참고
이 기능들은 Amazon Q/Amazon Bedrock의 제한 및 이용 가능성에 따라 변경될 수 있습니다. 관련 릴리스 노트에서 자세한 내용을 확인하십시오.
주요 사실
질문 | 대답 |
|---|---|
AI 시스템에서는 어떤 Illuminate 기능들이 사용되나요? | 언급된 데이터 Q&A 기능입니다. |
네, 이것은 서드파티 지원 AI 시스템입니다. | 예. Illuminate Data Q&A 기능은 Amazon QuickSight의 Q에서 구동되며, QuickSight는 Amazon Bedrock을 활용한다. QuickSight의 Amazon Q는 Anthropic Claude와 Amazon Titan, 그리고 AWS가 개발한 머신러닝 모델을 Amazon Bedrock을 통해 사용합니다. |
AI 시스템은 어떻게 작동하는지 알고 싶으신가요? | Amazon QuickSight(BI 도구)의 자연어 처리 기능에 항상 의존해온 Illuminate Data Q&A입니다. 일루미네이트는 새로운 생성형 AI 기능을 위해 Amazon Q를 활용하여 QuickSight를 사용하고 있습니다. Amazon QuickSight의 Q for QuickSight 기능을 통해 Illuminate Data Q&A는 대시보드에 표시되는 데이터 요약을 자동으로 생성합니다. 대체 프롬프트를 통해 데이터 요청을 정제하는 방안을 제안합니다. Amazon Q는 Amazon Bedrock 내에서 Anthropic Claude와 Amazon Titan(및 추가적인 AWS 머신러닝 모델)을 활용해 이 기능을 제공합니다. QuickSight의 Amazon Q는 대시보드 시각화에서 API를 통해 사용자 프롬프트와 요약 데이터를 해당 AWS Bedrock 모델로 전달하여 요약 생성 및 프롬프트 제안을 합니다. |
AI 시스템 호스팅 위치는 어디인가요? | Amazon QuickSight 및 Amazon Bedrock 호스팅은 Amazon에서 결정합니다. Amazon QuickSight는 일반적으로 Illuminate와 같은 지역에서 구입할 수 있습니다. Amazon Bedrock은 현재 EU와 미국에서 이용 가능하여, 각각의 지역 고객이 이를 활용하고 있습니다. 생성형 AI 모델의 출력은 Illuminate나 QuickSight, Bedrock의 Amazon Q에 영구적으로 저장되지 않고 임시 요약 및 대체 프롬프트로 구성됩니다. |
이것은 옵트인(Opt-in) 기능입니까? | 예. Illuminate 설정 페이지에서 교육기관을 대표해 참여해야 할 관리자입니다. 자세한 내용은 “Anthology Illuminate 설정” 주제를 방문하세요. |
AI 시스템은 어떤 과정을 통해 훈련되나요? | 앤솔로지는 Anthropic Claude 및 Amazon Titan 모델이 Illuminate Data Q&A 기능을 구동하는 데 사용되는 학습에 관여하지 않습니다. 이 모델들은 각각 Anthropic(Anthropic Claude) 및 Amazon(Amazon Titan)에서 학습됩니다. 앤솔로지는 자체나 고객 데이터를 사용하여 이 모델을 더 정교하게 다듬지 않습니다. |
클라이언트 데이터는 AI 시스템 재학습에 사용되나요? | 아니요, 아마존은 공개 문서에서 대형 언어 모델을 재학습하는 과정에서 어떠한 입력이나 출력도 사용하지 않겠다고 약속합니다. "추가 정보" 섹션에 있는 링크를 통해 대형 언어 모델 훈련 방법에 대한 정보를 확인할 수 있습니다. 모든 데이터 입력 및 출력은 전송 중과 휴지 시에 암호화됩니다. |
앤솔로지는 Illuminate Data Q&A 제공과 관련하여 개인정보를 어떻게 활용하는지 설명해 주세요. | 앤솔로지는 계약에 따라 허가된 경우에만 수집된 정보를 사용하여 일루미네이트 데이터 Q&A를 제공하고 유지 및 지원합니다. 앤솔로지 데이터 프라이버시 접근 방식에 대한 자세한 정보는 트러스트 센터에서 확인할 수 있습니다. |
제3자가 지원하는 AI 시스템에서, 제3자는 개인정보를 어떻게 사용할까요? | Amazon Q for QuickSight에서 Amazon Bedrock으로 전달되는 사용자 프롬프트와 대시보드 시각화 요약 데이터는 제한적으로만 전달되어 기능을 제공합니다. 아마존이나 아마존 베드록 모델 제공 업체는 아마존 베드록 모델 개선을 위해 앤솔로지 데이터나 고객 데이터를 사용하지 않습니다. Amazon Bedrock의 보안 및 개인정보 보호 관련 데이터 프라이버시 관행에 대한 자세한 내용은 AWS AI 보안 페이지, AWS 머신러닝 블로그, Amazon Q in QuickSight 개요, AWS 발표 QuickSight 블로그 기사 및 Amazon Bedrock Security and Privacy 페이지에서 확인할 수 있습니다. |
데이터 Q&A 설계에 접근성이 고려되었습니까? | Illuminate Data Q&A 기능은 Amazon QuickSight를 활용합니다. 이 기능은 서드파티 기능이므로 접근성은 앤솔로지보다 아마존이 더 고려했습니다. 아마존은 AWS 접근성 페이지에서 접근성 적합성 보고서를 제공합니다. |
교육 기관에 대한 고려 사항 및 권고사항
의도된 사용 사례
Illuminate Data Q&A는 위에서 언급한 기능들을 지원하기 위해 존재합니다. 고객의 교수진이 데이터 Q&A 보고서 분석 및 개선을 지원하기 위해 이 기능들이 제공되었습니다.
범위를 벗어난 사용 사례
Illuminate Data Q&A는 현재 생성형 AI 모델을 직접 지시할 수 있는 프롬프트 기능이나 유사한 기능을 제공하지 않습니다. 이 때문에 의도하지 않은 사용 사례는 예상하지 않습니다.
AI 원칙의 신뢰성 있는 실천
앤솔로지와 아마존은 AI를 합법적이며 윤리적으로, 그리고 책임감 있게 사용하는 것이 핵심 우선순위라고 믿습니다. 이 섹션에서는 앤솔로지와 아마존이 AI의 법적, 윤리적 및 책임 있는 사용에 따른 위험을 해결하고 앤솔로지 신뢰받는 AI 원칙을 어떻게 구현했는지 설명합니다. 고객이 AI 도입 시 윤리적 AI 위험에 대한 법적 검토를 수행할 때 고려해야 할 단계를 제안합니다.
투명성 및 설명 가능성
Illuminate 관리 설정 옵션에서 이것이 AI가 지원하는 기능임을 분명히 밝혔습니다.
강사용 인터페이스에서 'Illuminate Data Q&A' 기능은 분명히 '생성' 기능으로 표시되어 있습니다. 강사님들께서는 사용하기 전에 텍스트 출력물을 검토해 주실 것을 요청드립니다. Illuminate Data Q&A 기능으로 생성된 출력물의 메타데이터는 각 고객의 Illuminate 사용 보고서에서 자동 생성된 콘텐츠 필드와 함께 표시됩니다. 강사가 출력물을 편집했는지 여부도 확인할 수 있습니다.
이 문서는 Illuminate Data Q&A 기능이 QuickSight에서 Amazon Q와 상호 작용하는 방법뿐만 아니라, "추가 정보" 섹션에 있는 링크를 통해 Amazon Q 및 Amazon Bedrock에 대한 추가 정보도 제공합니다.
고객들이 Illuminate Data Q&A에서 AI 사용에 대해 투명하게 알리고, 이 문서 및 여기에 연결된 문서에서 관련 정보를 강사와 기타 이해관계자에게 적절히 제공하도록 권장합니다.
신뢰성과 정확성
Illuminate 설정 페이지에서 이 기능은 AI 지원 기능으로, 부정확하거나 원치 않는 결과를 낼 수 있으며, 이러한 결과는 반드시 최종 사용자가 검토해야 함을 명시하고 있습니다.
사용자 인터페이스에서 사용자에게 텍스트 출력의 정확성을 검토해 달라는 요청이 있습니다.
아마존 베드락 FAQ에서 자세히 설명하고 있듯이, 출력에 부정확성의 위험이 있습니다. Illuminate Data Q&A와 구현의 구체적인 특성은 부정확성을 최소화하기 위한 것이지만, 정확성, 편향 및 기타 잠재적 문제를 검토하는 것은 고객의 책임입니다.
사용자는 Q&A 프롬프트에 사용된 질문이나 문구를 재구성하여 부정확한 출력을 쉽게 재생성할 수 있습니다.
Illuminate Data Q&A와 관련된 커뮤니케이션의 일환으로, 고객사는 강사들에게 이러한 잠재적 제한 사항을 인지하도록 안내해야 합니다.
고객은 소개에 나열된 채널을 통해 부정확한 출력을 저희에게 신고할 수 있습니다.
공정
대규모 언어 모델은 본질적으로 고정관념, 과잉대표 및 과소대표와 같은 해로운 편향의 위험을 내포하고 있습니다.
이러한 위험을 고려할 때, Illuminate Data Q&A 기능을 신중하게 선택하여 해로운 편향에 취약하거나 그러한 편향의 영향이 클 수 있는 사용 사례를 피했습니다.
그럼에도 불구하고, 일부 결과물이 유해한 편향(harmful bias)의 영향을 받을 가능성을 배제할 수 없습니다. 강사들은 앞서 언급한 '정확성'을 유지하기 위해 결과물을 검토하도록 요청받으며, 이는 해로운 편향을 줄이는 데 도움이 될 수 있다.
Illuminate Data Q&A와 관련된 커뮤니케이션의 일환으로, 고객사는 강사들에게 이러한 잠재적 제한 사항을 인지하도록 안내해야 합니다.
고객은 서론에 명시된 연락 채널을 통해 잠재적으로 해로운 편향을 저희에게 보고할 수 있습니다.
프라이버시 및 보안
"핵심 사실" 섹션에서 설명한 바와 같이, 일루미네이트 데이터 Q&A는 제한된 사용자 프롬프트 및 요약 데이터만을 사용하며 아마존에서 접근 가능합니다. 이 섹션은 또한 저희와 아마존이 개인정보 사용에 대해 약속한 내용을 설명합니다.
아마존은 Amazon Bedrock Security and Privacy 문서를 통해 데이터 프라이버시 및 보안 관행과 약속을 설명합니다.
안전
대규모 언어 모델은 본질적으로 부적절하거나 불쾌한, 또는 안전하지 않은 출력을 생성할 위험이 있습니다. 아마존은 책임 있는 AI 페이지의 '제한 사항' 섹션에서 이러한 위험을 설명합니다.
이러한 위험을 고려하여, Illuminate Data Q&A 기능을 신중히 선택해 위험한 출력이 더 취약하거나 영향이 클 수 있는 사용 사례를 피하였습니다.
일부 출력물이 안전하지 않을 가능성을 배제할 수는 없습니다. "정확성" 섹션에서 언급한 바와 같이, 교수자들은 결과물을 검토할 것을 요청받으며, 이는 안전하지 않은 출력 위험을 줄이는 데 도움이 될 수 있습니다.
Illuminate Data Q&A와 관련된 커뮤니케이션의 일환으로, 고객사는 강사들에게 이러한 잠재적 제한 사항을 인지하도록 안내해야 합니다.
고객은 소개된 채널을 통해 잠재적으로 안전하지 않은 출력물을 보고해야 합니다.
인간이 통제하는 과정
고객이 Illuminate Data Q&A 기능을 직접 통제할 수 있도록 함으로써 생성형 AI 사용의 위험을 최소화하고자 했습니다. 일루미네이트 데이터 Q&A는 선택 가능한 기능입니다. 관리자는 언제든지 Illuminate Data Q&A를 활성화하거나 비활성화할 수 있다.
교수자는 출력물을 통제하기 때문에, 검토하고 필요하면 재생성할 수 있습니다.
Illuminate Data Q&A에는 학습자나 다른 개인에게 법적 또는 중대한 영향을 미칠 수 있는 자동화된 의사결정이 포함되어 있지 않습니다.
고객은 생성형 AI 기능을 활성화하기 전에 Illuminate Data Q&A와 QuickSight의 기본 Amazon Q&A 기능 및 한계를 이해하기 위해 이 문서를 신중히 검토할 것을 권장합니다.
가치 정렬
대형 언어 모델은 본질적으로 편향되거나 부적절하거나 Anthology의 가치나 고객 및 학습자의 가치와 일치하지 않는 결과물을 생성할 위험이 있습니다. "추가 정보" 섹션에 있는 링크된 웹사이트에서 아마존이 이러한 위험을 설명하고 있습니다.
대형 언어 모델(광범위한 목적을 위한 모든 기술과 마찬가지로)은 앤솔로지, 고객 또는 최종 사용자, 그리고 더 넓은 사회의 가치(예: 범죄 활동이나 해롭거나 부적절한 산출물 생성)와 일치하지 않는 사용 사례에 오용될 위험이 있습니다.
출력 불일치 위험을 최소화하기 위해, Illuminate Data Q&A 기능을 신중하게 설계하고 구현했습니다. 고부담 기능들을 의도적으로 생략했습니다.
지적 재산
언어 모델의 대규모 사용은 본질적으로 지적 재산권 침해와 관련된 위험을 내포하고 있습니다. 전 세계 대부분의 지적 재산권 법률은 대규모 언어 모델의 등장 및 사용으로 인해 발생하는 복잡한 문제들을 완전히 예측하거나 적응하지 못했습니다. 현재 이 모델 사용으로 인한 지적 재산권 문제와 위험을 다루는 명확한 법적 틀이나 지침이 부재한 상태입니다.
Illuminate Data Q&A에서 생성된 결과물을 검토하는 것은 의뢰인의 책임입니다.
접근성
Illuminate Data Q&A를 Learn 및 기타 제품들과 마찬가지로 접근성을 고려하여 설계 및 개발하였습니다. Illuminate Data Q&A 공개 이전에, 의미 구조, 내비게이션, 키보드 제어, 라벨, 맞춤형 컴포넌트, 이미지 워크플로우 등 다양한 분야에서 접근성을 의도적으로 개선했습니다. AI 활용을 통해 접근성을 최우선으로 삼을 것입니다.
Illuminate Data Q&A 기능은 Amazon QuickSight를 활용합니다. AWS는 AWS 접근성 페이지를 통해 접근성 적합성 보고서를 제공합니다.
책임성
앤솔로지는 AI를 합법적이고 윤리적이며 책임감 있게 사용할 수 있도록 설계된 신뢰할 수 있는 AI 프로그램을 운영하고 있습니다. 명확한 내부 책임성 및 'Illuminate Data Q&A'에서 제공하는 기능과 같은 기능에 대한 체계적이고 윤리적인 AI 검토는 프로그램의 핵심 축이다.
데이터 Q&A를 제공하기 위해 Amazon과 협력하여 Amazon QuickSight의 Q를 활용했습니다. AWS는 AI 책임 있는 사용에 전념하고 있습니다.
고객은 내부 정책, 절차 및 제3자 AI 애플리케이션에 대한 검토를 도입하여 법적, 윤리적, 책임 있는 AI 사용을 보장해야 합니다. 고객들이 Illuminate Data Q&A 생성형 AI 기능을 검토할 수 있도록 이 정보를 제공합니다.
추가 정보
앤솔로지의 신뢰할 수 있는 AI 접근법
아마존의 책임 있는 인공지능 페이지
아마존의 Bedrock 자주 묻는 질문
아마존의 Bedrock 보안 및 개인정보 보호 페이지
아마존의 AI 보안 페이지를 방문하세요.
아마존의 머신러닝 블로그입니다.
QuickSight의 아마존 Q 개요
AWS가 QuickSight에서 Amazon Q를 발표하였습니다 (블로그 기사)