Illuminate Data S&A - AI Şeffaflığı
The lawful, ethical, and responsible use of artificial intelligence (AI) is a key priority for Anthology. Therefore, we've developed and implemented a Trustworthy AI program. You can find information on our program and general approach to Trustworthy AI in our Trust Center and List of Generative AI Features.
As part of our Trustworthy AI principles, we commit to transparency, explainability, and accountability. This page is intended to provide the necessary transparency and explainability to help our clients with their implementation of the Illuminate Data Q&A. We recommend that administrators carefully review this page and ensure that the relevant users are aware of the considerations and recommendations below before activating the Illuminate Data Q&A functionalities for their institution.
How to contact us:
For questions or feedback on our general approach to Trustworthy AI or how we can make this page more helpful for our clients, please email us at trustworthy-ai@anthology.com.
For questions or feedback about the functionality or output of the Illuminate Data Q&A , please submit a client support ticket via Anthology Support.
Yapay zeka destekli işlevler
Illuminate Data S&A özelliği, Data Q&A panelinde sunulan verilerin yapay zeka tarafından oluşturulmuş metin özetini sunar ve bu özet kullanıcının isteğiyle oluşturulur. Anthology, bu işlevselliği sağlamak için AWS ile ortaklık kurmuştur; bunun bir nedeni de AWS'nin yapay zekanın sorumlu kullanımına kararlı olmasıdır.
Illuminate Data Soru-Cevap özelliği, aşağıdaki üretken yapay zeka destekli işlevleri sağlar:
Veri özeti ve öneri oluşturma: Panoda görüntülenen verilerin yapay zeka tarafından oluşturulan metin özeti, kullanıcının sorusuna göre otomatik olarak oluşturulur. Bu özellik, veri isteğini iyileştirecek alternatif soruları da önerir.
Not
Bu işlevler, Amazon Q/Amazon Bedrock'ın sınırlamalarına ve kullanılabilirliğine tabi olup, değişebilir. Ayrıntılar için ilgili sürüm notlarını inceleyin.
Temel Bilgiler
Soru | Yanıt |
|---|---|
Yapay zeka sistemleri hangi Illuminate işlevlerinde kullanılır? | Yukarıda listelenen Veri Soru-Cevap özelliği. |
Bu, üçüncü taraflarca desteklenen bir yapay zeka sistemi mi? | Evet. Illuminate Data Soru-Cevap özelliği, Amazon Q tarafından destekleniyor ve QuickSight Amazon Q da Amazon Bedrock'tan faydalanıyor. QuickSight'ta Amazon Q, Amazon Bedrock aracılığıyla Anthropic Claude'u ve Amazon Titan'ı (yanı sıra da AWS tarafından geliştirilen makine öğrenimi modellerinin bir karışımını) kullanır. |
Yapay zeka sistemi nasıl çalışır? | Illuminate Data Soru-Cevap her zaman Amazon QuickSight'a (doğal dil işleme yeteneklerine sahip bir BI aracı) dayanmıştır. Illuminate, yeni üretken yapay zeka özellikleri için ayrıca QuickSight İçin Amazon Q'ya güvenmektedir. Illuminate Data Q&A, QuickSight İçin Amazon Q'nun yardımıyla Data Q&A panosunda görüntülenen verilerin özetini otomatik olarak oluşturur. Bu özellik, veri isteğini iyileştirecek alternatif soruları da önerir. Amazon Q, bu özellikleri sağlamak için Amazon Bedrock'taki Anthropic Claude ve Amazon Titan'dan (yanı sıra da AWS makine öğrenimi modellerinden) yararlanır. QuickSight'ta Amazon Q, özetleri oluşturmak ve soruları önermek için pano görsellerindeki kullanıcı sorularını ve özet verilerini bir API aracılığıyla ilgili AWS Bedrock modeline iletir. |
Yapay zeka sistemi nerede barındırılıyor? | Amazon QuickSight'ın ve Amazon Bedrock'ın barındırıldığı yer, Amazon tarafından belirlenir. Amazon QuickSight, genel olarak Illuminate ile aynı bölgelerde kullanıma sunulmaktadır. Amazon Bedrock şu anda AB'de ve ABD'de kullanılabildiğinden, AB'deki ve ABD'deki müşterilerimiz için sırasıyla bu bölgelerden yararlanılmaktadır. Üretken yapay zeka modelinin çıktısı, Illuminate'te veya QuickSight'ta Amazon Q'da/Amazon Bedrock'ta kalıcı olarak depolanmayan geçici özetlerden ve alternatif sorulardan oluşur. |
Bu isteğe bağlı bir işlev mi? | Evet. Yöneticilerin, Illuminate'in Ayarlar sayfasında kurumları adına kaydolmaları gerekir. Ayrıntılar için "Anthology Illuminate Ayarları" konusunu ziyaret edin. |
Yapay zeka sistemi nasıl eğitilir? | Anthology, Illuminate Data Q&A'nın işlevlerini Amazon Bedrock aracılığıyla destekleyen Anthropic Claude ve Amazon Titan modellerinin eğitiminde yer almaz. Bu modeller, sırasıyla Anthropic (Anthropic Claude) ve Amazon (Amazon Titan) tarafından eğitilir. Anthology, kendisine veya müşterilerine ait verileri kullanarak bu modelleri iyileştirmez. |
Müşteri verileri yapay zeka sistemini (yeniden) eğitmek için kullanılıyor mu? | Hayır. Amazon, Amazon Bedrock'taki büyük dil modellerinin yeniden eğitilmesi için herhangi bir girişi veya çıktıyı kullanmamayı herkese açık belgelerinde taahhüt eder. Amazon, aşağıdaki "Daha fazla bilgi" bölümünde yer alan bağlantılarda büyük dil modellerinin nasıl eğitildiği hakkında bilgi sağlamaktadır. Veri girişleri ve çıkışları, aktarım ve bekleme sırasında şifrelenir. |
Anthology, Illuminate Data Q&A'nın sağlanmasıyla ilgili olarak kişisel bilgileri nasıl kullanıyor? | Anthology, Illuminate Data Q&A'yı sağlamak, sürdürmek ve desteklemek için yalnızca Illuminate Data Q&A ile bağlantılı olarak ve bunu yapmak için sözleşmeye dayalı izne sahip olduğumuz durumlarda toplanan bilgileri kullanır. Anthology'nin veri gizliliğine yaklaşımı hakkında daha fazla bilgiyi Güven Merkezimizde bulabilirsiniz. |
Üçüncü taraf destekli bir yapay zeka sistemi söz konusu olduğunda, üçüncü taraf kişisel bilgileri nasıl kullanacak? | Özelliğin sağlanması için, yalnızca sınırlı kullanıcı soruları ve pano görsellerindeki özet veriler QuickSight İçin Amazon Q'dan Amazon Bedrock'a aktarılır. Ne Amazon ne de herhangi bir Amazon Bedrock modeli sağlayıcısı, Amazon Bedrock modellerini iyileştirmek için herhangi bir Anthology verisini veya Anthology müşteri verisini kullanmaz Amazon Bedrock Güvenliği ve Gizliliği ile ilgili veri gizliliği uygulamaları hakkında daha fazla bilgiyi AWS Yapay Zeka Güvenliği Sayfası, AWS Makine Öğrenimi Blogu, QuickSight'ta Amazon Q'ya genel bakış, AWS, QuickSight'ta Amazon Q'yu duyurdu (blog makalesi) ve Amazon Bedrock Güvenliği ve Gizliliği sayfalarındaki Amazon belgelerinde bulabilirsiniz. |
Illuminate Data Q&A tasarımında erişilebilirlik dikkate alındı mı? | Illuminate Data Q&A özelliği, Amazon QuickSight'tan yararlanır. Bu bir üçüncü taraf özelliği olduğundan, erişilebilirlik Anthology yerine Amazon tarafından değerlendirilmiştir. Amazon, erişilebilirlik uyumluluk raporlarını AWS Erişilebilirlik sayfaları aracılığıyla kullanıma sunar. |
Dikkat edilmesi gerekenler ve kurumlar için öneriler
Amaçlanan kullanım örnekleri
Illuminate Data Q&A'nın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerini Data Q&A raporlarını analiz etme ve geliştirme konularında desteklemek amacıyla sağlanmıştır.
Kapsam dışı kullanım örnekleri
Illuminate Data Q&A, şu anda üretken yapay zeka modellerine doğrudan talimat verebilecek soru sorma veya benzeri bir işlev sağlamamaktadır. Bu nedenle, istenmeyen (kapsam dışı) kullanım biçimleri öngörmüyoruz.
Güvenilir yapay zeka ilkelerinin kullanımı
Anthology ve Amazon, yapay zekanın yasal, etik ve sorumlu şekilde kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde; yapay zekanın yasal, etik ve sorumlu şekilde kullanımıyla ilgili riski ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için Anthology ile Amazon'un birlikte nasıl çalıştığı açıklanmaktadır. Ayrıca müşterilerimizin yapay zekayı kullanırken etikle ilgili risklerinin yasal olarak ele alınması konusunda göz önünde bulundurabilecekleri adımlar önerilmektedir.
Şeffaflık ve Açıklanabilirlik
Illuminate yönetim yapılandırma seçeneklerinde, bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir.
Eğitmenlere yönelik kullanıcı arayüzünde, Illuminate Data Q&A işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin, kullanmadan önce metin çıktısını gözden geçirmeleri de talep edilmektedir. Illuminate Data Q&A işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Illuminate kullanım raporunda, otomatik olarak oluşturulan içeriğe özgü bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.
Bu belgede Illuminate Data Q&A özelliğinin QuickSight'ta Amazon Q ile nasıl çalıştığına ilişkin verilen bilgilere ek olarak, Amazon da aşağıdaki "Daha fazla bilgi" bölümündeki bağlantılarda Amazon Q ve Amazon Bedrock hakkında daha fazla bilgi sağlamaktadır.
Müşterilerimizi, Illuminate Data Q&A içinde yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ediyoruz.
Güvenilirlik ve doğruluk
Illuminate'in Illuminate Ayarları sayfasında, bunun yanlış veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir işlevsellik olduğunu ve bu tür çıktıların mutlaka son kullanıcı tarafından gözden geçirilmesi gerektiğini açıkça belirtiyoruz.
Kullanıcı arayüzünde, kullanıcılardan metin çıktısının doğruluğunu gözden geçirmeleri istenir.
Amazon Bedrock SSS'lerinde ayrıntılı olarak açıklandığı gibi, hatalı çıktı riski vardır. Illuminate Data Q&A işlevinin kendine özgü yapısı ve uygulamalarımız yanlışlıkları en aza indirmeyi amaçlasa da, çıktıyı doğruluk, ön yargı ve diğer olası sorunlar açısından gözden geçirmekten müşterilerimiz sorumludur.
Kullanıcılar, Soru-Cevap isteminde kullanılan soruları veya ifadeyi yeniden düzenleyerek hatalı çıktıyı kolayca yeniden oluşturabilir.
Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.
Tarafsızlık
Büyük dil modelleri, doğası gereği genelleme, aşırı veya eksik temsil ve diğer zararlı ön yargı biçimleri ile ilgili riskler taşır.
Bu riskler göz önüne alınmış ve zararlı ön yargıya daha yatkın olabilecek veya bu tür ön yargıların etkisinin daha önemli olabileceği kullanım biçimlerinden kaçınmak için Illuminate Data Q&A işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının zararlı ön yargıdan etkilenebileceği göz ardı edilemez. Yukarıda 'Doğruluk' başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da zararlı ön yargıları azaltmaya yardımcı olabilir.
Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı ön yargıları bize bildirebilir.
Gizlilik ve Güvenlik
Yukarıdaki "Temel bilgiler" bölümünde açıklandığı gibi, yalnızca sınırlı kullanıcı soruları ve özet veriler Illuminate Data Q&A'da kullanılır ve Amazon'un erişimine sunulur. Bu bölümde ayrıca herhangi bir kişisel bilginin kullanımı konusunda bizim ve Microsoft'un taahhüdü de açıklamaktadır.
Amazon, verilerle ilgili gizlilik/güvenlik uygulamalarını ve taahhütlerini Amazon Bedrock Güvenliği ve Gizliliği hakkındaki belgelerde açıklamaktadır.
Emniyet
Büyük dil modelleri, yapıları gereği uygunsuz, saldırgan veya başka bir şekilde güvensiz olabilecek çıktılar üretme riski taşır. Amazon, bu riskleri Amazon'un Sorumlu Yapay Zeka sayfasının Sınırlamalar bölümünde açıklamaktadır.
Bu riskler göz önüne alınmış ve güvensiz çıktılara daha yatkın olabilecek veya bu tür çıktıların ön yargıların etkisinin daha önemli olabileceği kullanım biçimlerinden kaçınmak için Illuminate Data Q&A işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" bölümünde belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenmektedir. Bu, güvenli olmayan çıktı riskini daha da azaltmaya yardımcı olabilir.
Müşteriler, Illuminate Data Q&A ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.
Kontrolün insanlarda olması
Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, Illuminate Data Q&A işlevlerinin denetimini bilerek müşterilere veririz. Illuminate Data Q&A, bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, Illuminate Data Q&A'yı istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.
Buna ek olarak, çıktının denetimi de eğitmenlerin elindedir. Yani, kendilerinden metin çıktısını gözden geçirmeleri istenir ve gerektiğinde çıktıyı yeniden oluşturabilirler.
Illuminate Data Q&A, öğrenciler veya diğer bireyler üzerinde yasal ya da başka bir şekilde önemli etkisi olabilecek herhangi bir otomatik karar verme mekanizması içermez.
Müşterilerimizi, Illuminate Data Q&A üretken yapay zeka özelliğini etkinleştirmeden önce, Illuminate Data Q&A'nın ve temel aldığı QuickSight'ta Amazon Q'nun yeteneklerini ve sınırlamalarını anladıklarına emin olmak için bu belgeyi ve içinde sağlanan bilgi bağlantılarını dikkatle incelemeye teşvik ediyoruz.
Değer hizalaması
Büyük dil modellerinin yapısı gereği; ön yargılı, uygunsuz veya Anthology'nin ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılar üretilme riski vardır. Amazon, bu riskleri aşağıdaki 'daha fazla bilgi' bölümünde bağlantılı website'lerde açıklamaktadır.
Büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi) ek olarak; Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım biçimleri yoluyla kötüye kullanılma riski taşır (örneğin; suç faaliyetleri için ya da zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).
Bu riskleri göz önüne alınmış ve Illuminate Data Q&A işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Potansiyel olarak yüksek risk taşıyan işlevlere de özellikle yer verilmemiştir.
Fikri mülkiyet
Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanacak sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya kılavuz bulunmamaktadır.
Dolayısıyla, Illuminate Data Q&A tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.
Erişilebilirlik
Illuminate Data Q&A'yı, tıpkı Learn'de ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. Illuminate Data Q&A'nın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.
Illuminate Data Q&A özelliği, Amazon QuickSight'tan yararlanır. AWS, erişilebilirlik uyumluluk raporlarını AWS Erişilebilirlik sayfaları aracılığıyla kullanıma sunar.
Sorumluluk
Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Illuminate Data Q&A tarafından sağlananlar gibi yapay zeka işlevlerinin sistematik olarak ve etik açıdan incelenmesi programın temel direkleridir.
Illuminate Data Q&A'yı hizmete sunarken, QuickSight'ta Amazon Q'dan yararlanmak için Amazon Q ile ortaklık kurduk. AWS, yapay zekanın sorumlu kullanımını taahhüt etmektedir .
Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhili politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin Illuminate Data Q&A üretken yapay zeka özelliklerini incelemesini desteklemek amacıyla sağlanmıştır.
Daha fazla bilgi
Anthology'nin Güvenilir Yapay Zeka Yaklaşımı
Amazon'un Sorumlu Yapay Zeka sayfası
Amazon'un Bedrock SSS'leri
Amazon'un Bedrock Güvenlik ve Gizlilik sayfası
Amazon'un Yapay Zeka Güvenliği Sayfası
Amazon'un Makine Öğrenimi Blog
Amazon'un QuickSight'ta Q genel özeti
AWS, QuickSight'ta Amazon Q'yu duyurdu (blog makalesi)