AI Alt Text Assistant
Şeffaflık Notu
Yapay zekanın (AI) yasal, etik ve sorumlu şekilde kullanımı, Anthology için önemli bir önceliktir. Bu nedenle, Güvenilir bir yapay zeka programı geliştirdik ve uyguladık. Programımız ve Güvenilir Yapay Zeka konusundaki genel yaklaşımımızla ilgili bilgileri Güven Merkezimizde, üretken yapay zeka özellikleri hakkında daha fazla bilgiyi ise Üretken yapay zeka özellikleri listemizde bulabilirsiniz.
Güvenilir Yapay Zeka ilkelerimizin bir parçası olarak şeffaflık, açıklanabilirlik ve sorumluluk taahhüt ediyoruz. Bu sayfada, müşterilerimize AI Alt Text Assistant'ın uygulanmasında yardımcı olmak için gerekli şeffaflığın ve açıklamaların sağlanması amaçlanmaktadır. Kurumunuz için AI Alt Text Assistant işlevlerini etkinleştirmeden önce yöneticilerin bu sayfayı dikkatle incelemesini ve eğitmenlerin aşağıdaki önemli noktalardan ve önerilerden haberdar olduğundan emin olmasını öneririz.
Bizimle nasıl iletişime geçeceksiniz:
Güvenilir Yapay Zeka konusundaki genel yaklaşımımız veya bu sayfayı müşterilerimiz için nasıl daha yararlı hale getirebileceğimiz hakkında sorularınız veya geri bildirimleriniz için lütfen trustworthyai@anthology.com adresinden bize e-posta gönderin.
AI Alt Text Assistant'ın işlevselliği veya çıktısı hakkında sorularınız ya da geri bildirimleriniz için lütfen müşteri destek bileti gönderin.
Yapay zeka destekli işlevler
AI Alt Text Assistant, Ally Eğitmen Geri Bildirimi iş akışı aracılığıyla eğitmenlere çevrim içi kurslarında kullanılan görüntüler için alternatif metin önerileri sunar. Eğitmenlere ilham vermek ve erişilebilirlik düzeltmelerini daha verimli hale getirmek için tasarlanmıştır.
Anthology, Ally'ın yapay zeka modelini daha da etkili önerilerin yanı sıra STEM, çizelgeler/grafikler, görüntülerdeki metinler ve el yazısıyla yazılmış görseller dahil olmak üzere daha karmaşık içerikler için görüntü açıklaması önerileri oluşturma becerisini güçlendirecek şekilde yükseltmek için AWS ile ortaklık kurdu. AWS Bedrock'un Claude modelleri tarafından desteklenen bu özellik, eğitmenlerin genellikle zorlu ve sorunlu görüntü içerikleri için etkili, alakalı ve özlü görüntü açıklamaları yazmalarına yardımcı olmak için gelişmiş analiz ve çıktılar sunar.
AI Alt Text Assistant, yapay zeka tarafından kolaylaştırılan aşağıdaki üretken işlevleri sağlar:
Görüntüler için alternatif bir metin oluşturun. Eğitmenler alternatif metin içermeyen görüntüleri düzeltirken Ally Eğitmen Geri Bildirimi içinde alternatif bir metin önerir.
Önemli
Bu işlevler, AWS Bedrock hizmetinin sınırlamalarına ve uygunluğuna tabidir ve değiştirilebilir. Ayrıntılar için lütfen ilgili sürüm notlarını kontrol edin.
Temel bilgiler
Soru | Yanıt |
|---|---|
Yapay zeka sistemleri hangi Ally işlevlerinde kullanılır? | Bir görüntü alternatif metin içermediği için Ally tarafından işaretlendiğinde Ally Eğitmen Geri Bildirimi panelinde yapay zeka aracılığıyla alternatif metin önerisi. |
Bu, üçüncü taraflarca desteklenen bir yapay zeka sistemi mi? | Evet - Yapay Zeka Alt Metin Asistanı AWS Bedrock Anthropic Claude Sonnet 3.5 tarafından desteklenmektedir |
Yapay zeka sistemi nasıl çalışır? | AI Alt Text Assistant, çıktıları otomatik olarak oluşturmak için AWS Bedrock Anthropic Claude Sonnet 3.5 modelini kullanır. Bu, AWS SDK aracılığıyla gönderilen alternatif bir metin oluşturmak için görsel kullanılarak elde edilir. Ayrıca, bir görsel zengin içerik ögesine gömüldüğünde çevresindeki metin içeriğine dayalı metin istemler iletme özelliğini de ekledik. Başka bilgi kullanılmaz (ör. kurs başlığı, kurs açıklaması). Görüntüler, AWS Bedrock modellerini eğitmek için kullanılmaz ve Bedrock, AI Alt Text Assistant'a yüklenen tüm görsellere göre çıktıyı oluşturur. |
Yapay zeka sistemi nerede barındırılıyor? | Anthology şu anda Amazon Bedrock için birden fazla AWS örneğini kullanıyor ve bu örnekler Amazon bölgesi uygunluğuna göre belirleniyor. AWS, Ally tarafından şu anda kullanılan Amazon Bedrock modeli (Claude Sonnet 3.5) için bölge kullanılabilirliğini Amazon Bedrock’ta AWS Bölgesine Göre Model Desteği sayfasında sunar. Belirli bir bölge kullanılamadığında, müşterilerimize AWS Bedrock için en iyi kullanılabilirlik seçeneğini sağlamak amacıyla zaman zaman ABD Doğu gibi diğer bölgelerdeki kaynakları kullanabiliriz. AI Alt Text Assistant tarafından oluşturulan tüm müşteri çıktıları, Anthology tarafından yönetilen mevcut Ally veritabanında depolanır. |
Bu isteğe bağlı bir işlev mi? | Evet. Yöneticilerin LMS Ally yapılandırma seçenekleri bölümünden AI Alt Text Assistant'ını etkinleştirmesi gerekir. Özellikler sekmesi altından, Görüntüler için alternatif açıklamaların yapay zeka tarafından oluşturulması ögesini seçin. Yöneticiler bu işlevi istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir. |
Yapay zeka sistemi nasıl eğitilir? | Anthology, Amazon Bedrock aracılığıyla AI Yapay Zeka Alternatif Metin Yardımcısı işlevlerini destekleyen Anthropic modelin eğitiminde yer almaz. Bu modeller Anthropic (Anthropic Claude) tarafından eğitilir. Anthology, bize veya müşterilerimize ait verileri kullanarak Azure Görüntü İşleme Hizmeti'nde daha başka ince ayarlar yapmaz. |
Müşteri verileri yapay zeka sistemini (yeniden) eğitmek için kullanılıyor mu? | Amazon, kamuya açık belgelerinde Amazon Bedrock içindeki büyük dil modellerinin (yeniden) eğitimi için herhangi bir girdi veya çıktı kullanmamayı taahhüt eder. Amazon, aşağıdaki 'Daha fazla bilgi' bölümünde yer alan bağlantılarda büyük dil modellerinin nasıl eğitildiği hakkında bilgi sağlamaktadır. Veri girişleri ve çıkışları, aktarım ve bekleme sırasında şifrelenir. |
Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı sisteminin sağlanmasıyla ilgili olarak kişisel bilgileri nasıl kullanır? | Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı ile bağlantılı olarak toplanan görüntüleri yalnızca Yapay Zeka AIternatif Metin Yardımcısı'nı sağlamak, sürdürmek ve desteklemek için kullanır. Anthology'in veri gizliliği konusundaki yaklaşımı hakkında daha fazla bilgiyi Anthology Güven Merkezi'nde bulabilirsiniz. |
Üçüncü taraf destekli bir yapay zeka sistemi söz konusu olduğunda, üçüncü taraf kişisel bilgileri nasıl kullanacak? | Anthology Ally, AI Alt Text Assistant ile bağlantılı olarak toplanan bir görüntüyü çevreleyen zengin içerikteki görüntüleri ve/veya bağlamsal verileri yalnızca AI Alt Text Assistant'ı sağlamak, sürdürmek ve desteklemek için kullanır. Anthology'in veri gizliliği konusundaki yaklaşımı hakkında daha fazla bilgiyi Anthology Güven Merkezi'nde bulabilirsiniz. Bu özelliği güçlendirirken yalnızca bir görseli çevreleyen zengin içerikteki görseller ve/veya içerikler kullanılır. AWS Bedrock ile daha fazla bilgi paylaşılmaz. Ne Amazon ne de herhangi bir Amazon Bedrock model sağlayıcısı, Amazon Bedrock modellerini geliştirmek için Anthology verilerini veya Anthology müşteri verilerini kullanır. Amazon Bedrock Güvenlik ve Gizlilik ile ilgili veri gizliliği uygulamaları hakkında daha fazla bilgiyi AWS AI Güvenlik Sayfası, AWS Makine Öğrenimi Blogu ve Amazon Bedrock Güvenlik ve Gizlilik sayfasındaki Amazon belgelerinde bulabilirsiniz. |
Yapay Zeka Alternatif Metin Sistemi'nin tasarımında erişilebilirlik dikkate alındı mı? | Evet, erişilebilirlik mühendislerimiz tasarımları gözden geçirmek, erişilebilirlikle ilgili önemli noktaları iletmek ve yeni özellikleri özellikle erişilebilirlik açısından test etmek için ürün ekipleriyle iş birliği yapmıştır. Erişilebilirliği, Güvenilir Yapay Zeka yaklaşımımızın ayrılmaz bir parçası olarak görmeye devam edeceğiz. |
Dikkat edilmesi gerekenler ve kurumlar için öneriler
Amaçlanan kullanım örnekleri
AI Alt Text Assistant'ın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerine, Ally tarafından işaretlenen görüntülerin erişilebilirlik sorunlarının düzeltilmesinde onları desteklemek için sağlanır.
Kapsam dışı kullanım örnekleri
AI Alt Text Assistant, kurstaki içeriğin bağlamına göre alternatif metni ayarlamak veya onaylamak yine eğitmene bağlı olduğundan, tüm görselleri mükemmel bir alternatif metinle erişilebilir hale getirmeyi amaçlamaz ve bunu garanti etmez.
Güvenilir yapay zeka ilkelerinin kullanımı
Anthology ve Microsoft, yapay zekanın yasal, etik ve sorumlu şekilde kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde; yapay zekanın yasal, etik ve sorumlu şekilde kullanımıyla ilgili riski ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için Anthology ile Microsoft'un birlikte nasıl çalıştığı açıklanmaktadır. Ayrıca müşterilerimizin yapay zekayı kullanırken etikle ilgili risklerinin yasal olarak ele alınması konusunda göz önünde bulundurabilecekleri adımlar önerilmektedir.
Şeffaflık ve Açıklanabilirlik
Ally yönetim yapılandırma seçeneklerinde bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir
Eğitmenlere yönelik kullanıcı arayüzünde, AI Alt Text Assistant işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin ayrıca kullanmadan önce metin çıktısını gözden geçirmeleri beklenir. AI Alt Text Assistant işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Ally kullanım raporunda, otomatik olarak oluşturulan içeriklerle ilgili bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.
AI Alt Text Assistant özelliğinin Amazon Bedrock ile nasıl çalıştığına dair bu belgede sağlanan bilgilere ek olarak Amazon, aşağıdaki "Daha fazla bilgi" bölümündeki bağlantılarda Amazon Bedrock hakkında ek bilgiler sağlar.
Müşterilerimizi, AI Alt Text Assistant'da yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ederiz.
Güvenilirlik ve doğruluk
Ally yönetim yapılandırma seçeneklerinde ve kullanım koşullarında, bunun hatalı veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir özellik olduğunu ve bu tür çıktıların her zaman eğitmen tarafından gözden geçirilmesi gerektiğini açıkça belirtiyoruz.
Kullanıcı arayüzünde, eğitmenlerden metin çıktısının doğruluğunu gözden geçirmeleri istenir.
Amazon Bedrock SSS bölümünde ayrıntılı olarak açıklandığı gibi, yanlış çıktı riski vardır. AI Alt Text Assistant'ın kendine özgü yapısı ve uygulamalarımız yanlışlıkları en aza indirmeyi amaçlasa da, doğruluk, ön yargı ve diğer olası sorunlar açısından çıktıyı gözden geçirmekten müşterilerimiz sorumludur.
Kullanıcılar, Soru-Cevap isteminde kullanılan soruyu veya ifadeyi yeniden ifade ederek hatalı çıktıyı kolayca yeniden oluşturabilirler.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.
Tarafsızlık
Büyük dil modelleri, doğası gereği genelleme, aşırı/eksik temsil ve diğer zararlı ön yargı biçimleri gibi riskler sunar.
Bu riskler göz önüne alındığında, zararlı ön yargıya daha yatkın olabilecek veya bu tür ön yargıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının zararlı ön yargıdan etkilenebileceği göz ardı edilemez. Yukarıda 'Doğruluk' başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da zararlı ön yargıları azaltmaya yardımcı olabilir.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı ön yargıları bize bildirebilir.
Gizlilik ve Güvenlik
Yukarıdaki 'Temel bilgiler' bölümünde açıklandığı gibi, AI Alt Text Assistant için yalnızca görüntü kullanılır ve Microsoft tarafından erişilebilir. Bu bölümde ayrıca herhangi bir kişisel bilginin kullanımı konusunda bizim ve Microsoft'un taahhüdü de açıklamaktadır.
Amazon, verilerle ilgili gizlilik/güvenlik uygulamalarını ve taahhütlerini Amazon Bedrock Güvenliği ve Gizliliği hakkındaki belgelerde açıklamaktadır.
Emniyet
Büyük dil modelleri yapıları gereği uygunsuz, saldırgan veya başka bir şekilde güvensiz olabilecek çıktılar gibi riskler taşır. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.
Bu riskler göz önüne alındığında, güvenli olmayan çıktılara daha yatkın olabilecek veya bu tür çıktıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da güvenli olmayan çıktı riskini azaltmaya daha fazla yardımcı olabilir.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.
Kontrolün insanlarda olması
Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, AI Alt Text Assistant'ın işlevlerinin kontrolünü bilerek müşterilere veririz. AI Alt Text Assistant bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, AI Alt Text Assistant'ını istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.
Buna ek olarak, çıktının kontrolü eğitmenlerin elindedir, yani kendilerinden metin çıktısını gözden geçirmeleri istenir ve gerektiğinde çıktıda düzenleme yapabilirler.
AI Alt Text Assistant, öğrenciler veya diğer bireyler üzerinde yasal veya başka bir şekilde önemli bir etkisi olabilecek herhangi bir otomatik karar verme sürecini içermez.
Müşterilerimizi, Yapay Zeka Alternatif Metin Yardımcısı özelliğini etkinleştirmeden önce Yapay Zeka Alternatif Metin Yardımcısı'nın ve temeldeki Amazon Bedrock'un özelliklerini ve sınırlamalarını anladıklarından emin olmak için burada sağlanan bilgi bağlantıları da dahil olmak üzere bu belgeyi dikkatlice gözden geçirmeye teşvik ediyoruz.
Değer hizalaması
Büyük dil modellerinin yapısı gereği; ön yargılı, uygunsuz veya Anthology'nin ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılar üretilme riski vardır. Amazon, bu riskleri aşağıdaki 'daha fazla bilgi' bölümünde bağlantılı website'lerde açıklamaktadır.
Ek olarak, büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi), genellikle Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım durumları gibi kötüye kullanılma riski taşır (örneğin, suç faaliyetleri için, zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).
Bu riskleri göz önüne alarak, AI Alt Text Assistant işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Örneğin, öğrencilere yönelik işlevlerden ziyade eğitmenlere yönelik işlevlere odaklanılmıştır. Ayrıca, potansiyel olarak yüksek riskli işlevlere özellikle yer verilmemiştir.
Fikri mülkiyet
Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanan sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya kılavuz bulunmamaktadır.
Dolayısıyla, AI Alt Text Assistant tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.
Erişilebilirlik
AI Alt Text Assistant'ını, Learn ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. AI Alt Text Assistant'ın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.
AI Alt Text Assistant özelliği, Amazon Bedrock'tan yararlanır. AWS, erişilebilirlik uyumluluk raporlarını AWS Erişilebilirlik sayfaları aracılığıyla kullanıma sunar.
Sorumluluk
Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Yapay Zeka Alternatif Metin Yardımcısı tarafından sağlananlar gibi işlevler veya sistematik ve etik Yapay Zeka incelemesi programın temel direkleridir.
AI Alt Text Assistant'ı sunmak ve Amazon Bedrock'tan yararlanmak için Amazon ile iş ortaklığı kurduk. AWS, yapay zekanın sorumlu kullanımı konusunda kararlıdır.
Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhili politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin AI Alt Text Assistant incelemesini desteklemek için sağlanmıştır.
Daha fazla bilgi
Anthology'nin Güvenilir Yapay Zeka yaklaşımı
Anthology'nin Üretken yapay zeka özellikleri listesi
Amazon'un Bedrock SSS
Amazon'un Bedrock Güvenlik ve Gizlilik sayfası
Amazon'un Yapay Zeka Güvenliği Sayfası
Amazon'un Makine Öğrenimi Blogu
AI Alt Text Assistant Kullanım Koşulları
Ally AI Alt Text Assistant AWS Bedrock'un üretken yapay zeka modellerini kullanır.
Önemli
Bu özellik istenmeyen veya hatalı çıktılara neden olabilir. Tüm çıktıları gözden geçirmek ve gerekli veya uygun olabilecek şekilde düzeltmek veya değiştirmek sizin ve eğitmeninizin sorumluluğundadır. AWS Bedrock'un üretken yapay zeka modellerini eğitmek, yeniden eğitmek veya geliştirmek için hiçbir müşteri verisinin kullanılmadığını lütfen unutmayın. AI Alt Text Assistant'a yüklenen görüntüler veya bağlamsal metinler, barındırma alanınızın dışında bulunabilecek AWS sunucularına iletilecektir.
Özelliğin riskleri ve sınırlamaları hakkında daha fazla bilgiyi standart son kullanıcı belgelerinde bulabilirsiniz.
Bu özelliği etkinleştirerek kurumunuz adına ek koşulları kabul ettiğinizi ve yukarıda atıfta bulunulan standart son kullanıcı belgelerinde yer alan ve/veya atıfta bulunulan risk ve sınırlamalar hakkındaki bilgileri okuyup anladığınızı onaylamış olursunuz.