AI Alt Text Assistant
Şeffaflık Notu
Yapay zekanın (AI) yasal, etik ve sorumlu şekilde kullanımı, Anthology için önemli bir önceliktir. Bu nedenle, Güvenilir bir yapay zeka programı geliştirdik ve uyguladık. Programımız ve Güvenilir Yapay Zeka konusundaki genel yaklaşımımızla ilgili bilgileri Güven Merkezimizde, üretken yapay zeka özellikleri hakkında daha fazla bilgiyi ise Üretken yapay zeka özellikleri listemizde bulabilirsiniz.
Güvenilir Yapay Zeka ilkelerimizin bir parçası olarak şeffaflık, açıklanabilirlik ve sorumluluk taahhüt ediyoruz. Bu sayfada, müşterilerimize AI Alt Text Assistant'ın uygulanmasında yardımcı olmak için gerekli şeffaflığın ve açıklamaların sağlanması amaçlanmaktadır. Kurumunuz için AI Alt Text Assistant işlevlerini etkinleştirmeden önce yöneticilerin bu sayfayı dikkatle incelemesini ve eğitmenlerin aşağıdaki önemli noktalardan ve önerilerden haberdar olduğundan emin olmasını öneririz.
Bizimle nasıl iletişime geçeceksiniz:
Güvenilir Yapay Zeka konusundaki genel yaklaşımımız veya bu sayfayı müşterilerimiz için nasıl daha yararlı hale getirebileceğimiz hakkında sorularınız veya geri bildirimleriniz için lütfen trustworthyai@anthology.com adresinden bize e-posta gönderin.
AI Alt Text Assistant'ın işlevselliği veya çıktısı hakkında sorularınız ya da geri bildirimleriniz için lütfen müşteri destek bileti gönderin.
Yapay zeka destekli işlevler
AI Alt Metin Yardımcısı, eğitmenlere Ally Eğitmen Geri Bildirimi iş akışı aracılığıyla çevrimiçi kurslarında kullanılan görseller için alternatif metin önerileri sunar. Eğitmenlere ilham vermesi ve erişilebilirlik düzeltmelerini daha verimli hale getirmesi amaçlanmıştır.
Anthology, Ally'nin yapay zeka modelini daha da etkili önerilere güç verecek şekilde yükseltmek ve STEM, çizelgeler/grafikler, görsellerdeki metinler ve el yazısı görseller dahil olmak üzere daha karmaşık içerikler için görsel açıklama önerileri oluşturabilmek için AWS ile işbirliği yaptı. Bu özellik, AWS Bedrock aracılığıyla Anthropic'in bir dil modeli olan Claude tarafından desteklenmektedir. Kurumunuz Kanada'da bulunuyorsa, asistan daha yeni Claude 3 Sonnet modelini kullanır. Diğer her yerde Claude Sonnet 3.5 modelini kullanır, ancak bu modelin kullanılamadığı durumlar hariç; bu durumda varsayılan olarak Anthropic Claude 3 Sonnet veya Claude 3 Haiku modelini kullanırız. Bu seçim, AWS Bedrock'un her bölgede kullanıma sunduğu modellere dayanmaktadır.
AI Alt Text Assistant, yapay zeka tarafından kolaylaştırılan aşağıdaki üretken işlevleri sağlar:
Görüntüler için alternatif bir metin oluşturun. Eğitmenler alternatif metin içermeyen görüntüleri düzeltirken Ally Eğitmen Geri Bildirimi içinde alternatif bir metin önerir.
Önemli
Bu işlevler AWS Bedrock hizmetinin sınırlamalarına ve kullanılabilirliğine tabidir ve değiştirilebilir. Ayrıntılar için lütfen ilgili sürüm notlarını kontrol edin.
Temel bilgiler
Soru | Yanıt |
|---|---|
Yapay zeka sistemleri hangi Ally işlevlerinde kullanılır? | Bir görüntü alternatif metin içermediği için Ally tarafından işaretlendiğinde Ally Eğitmen Geri Bildirimi panelinde yapay zeka aracılığıyla alternatif metin önerisi. |
Bu, üçüncü taraflarca desteklenen bir yapay zeka sistemi mi? | Evet. Anthropic tarafından geliştirilen ve AWS Bedrock aracılığıyla sunulan bir model olan Claude'u kullanıyoruz. Kanada'daki kurumlar Anthropic Claude 3 Sonnet kullanırken, diğer bölgeler her AWS bölgesinde desteklenenlere bağlı olarak Claude 3.5 Sonnet kullanmaktadır. Claude 3.5 Sonnet kullanılamıyorsa, yedek seçenek olarak varsayılan olarak Claude 3 Sonnet (ABD'de) veya Claude 3 Haiku (AB'de) kullanacağız. |
Yapay zeka sistemi nasıl çalışır? | Yapay Zeka Alt Metin Yardımcısı, alt metin önerilerini otomatik olarak oluşturmak için AWS Bedrock aracılığıyla Anthropic'in Claude modellerini kullanır. Kurumunuzun konumuna bağlı olarak bu, Anthropic Claude 3 Sonnet (Kanada'da) veya Claude Sonnet 3.5 veya Claude 3 Haiku (diğer bölgelerde) olabilir. Bu, AWS SDK aracılığıyla gönderilen bir alternatif metin oluşturmak için bir görüntü kullanılarak gerçekleştirilir. Ayrıca, bir görsel zengin içerikli bir öğeye gömüldüğünde çevredeki metin içeriğine dayalı olarak bağlamsal istemler gönderme özelliğini de ekledik. Başka hiçbir bilgi kullanılmaz (örn. kurs başlığı, kurs açıklaması). AWS Bedrock modellerini eğitmek için görseller kullanılmaz ve Bedrock, Yapay Zeka Alt Metin Yardımcısı'na yüklenen her görsele göre çıktı üretir. |
Yapay zeka sistemi nerede barındırılıyor? | Anthology şu anda Amazon Bedrock için Amazon bölgesi kullanılabilirliğine göre belirlenen birden fazla AWS örneği kullanmaktadır. AWS, şu anda Ally tarafından kullanılan Amazon Bedrock modeli (Claude Sonnet 3.5, Claude 3 Sonnet, Claude 3 Haiku) için bu bölge kullanılabilirliğini Amazon Bedrock'ta AWS Bölgesi tarafından model desteği adresinde sağlamaktadır. Belirli bir bölge kullanılamadığında müşterilerimize AWS Bedrock için en iyi kullanılabilirlik seçeneğini sağlamak amacıyla zaman zaman ABD Doğu gibi diğer konumlardaki kaynakları kullanabiliriz. AI Alt Text Assistant tarafından oluşturulan tüm müşteri çıktıları, Anthology tarafından yönetilen mevcut Ally veritabanında depolanır. |
Bu isteğe bağlı bir işlev mi? | Evet. Yöneticilerin LMS Ally yapılandırma seçenekleri bölümünden AI Alt Text Assistant'ını etkinleştirmesi gerekir. Özellikler sekmesi altından, Görüntüler için alternatif açıklamaların yapay zeka tarafından oluşturulması ögesini seçin. Yöneticiler bu işlevi istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir. |
Yapay zeka sistemi nasıl eğitilir? | Anthology, Amazon Bedrock aracılığıyla AI Alt Text Assistant işlevlerini destekleyen Anthropic modelinin eğitimine dahil değildir. Bu modeller Anthropic (Anthropic Claude) tarafından eğitilmektedir. Anthology, AWS Bedrock modellerinde kendi verilerimizi veya müşterilerimizin verilerini kullanarak daha fazla ince ayar yapmaz. |
Müşteri verileri yapay zeka sistemini (yeniden) eğitmek için kullanılıyor mu? | Amazon, kamuya açık belgelerinde Amazon Bedrock içindeki büyük dil modellerini (yeniden) eğitmek için herhangi bir girdi veya çıktı kullanmamayı taahhüt eder. Amazon, aşağıdaki “Daha fazla bilgi” bölümündeki bağlantılarda büyük dil modellerinin nasıl eğitildiği hakkında bilgi verir. Tüm veri giriş ve çıkışları aktarım sırasında ve beklemede şifrelenir. |
Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı sisteminin sağlanmasıyla ilgili olarak kişisel bilgileri nasıl kullanır? | Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı ile bağlantılı olarak toplanan görüntüleri yalnızca Yapay Zeka AIternatif Metin Yardımcısı'nı sağlamak, sürdürmek ve desteklemek için kullanır. Anthology'in veri gizliliği konusundaki yaklaşımı hakkında daha fazla bilgiyi Anthology Güven Merkezi'nde bulabilirsiniz. |
Üçüncü taraf destekli bir yapay zeka sistemi söz konusu olduğunda, üçüncü taraf kişisel bilgileri nasıl kullanacaktır? | Anthology Ally, AI Alt Text Assistant ile bağlantılı olarak toplanan bir görüntüyü çevreleyen zengin içerikteki görüntüleri ve/veya bağlamsal verileri yalnızca AI Alt Text Assistant'ı sağlamak, sürdürmek ve desteklemek için kullanır. Anthology'nin veri gizliliğine yaklaşımı hakkında daha fazla bilgiyi Anthology'nin Güven Merkezinde bulabilirsiniz. Bu özelliği desteklemek için yalnızca görüntüler ve/veya bir görüntüyü çevreleyen zengin içerikteki bağlamsal veriler kullanılır. AWS Bedrock ile başka hiçbir bilgi paylaşılmaz. Ne Amazon ne de herhangi bir Amazon Bedrock model sağlayıcısı, Amazon Bedrock modellerini geliştirmek için Anthology verilerini veya Anthology müşteri verilerini kullanır. Amazon Bedrock Güvenlik ve Gizlilik ile ilgili veri gizliliği uygulamaları hakkında daha fazla bilgiyi AWS AI Güvenlik Sayfası, AWS Makine Öğrenimi Blogu ve Amazon Bedrock Güvenlik ve Gizlilik sayfasındaki Amazon belgelerinde bulabilirsiniz. |
Yapay Zeka Alternatif Metin Sistemi'nin tasarımında erişilebilirlik dikkate alındı mı? | Evet, erişilebilirlik mühendislerimiz tasarımları gözden geçirmek, erişilebilirlikle ilgili önemli noktaları iletmek ve yeni özellikleri özellikle erişilebilirlik açısından test etmek için ürün ekipleriyle iş birliği yapmıştır. Erişilebilirliği, Güvenilir Yapay Zeka yaklaşımımızın ayrılmaz bir parçası olarak görmeye devam edeceğiz. |
Dikkat edilmesi gerekenler ve kurumlar için öneriler
Amaçlanan kullanım örnekleri
AI Alt Text Assistant'ın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerine, Ally tarafından işaretlenen görüntülerin erişilebilirlik sorunlarının düzeltilmesinde onları desteklemek için sağlanır.
Kapsam dışı kullanım senaryoları
AI Alt Text Assistant, kurstaki içeriğin bağlamına göre alternatif metni ayarlamak veya onaylamak yine eğitmene bağlı olduğundan, tüm görselleri mükemmel bir alternatif metinle erişilebilir hale getirmeyi amaçlamaz ve bunu garanti etmez.
Uygulamada güvenilir yapay zeka ilkeleri
Anthology ve Amazon, yapay zekanın yasal, etik ve sorumlu kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde, Anthology ve Amazon'un yapay zekanın yasal, etik ve sorumlu kullanımına yönelik geçerli riskleri ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için nasıl çalıştıkları açıklanmaktadır. Ayrıca, müşterilerimizin kendi yapay zekalarını ve uygulamalarının etik yapay zeka risklerinin yasal incelemelerini üstlenirken dikkate alabilecekleri adımlar önermektedir.
Şeffaflık ve Açıklanabilirlik
Ally yönetim yapılandırma seçeneklerinde bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir
Eğitmenlere yönelik kullanıcı arayüzünde, AI Alt Text Assistant işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin ayrıca kullanmadan önce metin çıktısını gözden geçirmeleri beklenir. AI Alt Text Assistant işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Ally kullanım raporunda, otomatik olarak oluşturulan içeriklerle ilgili bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.
AI Alt Text Assistant'ın arkasındaki model, kurumunuzun bulunduğu yere bağlı olarak değişebilir. Kanada'da asistan, daha yeni özellikler sunan Claude 3 Sonnet modelini kullanır. Diğer her yerde Claude Sonnet 3.5 modelini kullanır, ancak bu modelin kullanılamadığı durumlar hariç; bu durumda varsayılan olarak Anthropic Claude 3 Sonnet veya Claude 3 Haiku modelini kullanırız. Bu seçim, AWS Bedrock'un her bölgede kullanıma sunduğu özelliklere dayanmaktadır.
Müşterilerimizi, AI Alt Text Assistant'da yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ederiz.
Güvenilirlik ve doğruluk
Ally yönetim yapılandırma seçeneklerinde ve kullanım koşullarında, bunun hatalı veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir özellik olduğunu ve bu tür çıktıların her zaman eğitmen tarafından gözden geçirilmesi gerektiğini açıkça belirtiyoruz.
Kullanıcı arayüzünde, eğitmenlerden metin çıktısının doğruluğunu gözden geçirmeleri istenir.
Amazon Bedrock FAQs bölümünde ayrıntılı olarak açıklandığı gibi, hatalı çıktı riski vardır. Yapay Zeka Alt Metin Asistanının ve uygulamamızın kendine özgü yapısı yanlışlığı en aza indirmeyi amaçlasa da, çıktıyı doğruluk, önyargı ve diğer olası sorunlar açısından gözden geçirmek müşterimizin sorumluluğundadır.
Kullanıcılar, Soru-Cevap isteminde kullanılan soruyu veya ifadeyi yeniden ifade ederek hatalı çıktıyı kolayca yeniden oluşturabilirler.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.
Tarafsızlık
Büyük dil modelleri, doğası gereği genelleme, aşırı/eksik temsil ve diğer zararlı ön yargı biçimleri gibi riskler sunar.
Bu riskler göz önüne alındığında, zararlı ön yargıya daha yatkın olabilecek veya bu tür ön yargıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının zararlı ön yargıdan etkilenebileceği göz ardı edilemez. Yukarıda 'Doğruluk' başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da zararlı ön yargıları azaltmaya yardımcı olabilir.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı ön yargıları bize bildirebilir.
Gizlilik ve Güvenlik
Yukarıdaki 'Temel bilgiler' bölümünde açıklandığı gibi, AI Alt Metin Yardımcısı için yalnızca görüntü kullanılır ve Amazon tarafından erişilebilir. Bu bölümde ayrıca bizim ve Amazon'un kişisel bilgilerin kullanımına ilişkin taahhüdümüz de açıklanmaktadır.
Amazon, veri gizliliği ve güvenliği uygulamalarını ve taahhütlerini Amazon Bedrock Güvenlik ve Gizlilik belgelerinde açıklamaktadır.
Emniyet
Büyük dil modellerinin doğası gereği önyargılı, uygunsuz veya Blackboard'un değerleriyle ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılarla ilgili riskler vardır. Amazon, bu riskleri aşağıdaki Ayrıntılı Bilgi bölümünde yer alan bağlantılı web sitelerinde açıklamaktadır.
Bu riskler göz önüne alındığında, güvenli olmayan çıktılara daha yatkın olabilecek veya bu tür çıktıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.
Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da güvenli olmayan çıktı riskini azaltmaya daha fazla yardımcı olabilir.
Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.
Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.
Kontrolün insanlarda olması
Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, AI Alt Text Assistant'ın işlevlerinin kontrolünü bilerek müşterilere veririz. AI Alt Text Assistant bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, AI Alt Text Assistant'ını istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.
Ayrıca, eğitmenler çıktının kontrolüne sahiptir; yani metin çıktısını gözden geçirmeleri istenir ve gerektiğinde metin çıktısını düzenleyebilirler.
AI Alt Text Assistant, öğrenciler veya diğer bireyler üzerinde yasal veya başka bir şekilde önemli bir etkisi olabilecek herhangi bir otomatik karar verme sürecini içermez.
Müşterilerimizi, AI Alt Text Assistant özelliğini etkinleştirmeden önce AI Alt Text Assistant'ın ve temeldeki Amazon Bedrock'un özelliklerini ve sınırlamalarını anladıklarından emin olmak için burada sağlanan bilgi bağlantıları da dahil olmak üzere bu belgeyi dikkatlice gözden geçirmeye teşvik ediyoruz.
Değer hizalaması
Büyük dil modellerinin doğası gereği önyargılı, uygunsuz veya Anthology’nin değerleriyle ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılarla ilgili riskleri vardır. Amazon bu riskleri aşağıdaki 'daha fazla bilgi' bölümünde yer alan bağlantılı web sitelerinde açıklamaktadır.
Ek olarak, büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi), genellikle Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım durumları gibi kötüye kullanılma riski taşır (örneğin, suç faaliyetleri için, zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).
Bu riskleri göz önüne alarak, AI Alt Text Assistant işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Örneğin, öğrencilere yönelik işlevlerden ziyade eğitmenlere yönelik işlevlere odaklanılmıştır. Ayrıca, potansiyel olarak yüksek riskli işlevlere özellikle yer verilmemiştir.
Fikri mülkiyet
Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanan sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya kılavuz bulunmamaktadır.
Dolayısıyla, AI Alt Text Assistant tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.
Erişilebilirlik
AI Alt Text Assistant'ını, Learn ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. AI Alt Text Assistant'ın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.
AI Alt Text Assistant özelliği Amazon Bedrock'tan yararlanır. AWS, erişilebilirlik uygunluk raporlarını AWS Erişilebilirlik Sayfaları aracılığıyla kullanıma sunar.
Sorumluluk
Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Yapay Zeka Alternatif Metin Yardımcısı tarafından sağlananlar gibi işlevler veya sistematik ve etik Yapay Zeka incelemesi programın temel direkleridir.
AI Alt Text Assistant'ı sunmak için Amazon Bedrock'tan yararlanmak üzere Amazon ile ortaklık kurduk. AWS, yapay zekanın sorumlu kullanımı konusunda kararlıdır.
Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhili politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin AI Alt Text Assistant incelemesini desteklemek için sağlanmıştır.
Daha fazla bilgi
Anthology'nin Güvenilir Yapay Zeka yaklaşımı
Anthology'nin Üretken yapay zeka özellikleri listesi
Amazon'un Bedrock SSS
Amazon'un Bedrock Güvenlik ve Gizlilik sayfası
Amazon'un AI Safety Page
Amazon'un Makine Öğrenimi Blogu
AI Alt Text Assistant Kullanım Koşulları
Ally AI Alt Text Assistant AWS Bedrock'un üretken yapay zeka modellerini kullanır.
Önemli
Bu özellik istenmeyen veya hatalı çıktılar üretebilir. Tüm çıktıları gözden geçirmek ve gerekli veya uygun olabilecek şekilde düzeltmek veya değiştirmek sizin ve eğitmeninizin sorumluluğundadır. AWS Bedrock'un üretken yapay zeka modellerini eğitmek, yeniden eğitmek veya geliştirmek için hiçbir müşteri verisinin kullanılmadığını lütfen unutmayın. AI Alt Metin Yardımcısı'na yüklenen görüntüler veya bağlamsal metinler, barındırma alanınızın dışında bulunabilecek AWS sunucularına iletilecektir.
Özelliğin riskleri ve sınırlamaları hakkında daha fazla bilgiyi standart son kullanıcı belgelerinde bulabilirsiniz.
Bu özelliği etkinleştirerek kurumunuz adına ek koşulları kabul ettiğinizi ve yukarıda atıfta bulunulan standart son kullanıcı belgelerinde yer alan ve/veya atıfta bulunulan risk ve sınırlamalar hakkındaki bilgileri okuyup anladığınızı onaylamış olursunuz.