Skip to main content

AI Alt Text Assistant

Şeffaflık Notu

Yapay zekanın (AI) yasal, etik ve sorumlu şekilde kullanımı, Anthology için önemli bir önceliktir. Bu nedenle, Güvenilir bir yapay zeka programı geliştirdik ve uyguladık. Programımız ve Güvenilir Yapay Zeka konusundaki genel yaklaşımımızla ilgili bilgileri Güven Merkezimizde, üretken yapay zeka özellikleri hakkında daha fazla bilgiyi ise Üretken yapay zeka özellikleri listemizde bulabilirsiniz.

Güvenilir Yapay Zeka ilkelerimizin bir parçası olarak şeffaflık, açıklanabilirlik ve sorumluluk taahhüt ediyoruz. Bu sayfada, müşterilerimize AI Alt Text Assistant'ın uygulanmasında yardımcı olmak için gerekli şeffaflığın ve açıklamaların sağlanması amaçlanmaktadır. Kurumunuz için AI Alt Text Assistant işlevlerini etkinleştirmeden önce yöneticilerin bu sayfayı dikkatle incelemesini ve eğitmenlerin aşağıdaki önemli noktalardan ve önerilerden haberdar olduğundan emin olmasını öneririz.

Bizimle nasıl iletişime geçeceksiniz:

  • Güvenilir Yapay Zekaya genel yaklaşımımız veya bu sayfayı müşterilerimiz için daha faydalı hale getirebileceğimiz hakkında sorularınız veya geri bildirimleriniz için lütfen bize [email protected] adresine e-posta gönderin.

  • Yapay Zeka Alternatif Metin Asistanı'nın işlevselliği veya çıktısı hakkında soru veya geri bildirim için lütfen Behind the Blackboard üzerinden bir müşteri destek bileti gönderin.

Yapay zeka destekli işlevler

AI Alt Text Assistant, Ally Eğitmen Geri Bildirimi iş akışı aracılığıyla eğitmenlere çevrim içi kurslarında kullanılan görüntüler için alternatif metin önerileri sunar. Eğitmenlere ilham vermek ve erişilebilirlik düzeltmelerini daha verimli hale getirmek için tasarlanmıştır. Anthology, bu işlevselliği sağlamak için Microsoft ile ortaklık kurdu; özellikle Microsoft'un yapay zekanın etik kullanımına uzun süredir bağlılığı olduğu için bu işlevselliği sağladı.

AI Alt Text Assistant, yapay zeka tarafından kolaylaştırılan aşağıdaki üretken işlevleri sağlar:

  • Görüntüler için alternatif bir metin oluşturun. Eğitmenler alternatif metin içermeyen görüntüleri düzeltirken Ally Eğitmen Geri Bildirimi içinde alternatif bir metin önerir.

Önemli

Bu işlevler, Azure Yapay Zeka Görüntü İşleme Hizmeti'nin sınırlamalarına ve kullanılabilirliğine tabidir ve değiştirilebilir. Ayrıntılar için lütfen ilgili sürüm notlarını kontrol edin.

Temel bilgiler

Tablo 2. Örnek tablo

Soru

Yanıt

Yapay zeka sistemleri hangi Ally işlevlerinde kullanılır?

Bir görüntü alternatif metin içermediği için Ally tarafından işaretlendiğinde Ally Eğitmen Geri Bildirimi panelinde yapay zeka aracılığıyla alternatif metin önerisi.

Bu, üçüncü taraflarca desteklenen bir yapay zeka sistemi mi?

Evet – AI Alternatif Metin Asistanı, Microsoft'un Azure Vision hizmeti tarafından destekleniyor.

Yapay zeka sistemi nasıl çalışır?

Yapay Zeka Alternatif Metin Yardımcısı, çıktıları otomatik olarak oluşturmak için Microsoft'un Azure Görüntü İşleme Hizmeti'nden yararlanır. Bu, Azure Görüntü İşleme API'sı aracılığıyla gönderilen alternatif bir metin oluşturmak için görüntü kullanılarak elde edilir. Başka bilgi kullanılmaz (ör. kurs başlığı, kurs açıklaması). Görüntüler, Microsoft Azure Görüntü İşleme modellerini eğitmek için kullanılmaz ve Azure Görüntü İşleme Hizmeti, Yapay Zeka Alternatif Metin Yardımcısı'na yüklenen her görüntüyü temel alarak çıktıyı oluşturur. Hiçbir bilgi istemi kullanılmaz.

LMS örneklerini İngilizce dışındaki dillerde yapılandıran son kullanıcılar için Yapay Zeka Alternatif Metni çıktısının AWS Translate kullanılarak çevrileceğini unutmayın.

Azure AI Vision dil modellerinin nasıl çalıştığına dair ayrıntılı bir açıklama için lütfen Microsoft'un Şeffaflık Notu dosyasının Giriş bölümüne ve içindeki bağlantılara bakınız.

Yapay zeka sistemi nerede barındırılıyor?

Anthology şu anda birden çok genel Azure Görüntü İşleme Hizmeti örneği kullanmaktadır. Birincil örnek Amerika Birleşik Devletleri'nde barındırılmaktadır, ancak zaman zaman müşterilerimiz için Azure Yapay Zeka Görüntü İşleme Hizmetleri için en iyi kullanılabilirlik seçeneğini sağlamak üzere Batı Avrupa, Asya Pasifik gibi diğer konumlardaki kaynaklar da kullanılabilmektedir.

AI Alt Text Assistant tarafından oluşturulan tüm müşteri çıktıları, Anthology tarafından yönetilen mevcut Ally veritabanında depolanır.

Bu isteğe bağlı bir işlev mi?

Evet. Yöneticilerin LMS Ally yapılandırma seçenekleri bölümünden AI Alt Text Assistant'ını etkinleştirmesi gerekir. Özellikler sekmesi altından, Görüntüler için alternatif açıklamaların yapay zeka tarafından oluşturulması ögesini seçin. Yöneticiler bu işlevi istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.

Yapay zeka sistemi nasıl eğitilir?

Anthology, Yapay Zeka Alternatif Metin Yardımcısı işlevlerini destekleyen modellerin eğitimiyle ilgilenmez. Bu modeller, Azure Görüntü İşleme Hizmeti'nin bir parçası olarak Microsoft tarafından eğitilir. Microsoft, Microsoft Şeffaflık Notu'nun Giriş bölümünde ve içinde sağlanan bağlantılarda büyük dil modellerinin nasıl eğitildiği hakkında bilgi sağlar.

Anthology, bize veya müşterilerimize ait verileri kullanarak Azure Görüntü İşleme Hizmeti'nde daha başka ince ayarlar yapmaz.

Müşteri verileri yapay zeka sistemini (yeniden) eğitmek için kullanılıyor mu?

Hayır. Microsoft, büyük dil modelinin (yeniden) eğitilmesi için Azure Görüntü İşleme Hizmeti'nin herhangi bir girdisini veya çıktısını kullanmamayı, Anthology ile üzerinde anlaştığı Azure Görüntü İşleme koşullarına göre sözleşmeye bağlı olarak taahhüt eder. Aynı taahhüt, Microsoft dokümantasyonu Azure Vision Hizmeti için Veri, gizlilik ve güvenlik konusundadır. Sadece hazır modeller kullanılır.

Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı sisteminin sağlanmasıyla ilgili olarak kişisel bilgileri nasıl kullanır?

Anthology Ally, Yapay Zeka AIternatif Metin Yardımcısı ile bağlantılı olarak toplanan görüntüleri yalnızca Yapay Zeka AIternatif Metin Yardımcısı'nı sağlamak, sürdürmek ve desteklemek için kullanır. Anthology'in veri gizliliği konusundaki yaklaşımı hakkında daha fazla bilgiyi Anthology Güven Merkezi'nde bulabilirsiniz.

Bu özelliği desteklemek için yalnızca görüntüler kullanılır. Microsoft Azure Vision Hizmeti ile daha fazla bilgi paylaşılmamaktadır.

Microsoft, Görüntü İşleme modellerini geliştirmek, kendisine veya üçüncü taraflara ait ürün hizmetlerini geliştirmek ya da Anthology kaynağında Anthology'nin kullanımı için Azure Görüntü İşleme modellerini otomatik olarak geliştirmek (modeller durum bilgisi içermez) için erişimi olan herhangi bir Anthology verisini veya Anthology müşteri verilerini (Azure Görüntü İşleme Hizmeti'nin bir parçası olarak) kullanmaz.

Azure Görüntü İşleme Hizmeti ile ilgili veri gizliliği uygulamaları hakkında daha fazla bilgiyi Azure Görüntü İşleme Hizmeti için veri, gizlilik ve güvenlik konulu Microsoft belgelerinde bulabilirsiniz.

Yapay Zeka Alternatif Metin Sistemi'nin tasarımında erişilebilirlik dikkate alındı mı?

Evet, erişilebilirlik mühendislerimiz tasarımları gözden geçirmek, erişilebilirlikle ilgili önemli noktaları iletmek ve yeni özellikleri özellikle erişilebilirlik açısından test etmek için ürün ekipleriyle iş birliği yapmıştır. Erişilebilirliği, Güvenilir Yapay Zeka yaklaşımımızın ayrılmaz bir parçası olarak görmeye devam edeceğiz.



Dikkat edilmesi gerekenler ve kurumlar için öneriler

Amaçlanan kullanım örnekleri

AI Alt Text Assistant'ın yalnızca yukarıda listelenen işlevleri desteklemesi amaçlanmıştır. Bu işlevler, müşterilerimizin eğitmenlerine, Ally tarafından işaretlenen görüntülerin erişilebilirlik sorunlarının düzeltilmesinde onları desteklemek için sağlanır.

Kapsam dışı kullanım örnekleri

AI Alt Text Assistant, kurstaki içeriğin bağlamına göre alternatif metni ayarlamak veya onaylamak yine eğitmene bağlı olduğundan, tüm görselleri mükemmel bir alternatif metinle erişilebilir hale getirmeyi amaçlamaz ve bunu garanti etmez.

Güvenilir yapay zeka ilkelerinin kullanımı

Anthology ve Microsoft, yapay zekanın yasal, etik ve sorumlu şekilde kullanımının temel bir öncelik olduğuna inanmaktadır. Bu bölümde; yapay zekanın yasal, etik ve sorumlu şekilde kullanımıyla ilgili riski ele almak ve Anthology Güvenilir Yapay Zeka ilkelerini uygulamak için Anthology ile Microsoft'un birlikte nasıl çalıştığı açıklanmaktadır. Ayrıca müşterilerimizin yapay zekayı kullanırken etikle ilgili risklerinin yasal olarak ele alınması konusunda göz önünde bulundurabilecekleri adımlar önerilmektedir.

Şeffaflık ve Açıklanabilirlik

  • Ally yönetim yapılandırma seçeneklerinde bunun yapay zeka destekli bir işlevsellik olduğu açıkça belirtilmektedir

  • Eğitmenlere yönelik kullanıcı arayüzünde, AI Alt Text Assistant işlevleri açıkça "Üretken" işlevler olarak belirtilmiştir. Eğitmenlerin ayrıca kullanmadan önce metin çıktısını gözden geçirmeleri beklenir. AI Alt Text Assistant işlevleri tarafından oluşturulan çıktının meta verileri, her müşterinin Ally kullanım raporunda, otomatik olarak oluşturulan içeriklerle ilgili bir alanda gösterilir. Ayrıca, çıktının daha sonra eğitmen tarafından düzenlenip düzenlenmediği de belirtilir.

  • Microsoft, Yapay Zeka Alternatif Metin Yardımcısı ve Azure Görüntü İşleme Hizmeti modellerinin nasıl çalıştığı hakkında bu belgede sağlanan bilgilere ek olarak, Şeffaflık Notu'nda Azure Görüntü İşleme Hizmeti hakkında ek bilgiler de sağlar.

  • Müşterilerimizi, AI Alt Text Assistant'da yapay zekanın kullanımı konusunda şeffaf olmaya, ayrıca eğitmenleri ile diğer paydaşlarına bu belgedeki ve burada bağlantısı verilen belgelerdeki ilgili bilgileri uygun şekilde sağlamaya teşvik ederiz.

Güvenilirlik ve doğruluk

  • Ally yönetim yapılandırma seçeneklerinde ve kullanım koşullarında, bunun yanlış veya istenmeyen çıktılar üretebilecek yapay zeka destekli bir işlevsellik olduğunu ve bu tür çıktıların her zaman eğitmen tarafından gözden geçirilmesi gerektiğini açıkça belirtiriz.AI Alt Text Assistant Terms of Use

  • Kullanıcı arayüzünde, eğitmenlerden metin çıktısının doğruluğunu gözden geçirmeleri istenir.

  • Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde ayrıntılı olarak açıklandığı gibi, hatalı çıkış riski vardır. Yapay Zeka Alternatif Metin Yardımcısı'nın kendine özgü yapısı ve uygulamalarımız yanlışlıkları en aza indirmeyi amaçlasa da, çıktıyı doğruluk, önyargı ve diğer olası sorunlar açısından gözden geçirmekten müşterilerimiz sorumludur.

  • Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.

  • Eğitmenler, çıktıyı öğrencilere yayımlamadan önce Yapay Zeka Alternatif Metin Yardımcısı'nın çıktılarını manuel olarak düzenlemek için mevcut Ally arayüzünü kullanabilir.

  • Müşteriler, giriş bölümünde listelenen kanalları kullanarak herhangi bir yanlış çıktıyı bize bildirebilir.

Tarafsızlık

  • Büyük dil modelleri, doğası gereği genelleme, aşırı/eksik temsil ve diğer zararlı ön yargı biçimleri gibi riskler sunar. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.

  • Bu riskler göz önüne alındığında, zararlı ön yargıya daha yatkın olabilecek veya bu tür ön yargıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.

  • Bununla birlikte, çıktının bir kısmının zararlı ön yargıdan etkilenebileceği göz ardı edilemez. Yukarıda 'Doğruluk' başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da zararlı ön yargıları azaltmaya yardımcı olabilir.

  • Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.

  • Müşteriler, giriş bölümünde listelenen iletişim kanallarını kullanarak potansiyel olarak zararlı ön yargıları bize bildirebilir.

Gizlilik ve Güvenlik

  • Yukarıdaki 'Temel bilgiler' bölümünde açıklandığı gibi, AI Alt Text Assistant için yalnızca görüntü kullanılır ve Microsoft tarafından erişilebilir. Bu bölümde ayrıca herhangi bir kişisel bilginin kullanımı konusunda bizim ve Microsoft'un taahhüdü de açıklamaktadır.

  • Ally ISO 27001/27017/27018/27701 sertifikalıdır. Bu sertifikalar, Anthology tarafından yönetilen Yapay Zeka Alternatif Metin Yardımcısı ile ilgili çıktıyı içerecektir. Anthology'nin veri gizliliği ve güvenliğine yaklaşımı hakkında daha fazla bilgiyi Güven Merkezimizde bulabilirsiniz.

  • Microsoft, verilerle ilgili gizlilik/güvenlik uygulamalarını ve taahhütlerini Azure Görüntü İşleme Hizmeti için veri, gizlilik ve güvenlik belgelerinde açıklar.

  • Veri gizliliği ve modelleri (yeniden) eğitmek için girdi kullanmama konusunda Anthology ve Microsoft'un taahhütlerinden bağımsız olarak, müşteriler eğitmenlerine görüntülere herhangi bir kişisel bilgi veya diğer gizli bilgileri eklememelerini tavsiye edebilir.

Emniyet

  • Büyük dil modelleri yapıları gereği uygunsuz, saldırgan veya başka bir şekilde güvensiz olabilecek çıktılar gibi riskler taşır. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.

  • Bu riskler göz önüne alındığında, güvenli olmayan çıktılara daha yatkın olabilecek veya bu tür çıktıların etkisinin daha önemli olabileceği kullanım durumlarından kaçınmak için AI Alt Text Assistant işlevleri tarafımızdan dikkatlice seçilmiştir.

  • Bununla birlikte, çıktının bir kısmının güvensiz olabileceği göz ardı edilemez. Yukarıda "Doğruluk" başlığı altında belirtildiği gibi, eğitmenlerden çıktıları gözden geçirmeleri istenir, bu da güvenli olmayan çıktı riskini azaltmaya daha fazla yardımcı olabilir.

  • Müşteriler, AI Alt Text Assistant ile ilgili bilgi verirken, eğitmenlerini bu olası sınırlamadan haberdar etmelidir.

  • Müşteriler, giriş bölümünde listelenen kanalları kullanarak potansiyel olarak güvenli olmayan çıktıları bize bildirmelidir.

Kontrolün insanlarda olması

  • Müşterilerimiz ve kullanıcıları için üretken yapay zeka kullanımıyla ilgili riski en aza indirmek amacıyla, AI Alt Text Assistant'ın işlevlerinin kontrolünü bilerek müşterilere veririz. AI Alt Text Assistant bu nedenle isteğe bağlı bir özelliktir. Yöneticiler, AI Alt Text Assistant'ını istedikleri zaman etkinleştirebilir veya devre dışı bırakabilir.

  • Buna ek olarak, çıktının kontrolü eğitmenlerin elindedir, yani kendilerinden metin çıktısını gözden geçirmeleri istenir ve gerektiğinde çıktıda düzenleme yapabilirler.

  • AI Alt Text Assistant, öğrenciler veya diğer bireyler üzerinde yasal veya başka bir şekilde önemli bir etkisi olabilecek herhangi bir otomatik karar verme sürecini içermez.

  • Müşterilerimizi, Yapay Zeka Alternatif Metin Yardımcısı'nı etkinleştirmeden önce bu uygulamanın ve temel alınan Azure Görüntü İşleme Hizmeti'nin özelliklerini ve sınırlamalarını anladıklarından emin olmak için burada sağlanan bilgi bağlantıları da dahil olmak üzere bu belgeyi dikkatle incelemeye teşvik ederiz.

Değer hizalaması

  • Büyük dil modellerinin yapısı gereği; ön yargılı, uygunsuz veya Anthology'nin ya da müşterilerimizin ve öğrencilerimizin değerleriyle uyumlu olmayan çıktılar üretilme riski vardır. Microsoft, bu riskleri Azure Görüntü İşleme Hizmeti Şeffaflık Notu'nun Sınırlamalar bölümünde açıklar.

  • Ek olarak, büyük dil modelleri (kapsamlı amaçlara hizmet eden her teknoloji gibi), genellikle Anthology'nin, müşterilerimizin veya onların son kullanıcılarının ve daha geniş anlamda toplumun değerleriyle uyumlu olmayan kullanım durumları gibi kötüye kullanılma riski taşır (örneğin, suç faaliyetleri için, zararlı veya başka bir şekilde uygunsuz çıktılar oluşturmak için).

  • Bu riskleri göz önüne alarak, AI Alt Text Assistant işlevleri, uygun olmayan çıktı üretme riskini en aza indirecek şekilde dikkatlice tasarlanmış ve uygulanmıştır. Örneğin, öğrencilere yönelik işlevlerden ziyade eğitmenlere yönelik işlevlere odaklanılmıştır. Ayrıca, potansiyel olarak yüksek riskli işlevlere özellikle yer verilmemiştir.

Fikri mülkiyet

  • Büyük dil modelleri, yapıları gereği fikri mülkiyet haklarının ihlali gibi olası riskler sunar. Dünya genelinde çoğu fikri mülkiyet yasası hazırlanırken, büyük dil modellerinin ortaya çıkışı ve bunların kullanımından kaynaklanan sorunların karmaşıklığı tam olarak öngörülememiş veya gereken uyarlamalar yapılmamıştır. Sonuç olarak, şu anda bu modellerin kullanımından kaynaklanan fikri mülkiyet sorunlarını ve risklerini ele alan net bir yasal çerçeve veya kılavuz bulunmamaktadır.

  • Dolayısıyla, AI Alt Text Assistant tarafından oluşturulan çıktılarda fikri mülkiyet hakları açısından herhangi bir ihlal durumu olup olmadığını incelemekten müşterilerimiz sorumludur.

Erişilebilirlik

  • AI Alt Text Assistant'ını, Learn ve diğer ürünlerimizde olduğu gibi erişilebilirliği göz önünde bulundurarak tasarladık ve geliştirdik. AI Alt Text Assistant'ın piyasaya sürülmesinden önce; anlamsal yapı, gezinme, klavye kontrolleri, etiketler, özel bileşenler ve görüntü iş akışları gibi alanların erişilebilirliğini özel olarak iyileştirdik. Gelecekte yapay zekadan yararlanırken erişilebilirliğe öncelik vermeye devam edeceğiz.

Sorumluluk

  • Anthology, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için tasarlanmış bir Güvenilir Yapay Zeka programına sahiptir. Şirket içinde sorumlulukların net şekilde paylaşılması ve Yapay Zeka Alternatif Metin Yardımcısı tarafından sağlananlar gibi işlevler veya sistematik ve etik Yapay Zeka incelemesi programın temel direkleridir.

  • Yapay Zeka Alternatif Metin Yardımcısı'nı sunmak için Microsoft ile iş ortaklığı yaparak Yapay Zeka Alternatif Metin Yardımcısı'nı destekleyen Azure Görüntü İşleme Hizmeti'nden yararlandık. Bunun başlıca nedeni, Microsoft'un yapay zekanın etik şekilde kullanımına ilişkin uzun süredir devam eden bir bağlılığı olmasıdır.

  • Müşteriler, yapay zekanın yasal, etik ve sorumlu şekilde kullanımını sağlamak için dâhili politikaları, prosedürleri uygulamayı ve üçüncü taraf yapay zeka uygulamalarını gözden geçirmeyi düşünmelidir. Bu bilgiler, müşterilerimizin AI Alt Text Assistant incelemesini desteklemek için sağlanmıştır.

Daha fazla bilgi

AI Alt Text Assistant Kullanım Koşulları

Ally AI Alternatif Metin Asistanı, Microsoft tarafından Azure Vision Services'ten üretilen yapay zeka modellerini kullanır.

Önemli

Bu özellik istenmeyen veya hatalı çıktılara neden olabilir. Tüm çıktıları gözden geçirmekten ve gerekli veya uygun olduğunda düzeltmekten veya değiştirmekten siz ve eğitmeniniz sorumlu olursunuz. Azure Vision'ın üretken yapay zeka modellerini eğitmek, yeniden eğitmek veya geliştirmek için hiçbir istemci verisi kullanılmadığını lütfen unutmayın. AI Alternatif Metin Asistanı'na yüklenen görüntüler, barındırma alanınızın dışında bulunan Azure AI Vision Hizmet sunucularına iletilecektir.

Özelliğin riskleri ve sınırlamaları hakkında daha fazla bilgiyi standart son kullanıcı belgelerinde bulabilirsiniz.

Bu özelliği etkinleştirerek kurumunuz adına ek koşulları kabul ettiğinizi ve yukarıda atıfta bulunulan standart son kullanıcı belgelerinde yer alan ve/veya atıfta bulunulan risk ve sınırlamalar hakkındaki bilgileri okuyup anladığınızı onaylamış olursunuz.