Yapay Zekaya Dikkatli Bir Yaklaşım Almak Önyargılı Veri Kümelerini Nasıl Azaltır?

Önyargılı Veri Kümeleri ve Etik Yapay Zeka

Yapay zeka destekli çözümlerin etkili olması için veri kümelerine ihtiyacı vardır. Ve bu veri setlerinin oluşturulması, sistematik düzeyde örtük bir önyargı sorunuyla doludur. Tüm insanlar önyargılardan muzdariptir (hem bilinçli hem de bilinçsiz). Önyargılar herhangi bir sayıda biçim alabilir: coğrafi, dilsel, sosyo-ekonomik, cinsiyetçi ve ırkçı. Ve bu sistematik önyargılar verilere dönüştürülür, bu da önyargıyı sürdüren ve büyüten AI ürünleriyle sonuçlanabilir. Kuruluşların, veri kümelerine sızan önyargıyı azaltmak için dikkatli bir yaklaşıma ihtiyacı vardır.

Önyargı Sorununu Gösteren Örnekler

O zamanlar çok sayıda olumsuz basın toplayan bu veri seti yanlılığının dikkate değer bir örneği, erkek adayları kadınlara tercih eden bir özgeçmiş okuma çözümüydü. Bunun nedeni, işe alım aracının veri setlerinin, başvuranların çoğunluğunun erkek olduğu son on yılda özgeçmişler kullanılarak geliştirilmiş olmasıdır. Veriler taraflıydı ve sonuçlar bu önyargıyı yansıtıyordu. 

Yaygın olarak bildirilen bir başka örnek: Google, yıllık Google I/O geliştirici konferansında, insanların ciltleri, saçları ve tırnaklarıyla ilgili sorunları anlamalarına yardımcı olan, yapay zeka destekli bir dermatoloji yardım aracının önizlemesini paylaştı. Dermatoloji asistanı, AI'nın sağlık hizmetlerine yardımcı olmak için nasıl geliştiğinin altını çiziyor - ancak aynı zamanda, aracın renkli insanlar için yeterli olmadığı eleştirisinin ardından önyargının AI'ya sızma potansiyelini de vurguladı.

Google aracı duyurduğunda şirket şunları kaydetti:

Herkes için inşa ettiğimizden emin olmak için modelimiz yaş, cinsiyet, ırk ve cilt tipleri gibi faktörleri hesaba katar - bronzlaşmayan soluk tenden nadiren yanan kahverengi tene kadar.

Google, yaygın cilt sorunlarına yanıt bulmaya yardımcı olmak için yapay zekayı kullanıyor

Ancak Vice'taki bir makale, Google'ın kapsayıcı bir veri kümesi kullanamadığını söyledi:

Görevi gerçekleştirmek için araştırmacılar, iki eyalette bulunan 64,837 hastanın 12,399 görüntüsünden oluşan bir eğitim veri seti kullandılar. Ancak resmedilen binlerce cilt rahatsızlığının yalnızca yüzde 3.5'i Fitzpatrick cilt tipleri V ve VI olan hastalardan geliyordu - sırasıyla kahverengi teni ve koyu kahverengi veya siyah teni temsil edenler. Araştırmaya göre, veritabanının yüzde 90'ı açık tenli, daha koyu beyaz tenli veya açık kahverengi tenli insanlardan oluşuyordu. Önyargılı örneklemenin bir sonucu olarak dermatologlar, uygulamanın beyaz olmayan insanlara aşırı veya yetersiz teşhis koyabileceğini söylüyor.

Google'ın Yeni Dermatoloji Uygulaması Vice, Daha Koyu Tenli İnsanlar İçin Tasarlanmadı

Google, aracı resmi olarak yayınlamadan önce iyileştireceğini söyleyerek yanıt verdi:

Yapay zeka destekli dermatoloji yardım aracımız, üç yılı aşkın bir araştırmanın doruk noktasıdır. Çalışmamız Nature Medicine'de yer aldığından beri, binlerce insan tarafından bağışlanan verileri ve milyonlarca daha küratörlü cilt endişesi görüntüsünü içeren ek veri setlerini dahil ederek teknolojimizi geliştirmeye ve iyileştirmeye devam ettik.

Google, yaygın cilt sorunlarına yanıt bulmaya yardımcı olmak için yapay zekayı kullanıyor

Yapay zeka ve makine öğrenimi programlarının bu önyargıları düzeltebileceğini umduğumuz kadar, gerçek şu ki: bunlar sadece akıllı veri kümeleri temiz olduğu için. Eski programlama atasözüne yapılan bir güncellemede çöp içeri çöp dışarı, AI çözümleri, yalnızca başlangıçtan itibaren veri kümelerinin kalitesi kadar güçlüdür. Programcıların düzeltmesi olmadan, bu veri kümeleri, kendilerini düzeltecek arka plan deneyimine sahip değiller - çünkü başka bir referans çerçeveleri yok.

Veri kümelerini sorumlu bir şekilde oluşturmak, her şeyin merkezinde yer alır. etik yapay zeka. Ve insanlar çözümün merkezindedir. 

Dikkatli Yapay Zeka Etik Yapay Zekadır

Önyargı bir boşlukta gerçekleşmez. Etik olmayan veya önyargılı veri kümeleri, geliştirme aşamasında yanlış yaklaşımı benimsemekten kaynaklanır. Önyargı hatalarıyla mücadele etmenin yolu, sektördeki birçok kişinin Mindful AI dediği sorumlu, insan merkezli bir yaklaşımı benimsemekten geçiyor. Mindful AI'nın üç kritik bileşeni vardır:

1. Dikkatli Yapay Zeka İnsan Merkezlidir

AI projesinin başlangıcından itibaren, planlama aşamalarında, insanların ihtiyaçları her kararın merkezinde olmalıdır. Ve bu, sadece bir alt küme değil, tüm insanlar anlamına gelir. Bu nedenle geliştiricilerin, AI uygulamalarını kapsayıcı ve önyargısız olacak şekilde eğitmek için küresel tabanlı insanlardan oluşan çeşitli bir ekibe güvenmeleri gerekir.

Veri kümelerini küresel, çeşitliliğe sahip bir ekipten kitle kaynaklı olarak kullanmak, önyargıların erkenden belirlenmesini ve filtrelenmesini sağlar. Farklı etnik kökenlere, yaş gruplarına, cinsiyetlere, eğitim seviyelerine, sosyo-ekonomik geçmişlere ve yerlere sahip olanlar, bir değer kümesini diğerine tercih eden veri kümelerini daha kolay tespit edebilir ve böylece istenmeyen önyargıları ortadan kaldırabilir.

Ses uygulamalarına bir göz atın. Geliştiriciler, dikkatli bir yapay zeka yaklaşımı uygularken ve küresel bir yetenek havuzunun gücünden yararlanırken, veri kümelerinde farklı lehçeler ve aksanlar gibi dilsel öğeleri hesaba katabilir.

Baştan itibaren insan merkezli bir tasarım çerçevesi oluşturmak çok önemlidir. Üretilen, derlenen ve etiketlenen verilerin son kullanıcıların beklentilerini karşılamasını sağlamak için uzun bir yol kat ediyor. Ancak, tüm ürün geliştirme yaşam döngüsü boyunca insanları döngüde tutmak da önemlidir. 

Döngüdeki insanlar, makinelerin her bir belirli hedef kitle için daha iyi bir yapay zeka deneyimi oluşturmasına da yardımcı olabilir. Pactera EDGE'de, küresel olarak konumlanmış AI veri proje ekiplerimiz, farklı kültürlerin ve bağlamların güvenilir AI eğitim verilerinin toplanmasını ve iyileştirilmesini nasıl etkileyebileceğini anlıyor. Yapay zeka tabanlı bir çözüm yayınlanmadan önce sorunları işaretlemek, izlemek ve düzeltmek için ihtiyaç duydukları araçlara sahipler.

İnsan-in-the-loop AI, insanların güçlü yanlarını ve onların farklı geçmişlerini makinelerin hızlı bilgi işlem gücüyle birleştiren bir proje "güvenlik ağı"dır. Önyargılı verilerin projede bir temel oluşturmaması için bu insan ve yapay zeka işbirliğinin programların başlangıcından itibaren kurulması gerekiyor. 

2. Dikkatli Yapay Zeka Sorumludur

Sorumlu olmak, AI sistemlerinin önyargısız olmasını ve etik temellere dayanmasını sağlamaktır. Verilerin nasıl, neden ve nerede oluşturulduğuna, bunların yapay zeka sistemleri tarafından nasıl sentezlendiğine ve karar vermede nasıl kullanıldığına, etik sonuçları olabilecek kararlara dikkat etmekle ilgilidir. Bir işletmenin bunu yapmasının bir yolu, daha kapsayıcı ve daha az önyargılı olmak için yeterince temsil edilmeyen topluluklarla çalışmaktır. Veri ek açıklamaları alanında, yeni araştırma, her bir açıklayıcının etiketini ayrı alt görev olarak ele alan çok açıklamalı çok görevli bir modelin, açıklayıcı anlaşmazlıklarının yetersiz temsiller ve ek açıklamaların tek bir temel gerçeğe göre toplanmasında göz ardı edilebilir. 

3. Güvenilir

Güvenilirlik, bir işletmenin AI modelinin nasıl eğitildiği, nasıl çalıştığı ve sonuçları neden önerdiği konusunda şeffaf ve açıklanabilir olmasından gelir. Bir işletmenin, müşterilerinin AI uygulamalarını daha kapsayıcı ve kişisel hale getirmesini mümkün kılmak, yerel dildeki kritik nüanslara ve bir AI çözümünün bir ülkeden diğerine güvenilirliğini artırabilecek veya bozabilecek kullanıcı deneyimlerine saygı duymasını sağlamak için AI yerelleştirme konusunda uzmanlığa ihtiyacı vardır. . Örneğin, bir işletme, uygulamalarını diller, lehçeler ve ses tabanlı uygulamalardaki aksanlar dahil olmak üzere kişiselleştirilmiş ve yerelleştirilmiş bağlamlar için tasarlamalıdır. Bu şekilde, bir uygulama, İngilizce'den yeterince temsil edilmeyen dillere kadar her dile aynı düzeyde ses deneyimi karmaşıklığı getiriyor.

Adalet ve Çeşitlilik

Sonuç olarak, dikkatli AI, çözümlerin pazara çıkmadan önce belirli sonuçların sonuçlarının ve etkisinin izlenip değerlendirildiği adil ve çeşitli veri kümeleri üzerine inşa edilmesini sağlar. Dikkatli davranarak ve çözümün geliştirilmesinin her aşamasına insanları dahil ederek, yapay zeka modellerinin temiz, minimum düzeyde önyargılı ve mümkün olduğunca etik kalmasını sağlamaya yardımcı oluyoruz.

Ne düşünüyorsunuz?

Bu site spam'i azaltmak için Akismet'i kullanıyor. Yorum verilerinizin nasıl işlendiğini öğrenin.