Lobiciler, şirketler ve politikacılar, veri koruma ve modellerin önyargısı söz konusu olduğunda yapay zeka alanındaki en büyük sis perdelerini ateşliyor – AI Yasası, özellikle biz insanlarla ilgili olarak AI sistemlerinin güvenliği ile ilgilidir. Yapay zeka sistemlerini ısıtma sistemleriyle karşılaştıran ve “bunları sentetik verilerle yıkamak” isteyen Sağlık Bakanı Carl Lauterbach’tan bir alıntı, konunun şu ana kadar kamuoyundaki tartışmalarda oldukça zayıf bir şekilde aktarıldığını gösteriyor. Sigorta şirketi Axa’da veri bilimcisi olan Boris Ruf, bir röportajda yapay zeka sistemlerinde bozulmaların nasıl meydana geldiğini, verilerin neyle ilgili olduğunu ve adaletin teknik olarak nasıl uygulanabileceğini açıklıyor.
Reklamcılık
AI adil ve şeffaf olmalı ve böylece insanlara fayda sağlamalıdır. İlk etapta önyargılar ve yanlılıklar sistemlere nasıl giriyor?
Önyargı, bir yapay zeka uygulamasının yaşam döngüsü boyunca içeri sızabilir. Tabii ki, eğitim verileri merkezi bir rol oynar. Genellikle modellenecek dünyayı tanımlarlar. Veriler eksikse veya bazı gruplar yetersiz temsil ediliyorsa, bu önyargıya yol açabilir. Ancak bazen, örneğin sosyal eşitsizlik toplumda sağlam bir şekilde yerleştiğinde, mevcut durum zaten adaletsiz olarak algılanır. O zaman amaç, statükoyu yeniden üretmek değil, bu “tarihsel önyargı” biçiminin üstesinden gelmek olabilir. Son olarak, sistemi kullanan kişi de olası bir bozulma kaynağıdır. Örneğin, sistemin çıktısını kendine göre yorumlayarak ya da yapay zeka uygulamasının amacı dışında kullanılması durumunda.
AI, yaşamlarımızı zenginleştirmek için muazzam bir potansiyele sahiptir. Bu potansiyelin hayata geçirilebilmesi için toplumun teknolojiye güvenebilmesi gerekmektedir. Bu nedenle, operasyonun sorumlu bir şekilde yürütülmesi ilgili herkesin çıkarınadır. Bu adalet için olduğu kadar şeffaflık, güvenilirlik ve veri koruma gibi diğer alanlar için de geçerlidir.
AXA’da bir veri bilimcisi ve yapay zeka adaletinde uzmandır.
Adalet genellikle tanımlanması zor olan yumuşak bir kavram gibi görünür. Bu teknik olarak nasıl uygulanabilir?
Aslında adaletle ilgili çok farklı kavramlar var ama bunlar matematiksel formüllere çevrilebilir. İyi bilinen tanımlar, örneğin, demografik eşitlik veya eşitlenmiş oranlardır. Ancak ne yazık ki, bazı kavramlar doğrudan çelişki içindedir, bu nedenle kişi tüm gereklilikleri eşit şekilde karşılayan bir “tam adalet” biçimi için çabalayamaz. Teknik uygulamaya ek olarak, bu nedenle en büyük zorluk, belirli bir yapay zeka sistemi için belirli bir uygulamada neyin adil olacağını ve nedenini belirlemektir.
Sürekli büyüyen AI sistemlerinde önyargıyla ne kadar etkili bir şekilde mücadele edilebilir?
Reklamcılık
Tabii ki, hiçbir yapay zeka sistemi hiçbir zaman tamamen önyargıdan arınmış olmayacaktır – bu arada, geleneksel sistemler kadar az da olsa. Farklı, bazen uyumsuz adalet kavramları nedeniyle, sonunda her zaman uzlaşmalar bulunmalıdır. Bununla birlikte, AI sistemlerinin her operatörünün sistemdeki bu tür etkileri anlaması ve bunları mümkün olan en iyi şekilde kontrol etmesi çok önemlidir.
Her şeyden önce, eğitim verilerinde daha fazla hacim ve daha fazla çeşitlilik, AI modelinin genelleme yeteneğini ve dolayısıyla sistemin genel performansını artırır. Ancak bu, AI yaşam döngüsü sırasında ortaya çıkabilecek önyargının nedenleriyle mücadele etmez. Bu arada, ChatGPT gibi LLM’lerle ilgili olarak adalet sorunu sıfırdan ortaya çıkıyor. Bugüne kadar yapılan araştırmaların çoğu, çıktının bir sınıf veya sayı olduğu sınıflandırma ve regresyon problemlerine odaklanmıştır—dil modelleri için adaleti ölçmek oldukça yeni bir alandır.
Efendim, cevaplarınız için çok teşekkür ederim! Boris Ruf, iX Special’da yapay zeka konusunda ayrıntılı bir makalede, burada değinilen noktaları detaylandırıyor ve önyargıyla teknik olarak nasıl mücadele edilebileceğini gösteriyor.
“Üç Soru ve Yanıt” serisinde iX, ister kullanıcının PC önündeki bakış açısı, ister yöneticinin bakış açısı veya bir yöneticinin günlük yaşamı olsun, günümüzün BT zorluklarının özüne inmek istiyor. Günlük uygulamanızdan veya kullanıcılarınızdan önerileriniz var mı? Hangi konuda kimin tavsiyelerini kısaca okumak istersiniz? O zaman lütfen bize yazın veya forumda bir yorum bırakın.
(psst)
Haberin Sonu
Reklamcılık
AI adil ve şeffaf olmalı ve böylece insanlara fayda sağlamalıdır. İlk etapta önyargılar ve yanlılıklar sistemlere nasıl giriyor?
Önyargı, bir yapay zeka uygulamasının yaşam döngüsü boyunca içeri sızabilir. Tabii ki, eğitim verileri merkezi bir rol oynar. Genellikle modellenecek dünyayı tanımlarlar. Veriler eksikse veya bazı gruplar yetersiz temsil ediliyorsa, bu önyargıya yol açabilir. Ancak bazen, örneğin sosyal eşitsizlik toplumda sağlam bir şekilde yerleştiğinde, mevcut durum zaten adaletsiz olarak algılanır. O zaman amaç, statükoyu yeniden üretmek değil, bu “tarihsel önyargı” biçiminin üstesinden gelmek olabilir. Son olarak, sistemi kullanan kişi de olası bir bozulma kaynağıdır. Örneğin, sistemin çıktısını kendine göre yorumlayarak ya da yapay zeka uygulamasının amacı dışında kullanılması durumunda.
AI, yaşamlarımızı zenginleştirmek için muazzam bir potansiyele sahiptir. Bu potansiyelin hayata geçirilebilmesi için toplumun teknolojiye güvenebilmesi gerekmektedir. Bu nedenle, operasyonun sorumlu bir şekilde yürütülmesi ilgili herkesin çıkarınadır. Bu adalet için olduğu kadar şeffaflık, güvenilirlik ve veri koruma gibi diğer alanlar için de geçerlidir.
AXA’da bir veri bilimcisi ve yapay zeka adaletinde uzmandır.
Adalet genellikle tanımlanması zor olan yumuşak bir kavram gibi görünür. Bu teknik olarak nasıl uygulanabilir?
Aslında adaletle ilgili çok farklı kavramlar var ama bunlar matematiksel formüllere çevrilebilir. İyi bilinen tanımlar, örneğin, demografik eşitlik veya eşitlenmiş oranlardır. Ancak ne yazık ki, bazı kavramlar doğrudan çelişki içindedir, bu nedenle kişi tüm gereklilikleri eşit şekilde karşılayan bir “tam adalet” biçimi için çabalayamaz. Teknik uygulamaya ek olarak, bu nedenle en büyük zorluk, belirli bir yapay zeka sistemi için belirli bir uygulamada neyin adil olacağını ve nedenini belirlemektir.
Sürekli büyüyen AI sistemlerinde önyargıyla ne kadar etkili bir şekilde mücadele edilebilir?
Reklamcılık
Tabii ki, hiçbir yapay zeka sistemi hiçbir zaman tamamen önyargıdan arınmış olmayacaktır – bu arada, geleneksel sistemler kadar az da olsa. Farklı, bazen uyumsuz adalet kavramları nedeniyle, sonunda her zaman uzlaşmalar bulunmalıdır. Bununla birlikte, AI sistemlerinin her operatörünün sistemdeki bu tür etkileri anlaması ve bunları mümkün olan en iyi şekilde kontrol etmesi çok önemlidir.
Her şeyden önce, eğitim verilerinde daha fazla hacim ve daha fazla çeşitlilik, AI modelinin genelleme yeteneğini ve dolayısıyla sistemin genel performansını artırır. Ancak bu, AI yaşam döngüsü sırasında ortaya çıkabilecek önyargının nedenleriyle mücadele etmez. Bu arada, ChatGPT gibi LLM’lerle ilgili olarak adalet sorunu sıfırdan ortaya çıkıyor. Bugüne kadar yapılan araştırmaların çoğu, çıktının bir sınıf veya sayı olduğu sınıflandırma ve regresyon problemlerine odaklanmıştır—dil modelleri için adaleti ölçmek oldukça yeni bir alandır.
Efendim, cevaplarınız için çok teşekkür ederim! Boris Ruf, iX Special’da yapay zeka konusunda ayrıntılı bir makalede, burada değinilen noktaları detaylandırıyor ve önyargıyla teknik olarak nasıl mücadele edilebileceğini gösteriyor.
“Üç Soru ve Yanıt” serisinde iX, ister kullanıcının PC önündeki bakış açısı, ister yöneticinin bakış açısı veya bir yöneticinin günlük yaşamı olsun, günümüzün BT zorluklarının özüne inmek istiyor. Günlük uygulamanızdan veya kullanıcılarınızdan önerileriniz var mı? Hangi konuda kimin tavsiyelerini kısaca okumak istersiniz? O zaman lütfen bize yazın veya forumda bir yorum bırakın.
(psst)
Haberin Sonu