Papa Francis, katil robotları, otonom drone'ları ve benzeri silah sistemlerini büyük bir tehdit olarak görüyor. Cuma akşamı güney İtalya'nın Apulia bölgesindeki Borgo Egnazia'daki G7 zirvesinde yapay zeka (AI) üzerine merakla beklenen açılış konuşmasında, “Hiçbir makine asla bir insanın canını almayı seçememeli” diye vurguladı. 87 yaşındaki oyuncu, “Yapay zeka programlarının seçim sürecinde insan kontrolüne önemli yer vermeli, bunu garanti altına almalı ve korumalıyız” dedi. Çünkü: “İnsan onuru tehlikede.”
Reklamcılık
Roma Katolik Kilisesi başkanı, “silahlı çatışma gibi bir dramada” bile, “ölümcül otonom silahlar” gibi cihazların geliştirilmesi ve kullanılmasının yeniden düşünülmesinin “acil olarak gerekli” olduğu konusunda uyardı. büyük sanayileşmiş ülkeler. Bu tür teknolojinin kullanımının yasaklanmasını açıkça savundu. Bu hazır olana kadar, “her zamankinden daha büyük ve anlamlı insan kontrolünün uygulamaya konması konusunda proaktif ve somut bir kararlılık” gerekmektedir.
G7 tarihinde ilk kez bir papa konuk oldu. Francis'in yapay zekanın ortaya çıkışının “gerçekten bilişsel-endüstriyel bir devrimi temsil ettiğine” dair hiçbir şüphesi yoktu. Bu, “karmaşık çığır açan değişikliklerle karakterize edilen” “yeni bir sosyal sistemin yaratılmasına katkıda bulunacaktır”. Örneğin, kilit teknoloji “bilgiye erişimin demokratikleşmesini, bilimsel araştırmanın katlanarak ilerlemesini ve sıkıcı işlerin makinelere devredilmesi olasılığını” destekleyebilir. Ancak sözlerinin çoğunu yapay zekanın risklerine ayırdı. Ona göre bu aynı zamanda “ileri ve gelişmekte olan ülkeler arasında, egemen ve ezilen toplumsal sınıflar arasında daha büyük adaletsizliğe” de yol açabilir. “Karşılaşma kültürü”nün yerini “atma” kültürü alma tehlikesiyle karşı karşıya.
Adli karar verme yardımcısı olarak yapay zekanın eleştirisi
Hızlı teknolojik ilerleme, Papa için yapay zekayı “büyüleyici ve aynı zamanda esrarengiz bir araç haline getiriyor. Bu, “durumu hakkıyla değerlendiren bir yansımayı gerektiriyor.” Francis'in kendisi de zaten yapay zeka mem kültürünün bir parçası haline geldi. Rapçi tarzında beyaz tasarımlı dolgulu bir ceket giydiği yapay olarak oluşturulmuş bir fotoğraf.
Dersinde çok büyük bir farklılığa dikkat çekti: “Makinenin bazı şekillerde ve bu yeni araçlarla algoritmik seçimler yapabileceği her zaman akılda tutulmalıdır.” Bu yaklaşım “ya kesin olarak tanımlanmış kriterlere ya da istatistiksel çıkarımlara” dayanmaktadır. Öte yandan insanlar sadece seçim yapmazlar, “aynı zamanda kalplerinde de karar verme yeteneğine sahiptirler.”
Papa, yapay zekanın bu nedenle “belirli sorunları çözmek” için tasarlandığını açıkladı. Bununla birlikte, kullanıcılar için genellikle “önerdiği spesifik çözümlerden genel, hatta antropolojik sonuçlar çıkarmanın cazibesi karşı konulamaz.” Bunun bir örneği, hüküm giymiş suçlulara ev hapsi verilmesi konusunda hakimlerin karar vermesine yardımcı olacak programların kullanılmasıdır. Burada yapay zeka, önceden tanımlanmış kategorilere dayalı olarak tekrar suç işleme olasılığını tahmin etmek için kullanılıyor. İlgili sistemlerin etnik köken, eğitim düzeyi veya kredi limiti gibi özel veri kategorilerine erişimi bulunmaktadır. Sadece “fiili olarak bir makinenin bir kişinin kaderi hakkında son sözü söylemesine izin verme” gibi büyük bir risk mevcut değildir. Bunun yerine, “önyargılı değerlendirmelere örtülü bir atıf” da yapılabilir; bu, yapay zekanın eğitim verilerinden önyargıları veya stereotipleri benimsediği anlamına gelir.
“Üretken” yapay zeka yaratıcı değil, “güçlendiriyor”
Francis'in OpenAI'den ChatGPT veya Google'dan Gemini gibi bilgi sistemlerine ve botlara pek inancı yok. “Birçoğumuz, herhangi bir konuda metin yazmak veya resim oluşturmak için internette kolaylıkla bulunabilen uygulamalardan etkileniyoruz” dedi. “Öğrenciler buna özellikle bayılıyor ve iş yapmak zorunda kaldıklarında bunu orantısız bir şekilde kullanıyorlar” diye bir kazıya karşı koyamadı. Ancak üniversite öğrencilerinin üretken yapay zekanın tam anlamıyla “yaratıcı” olmadığını unuttuğunu söyledi. Gerçekte bilgi için büyük veriyi arar ve onu istediği tarzda paketler. Böyle bir sistem bir terimin veya hipotezin ne kadar sıklıkla tekrarlandığını görürse, onu o kadar meşru ve geçerli sayar.
Papa, bu tür büyük dil modellerinin mevcut içeriği yeniden düzenlemesi ve pekiştirmesi anlamında “güçlendirici” olduğunu açıkladı. Ancak hata veya önyargı içerip içermediğini kontrol etmiyorlar. Bu sadece “sahte haberleri meşrulaştırma ve egemen kültürün avantajını güçlendirme” riskini taşımakla kalmıyor, aynı zamanda eğitim sürecinin özünü de baltalıyor. Artık gerçekten gerekli olan özgün yansımaya yer yok.
Francis, bu sistemlerin uygulanması ve geliştirilmesindeki en büyük zayıflığın, “insanın değeri ve onuru algısıyla bağlantılı bir ahlak anlayışının eksikliği” olduğunu belirtti. Yapay zekanın “iyi ve daha iyi bir gelecek inşa etmenin” bir aracı olabilmesi için “her zaman her bireyin refahına yönelik olması” gerekir. Vatikan ve teknoloji şirketleri, İtalyan hükümetiyle birlikte 2020'de algoritmaların etik yönelimi için bir çağrı imzaladı. Papa, yapay zekanın “teknokratik paradigmayı” güçlendirmemesi gerektiğini, buna göre “dünya görüşünün sınırlı olduğunu” da sözlerine ekledi. Sayılarla ifade edilen ve önceden hazırlanmış kategoriler halinde gruplandırılan gerçekler”.
(LL)
Haberin Sonu
Reklamcılık
Roma Katolik Kilisesi başkanı, “silahlı çatışma gibi bir dramada” bile, “ölümcül otonom silahlar” gibi cihazların geliştirilmesi ve kullanılmasının yeniden düşünülmesinin “acil olarak gerekli” olduğu konusunda uyardı. büyük sanayileşmiş ülkeler. Bu tür teknolojinin kullanımının yasaklanmasını açıkça savundu. Bu hazır olana kadar, “her zamankinden daha büyük ve anlamlı insan kontrolünün uygulamaya konması konusunda proaktif ve somut bir kararlılık” gerekmektedir.
G7 tarihinde ilk kez bir papa konuk oldu. Francis'in yapay zekanın ortaya çıkışının “gerçekten bilişsel-endüstriyel bir devrimi temsil ettiğine” dair hiçbir şüphesi yoktu. Bu, “karmaşık çığır açan değişikliklerle karakterize edilen” “yeni bir sosyal sistemin yaratılmasına katkıda bulunacaktır”. Örneğin, kilit teknoloji “bilgiye erişimin demokratikleşmesini, bilimsel araştırmanın katlanarak ilerlemesini ve sıkıcı işlerin makinelere devredilmesi olasılığını” destekleyebilir. Ancak sözlerinin çoğunu yapay zekanın risklerine ayırdı. Ona göre bu aynı zamanda “ileri ve gelişmekte olan ülkeler arasında, egemen ve ezilen toplumsal sınıflar arasında daha büyük adaletsizliğe” de yol açabilir. “Karşılaşma kültürü”nün yerini “atma” kültürü alma tehlikesiyle karşı karşıya.
Adli karar verme yardımcısı olarak yapay zekanın eleştirisi
Hızlı teknolojik ilerleme, Papa için yapay zekayı “büyüleyici ve aynı zamanda esrarengiz bir araç haline getiriyor. Bu, “durumu hakkıyla değerlendiren bir yansımayı gerektiriyor.” Francis'in kendisi de zaten yapay zeka mem kültürünün bir parçası haline geldi. Rapçi tarzında beyaz tasarımlı dolgulu bir ceket giydiği yapay olarak oluşturulmuş bir fotoğraf.
Dersinde çok büyük bir farklılığa dikkat çekti: “Makinenin bazı şekillerde ve bu yeni araçlarla algoritmik seçimler yapabileceği her zaman akılda tutulmalıdır.” Bu yaklaşım “ya kesin olarak tanımlanmış kriterlere ya da istatistiksel çıkarımlara” dayanmaktadır. Öte yandan insanlar sadece seçim yapmazlar, “aynı zamanda kalplerinde de karar verme yeteneğine sahiptirler.”
Papa, yapay zekanın bu nedenle “belirli sorunları çözmek” için tasarlandığını açıkladı. Bununla birlikte, kullanıcılar için genellikle “önerdiği spesifik çözümlerden genel, hatta antropolojik sonuçlar çıkarmanın cazibesi karşı konulamaz.” Bunun bir örneği, hüküm giymiş suçlulara ev hapsi verilmesi konusunda hakimlerin karar vermesine yardımcı olacak programların kullanılmasıdır. Burada yapay zeka, önceden tanımlanmış kategorilere dayalı olarak tekrar suç işleme olasılığını tahmin etmek için kullanılıyor. İlgili sistemlerin etnik köken, eğitim düzeyi veya kredi limiti gibi özel veri kategorilerine erişimi bulunmaktadır. Sadece “fiili olarak bir makinenin bir kişinin kaderi hakkında son sözü söylemesine izin verme” gibi büyük bir risk mevcut değildir. Bunun yerine, “önyargılı değerlendirmelere örtülü bir atıf” da yapılabilir; bu, yapay zekanın eğitim verilerinden önyargıları veya stereotipleri benimsediği anlamına gelir.
“Üretken” yapay zeka yaratıcı değil, “güçlendiriyor”
Francis'in OpenAI'den ChatGPT veya Google'dan Gemini gibi bilgi sistemlerine ve botlara pek inancı yok. “Birçoğumuz, herhangi bir konuda metin yazmak veya resim oluşturmak için internette kolaylıkla bulunabilen uygulamalardan etkileniyoruz” dedi. “Öğrenciler buna özellikle bayılıyor ve iş yapmak zorunda kaldıklarında bunu orantısız bir şekilde kullanıyorlar” diye bir kazıya karşı koyamadı. Ancak üniversite öğrencilerinin üretken yapay zekanın tam anlamıyla “yaratıcı” olmadığını unuttuğunu söyledi. Gerçekte bilgi için büyük veriyi arar ve onu istediği tarzda paketler. Böyle bir sistem bir terimin veya hipotezin ne kadar sıklıkla tekrarlandığını görürse, onu o kadar meşru ve geçerli sayar.
Papa, bu tür büyük dil modellerinin mevcut içeriği yeniden düzenlemesi ve pekiştirmesi anlamında “güçlendirici” olduğunu açıkladı. Ancak hata veya önyargı içerip içermediğini kontrol etmiyorlar. Bu sadece “sahte haberleri meşrulaştırma ve egemen kültürün avantajını güçlendirme” riskini taşımakla kalmıyor, aynı zamanda eğitim sürecinin özünü de baltalıyor. Artık gerçekten gerekli olan özgün yansımaya yer yok.
Francis, bu sistemlerin uygulanması ve geliştirilmesindeki en büyük zayıflığın, “insanın değeri ve onuru algısıyla bağlantılı bir ahlak anlayışının eksikliği” olduğunu belirtti. Yapay zekanın “iyi ve daha iyi bir gelecek inşa etmenin” bir aracı olabilmesi için “her zaman her bireyin refahına yönelik olması” gerekir. Vatikan ve teknoloji şirketleri, İtalyan hükümetiyle birlikte 2020'de algoritmaların etik yönelimi için bir çağrı imzaladı. Papa, yapay zekanın “teknokratik paradigmayı” güçlendirmemesi gerektiğini, buna göre “dünya görüşünün sınırlı olduğunu” da sözlerine ekledi. Sayılarla ifade edilen ve önceden hazırlanmış kategoriler halinde gruplandırılan gerçekler”.
(LL)
Haberin Sonu