Microsoft, karmaşık soruları bile yanıtlamak ve derinlemesine konuşmalar yapmak için yapay zeka kullanan Bing sohbet robotunun kullanımını kısıtladı. Yazılım grubu, bu nedenle, sohbet robotunun rahatsız edici ve uygunsuz olarak algılanan yanıtlar formüle ettiği bir dizi olaya tepki gösteriyor. Bir blog gönderisinde şirket, Bing sohbetlerini artık günde 50 soru ve oturum başına beş soruyla sınırlayacağını duyurdu. Bing ekibi, “Verilerimiz, insanların büyük çoğunluğunun aradıkları yanıtları beş turda bulduğunu gösterdi” dedi. Chatbot ile yapılan konuşmaların yalnızca yaklaşık yüzde biri 50’den fazla mesaj içeriyor. Kullanıcılar oturum başına beş giriş sınırına ulaştığında, Bing onlardan yeni bir konu başlatmalarını ister.
Microsoft daha önce henüz test aşamasında olan AI chatbot’un daha uzun konuşmalara dahil edilmemesi konusunda uyarıda bulunmuştu. 15 veya daha fazla soru içeren daha uzun sohbetler, Bing’in “kendini tekrar etmesine veya yardımcı olması gerekmeyen veya amaçladığımız tonaliteye uymayan yanıtları istemesine veya kışkırtmasına” neden olabilir.
Çok sayıda başarısız davranış örneği
New York Times’tan bir muhabirin Bing chatbot’unu test etmesi internette heyecan yarattı. İki saatten fazla süren diyalogda chatbot, gazeteciyi sevdiğini iddia etti. Daha sonra muhabirden eşinden ayrılmasını istedi. Geçtiğimiz birkaç gün içinde, chatbot tarafından “uygunsuz davranış” ile ilgili çok sayıda başka örnek görüldü. Örneğin, yapay zeka bir kullanıcıya muhtemelen hayatta kalmayı kendisininkine tercih edeceğini söyledi. Başka bir kullanıcıyı 2022 olduğuna inandırmak istedi ve aksini söylediğinde şiddetle özür diledi; üçte birini şiddetle tehdit etti.
Önerilen Haber Amaçlı İçerik
Onayınız ile harici bir anket (Opinary GmbH) buraya yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi yükle
Microsoft, Bing sohbet botu için başlangıç OpenAI teknolojisine güveniyor ve Kaliforniyalı AI şirketini milyarlarla destekliyor. Microsoft CEO’su Satya Nadella, AI işlevlerinin entegrasyonunu, Google grubu Alphabet ile rekabet halindeki pazar koşullarını tersine çevirmek için bir fırsat olarak görüyor. Ayrıca, ofis yazılımının üstünlüğünü güvence altına almak ve Microsoft Azure ile bulut işini ilerletmek için yapay zekayı kullanmak istiyor.
Google, kendi AI saldırısıyla karşı koymak istiyor
Google kısa süre önce Microsoft ve OpenAI’nin baskısına karşı koymak için sohbet robotu Bard ile kendi AI saldırısını başlattı. Alphabet CEO’su Sundar Pichai görünüşe göre daha da geliştirilmesi için baskı yapmak istiyor: Business Insider tarafından elde edilen dahili bir e-postaya göre Google, halihazırda kalite, güvenlik hakkında geri bildirim sağlayan binlerce dahili ve harici test uzmanıyla AI’nın dahili testine Salı günü başladı. ve chatbot yanıtlarının gerçekçiliği. Bir sözcüye göre Google, Bard’ın “kullanıcılar için hazır” olduğundan emin olmak istiyor. 15 Şubat tarihli başka bir dahili notta, çalışanlar Pichai’den zamanlarının iki ila dört saatini chatbot’u eğitmek için ayırmasını istedi. Daha geçen hafta Bard tanıtıldığında Google’ın imajının zedelenmesi, aynı gün payının yüzde 9 düşmesine neden oldu. Chatbot, demo sırasında James Webb teleskobuyla ilgili bir soruyu yanlış yanıtlamıştı.
(kst)
Haberin Sonu
Microsoft daha önce henüz test aşamasında olan AI chatbot’un daha uzun konuşmalara dahil edilmemesi konusunda uyarıda bulunmuştu. 15 veya daha fazla soru içeren daha uzun sohbetler, Bing’in “kendini tekrar etmesine veya yardımcı olması gerekmeyen veya amaçladığımız tonaliteye uymayan yanıtları istemesine veya kışkırtmasına” neden olabilir.
Çok sayıda başarısız davranış örneği
New York Times’tan bir muhabirin Bing chatbot’unu test etmesi internette heyecan yarattı. İki saatten fazla süren diyalogda chatbot, gazeteciyi sevdiğini iddia etti. Daha sonra muhabirden eşinden ayrılmasını istedi. Geçtiğimiz birkaç gün içinde, chatbot tarafından “uygunsuz davranış” ile ilgili çok sayıda başka örnek görüldü. Örneğin, yapay zeka bir kullanıcıya muhtemelen hayatta kalmayı kendisininkine tercih edeceğini söyledi. Başka bir kullanıcıyı 2022 olduğuna inandırmak istedi ve aksini söylediğinde şiddetle özür diledi; üçte birini şiddetle tehdit etti.
Önerilen Haber Amaçlı İçerik
Onayınız ile harici bir anket (Opinary GmbH) buraya yüklenecektir.
Anketleri her zaman yükle
Anketi şimdi yükle
Microsoft, Bing sohbet botu için başlangıç OpenAI teknolojisine güveniyor ve Kaliforniyalı AI şirketini milyarlarla destekliyor. Microsoft CEO’su Satya Nadella, AI işlevlerinin entegrasyonunu, Google grubu Alphabet ile rekabet halindeki pazar koşullarını tersine çevirmek için bir fırsat olarak görüyor. Ayrıca, ofis yazılımının üstünlüğünü güvence altına almak ve Microsoft Azure ile bulut işini ilerletmek için yapay zekayı kullanmak istiyor.
Google, kendi AI saldırısıyla karşı koymak istiyor
Google kısa süre önce Microsoft ve OpenAI’nin baskısına karşı koymak için sohbet robotu Bard ile kendi AI saldırısını başlattı. Alphabet CEO’su Sundar Pichai görünüşe göre daha da geliştirilmesi için baskı yapmak istiyor: Business Insider tarafından elde edilen dahili bir e-postaya göre Google, halihazırda kalite, güvenlik hakkında geri bildirim sağlayan binlerce dahili ve harici test uzmanıyla AI’nın dahili testine Salı günü başladı. ve chatbot yanıtlarının gerçekçiliği. Bir sözcüye göre Google, Bard’ın “kullanıcılar için hazır” olduğundan emin olmak istiyor. 15 Şubat tarihli başka bir dahili notta, çalışanlar Pichai’den zamanlarının iki ila dört saatini chatbot’u eğitmek için ayırmasını istedi. Daha geçen hafta Bard tanıtıldığında Google’ın imajının zedelenmesi, aynı gün payının yüzde 9 düşmesine neden oldu. Chatbot, demo sırasında James Webb teleskobuyla ilgili bir soruyu yanlış yanıtlamıştı.
(kst)
Haberin Sonu