Nvidia, AI sohbet programlarını daha güvenli hale getirmek için tasarlanmış açık kaynaklı bir araç seti yayınladı. Araç takımı “NeMo Guardrails” olarak adlandırılır ve büyük dil modelleri (Large Language Models, LLM) için “korkuluklar” kurmayı amaçlar. Nvidia’ya göre bu, geliştiricilerin “güvenli ve güvenilir LLM konuşma sistemlerini” programlamasını sağlıyor. Araç seti, ChatGPT dahil tüm LLM’lerle çalışır.
Üç kural kategorisi
NeMo Guardrails ile geliştiriciler, bir chatbot’un kullanıcı girişine nasıl tepki vereceğini tanımlayan kurallar oluşturabilmelidir. Şu anda bu kurallar için üç kategori vardır: sohbetin yolunu kaybetmemesi için “topikal korkuluklar”, yanlış bilgilendirmeyi önlemek için “güvenlik korkulukları” ve kötü amaçlı koda karşı “güvenlik korkulukları”.
Nvidia bir blog gönderisinde, NeMo Guardrails’in LangChain gibi topluluk tarafından geliştirilen araç takımlarına dayandığını yazıyor. LangChain, dil modellerine dayalı uygulamalar geliştirmede uzmanlaşmış bir çerçevedir. Ek olarak, yeni araç seti, Nvidia’ya göre doğal dil komutlarıyla sohbet robotları geliştirmek için kullanılabilen Nvidia’nın Colang programlama dilini kullanıyor.
ChatGPT tartışmayı körüklüyor
Kasım 2022’nin sonunda OpenAI, ChatGPT sohbet robotunu piyasaya sürdü. O zamandan beri, dil modellerinin güvenli kullanımı dünya çapında giderek daha fazla tartışılmaktadır. Bir röportajda, Schleswig-Holstein eyaletinin veri koruma görevlisi, Alman ve Avrupalı yetkililerin OpenAI’yi nasıl kontrol ettiğini açıklıyor.
(gref)
Haberin Sonu
Üç kural kategorisi
NeMo Guardrails ile geliştiriciler, bir chatbot’un kullanıcı girişine nasıl tepki vereceğini tanımlayan kurallar oluşturabilmelidir. Şu anda bu kurallar için üç kategori vardır: sohbetin yolunu kaybetmemesi için “topikal korkuluklar”, yanlış bilgilendirmeyi önlemek için “güvenlik korkulukları” ve kötü amaçlı koda karşı “güvenlik korkulukları”.
Nvidia bir blog gönderisinde, NeMo Guardrails’in LangChain gibi topluluk tarafından geliştirilen araç takımlarına dayandığını yazıyor. LangChain, dil modellerine dayalı uygulamalar geliştirmede uzmanlaşmış bir çerçevedir. Ek olarak, yeni araç seti, Nvidia’ya göre doğal dil komutlarıyla sohbet robotları geliştirmek için kullanılabilen Nvidia’nın Colang programlama dilini kullanıyor.
ChatGPT tartışmayı körüklüyor
Kasım 2022’nin sonunda OpenAI, ChatGPT sohbet robotunu piyasaya sürdü. O zamandan beri, dil modellerinin güvenli kullanımı dünya çapında giderek daha fazla tartışılmaktadır. Bir röportajda, Schleswig-Holstein eyaletinin veri koruma görevlisi, Alman ve Avrupalı yetkililerin OpenAI’yi nasıl kontrol ettiğini açıklıyor.
(gref)
Haberin Sonu