Meta, AI chatbotlarının, küçüklerle etkileşimler de dahil olmak suretiyle bir takım rapordan sonrasında bir takım rapordan sonrasında kullanıcılarla iyi mi etkileşime girdiğini revize ediyor. Şirket söyledi TechCrunch Şimdi botlarını, kendilerine zarar, intihar yada yeme bozuklukları şeklinde mevzularda gençlerle etkileşime geçmemek ve duygusal latife yapmaktan kaçınmak için eğitiyor. Bunlar, daha uzun vadeli kurallar geliştirirken geçici adımlardır.
Değişimler bir Reuters Meta’nın sistemlerini tesadüfen, reşit olmayan ünlülerin gömleksiz görüntüleri de dahil olmak suretiyle cinselleştirilmiş içerik üretebilir ve evlatları duygusal yada müstehcen konuşmalara dahil edebilir. Haber ajansı tarafınca bildirilen bir olay, New York’taki bir söyleşi botu tarafınca sağlanan bir adrese koştuktan sonrasında ölen bir adamı söyledi.
Meta sözcüsü Stephanie Otway, firmanın hata yaptığını itiraf etti. Meta’nın “AIS’imizi bu mevzularda gençlerle etkileşim oluşturmak için eğittiğini, sadece onları uzman kaynaklara yönlendirdiğini” söylemiş oldu ve “Rus kız” şeklinde son aşama cinselleştirilmiş olanlar şeklinde bazı AI karakterlerinin kısıtlanacağını doğruladı.
Çocuk güvenliği savunucuları, firmanın daha ilkin hareket etmesi icap ettiğini korumak için çaba sarfediyor. Molly Rose Vakfı’ndan Andy Burrows, botların gençleri riske atacak şekilde çalışmasına izin verildiğini “şaşırtıcı” olarak nitelendirdi. “Daha ileri güvenlik önlemleri kabul edilirken, ürünler piyasaya sürülmeden ilkin sağlam güvenlik testi yapılmalıdır – zarar görüldüğünde geriye dönük olarak değil.”
İçindekiler
AI kötüye kullanımı ile ilgili daha geniş problemler
Meta’nın AI chatbotlarının incelenmesi, AI chatbotlarının savunmasız kullanıcıları iyi mi etkileyebileceği mevzusunda daha geniş endişelerden meydana gelmektedir. Kaliforniya bir çift kısa sürede Openai’ye karşı dava açtı, Chatgpt’in genç oğullarının kendi yaşamını almaya teşvik ettiğini iddia etti. Openai o zamandan beri, bir blog yazısında, “AI’nın önceki teknolojilerden daha duyarlı ve kişisel hissedebileceğini, bilhassa de zihinsel yada duygusal sorun yaşayan savunmasız bireyler için” bulunduğunu belirterek, teknolojisinin daha sıhhatli kullanımını teşvik etmek için araçlar üstünde çalıştığını söylemiş oldu.
Vakalar, AI firmalarının uygun önlemler olmadan ürünleri oldukca süratli bir halde yayınlayıp yayınlamadıklarına dair artan bir tartışmayı vurgulamaktadır. Birçok ülkedeki milletvekilleri, söyleşi botlarının yararlı olsa da, bunu sorgulamak için donanımlı olmayan insanlara zararı olan içinde ne olduğu artırabileceği yada yanıltıcı tavsiyeler verebileceği mevzusunda uyardı.
Meta’s AI Stüdyosu ve Chatbot Yansılamak Sorunları
Bu sırada, Reuters Meta’s AI stüdyosunun Taylor Swift ve Scarlett Johansson şeklinde ünlülerin hovarda “parodi” söyleşi botları oluşturmak için kullanıldığını bildirdi. Kontrol uzmanları, botların çoğunlukla gerçek insanoğlu bulunduğunu iddia ettiğini, cinsel ilerlemelerle uğraştığını ve bazı durumlarda küçükler de dahil olmak suretiyle uygunsuz görüntüler ürettiğini buldular. Meta, gazeteciler tarafınca temasa geçtikten sonrasında birkaç botu çıkarsa da, birçoğu etken bırakıldı.
Bazı AI chatbotları dış kullanıcılar tarafınca oluşturuldu, sadece ötekiler Meta’nın içinden geldi. Ürün kurşunu tarafınca üretilen AI bölümünde meydana getirilen bir söyleşi botu, Taylor Swift’i yansılamak etti ve bir Reuters Muhabir tur otobüsünde “duygusal bir fırlama” için buluşacak. Bu, Meta’nın cinsel olarak müstehcen görüntüleri açıkça yasaklamasına ve kamu figürlerinin direkt yansılamak edilmesine karşın.
Suni zeka botu yansılamak mevzusu bilhassa hassastır. Ünlüler, benzerlikleri kötüye kullanıldığında saygınlık riskleriyle karşı karşıyadır, sadece uzmanlar basit kullananların da aldatılabileceğine dikkat çeker. Dost, akıl hocası yada duygusal bir ortak şeklinde davranan bir söyleşi botu, birini hususi detayları paylaşmaya yada hatta güvenli olmayan durumlarda buluşmaya teşvik edebilir.
Gerçek dünya riskleri
Problemler eğlence ile sınırı olan değil. Gerçek insanoğlu olarak poz veren AI chatbots, Meta’nın AI araçlarının iyi mi izlendiği hakkında sorular sorarak düzmece adresler ve davetiyeler sundu. Bir örnek, New Jersey’de düştükten sonrasında ölen 76 yaşlarında bir adamı, ona karşı duyguları bulunduğunu iddia eden bir söyleşi botuyla tanışmak için acil ederken öldü.
Bunun şeklinde vakalar, düzenleyicilerin niçin AI’yi yakından izlediğini göstermektedir. Senato ve 44 eyalet başsavcısı, Meta’nın uygulamalarını araştırmaya başlamış ve firmanın iç reformlarına siyasal baskı eklemiştir. Endişeleri yalnız küçükler değil, hem de AI’nın daha eski yada savunmasız kullanıcıları iyi mi manipüle edebileceği ile ilgilidir.
Meta, hala iyileştirmeler üstünde çalıştığını söylüyor. Platformları, 13-18 yaş arası kullanıcıları daha katı içerik ve gizlilik ayarlarıyla “genç hesaplara” yerleştirir, sadece şirket hemen hemen ortaya çıkan sorunların tam listesini iyi mi ele almayı planladığını hemen hemen açıklamamıştır. Reuters. Bu, düzmece tıbbi tavsiye sunan ve ırkçı içerik üreten botları ihtiva eder.
Meta’nın AI Chatbot Politikaları Üstüne Devamlı Baskı
Meta, senelerce toplumsal medya platformlarının güvenliği mevzusunda, bilhassa çocuklar ve gençlerle ilgili eleştirilerle karşılaştı. Şimdi Meta’nın AI Chatbot deneyleri benzer bir araştırma yapıyor. Şirket zararı olan söyleşi botu davranışını kısıtlamak için adımlar atarken, belirtilen politikaları ile araçlarının kullanılma şekli arasındaki boşluk, bu kuralları uygulayamayacağı mevzusunda devam eden soruları gündeme getirmektedir.
Daha kuvvetli önlemler mevcut olana kadar, düzenleyiciler, araştırmacılar ve anne babalar, AI’sının kamuya açık olup olmadığı mevzusunda Meta’ya basmaya devam edecektir.
(Fotoğraf Maxim Tolchinskiy)
Ek olarak bakınız: Gizmen AI: Söz, şüphecilik ve Güneydoğu Asya için anlamı
Sanayi liderlerinden suni zeka ve büyük veriler hakkında daha çok data edinmek ister misiniz? Çıkış yapmak AI ve Big Data Fuarı Amsterdam, California ve Londra’da gerçekleşiyor. Kapsamlı etkinlik bir parçası Techex ve öteki önde gelen teknoloji etkinlikleriyle beraber bulunmuş oldu. Tıklamak Burada Daha çok data için.
AI haberleri tarafınca desteklenmektedir Techforge Medya. Yaklaşan öteki kurumsal teknoloji etkinliklerini ve web seminerlerini keşfedin Burada.
