Meta Muse tartışmaların odağında: Yapay zekâ yerine bazı aramaları insanlar yaptı

Meta'nın kullanıcı adına e-posta gönderebilen, alışveriş yapabilen, seyahat planlayabilen ve işletmeleri telefonla arayarak randevu alabilen yapay zekâ asistanı Muse, piyasaya çıkmasının ardından beklenmedik bir tartışmayla gündemde. Reuters'ın şirket içi paylaşımlara dayandırdığı haberine göre; Meta, Muse üzerinden yapılan bazı telefon görüşmelerinde yapay zekâ yerine insan yüklenicileri devreye soktu.

Meta'nın yeni kişisel yapay zekâ asistanı Muse, kullanıcıların günlük işlerini onlar adına gerçekleştirme iddiasıyla piyasaya çıktı. Ancak kısa süre içerisinde sistemin telefon görüşmelerinde insan desteğine başvurduğunun ortaya çıkması, şirketin yapay zekâ teknolojisinin çalışma biçimine ilişkin yeni bir tartışma başlattı.

Meta tarafından geliştirilen Muse; kullanıcı adına e-posta gönderebiliyor, alışveriş işlemlerini gerçekleştirebiliyor, seyahat rezervasyonları yapabiliyor ve internet üzerinde farklı görevleri yerine getirebiliyor. Telefon özelliği sayesinde ise ABD'deki işletmeleri arayarak stok durumu hakkında bilgi alabiliyor, randevu oluşturabiliyor veya fiyat teklifi isteyebiliyor.

Ancak Reuters'ın şirket içi duyurulara dayandırdığı haberine göre; Meta, bu telefon görüşmelerinin bir bölümünde “human concierge” olarak tanımlanan insan destekli bir sistemi test etti.

Meta Muse telefon görüşmelerinde insan desteği kullandı

Muse'un en dikkat çekici özelliklerinden biri, kullanıcının yerine telefon görüşmesi yapabilmesi.

Örneğin; bir kullanıcı saç kesimi için randevu almak istediğinde Muse'un ilgili işletmeyi araması ve karşı taraftaki görevliyle görüşerek uygun saatleri öğrenmesi mümkün. Benzer şekilde ürün stoğu sorgulamak veya farklı şirketlerden fiyat almak için de sistem telefon görüşmesi gerçekleştirebiliyor.

Fakat Reuters'ın aktardığı şirket içi bilgilere göre; Meta, bazı görüşmelerin insan yükleniciler tarafından gerçekleştirilmesini sağlayan bir test başlattı.

Bu sistemde kullanıcı talebi Muse üzerinden oluşturulurken, telefonun diğer ucundaki görüşmeyi bazı durumlarda yapay zekâ yerine insan bir görevli yürüttü. Reuters, söz konusu testin şirket içinde “human concierge” olarak adlandırıldığını bildirdi.

Meta neden insanları devreye soktu?

Şirket içi değerlendirmelere göre insan desteğinin görüşmelerin başarı oranını yükselttiği belirtildi.

Reuters'ın gördüğü şirket içi paylaşımlarda, Meta'nın insan destekli görüşmeler için yüzde 95 ila 98 arasında başarı oranı öngördüğü, yalnızca yapay zekâ tarafından yürütülen görüşmelerde ise başarı oranının daha düşük olduğu aktarıldı.

Bu durum, yapay zekâ ajanlarının gerçek dünyadaki telefon görüşmelerinde karşılaştığı sorunları da ortaya koyuyor.

Telefon görüşmeleri, yazılı bir chatbot konuşmasından farklı olarak çok daha fazla değişken içeriyor. Karşı tarafın farklı bir aksanla konuşması, sorunun beklenenden farklı anlaşılması, otomatik menüler, bekleme süreleri ve işletmenin alışılmadık bir yanıt vermesi yapay zekâ ajanı için süreci zorlaştırabiliyor.

Muse'un insan desteğine ihtiyaç duyması da tam olarak bu noktada tartışma yarattı.

Muse'un yapay zekâ yerine insanla arama yapması neden tartışıldı?

Asıl tartışma teknolojinin kendisinden çok gizlilik konusunda ortaya çıktı.

Muse'un kullanıcı adına telefon görüşmesi yapması sırasında kullanıcının kişisel bilgileri, alışveriş tercihleri veya gerçekleştirmek istediği işlem hakkında çeşitli bilgiler görüşmenin parçası olabiliyor.

Görüşmenin insan yükleniciye devredilmesi ise bu bilgilerin bir insan tarafından görülebilmesi veya duyulabilmesi ihtimalini gündeme getirdi.

Reuters'a göre; bazı Meta çalışanları, insan yüklenicilerin görüşmelere dahil edilmesinin kullanıcıların gereksiz bilgilerinin açığa çıkmasına neden olabileceği konusunda endişelerini şirket içinde dile getirdi.

Bu nedenle Muse tartışması yalnızca “Yapay zekâ gerçekten yapay zekâ mı?” sorusuna indirgenmiş değil. Aynı zamanda AI ajanlarının kullanıcı adına hareket ederken hangi bilgileri kimlerle paylaşabileceği sorusunu da gündeme getiriyor.

Muse görüşmesinde ırkçı ifade kullanıldığı iddiası

Reuters'ın haberinde yer alan daha dikkat çekici olaylardan biri de insan destekli görüşmelerden birinde yaşandı.

Bir Meta çalışanının, internet ve kablo sağlayıcısıyla fatura görüşmesi yapmak üzere Muse'u kullandığı ve görüşmenin dökümünde insan yükleniciye ait olduğu belirtilen ırkçı bir ifade fark ettiği aktarıldı.

Meta Superintelligence Labs yöneticilerinden birinin olayı hata olarak değerlendirdiği ve söz konusu özelliğin geçici olarak geri çekildiğinin belirtildiği bildirildi. İlgili insan ajanın da artık Meta projelerinde görev yapmayacağı aktarıldı.

Burada önemli nokta, olayın Muse'un yapay zekâ modelinin ürettiği bir ifade olarak değil, insan destekli test sürecinde görev yapan bir kişinin davranışı olarak aktarılması.

Meta Muse testini neden yaptı?

Meta ise insan destekli sistemi kullanıcıların karşısına çıkarmak amacıyla değil, güvenlik ve gizlilik önlemlerini geliştirmek için gerçekleştirilen bir test olarak açıklıyor.

Meta sözcüsü Daniel Roberts, şirket çalışanlarından gelen geri bildirimlerin büyük bölümünün olumlu olduğunu belirtirken, insan destekli görüşmelerin güvenlik ve gizlilik sistemlerini geliştirmek amacıyla test edildiğini söyledi.

Şirkete göre; özellik, gerekli güvenlik önlemleri ve kullanıcı bilgilendirmeleri tamamlanmadan geniş ölçekte kullanıma sunulmayacak.

Meta Muse nedir?

Meta, Muse'u klasik bir sohbet robotundan farklı olarak kişisel AI ajanı şeklinde tanımlıyor.

Şirketin 8 Eylül'deki resmi duyurusuna göre; Muse yalnızca soruları yanıtlamakla kalmıyor; kullanıcının verdiği görevleri yerine getirmek üzere tasarlanıyor.

Muse;

• E-posta gönderebiliyor,
• Seyahat rezervasyonu yapabiliyor,
• Alışveriş işlemlerinde kullanıcı adına hareket edebiliyor,
• İnternette form doldurabiliyor,
• Kullanıcı adına farklı web görevlerini gerçekleştirebiliyor,
• Uzun süreli görevleri takip edebiliyor,
• Gerektiğinde kullanıcıdan onay isteyebiliyor.

Meta ayrıca Muse'un Muse Secure VM adı verilen özel bir sanal bilgisayar üzerinde çalıştığını belirtiyor. Şirket, sistemin kullanıcı verilerini ve kimlik bilgilerini ayrı bir güvenlik ortamında tuttuğunu ve hassas işlemler öncesinde kullanıcıdan onay istediğini açıklıyor.

Meta'nın Muse için güvenlik iddiası yeniden gündemde

İnsan yüklenicilerin devreye girdiğinin ortaya çıkması, Meta'nın Muse'u tanıtırken özellikle vurguladığı güvenlik özelliklerini de yeniden gündeme getirdi.

Meta, Muse'un özel bir sanal makinede çalıştığını, kullanıcıların hangi uygulamalara erişim verileceğini seçebildiğini ve hassas işlemler öncesinde onay mekanizması bulunduğunu söylüyor.

Şirket ayrıca kullanıcıların Muse'un yaptığı işlemleri görebileceği bir denetim izi bulunduğunu ve kullanıcıların bağlantıları istedikleri zaman değiştirebildiğini belirtiyor.

Ancak telefon görüşmesinin belirli koşullarda bir insan tarafından gerçekleştirilmesi, bu güvenlik mimarisinin gerçek dünyadaki uygulamasına ilişkin yeni sorular ortaya çıkardı.

Muse 2,5 milyondan fazla indirildi

Tartışma, Muse'un piyasaya çıkışından kısa süre sonra geniş kullanıcı ilgisi yakaladığı bir dönemde yaşandı.

Reuters, Muse'un piyasaya sürülmesinden yaklaşık iki hafta sonra ABD'deki uygulama listelerinde üst sıralara çıktığını ve 2,5 milyondan fazla indirildiğini bildirdi. Başka bir Reuters haberinde ise 12 gün içerisinde 2,8 milyon indirme rakamı yer aldı.

Meta'nın yeni yapay zekâ stratejisinde Muse önemli bir yere sahip.

Şirket, klasik sohbet botlarının kullanıcı sorularına cevap vermesinin ötesine geçerek, kullanıcının yerine iş yapan AI ajanlarının yeni bir kullanım alanı oluşturmasını hedefliyor.

Meta Muse telefon görüşmeleri yapabiliyor mu?

Evet. Muse'un özellikleri arasında kullanıcı adına işletmeleri telefonla aramak bulunuyor.

Kullanıcı; randevu almak, ürün stoğunu öğrenmek veya fiyat bilgisi almak gibi işlemleri Muse'a bırakabiliyor.

Ancak son tartışmayla birlikte önemli bir ayrıntı ortaya çıktı: Meta, bu telefon görüşmelerinin tamamının her koşulda yalnızca yapay zekâ tarafından yürütülmesini garanti eden bir sistem üzerinde çalışmıyor. Reuters'ın haberine göre; şirket, belirli görüşmelerde insan desteğini de test etti.

Muse Türkiye'de kullanılabiliyor mu?

Meta'nın resmi duyurusuna göre; Muse ilk aşamada ABD'de iOS, Android ve muse.ai üzerinden kullanıma sunuldu. Şirket, hizmetin ilerleyen dönemde genişletileceğini belirtiyor.

Dolayısıyla Türkiye'deki kullanıcıların Muse'un bütün özelliklerine erişebildiği şeklinde genel bir ifade kullanmak şu aşamada doğru olmaz.

Yapay zekâ çağında yeni tartışma: Karşımızdaki gerçekten AI mı?

Muse olayının teknoloji dünyasında asıl dikkat çeken tarafı burada ortaya çıkıyor.

Yapay zekâ ajanlarının amacı, kullanıcı adına gerçek dünyadaki işleri gerçekleştirmek. Bunun için yalnızca metin üretmek yeterli değil; telefon açmak, formları doldurmak, alışveriş yapmak, rezervasyon oluşturmak ve gerektiğinde insanlarla iletişim kurmak gerekiyor.

Ancak sistem gerçek dünyaya yaklaştıkça başka bir soru ortaya çıkıyor:

Bir yapay zekâ ajanı başarısız olduğunda, görevi tamamlamak için arka planda insan desteği kullanılabilir mi?

Muse üzerinde yapılan test, bu sorunun artık teorik olmadığını gösterdi.

Meta açısından mesele yalnızca yapay zekânın ne kadar başarılı olduğu değil; kullanıcı adına hareket eden bir sistemin ne zaman AI, ne zaman insan desteği kullandığının kullanıcıya nasıl bildirileceği ve bu sırada kişisel bilgilerin nasıl korunacağı.

Muse'un gelecekteki gelişiminde bu ayrım, en az yapay zekânın görevleri başarıyla tamamlayabilmesi kadar önemli hale gelebilir.