Her zaman dinleyen AI arkadaşı | Recall'dan daha kötü

Draqon

Aktif Üye
İki “arkadaş”, iki geliştirici, bir argüman: c't 3003 absürt bir yapay zeka aygıtının absürt hikayesini anlatıyor.


Reklamcılık




Videonun transkripti


(Not: Bu metin, yukarıdaki videoyu izleyemeyen veya izlemek istemeyen kişilere yöneliktir. Metin, video parçasındaki tüm bilgileri yansıtmamaktadır.)

Bakın, bu sabah bu tanıtım videosunu keşfettim. Ve gerçekten düşündüm: Ah, bu yeni bir korku filmi mi? Bu yeni Black Mirror sezonunun bir önizlemesi mi?

Bu gerçekten gerçek bir ürün olamaz mı? Kapsamlı araştırmalarımdan sonra şunu anladım: Evet, öyle. Boynunuza taktığınız bir zincire taktığınız ve etrafınızda olan HER ŞEYİ kaydeden bir kolye. Ve buna tepki veriyor. Yani kahvem düşerse, bu şey bana bir mesaj gönderiyor: “Hey, dostum, ne oluyor, kahve sevmiyor musun?” Yani gönüllü olarak yanınızda taşıdığınız ve size kötü mesajlar yazan bir böcek mi? Evet, ama Friend AI kolyesiyle ilgili hikaye daha da saçma. Savaş rap'leri, daha da çılgın videolar ve tam bir megalomani dahil. Bizi izlemeye devam edin.

Sevgili hackerlar, sevgili internet kullanıcıları, hoş geldiniz…

Arkadaş: Bu bir zincir kolye – evet, zincirler şu anda erkekler arasında çok popüler – ve içinde bir mikrofon, bir kamera, Bluetooth ve bir pil var. 99 dolara ön sipariş verebilirsiniz, duyduğunuz her şeyi kaydediyor, bunun bir dökümünü oluşturuyor ve sonra bunu Anthropic AI'dan bulut tabanlı AI Claude 3.5'e gönderiyor; evet, ve sonra her şeye tepki verebiliyor. Böylece şunu sorabilirim: Kız arkadaşım bir saat önce ne dedi? Ve bu şeyin açıkça bir asistan değil, bir ARKADAŞ olması gerekiyor – ve bunların hepsi zaten çok sinir bozucu, ama bu reklam videosuna baktığımda, yapımcılar açıkça “ARKADAŞ”ın sizi kötü hissettiren ve iyi hissettirmeyen insanlar anlamına geldiğini anlıyorlar. Örneğin burada, adam bir şekilde oyun oynamada kaybediyor; ve zaten bundan kesinlikle memnun değil, kötü AI “arkadaş” ateşe benzin döküyor ve bir mesaj yazıyor: “Tamamen parçalanıyorsun, bu çok utanç verici!” Evet, biliyorum, bunun “komik” bir laf salatası olması gerekiyor ama dürüst olmak gerekirse: Bu durumda bundan hiç memnun olmazdım.

Ama bu iğrenç şeyler aslında sadece bir yan not, bu şeyin en büyük sorunu her şeyi kaydetmesi. Microsoft'un yakın zamanda bunu Windows'u Geri Çağır özelliğiyle yapmak istediğini ve müşteriler tarafından o kadar sert bir şekilde reddedildiğini hatırlatmak isterim ki Microsoft bunu belirsiz bir süre için geri çekti. Ve bu sadece bilgisayarda olan şeylerle ilgiliydi. Friend gerçek hayatın tamamıyla ilgilidir.

Friend isimli bu ürünün yaratıcısı, video dosya formatına benzeyen Avi Schiffmann isimli bir isim ve geçtiğimiz günlerde kolyesini bizzat ABD'li Wired dergisine tanıttı.

Editör, toplantının başında Avi'ye konuşmayı kaydedip kaydedemeyeceğini sorduğunu çok komik bir şekilde anlatıyor – çünkü bu sadece gazetecilik onur kodunun bir parçası değil, aynı zamanda Kaliforniya'daki yasa gereği de gerekli. Evet, Avi ve takipçisi buna sadece gülebiliyor. Yani, ürününü sürekli dinlemek, HER ZAMAN DİNLEMEK olarak tanıtıyor, sanki bu harika bir şeymiş gibi. Ve evet, gerçek insanlarla biraz deneyiminiz varsa, çoğu insanın söylediklerinin veya çıkardıkları seslerin sürekli kaydedilmesinin aptalca olduğunu düşünmesinin GARANTİ OLDUĞU sonucuna varabilirsiniz. İster işte, ister yemek yerken, ister yatakta olsun fark etmez. Etrafımdaki biri böyle bir şey giymiş olsaydı, şunu söylerdim: lütfen şu şeyi kaldır yoksa dışarı çıkarım. Ve kişisel bir not: her etkileşimi dinleyip okuyabilseydim ve sonra takıntılı bir şekilde bir şekilde yanlış davranıp davranmadığımı düşünebilseydim bu beni ne kadar mahvederdi – hayatımın kaydedilmediği için çok mutluyum. Ve evet, elbette, bunun gibi bir şeyin yararlı olabileceği iki veya üç şey düşünebiliyorum – ama bunun hakkında konuşmamıza bile gerek yok, çünkü temel fikir diğer insanlara karşı tamamen düşüncesiz. Ve dahili kamerayla başlamak bile istemiyorum.

Eh, bunların hepsi yeterince saçmaydı ama daha da ileri gidiyor. Yukarıda adı geçen Avi Schiffmann, Friend fragmanı için yatırımcılardan 2,5 milyon dolar topladı.

Bu paranın 1,8 milyonunu yalnızca friend.com alan adına harcadığını söylüyor. Ve tabii ki, birçok kişi artık bu alan adının bu projeden geriye kalan tek değerli şey olduğunu söyleyerek alay ediyor – öte yandan, “kurucunun yatırımcı parasının üçte ikisini yalnızca bir internet alan adına harcadığı” haberi, tıpkı korkutucu reklamcılık gibi, PR için harika bir hikaye. Bu yüzden bununla ilgili bir video yapmak benim için işe yaradı.

Ama daha da ileri gidiyor. En azından Nisan 2024'ten beri Friend adında açık kaynaklı bir proje var. Aynı şeyi yapıyor, bunun gibi bir kolye ile de çalışıyor, şeyleri bir bulut AI'sına gönderiyor – ve hatta bir süredir devkit'i sipariş edebiliyorsunuz.

Bu açık kaynaklı arkadaş projesinin başlatıcısı, tesadüfen Peter Thiel'den burs almış olan kişi, şimdi elbette oldukça öfkeli.

Peki sinirlendiğinde ne yaparsın? Elbette, battle rap yaparım, yani bir diss parçası yayınlarım.

Ve eğer şimdi kafanız karışık bir şekilde sallanıyorsa, size söyleyeyim, daha da ileri gidiyor. Çünkü kapalı kaynak arkadaştan Avi Schiffmann, açık kaynak arkadaş üreticisinden “Çatlak kafalılara bir arkadaş zinciri satmaya çalıştım” adlı bir video buldu.

Ve evet, videoda olan bu, gerçek mi yoksa kurgu mu bilmiyorum ama kesinlikle tamamen komik değil ve aşağılayıcı. Evet, ve sonra biri her ikisine karşı, Kapalı Kaynak Arkadaş ve Açık Kaynak Arkadaş yapımcılarına karşı bir diss parçası yayınladı. Ve evet, sonra kendi kendime düşündüm, bugünlük internet yeter; gerçek bir insanla bir soda içeceğim.

Bu arada, birçok insanın yalnız hissettiğini ve bir AI arkadaşı olmasını istediğini biliyorum. Berkeley biyoetik profesörü Jodi Halpern'e göre, ABD'deki ergenlerin ve genç yetişkinlerin %61'i yalnızlıktan muzdarip; hatta bir yalnızlık krizinden bahsediyor. Evet, ve bu arkadaş kolyesi gibi bir şey kısa vadede yalnızlığı giderebilir, ancak yalnızca kısa vadede – uzun vadede, insanların gerçek insan ilişkilerine ihtiyacı vardır.

Ne düşünüyorsunuz? Yorumlara yazmaktan çekinmeyin. Ve elveda, diyor arkadaşınız Keno.


c't 3003, c't'nin YouTube kanalıdır. c't 3003'teki videolar bağımsız içeriktir ve c't dergisindeki makalelerden bağımsızdır. Editörler Jan-Keno Janssen ve Lukas Rumpler ile video yapımcıları Şahin Erengil ve Pascal Schewe her hafta bir video yayınlamaktadır.




(jkj)