Draqon
Aktif Üye
Bilgisayar bilimcisi Greg, Aralık 2019’da yeni elektrikli süpürge robotunu paketinden çıkardığında, aslında kendisini neyin içine soktuğunu bildiğini düşündü. Bu, iRobot’un Roomba J serisinin üretim öncesi bir versiyonuydu. Düzenli temizlik işinin yanı sıra, her türlü veriyi toplamak için evin içinde dolaşıyor olmalı. Bu da entegre AI sistemini geliştirmelidir. Aynı zamanda Greg, iRobot’a kullanıcı deneyimi hakkında geri bildirim sağlamayı taahhüt etti.
Bütün bunları daha önce yapmıştı. Greg, bir yazılım şirketinde mühendis olarak çalışmasının yanı sıra, son on yıldır sık sık ürünlerin beta testlerini yapıyordu. O zamanlar spor ayakkabılardan akıllı ev kameralarına kadar 50’den fazla ürünü test ettiğini tahmin ediyor. “Bundan gerçekten zevk alıyorum” diyor. “Fikir şu ki, yeni bir şey öğreniyorsunuz ve ister daha iyi bir sürüm geliştiriyor ister özellikleri tanımlıyor olun, umarım bir ürünü şekillendirmeye yardımcı oluyorsunuz.”
Ancak Greg’in bilmediği ve buna izin verdiğini düşünmediği şey, iRobot’un kendisi gibi test kullanıcılarının verilerini genişleyen, küresel bir tedarik zinciriyle paylaşacağıydı. Bu da, elektrikli süpürge robotunun öne bakan kameraları tarafından çekilen tüm görüntüleri (ve filme alınan her kişiyi) görebilen, çoğunlukla Amerika Birleşik Devletleri dışındaki düşük ücretli işçilerden oluşuyor gibi görünüyor. Daha da kötüsü, bu insanlardan bazıları görünüşe göre kayıtların ekran görüntülerini istedikleri zaman alıyor ve daha sonra paylaşıyorlar.
Bir Roomba yoldan çıktı
Yalnızca iRobot ile bir gizlilik sözleşmesi imzaladığı için ilk adıyla kullanılmasını isteyen Greg, endişe ve şaşkınlık ifade eden tek test kullanıcısı değil. MIT Technology Review’in ABD baskısı tarafından yapılan araştırmaya göre, 2019 ile 2022 yılları arasında programa katılan yaklaşık bir düzine kişi, şirketin yapay zekasını eğitmek için gerçek hayattaki evlerinden görüntüler kullanmasına şaşırdığını ifade etti. iRobot’un bu verileri nasıl ele aldığı ve bu uygulamaların şirketin gizlilik taahhütleriyle uyumlu olup olmadığı konusunda endişelerini dile getirdiler. Birçoğu aldatılmış hissediyor.
Surveillance Technology Oversight Project’in yönetici direktörü Albert Fox Cahn, “İnsanlar bu tür son derece istilacı gözetleme için kaydolduklarında ve ne yapmayı kabul ettiklerini asla tam olarak anlamadıklarında, şirketin sahtekarlık yaptığına dair gerçek bir endişe var” diyor. , daha fazla veri korumaya kendini adamıştır. Greg, “Şirketin deneme kullanıcılarının verilerini yeterince korumadaki başarısızlığı, onlar açısından açık bir anlaşma ihlali gibi geliyor” diyor. “Bir başarısızlıktı… [und] aynı zamanda bir güven ihlali”. Başka bir deyişle: burada sorumluluğu kim üstleniyor?
MIT Technology Review, iRobot’un test kullanıcılarının ve çalışanlarının evlerinden nasıl fotoğraf ve video topladığını ve bunları sözde etiketleme yoluyla yapay zeka modellerini verilerle besleyen şirketlerle paylaştığını ortaya çıkardı. Görüntü alanları, algoritmaları bu şekilde eğiten kişiler tarafından işaretlenir ve etiketlenir. İlgili şirketler arasında, işi yapmak için dünyanın dört bir yanına dağılmış işçileri işe alan San Francisco merkezli Scale AI yer alıyor.
Roomba fotoğrafları internette yolunu buluyor
Örneğin, araştırma, Venezuela’daki bir 2020 projesinin, güvencesiz bir şekilde istihdam edilen “işverenlerden” bir dizi iç görüntüdeki nesneleri etiketlemelerini istediğini ortaya çıkardı; bu görüntülerden bazıları, yüzleri iş çalışanları tarafından görülebilen insanları da içeriyordu. Etiketçilerden bazıları daha sonra, aralarında küçük bir çocuğun ve tuvalette oturan bir kadının da bulunduğu en az 15 görüntüyü sosyal medyada paylaştılar. Bu ekran görüntüleri, MIT Technology Review’un ABD yazı işleri departmanında sona erdi. Bunu gigworkers ile röportajlar izledi. Konuyla ilgilenen AI araştırmacılarına yapılan sorgular, bunların muhtemelen İnternet’te yolunu bulan tek görüntülerin olmadığını da gösteriyor.
Hassas görüntülerin, videoların ve ses dosyalarının AI amaçları için etiketleme yapan kişilere sunulması artık daha yaygın. MIT Technology Review, geçen sonbaharda fotoğraflar hakkında yorum yapmak için iRobot’a ulaştıktan kısa bir süre sonra, şirket Scale AI ile olan anlaşmasını iptal etti. Bununla birlikte, habere yanıt olarak bir LinkedIn gönderisinde, iRobot CEO’su Colin Angle, test kullanıcılarının yüzleriyle birlikte bu tür görüntülerin gigworkers tarafından görülebilmesinin endişe kaynağı olduğunu doğrulamayı reddetti. Bunun yerine, iRobot’un nesne tanıma algoritmalarını eğitmek için bu tür görüntüleri sağlamanın gerekli olduğunu yazdı.
“Robotlarımız nasıl bu kadar akıllı hale geliyor? Bu, geliştirme sürecinde ve ayrıca makine öğrenimi algoritmalarını eğitmek için veri toplayarak başlar.” Ayrıca görüntülerin müşterilerden değil, ücretli test kullanıcılarından (“ücretli veri toplayıcılar”) ve çalışanlardan geldiğine dikkat çekti. Ve bir muvafakat beyannamesi imzalayacaklardı.
Angle ve iRobot, LinkedIn gönderisinde ve MIT Technology Review’a yapılan diğer açıklamalarda, müşteri verilerinin paylaşılmadığını ve katılımcıların verilerin nasıl toplandığı konusunda bilgilendirildiğini ve farkında olduklarını defalarca vurguladı. Ancak, müşteriler ile test kullanıcıları arasında ayrım yapmaya çalışmak ikincisini karıştırır. Çünkü kendilerini daha geniş iRobot topluluğunun bir parçası olarak görüyorlar ve küçümsenmiş hissediyorlar. Greg ve öne çıkan diğerleri de gönüllü olarak mahremiyetlerinden vazgeçtiklerini reddediyorlar. Bu bir varsayım.
Haberin Sonu
Bütün bunları daha önce yapmıştı. Greg, bir yazılım şirketinde mühendis olarak çalışmasının yanı sıra, son on yıldır sık sık ürünlerin beta testlerini yapıyordu. O zamanlar spor ayakkabılardan akıllı ev kameralarına kadar 50’den fazla ürünü test ettiğini tahmin ediyor. “Bundan gerçekten zevk alıyorum” diyor. “Fikir şu ki, yeni bir şey öğreniyorsunuz ve ister daha iyi bir sürüm geliştiriyor ister özellikleri tanımlıyor olun, umarım bir ürünü şekillendirmeye yardımcı oluyorsunuz.”
Ancak Greg’in bilmediği ve buna izin verdiğini düşünmediği şey, iRobot’un kendisi gibi test kullanıcılarının verilerini genişleyen, küresel bir tedarik zinciriyle paylaşacağıydı. Bu da, elektrikli süpürge robotunun öne bakan kameraları tarafından çekilen tüm görüntüleri (ve filme alınan her kişiyi) görebilen, çoğunlukla Amerika Birleşik Devletleri dışındaki düşük ücretli işçilerden oluşuyor gibi görünüyor. Daha da kötüsü, bu insanlardan bazıları görünüşe göre kayıtların ekran görüntülerini istedikleri zaman alıyor ve daha sonra paylaşıyorlar.
Bir Roomba yoldan çıktı
Yalnızca iRobot ile bir gizlilik sözleşmesi imzaladığı için ilk adıyla kullanılmasını isteyen Greg, endişe ve şaşkınlık ifade eden tek test kullanıcısı değil. MIT Technology Review’in ABD baskısı tarafından yapılan araştırmaya göre, 2019 ile 2022 yılları arasında programa katılan yaklaşık bir düzine kişi, şirketin yapay zekasını eğitmek için gerçek hayattaki evlerinden görüntüler kullanmasına şaşırdığını ifade etti. iRobot’un bu verileri nasıl ele aldığı ve bu uygulamaların şirketin gizlilik taahhütleriyle uyumlu olup olmadığı konusunda endişelerini dile getirdiler. Birçoğu aldatılmış hissediyor.
Surveillance Technology Oversight Project’in yönetici direktörü Albert Fox Cahn, “İnsanlar bu tür son derece istilacı gözetleme için kaydolduklarında ve ne yapmayı kabul ettiklerini asla tam olarak anlamadıklarında, şirketin sahtekarlık yaptığına dair gerçek bir endişe var” diyor. , daha fazla veri korumaya kendini adamıştır. Greg, “Şirketin deneme kullanıcılarının verilerini yeterince korumadaki başarısızlığı, onlar açısından açık bir anlaşma ihlali gibi geliyor” diyor. “Bir başarısızlıktı… [und] aynı zamanda bir güven ihlali”. Başka bir deyişle: burada sorumluluğu kim üstleniyor?
MIT Technology Review, iRobot’un test kullanıcılarının ve çalışanlarının evlerinden nasıl fotoğraf ve video topladığını ve bunları sözde etiketleme yoluyla yapay zeka modellerini verilerle besleyen şirketlerle paylaştığını ortaya çıkardı. Görüntü alanları, algoritmaları bu şekilde eğiten kişiler tarafından işaretlenir ve etiketlenir. İlgili şirketler arasında, işi yapmak için dünyanın dört bir yanına dağılmış işçileri işe alan San Francisco merkezli Scale AI yer alıyor.
Roomba fotoğrafları internette yolunu buluyor
Örneğin, araştırma, Venezuela’daki bir 2020 projesinin, güvencesiz bir şekilde istihdam edilen “işverenlerden” bir dizi iç görüntüdeki nesneleri etiketlemelerini istediğini ortaya çıkardı; bu görüntülerden bazıları, yüzleri iş çalışanları tarafından görülebilen insanları da içeriyordu. Etiketçilerden bazıları daha sonra, aralarında küçük bir çocuğun ve tuvalette oturan bir kadının da bulunduğu en az 15 görüntüyü sosyal medyada paylaştılar. Bu ekran görüntüleri, MIT Technology Review’un ABD yazı işleri departmanında sona erdi. Bunu gigworkers ile röportajlar izledi. Konuyla ilgilenen AI araştırmacılarına yapılan sorgular, bunların muhtemelen İnternet’te yolunu bulan tek görüntülerin olmadığını da gösteriyor.
Hassas görüntülerin, videoların ve ses dosyalarının AI amaçları için etiketleme yapan kişilere sunulması artık daha yaygın. MIT Technology Review, geçen sonbaharda fotoğraflar hakkında yorum yapmak için iRobot’a ulaştıktan kısa bir süre sonra, şirket Scale AI ile olan anlaşmasını iptal etti. Bununla birlikte, habere yanıt olarak bir LinkedIn gönderisinde, iRobot CEO’su Colin Angle, test kullanıcılarının yüzleriyle birlikte bu tür görüntülerin gigworkers tarafından görülebilmesinin endişe kaynağı olduğunu doğrulamayı reddetti. Bunun yerine, iRobot’un nesne tanıma algoritmalarını eğitmek için bu tür görüntüleri sağlamanın gerekli olduğunu yazdı.
“Robotlarımız nasıl bu kadar akıllı hale geliyor? Bu, geliştirme sürecinde ve ayrıca makine öğrenimi algoritmalarını eğitmek için veri toplayarak başlar.” Ayrıca görüntülerin müşterilerden değil, ücretli test kullanıcılarından (“ücretli veri toplayıcılar”) ve çalışanlardan geldiğine dikkat çekti. Ve bir muvafakat beyannamesi imzalayacaklardı.
Angle ve iRobot, LinkedIn gönderisinde ve MIT Technology Review’a yapılan diğer açıklamalarda, müşteri verilerinin paylaşılmadığını ve katılımcıların verilerin nasıl toplandığı konusunda bilgilendirildiğini ve farkında olduklarını defalarca vurguladı. Ancak, müşteriler ile test kullanıcıları arasında ayrım yapmaya çalışmak ikincisini karıştırır. Çünkü kendilerini daha geniş iRobot topluluğunun bir parçası olarak görüyorlar ve küçümsenmiş hissediyorlar. Greg ve öne çıkan diğerleri de gönüllü olarak mahremiyetlerinden vazgeçtiklerini reddediyorlar. Bu bir varsayım.
Haberin Sonu