Asosiy takliflar
- Zoom foydalanuvchining kayfiyati yoki ishtiroki darajasini baholash uchun sunʼiy intellektdan foydalanishini aytgan.
- Inson huquqlari guruhlari maxfiylik va maʼlumotlar xavfsizligi bilan bogʻliq muammolar tufayli Zoom’dan rejasini qayta koʻrib chiqishni soʻramoqda.
- Ba'zi kompaniyalar intervyu paytida foydalanuvchi e'tibor berayotganini aniqlash uchun hissiyotlarni aniqlash dasturidan ham foydalanadi.
Inson his-tuyg'ularini kuzatish uchun sun'iy intellektdan (AI) tobora ko'proq foydalanish maxfiylik bilan bog'liq muammolarni keltirib chiqarmoqda.
Inson huquqlari boʻyicha tashkilotlar Zoom’dan videokonferensaloqa dasturiga hissiyotlarni tahlil qiluvchi sunʼiy intellektni joriy etish rejasini sekinlashtirishni soʻramoqda. Xabar qilinishicha, kompaniya foydalanuvchining kayfiyati yoki faollik darajasini baholash uchun AIdan foydalanishini aytdi.
"Mutaxassislar his-tuyg'ularni tahlil qilish ish bermasligini tan olishadi", deb yozadi inson huquqlari guruhlari konsorsiumi, shu jumladan ACLU, Zoom'ga maktubda. "Yuz ifodalari ko'pincha ostidagi his-tuyg'ulardan ajralib turadi va tadqiqotlar shuni ko'rsatdiki, hatto odamlar ham ba'zan boshqalarning his-tuyg'ularini aniq o'qiy olmaydi yoki o'lchay olmaydi. Ushbu vositani ishlab chiqish soxta fanga ishonch qo'shadi va sizning obro'ingizni xavf ostiga qo'yadi."
Zoom Lifewire tomonidan sharh soʻroviga darhol javob bermadi.
Hissiyotlaringizni kuzatib boring
Protokol maqolasiga ko'ra, Q for Sales deb nomlangan Zoom monitoring tizimi foydalanuvchining suhbatlashish vaqti nisbati, javob vaqtining kechikishi va dinamikning tez-tez o'zgarishini tekshirib, odamning qanchalik bandligini kuzatishi mumkin. Masshtab bu maʼlumotlardan noldan 100 gacha ballarni belgilash uchun foydalanadi, yuqori ball esa yuqori faollik yoki kayfiyatni koʻrsatadi.
Inson huquqlari guruhlari dasturiy ta'minot nogironlar yoki ayrim millatlarga mansub odamlarni kamsitishi mumkin, deb da'vo qilishlaricha, muloqot qilish uchun hamma bir xil yuz ifodalari, ovoz naqshlari va tana tilidan foydalanadi. Guruhlar shuningdek, dasturiy taʼminot maʼlumotlar xavfsizligiga xavf tugʻdirishi mumkinligini taʼkidlamoqda.
"Shaxsiy ma'lumotlarni chuqur yig'ish ushbu texnologiyani qo'llagan har qanday tashkilotni davlat organlari va zararli xakerlarni qidirish maqsadiga aylantirishi mumkin", deyiladi maktubda.
Yuliya Stoyanovich, Nyu-York universitetining informatika va muhandislik professori, Lifewire nashriga elektron pochta orqali bergan intervyusida his-tuyg'ularni aniqlash ortidagi da'volarga shubha bilan qarashini aytdi.
"Men bunday texnologiya qanday ishlashini tushunmayapman - odamlarning hissiy ifodasi juda individual, madaniyatga bog'liq va kontekstga xosdir", dedi Stoyanovich."Ammo, ehtimol bundan ham muhimi, nima uchun biz bu vositalarning ishlashini xohlayotganimizni tushunmayapman. Boshqacha qilib aytganda, agar ular yaxshi ishlasa, biz yanada muammoga duch kelgan bo'lardik. Lekin, ehtimol, xatarlar haqida o'ylashdan oldin ham, biz buni qilishimiz kerak. so'rang-bunday texnologiyaning mumkin bo'lgan afzalliklari nimada?"
Zoom hissiyotlarni aniqlash dasturidan foydalanadigan yagona kompaniya emas. Maxfiylik va xavfsizlik boʻyicha kons alting kompaniyasi boʻlgan Kuma MChJ maxfiylik boʻyicha katta direktori Teo Uills Lifewire’ga elektron pochta orqali intervyu davomida foydalanuvchi eʼtibor berayotganligini baholash uchun his-tuygʻularni aniqlash dasturidan foydalanilishini aytdi. Shuningdek, u transport sohasida haydovchilar uyqusiragan yoki yo‘qligini kuzatish, qiziqishlarni o‘lchash va tavsiyalarni moslashtirish uchun video platformalarda hamda ma’lum bir o‘qitish usuli qiziqarli ekanligini aniqlash uchun o‘quv qo‘llanmalarida sinovdan o‘tkazilmoqda.
Villsning ta'kidlashicha, hissiyotlarni nazorat qiluvchi dasturiy ta'minot atrofidagi bahslar maxfiylikdan ko'ra ko'proq ma'lumotlar etikasi masalasidir. Uning so‘zlariga ko‘ra, bu tizim taxminlar asosida haqiqiy qarorlar qabul qilishi haqida.
"Ushbu texnologiya yordamida siz endi yuzimda qandaydir ifoda borligini taxmin qilyapsiz, lekin ifoda ortidagi turtki ijtimoiy yoki madaniy tarbiya, oiladagi xatti-harakatlar, oʻtmishdagi tajribalar yoki asabiylik kabi omillarga bogʻliq holda juda katta farq qiladi. Ayni paytda, - qo'shimcha qildi Uills. "Algoritmni taxminga asoslash tabiatan noto'g'ri va potentsial diskriminatsiyaga olib keladi. Algoritmlar asoslangan populyatsiyada ko'plab populyatsiyalar mavjud emas va undan foydalanishdan oldin tegishli taqdimotga ustuvor ahamiyat berish kerak."
Amaliy mulohazalar
Tuyg'ularni kuzatish dasturi tomonidan ko'tarilgan muammolar nazariy va amaliy bo'lishi mumkin. O‘zaro munosabatlar haqida ma’lumot beruvchi sun’iy intellektga asoslangan “Ferret.ai” ilovasi asoschisi Mett Xeysi Lifewire’ga elektron pochta orqali foydalanuvchilar yuzlar tahlili qayerda amalga oshirilayotgani va qanday ma’lumotlar saqlanayotganini so‘rashi kerakligini aytdi. Tadqiqot qo‘ng‘iroqlar yozib olinganda, bulutda yoki mahalliy qurilmada qayta ishlanmoqdami?
Shuningdek, Heisie algoritm o'rganganidek, u odamning yuzi yoki harakatlari haqida qanday ma'lumotlarni to'plashini so'radi, bu algoritmdan ajratilishi va kimningdir biometrik ma'lumotlarini qayta yaratish uchun ishlatilishi mumkin? Kompaniya algoritmni o'rganishni tekshirish yoki tasdiqlash uchun oniy tasvirlarni saqlayaptimi va foydalanuvchi ushbu yangi hosila ma'lumotlari yoki ularning qo'ng'iroqlaridan to'planishi mumkin bo'lgan saqlangan tasvirlar haqida xabardor qilinadimi?
"Bularning barchasi ko'plab kompaniyalar hal qilgan muammolardir, lekin ular buni to'g'ri qilmaganligi ma'lum bo'lganda janjaldan larzaga kelgan kompaniyalar ham bor", dedi Xeysi. "Facebook foydalanuvchilarning maxfiyligi bilan bog'liq xavotirlar tufayli yuzni tanish platformasini bekor qilgan kompaniyaning eng muhim hodisasidir. Meta bosh kompaniyasi endi Illinoys va Texas kabi ba'zi yurisdiktsiyalarda biometrik ma'lumotlar bilan bog'liq maxfiylik qonunlari tufayli Instagram'dan AR xususiyatlarini tortib oladi."
