Asosiy takliflar
- Yangi dasturiy vosita AIga nafrat soʻzlari uchun internet sharhlarini kuzatish imkonini beradi.
- Inson imkoniyatlaridan oshib ketadigan juda katta hajmdagi materiallar tufayli internet kontentini oʻzgartirish uchun AI kerak.
- Ammo baʼzi ekspertlarning taʼkidlashicha, sunʼiy intellekt yordamida nutqni kuzatish maxfiylik bilan bogʻliq muammolarni keltirib chiqaradi.
Onlayn nafrat soʻzlari koʻpaygani sari, kompaniyalardan biri inson moderatorlariga tayanmaydigan yechimga ega boʻlishi mumkinligini aytadi.
Spectrum Labs deb nomlangan startap real vaqtda zaharli almashinuvlarni aniqlash va oʻchirish uchun platforma provayderlariga sunʼiy intellekt texnologiyasini taqdim etadi. Biroq ekspertlarning taʼkidlashicha, sunʼiy intellekt monitoringi shaxsiy hayotga oid muammolarni ham keltirib chiqaradi.
"AI monitoringi ko'pincha vaqt o'tishi bilan naqshlarni ko'rib chiqishni talab qiladi, bu esa ma'lumotlarni saqlashni talab qiladi ", dedi Devid Mudi, xavfsizlik va maxfiylikka muvofiqlikni baholash kompaniyasining Shellmanning katta hamkori, Lifewire elektron pochtasiga bergan intervyusida. “Ushbu maʼlumotlarga qonunlar maxfiylik maʼlumotlari (shaxsiy maʼlumotlar yoki PII) sifatida belgilangan maʼlumotlarni oʻz ichiga olishi mumkin.”
Yana nafratli nutq
Spectrum Labs nafrat nutqi muammosiga yuqori texnologiyali yechimni va'da qiladi.
“Oʻrtacha hisobda biz platformalarga kontentni moderatsiya qilish harakatlarini 50% ga kamaytirishga va toksik xatti-harakatlarni aniqlashni 10 baravar oshirishga yordam beramiz”, deyiladi kompaniya oʻz veb-saytida.
Spectrum 40 dan ortiq xatti-harakatni identifikatsiyalash modellarini yaratish uchun maxsus zararli xatti-harakatlar bo'yicha tajribaga ega tadqiqot institutlari bilan ishlaganini aytadi. Kompaniyaning Guardian kontentini moderatsiya qilish platformasi maʼlumotlar boʻyicha olimlar va moderatorlar jamoasi tomonidan “jamoalarni zaharlanishdan himoya qilishni qoʻllab-quvvatlash uchun qurilgan."
Nafrat nutqi bilan kurashish usullariga ehtiyoj ortib bormoqda, chunki odam onlayn trafikning har bir qismini kuzatishi mumkin emas, AssemblyAI bosh direktori Dilan Foks, nutqni aniqlashni ta'minlaydigan va mijozlarni nafratni kuzatishda ishtirok etuvchi startap. Bu haqda Lifewire elektron pochta intervyusida aytdi.
“Faqatgina Twitter’da kuniga 500 million tvit yoziladi”, deya qoʻshimcha qildi u. "Hatto bir kishi har 10 soniyada bir tvitni tekshira olsa ham, Twitter buning uchun 60 ming kishini ishga olishi kerak bo'ladi. Buning o'rniga biz jarayonni avtomatlashtirish uchun sun'iy intellekt kabi aqlli vositalardan foydalanamiz."
Insondan farqli o'laroq, sun'iy intellekt 24/7 ishlay oladi va potentsial ravishda adolatliroq bo'lishi mumkin, chunki u o'z qoidalarini barcha foydalanuvchilarga shaxsiy e'tiqodlari aralashmasdan bir xilda qo'llashga mo'ljallangan, dedi Foks. Kontentni kuzatishi va moderatsiya qilishi kerak bo‘lganlar uchun ham xarajat bor.
"Ular zo'ravonlik, nafrat va jirkanch harakatlarga duchor bo'lishi mumkin, bu esa insonning ruhiy salomatligiga zarar etkazishi mumkin", dedi u.
Spectrum onlayn nafratli nutqni avtomatik aniqlashga intilayotgan yagona kompaniya emas. Masalan, Center Malaysia yaqinda malayziyalik internet foydalanuvchilari orasida nafrat so'zlarini topish uchun mo'ljallangan onlayn trekerni ishga tushirdi. Ular ishlab chiqqan Tracker Benci deb nomlangan dastur onlayn, ayniqsa Twitterda nafrat so'zlarini aniqlash uchun mashina o'rganishidan foydalanadi.
Muammo – odamlar bir-birlari bilan konstruktiv muloqot qilishlari mumkin boʻlgan joylarni qanday yaratishdir.
Maxfiylik tashvishlari
Spektrum kabi texnologik yechimlar onlayn nafrat nutqiga qarshi kurashishi mumkin boʻlsa-da, ular kompyuterlar qanchalik politsiyachi boʻlishi kerakligi haqida savollar tugʻdiradi.
Soʻz erkinligi taʼsiri bor, lekin faqat postlari nafratli nutq sifatida olib tashlanadigan maʼruzachilar uchun emas, dedi Santa Klara universiteti qoshidagi Markkula amaliy axloq markazining internet etikasi boʻyicha direktori Irina Raiku Lifewire’ga elektron pochta orqali. intervyu.
""So'z erkinligi" nomidan ta'qiblarga yo'l qo'yish bunday nutq maqsadlarini (ayniqsa, alohida shaxslarga qaratilgan bo'lsa) gapirishni to'xtatishga - turli suhbatlar va platformalardan butunlay voz kechishga majbur qildi ", dedi Raiku."Qanday qilib odamlar bir-birlari bilan konstruktiv muloqot qilishlari mumkin bo'lgan joylarni yaratish qiyin."
AI nutq monitoringi, agar kompaniyalar monitoring davomida ommaga ochiq ma'lumotlardan foydalansa, maxfiylik muammolarini keltirib chiqarmasligi kerak, dedi Fox. Biroq, agar kompaniya muammoli foydalanuvchilarni oldindan aniqlash uchun foydalanuvchilar boshqa platformalarda o‘zaro munosabati haqidagi tafsilotlarni sotib olsa, bu maxfiylik bilan bog‘liq muammolarni keltirib chiqarishi mumkin.
"Bu, albatta, ilovaga qarab, biroz kulrang boʻlishi mumkin", deb qoʻshimcha qildi u.
Spectrum Labs bosh direktori Jastin Devis Lifewire’ga elektron pochta orqali kompaniya texnologiyasi 2-5 ming qator ma’lumotlarni bir soniya ichida ko‘rib chiqishi mumkinligini aytdi. "Eng muhimi, texnologiya moderatorlar ta'sir qiladigan zaharli moddalar miqdorini kamaytirishi mumkin", dedi u.
Biz sun'iy intellektning inson nutqi va matnini onlayn kuzatishda inqilob arafasida bo'lishimiz mumkin. Mudining so'zlariga ko'ra, kelajakdagi yutuqlar nafrat nutqining ilgari noma'lum shakllarini yoki boshqa tsenzura qilinadigan naqshlarni aniqlash uchun yaxshiroq mustaqil va avtonom monitoring imkoniyatlarini o'z ichiga oladi.
AI tez orada ma'lum nutq namunalaridagi naqshlarni taniy oladi, manbalar va ularning boshqa faoliyatlarini yangiliklar tahlili, ommaviy arizalar, trafik namunalari tahlili, jismoniy monitoring va boshqa ko'plab variantlar orqali bog'lashi mumkin, deya qo'shimcha qildi u.
Ammo ba'zi ekspertlarning ta'kidlashicha, odamlar nafrat so'zlarini kuzatish uchun doimo kompyuterlar bilan ishlashlari kerak bo'ladi.
"Yakka AI ishlamaydi", dedi Raiku. "U boshqa javoblar bilan birgalikda ishlatilishi kerak bo'lgan nomukammal vosita sifatida tan olinishi kerak."
Tuzatish 25/1/2022: Nashrdan keyingi e-pochtani aks ettirish uchun 5-xatboshiga Jastin Devisdan iqtibos qo'shildi.
