Asosiy takliflar
- Yangi tadqiqotlar shuni ko'rsatadiki, super-aqlli sun'iy intellektni boshqarishning hech qanday usuli yo'q.
- Jurnalda aytilishicha, sun'iy intellektni boshqarish bizda mavjud bo'lganidan ancha ilg'orroq texnologiya talab qiladi.
- Ba'zi ekspertlarning ta'kidlashicha, chinakam aqlli sun'iy intellekt biz o'ylagandan ham tezroq paydo bo'lishi mumkin.
Agar odamlar qachondir oʻta aqlli sunʼiy intellektni rivojlantirsa, uni nazorat qilishning iloji boʻlmasligi mumkin, deydi olimlar.
AI uzoq vaqtdan beri butun insoniyat muammolariga davo yoki Terminator uslubidagi apokalipsis sifatida e'tirof etilgan. Hozircha AI hatto inson darajasidagi aql darajasiga ham yaqinlashmagan. Sun'iy intellekt tadqiqotlari jurnalida chop etilgan yaqinda chop etilgan maqolaga ko'ra, ilg'or sun'iy intellektdan foydalanish odamlar uchun juda murakkab muammo bo'lishi mumkin.
"Dunyoni boshqaradigan o'ta aqlli mashina ilmiy fantastikaga o'xshaydi", dedi gazeta hammualliflaridan biri Manuel Sebrian o'z xabarida.
"Ammo allaqachon dasturchilar buni qanday o'rganganliklarini to'liq tushunmasdan, muayyan muhim vazifalarni mustaqil ravishda bajaradigan mashinalar mavjud. Demak, bu qachondir boshqarib bo'lmaydigan va insoniyat uchun xavfli bo'lib qolishi mumkinmi degan savol tug'iladi."
Tez orada sizga yaqin super kompyuter keladi
Jurnalda ta'kidlanishicha, sun'iy intellektni boshqarish bizda mavjud bo'lganidan ancha ilg'orroq texnologiyalarni talab qiladi.
Oʻz tadqiqotida jamoa oʻta aqlli sunʼiy intellekt har qanday sharoitda ham odamlarga zarar yetkaza olmasligini taʼminlaydigan nazariy blokirovka algoritmini ishlab chiqdi, birinchi navbatda sunʼiy intellektning xatti-harakatini taqlid qilish va agar zararli deb hisoblansa, uni toʻxtatish. Ammo mualliflar bunday algoritmni qurish mumkin emasligini aniqladilar.
"Agar muammoni nazariy informatikadan asosiy qoidalarga ajratsangiz, sun'iy intellektga dunyoni yo'q qilmaslikni buyuradigan algoritm o'z faoliyatini beixtiyor to'xtatib qo'yishi mumkinligi ma'lum bo'ladi." Bu haqda Germaniyadagi Maks Plank nomidagi Inson taraqqiyoti institutining Inson va mashinalar markazi direktori Iyad Rahvan xabar berdi.
"Agar bu sodir boʻlganida, cheklash algoritmi tahdidni tahlil qilyaptimi yoki u zararli AIni oʻz ichiga olishdan toʻxtab qolganmi yoki yoʻqligini bilmay qolar edingiz. Aslida, bu himoyalash algoritmini yaroqsiz holga keltiradi."
Haqiqatan ham aqlli sun'iy intellekt biz o'ylagandan ham tezroq paydo bo'lishi mumkin, deydi Frantsiyadagi École Polytechnique universitetining kompyuter fanlari professori Mixalis Vazirgiannis. "AI - bu insoniy artefakt, lekin u tezda avtonom mavjudotga aylanmoqda", dedi u Lifewire elektron pochtasida.
"Muhim nuqta, yakkalik yuzaga kelganda/qachon bo'ladi (ya'ni, AI agentlari mavjudlik sifatida ongga ega bo'lganda) va shuning uchun ular mustaqillik, o'zini o'zi boshqarish va yakuniy hukmronlikka da'vo qiladilar."
Yagonalik keladi
Vazirgiannis super AIning yaqin orada kelishini bashorat qilishda yolg'iz emas. AI tahdidiga chinakam ishonuvchilar "yakkalik" haqida gapirishni yaxshi ko'radilar, Vazirgiannis buni AI inson aql-zakovatidan ustun qo'yishi va "AI algoritmlari potentsial ravishda o'z mavjudligini anglab etishi va xudbinlik va hamkorlikka kirishishi" haqida gapirishni yaxshi ko'radi.
Google’ning muhandislik boʻyicha direktori Rey Kurtsveylning soʻzlariga koʻra, oʻziga xoslik 21-asr oʻrtalaridan oldin paydo boʻladi. Kurzveyl Futurism nashriga bergan intervyusida: “2029-yil – men sunʼiy intellekt Tyuring sinovidan oʻtishini va shu sababli insonning aql-zakovat darajasiga erishishini bashorat qilgan izchil sana”.
Agar oʻz uyimizni tozalay olmasak, AIdan qanday kodga amal qilishini soʻrashimiz kerak?
"Men "Singularity" uchun 2045-yilni belgilab qo'ydim, ya'ni o'zimiz yaratgan razvedka bilan qo'shilish orqali samarali aqlimizni milliard marta ko'paytiramiz."
Ammo AI mutaxassislarining hammasi ham aqlli mashinalar xavf tug'diradi deb o'ylamaydilar. AI bo'yicha maslahatchi Emmanuel Maggiori elektron pochta orqali bergan intervyusida ta'kidlaganidek, ishlab chiqilayotgan sun'iy intellekt giyohvand moddalarni ishlab chiqish uchun foydali bo'lishi ehtimoli ko'proq va hech qanday haqiqiy aqlni ko'rsatmaydi. "AI atrofida katta shov-shuv mavjud, bu esa uni haqiqatan ham inqilobiy ko'rinishga olib keladi", deya qo'shimcha qildi u. “Hozirgi sun’iy intellekt tizimlari e’lon qilingan darajada aniq emas va inson hech qachon qilolmaydigan xatolarga yo‘l qo‘yadi.”
AIni nazorat qiling, endi
Sun'iy intellektni nazoratimizdan qochib ketmasligi uchun tartibga solish qiyin bo'lishi mumkin, deydi Vazirgiannis. Hukumatlar emas, balki kompaniyalar AIni quvvatlaydigan resurslarni nazorat qiladi. "Hatto algoritmlarning o'zi ham odatda ushbu yirik va kuchli, odatda ko'p millatli korxonalarning tadqiqot laboratoriyalarida ishlab chiqariladi va joylashtiriladi", dedi u.
"Shunday ekan, shtat hukumatlari sun'iy intellektni boshqarish uchun zarur bo'lgan resurslar ustidan tobora kamroq nazoratga ega ekanligi aniq."
Ba'zi ekspertlarning ta'kidlashicha, o'ta aqlli sun'iy intellektni boshqarish uchun odamlar hisoblash resurslari va elektr quvvatini boshqarishi kerak bo'ladi. “Matrisa kabi ilmiy-fantastik filmlar odamlardan sun’iy intellekt tomonidan bio-quvvat manbalari sifatida foydalaniladigan distopik kelajak haqida bashorat qiladi”, dedi Vazirgiannis.
"Uzoqdan imkonsiz bo'lsa ham, insoniyat hisoblash resurslari (masalan, kompyuter klasterlari, GPUlar, superkompyuterlar, tarmoqlar/kommunikatsiyalar) va, albatta, elektr energiyasini ta'minlaydigan elektr stantsiyalari ustidan yetarlicha nazorat mavjudligiga ishonch hosil qilishi kerak. AI funktsiyasi uchun zararli."
Sun'iy intellektni boshqarish bilan bog'liq muammo shundaki, tadqiqotchilar bunday tizimlar o'z qarorlarini qanday qabul qilishini har doim ham tushunmaydilar, dedi KNIME ma'lumotlar fanlari dasturiy ta'minot firmasi asoschisi va bosh direktori Maykl Berthold elektron pochta orqali bergan intervyusida. "Agar buni qilmasak, qanday qilib "nazorat qilishimiz" mumkin?"
U qoʻshib qoʻydi: "Bizga aloqador boʻlmagan maʼlumotlar asosida butunlay boshqacha qaror qabul qilinganini tushunmaymiz."
Sun'iy intellektdan foydalanish xavfini nazorat qilishning yagona yo'li - bu xavfni boshqarish mumkin bo'lgandagina foydalanishni ta'minlash, dedi Berthold. "Boshqacha qilib ayting, ikkita haddan tashqari misol: Atom elektr stantsiyangizga sun'iy intellektni qo'ymang, bu erda kichik xato halokatli oqibatlarga olib kelishi mumkin", - deya qo'shimcha qildi u.
"Boshqa tomondan, sun'iy intellekt xonadagi haroratni biroz yuqoriga yoki pastga sozlashni bashorat qiladi, bu yashash qulayligi uchun kichik xavfga arziydi."
Agar biz sun'iy intellektni boshqara olmasak, unga odob-axloqni o'rgatganimiz ma'qul, dedi NASAning sobiq kompyuter muhandisi Piter Skott elektron pochta orqali bergan intervyusida. “Oxir-oqibat, biz AIning nazorat qilinishini farzandlarimizni ta'minlay olmaymiz, - dedi u.
"Biz ularni to'g'ri tarbiyalaymiz va eng yaxshisiga umid qilamiz; ular hozirgacha dunyoni vayron qilgani yo'q. Ularni yaxshi tarbiyalash uchun biz axloqni yaxshiroq tushunishimiz kerak; agar biz o'z uyimizni tozalay olmasak, nima qilish kerak? kodni AIdan kuzatishni so'rashimiz kerakmi?"
Ammo insoniyat uchun barcha umidlar yo'qolgan emas, deydi sun'iy intellekt bo'yicha tadqiqotchi, OrCam ilmiy-tadqiqot ishlari bo'yicha ijrochi vitse-prezidenti Yonatan Veksler. "Ilovalar haqiqatan ham ta'sirli bo'lsa-da, mening shaxsiy fikrimcha, inson aql-zakovati e'tibordan chetda qolmasligi kerak", dedi u elektron pochta orqali bergan intervyusida. "Biz tur sifatida juda ajoyib narsalarni yaratdik, jumladan AIning o'zi ham."
Daima aqlli sun'iy intellektni izlash davom etmoqda. Lekin juda kech boʻlmasdan ijodimizni qanday nazorat qilishimiz haqida oʻylab koʻrgan maʼqulroqdir.
