Qotil-robotlar odamlarga o‘z qarorini tushuntiradi
Amerikalik mutaxassislar jangovor robotlar qabul qilgan qarorni tushuntirib beradigan neyrotarmoq yaratish ustida ish olib borishmoqda. Bu insonnning «elektron soldatlarga» bo‘lgan ishonch darajasini oshiradi.
Explainable Artificial Intelligence yoki shunchaki XAI (tushuntirib bo‘ladigan sun’iy intellekt) deb ataladigan loyiha odamlar va robotlarning bir-birini yaxshi tushunishiga yordam beradi. XAI neyrotarmog‘i robot «fikrini»ning mantiqiy bog‘lamasini tuzib chiqadi va odamga mashina nega aynan shunday qarorga kelganini, masalan ma’lum bir nishonga o‘t ochganining sababini ko‘rsatadi.
Loyiha AQSh armiyasida robot-inson tomonidan tashkil etilgan aralash harbiy bo‘linma yaratish uchun amalga oshirilayapti. Ammo hozircha bunaqasini tasavvur qilish mushkulroq bo‘lib turibdi, lekin yana bir necha o‘n yildan keyin ular xuddi odamlardek, to‘laqonli askarga aylanadi. Bundan tashqari, ular tirik nishonga o‘t ochish vaziyatlari yuzaga keladigan bo‘lsa odam o‘rnini bosishi mumkin. Bu esa insonni birovni o‘ldirish bilan bog‘liq qaror qabul qilayotganda yuzaga keladigan javobgarlikdan rasman xalos etadi. Inson birovni o‘ldirayotganda vijdoni qiynalishi mumkin. Robotlarda esa bunday hissiyot bo‘lmaydi. Havotirli tomoni, robotlarga odamlarni o‘ldirish yoqib qolsa ular amalda elektron manyakka aylanib qolmasmikan. Yuqorida ta’kidlangan loyiha aynan ushbu muammoni ijobiy hal qilishga qaratilgan.
O‘QING:ROBOTLAR ISYoNI – BU SIZGA FANTASTIKA EMAS
Yangi tizimning joriy qilinishi tufayli, harbiylar mashina qanday sabablarga ko‘ra bunday qaror qabul qildi, u yoki bu ob’yektni yoki bo‘lmasa, odamni tahdid sifatida qabul qildi, degan savolga javob oladi. Shu bilan birga, XAI loyihasi jangovar robotlarning aniq bir harbiy mojaroga adaptatsiya jarayonini osonlashtiradi va ma’nisiz shafqatsizlik darajasini pasaytiradi.
Yangi ishlanma nafaqat harbiylarga ko‘makchi bo‘ladi, balki undan fuqarolik sohasida ham foydalanish mumkin. Masalan, bunday robotlar sanoatda, xavfsizlik tizimlarida va tibbiyotda ham juda qo‘l keladi. Neyrotarmoqni yaratishda bevosita ishtiroq etayotgan Raytheon kompaniyasining yetakchi mutaxassisi Bill Fergyuson shunday misolni keltiradi. «Agar sun’iy intellekt rentgen suratiga qarab insonning o‘pka raki bilan kasallanganini ma’lum qilsa, vrach mashina nega bunday qarorga kelganini bilish imkoniga ega bo‘ladi. Doktor rasmdagi artifaktlarning shubhali qismlarini inkor etadigan bo‘lsa kompyuter u joylarni nur bilan yoritadi. Shunday keyin, diagnozni o‘zgartirish kerakmi yoki neyrotarmoq adashdimi, buni doktorning o‘zi aniqlay oladi», — deydi olim.
O‘QING:Elon Mask: «Jangchi-robotlarni taqiqlaylik!»
