Қотил-роботлар одамларга ўз қарорини тушунтиради
Америкалик мутахассислар жанговор роботлар қабул қилган қарорни тушунтириб берадиган нейротармоқ яратиш устида иш олиб боришмоқда. Бу инсонннинг «электрон солдатларга» бўлган ишонч даражасини оширади.
Explainable Artificial Intelligence ёки шунчаки XAI (тушунтириб бўладиган сунъий интеллект) деб аталадиган лойиҳа одамлар ва роботларнинг бир-бирини яхши тушунишига ёрдам беради. XAI нейротармоғи робот «фикрини»нинг мантиқий боғламасини тузиб чиқади ва одамга машина нега айнан шундай қарорга келганини, масалан маълум бир нишонга ўт очганининг сабабини кўрсатади.
Лойиҳа АҚШ армиясида робот-инсон томонидан ташкил этилган аралаш ҳарбий бўлинма яратиш учун амалга оширилаяпти. Аммо ҳозирча бунақасини тасаввур қилиш мушкулроқ бўлиб турибди, лекин яна бир неча ўн йилдан кейин улар худди одамлардек, тўлақонли аскарга айланади. Бундан ташқари, улар тирик нишонга ўт очиш вазиятлари юзага келадиган бўлса одам ўрнини босиши мумкин. Бу эса инсонни бировни ўлдириш билан боғлиқ қарор қабул қилаётганда юзага келадиган жавобгарликдан расман халос этади. Инсон бировни ўлдираётганда виждони қийналиши мумкин. Роботларда эса бундай ҳиссиёт бўлмайди. Ҳавотирли томони, роботларга одамларни ўлдириш ёқиб қолса улар амалда электрон маньякка айланиб қолмасмикан. Юқорида таъкидланган лойиҳа айнан ушбу муаммони ижобий ҳал қилишга қаратилган.
ЎҚИНГ:РОБОТЛАР ИСЁНИ – БУ СИЗГА ФАНТАСТИКА ЭМАС
Янги тизимнинг жорий қилиниши туфайли, ҳарбийлар машина қандай сабабларга кўра бундай қарор қабул қилди, у ёки бу объектни ёки бўлмаса, одамни таҳдид сифатида қабул қилди, деган саволга жавоб олади. Шу билан бирга, XAI лойиҳаси жанговар роботларнинг аниқ бир ҳарбий можарога адаптация жараёнини осонлаштиради ва маънисиз шафқатсизлик даражасини пасайтиради.
Янги ишланма нафақат ҳарбийларга кўмакчи бўлади, балки ундан фуқаролик соҳасида ҳам фойдаланиш мумкин. Масалан, бундай роботлар саноатда, хавфсизлик тизимларида ва тиббиётда ҳам жуда қўл келади. Нейротармоқни яратишда бевосита иштироқ этаётган Raytheon компаниясининг етакчи мутахассиси Билл Фергюсон шундай мисолни келтиради. «Агар сунъий интеллект рентген суратига қараб инсоннинг ўпка раки билан касалланганини маълум қилса, врач машина нега бундай қарорга келганини билиш имконига эга бўлади. Доктор расмдаги артифактларнинг шубҳали қисмларини инкор этадиган бўлса компьютер у жойларни нур билан ёритади. Шундай кейин, диагнозни ўзгартириш керакми ёки нейротармоқ адашдими, буни докторнинг ўзи аниқлай олади», — дейди олим.
ЎҚИНГ:Элон Маск: «Жангчи-роботларни тақиқлайлик!»
