Süni intellekt qərar verəndə məsuliyyət kimdədir?

Süni intellektin qərarvermədə rolu artdıqca, bu qərarların nəticələrinə görə kimin məsuliyyət daşımalı olduğu məsələsi də aktuallaşır. Xüsusilə biznes və insan resursları sahəsində AI sistemlərinə etibarın artması yeni suallar yaradır.

Asif Mirzəzadə bu mövzuda öz yanaşmasını bölüşərək gələcəyin əsas texnoloji və etik problemlərindən birinə diqqət çəkir: süni intellekt səhv qərar verdikdə bunun məsuliyyətini kim daşımalıdır?

Əgər süni intellekt qərar verə bilirsə, məsuliyyət kimdədir?

Təsəvvür et ki, bir gün şirkətə 1000 dənə CV gəlir və onların hamısına AI baxır. AI həmin 1000 nəfərin içindən ən uyğun 20 nəfəri seçir. HR da düşünür ki, AI 1000 CV-ni insanlardan daha sürətli və daha obyektiv analiz edə bilər və həmin qərara güvənir. Amma bir müddət sonra məlum olur ki, AI bəzi yaxşı namizədləri seçməyib.

İndi sual yaranır: kim günahkardır?

AI?

Onu hazırlayan developer?

Şirkətin rəhbəri?

Yoxsa AI-nın qərarına güvənən HR?

Əslində məncə daha böyük bir problem var. Qərarı maşına verəndə məsuliyyəti də maşına verə bilərikmi? Məncə, yox. Çünki AI səhv edə bilər, amma onun həmin səhvə görə cavab verə biləcəyi bir şey yoxdur. Onu işdən çıxara bilməzsən. Məhkəməyə verə bilməzsən. Cərimələyə bilməzsən. Və ən əsası, ona “bu qərarın nəticəsinə sən cavabdehsən” deyə bilməzsən. Deməli, qərarı AI versə belə, məsuliyyət yenə insanın üzərində qalır. Və məncə burada gələcəyin çox böyük bir paradoksu yaranır: biz getdikcə daha çox qərarı maşınlara verəcəyik, amma həmin qərarların nəticəsinə görə yenə insanlar cavab verəcək. Onda bəlkə də gələcəyin əsas sualı “AI nə qədər ağıllıdır?” olmayacaq. Əsas sual bu olacaq: “AI səhv edəndə bunun məsuliyyətini kim daşıyır?”