Maşın öyrənməsi: Etik problemlər gələcəyimizi necə formalaşdırır?

Maşın öyrənməsi nədir?

Maşın öyrənməsi (Machine Learning, ML) — kompüterlərin əvvəlcədən bütün qaydalar proqramlaşdırılmadan, məlumatlardan öyrənərək qərar verməyi və proqnozlar etməyi bacardığı süni intellekt sahəsidir; yəni sistemə çoxlu nümunə göstərilir, o da bu nümunələrdəki qanunauyğunluqları tapır və yeni vəziyyətlərdə onları tətbiq edir — məsələn, şəkillərdə obyektləri tanımaq, səsli köməkçilərin danışığı başa düşməsi, tövsiyə sistemlərinin (film, musiqi, məhsul) işləməsi məhz maşın öyrənməsi sayəsində mümkün olur.

MLOps nədir?

MLOps (Machine Learning Operations) — maşın öyrənməsi modellərinin real məhsullarda etibarlı, sürətli və davamlı şəkildə işlədilməsi üçün istifadə olunan yanaşma və praktikalar toplusudur; sadə dillə desək, modelin təkcə öyrədilməsi yox, həm də istehsalata çıxarılması, avtomatik test edilməsi, versiyalanması, monitorinqi və zamanla performansının qorunması ilə məşğul olur — yəni DevOps-un proqramlar üçün gördüyü işi, MLOps süni intellekt modelləri üçün görür.

Etik problemlər və texnologiyanın təsiri

Maşın öyrənməsi modelləri real insanlara və cəmiyyətə birbaşa təsir göstərir və bu modellərin necə yaradılıb idarə olunması ciddi məsuliyyət tələb edir; düzgün qurulmayan MLOps prosesləri qərəzli (bias) məlumatlar səbəbindən ayrı-seçkili qərarlar verən modellərə, istifadəçi məxfiliyinin pozulmasına, izah edilə bilməyən “qara qutu” qərarlara və avtomatlaşdırılmış səhvlərin geniş miqyasda yayılmasına gətirib çıxara bilər.

Bu sistemlər reproduktivlik, miqyaslanma, davamlılıq və etik prinsiplərə əsaslanmalıdır. Facebook-un süni intellekt modeli ilə bağlı yaranan qalmaqalı misal olaraq - Model afrikalıları (insanları) - primatlarla səhv salmış və bu, ciddi narazılıq doğurmuşdu.