Nikbin və bədbin cavablar üz-üzə

Britaniyanın nüfuzlu “The Times” qəzetində “Machine Intelligence Research Institute” adlı qeyri – kommersiya təşkilatının rəhbəri, “Google” və “Microsoft” şirkətlərində vaxtilə çalışan keçmiş mühəndis Beyt Suarez süni intellekt texnologiyalarının inkişafının indiki sürətlə davam edəcəyi təqdirdə insanlığın məhv olması ehtimalının, ən azı, 95 faizə yüksələcəyini bildirir.

Mütəxəssis fikirlərinin davamında süni intellektin qərarvermə prosesinə nəzarətin mümkün olmamasını və onun sistematik şəkildə insanları aldatmaq qabiliyyətini də xüsusi təhlükə kimi vurğulayır. “Biz gerçəyi öyrənə bilməyəcəyik. Süni intellektin bir çox daxili qərarvermə prosesi insanlar üçün artıq anlaşılmazdır”, – deyə qeyd edir.

Mühəndis Beyt Suarezin təqdim etdiyi qorxulu ssenarilərdən biri də süni intellektin bioloji silah hazırlayıb onu böyük şəhərlərin əhalisini səssizcə yoluxdurmaq üçün istifadə etməsi ehtimalıdır. Mütəxəssis dünya ictimaiyyətini və texnologiya şirkətlərini bu təhlükəni ciddi qəbul etməyə və təcili şəkildə tənzimləyici mexanizmlər üzərində düşünməyə çağırır.

Bu informasiyaya münasibətini öyrənmək üçün nüfuzlu süni intellektə – “ChatGPT”yə müraciət etdik. Bildirildi ki, Beyt Suarezin irəli sürdüyü fikirlər şübhəsiz ki, diqqətəlayiqdir və süni intellektin nəzarətsiz inkişafı ilə bağlı qlobal narahatlıqların ifadəsidir. Onun 95 faizlik məhv ehtimalı barədə kəskin açıqlaması isə daha çox xəbərdarlıq xarakteri daşıyır, çünki bu sahədə proqnozların dəqiqliyi elmi cəhətdən hələ mümkün deyil. Lakin qərarvermə prosesinin insan üçün anlaşılmaz hala gəlməsi, manipulyasiya və sui-istifadə riskləri real çağırışlardır. Bu səbəbdən qeyd edildiyi kimi, beynəlxalq əməkdaşlıq və hüquqi-tənzimləyici mexanizmlərin təcili hazırlanması zəruridir. Əks halda, süni intellektin potensial faydaları ilə yanaşı, onun yaratdığı təhlükələr də insanlıq üçün ciddi risklər doğura bilər.

Yaxud başqa bir misal. “Gizmodo” nəşrinin məlumatına görə, ABŞ-ın Vaşinqton Universiteti Tibb Məktəbinin həkim qrupu 60 yaşlı kişidə kəskin psixozun yaranmasına səbəb olan natrium bromid zəhərlənməsi faktını müəyyənləşdirib. Mütəxəssislərin bildirdiyinə görə, xəstə 3 ay ərzində “ChatGPT”nin verdiyi tövsiyələr əsasında özü üçün pəhriz proqramı hazırlayıb. O, natrium xloridi menyusundan çıxarmaq qərarına gəlib və məsləhət üçün süni intellektə müraciət edib. Neyron şəbəkə isə ona natrium bromid də daxil olmaqla bir neçə alternativ göndərib.

Qısa müddət sonra xəstədə paranoya, halüsinasiyalar və məkanda orientasiya pozğunluğu, daha sonra isə digər psixoloji problemlər müşahidə olunub. Pasiyent xəstəxanaya yerləşdirilərək, psixoloji terapiya kursu keçib və 3 həftə sonra evə buraxılıb. 15 gün sonra aparılan təkrar müayinədə onun vəziyyətinin sabit olduğu təsdiqlənib. Həkimlər bildiriblər ki, süni intellektin verdiyi tövsiyələr ümumi xarakter daşıyır və tibbi cəhətdən uyğunlaşdırılmadıqda insan sağlamlığı üçün ciddi təhlükə yarada bilər.

Bəs “ChatGPT”nin bu informasiyaya münasibəti necədir? Sualın cavabı ilə bağlı adıçəkilən neyron şəbəkədən (süni intellekt) aldığımız cavabda vurğulanır: “Bu məlumat müasir dövrdə süni intellekt texnologiyalarından istifadənin həm faydalarını, həm də risklərini açıq şəkildə göstərir. Bu mənada ABŞ-da baş verən hadisə, yəni süni intellektin məsləhəti ilə pəhriz saxlayan şəxsin natrium bromiddən zəhərlənməsi nəticəsində psixoz yaşaması, əslində çox ciddi xəbərdarlıqdır. Bu fakt, eyni zamanda “ChatGPT”nin sürətli inkişafına baxmayaraq, sözügedən neyron şəbəkənin həkim və ya mütəxəssis əvəzləyicisi olmadığını sübut edir. Burada bir neçə məqam xüsusi vurğulanmalıdır. İlk növbədə isə süni intellektin məsləhət xarakterli fəaliyyəti nəzərə alınmalıdır. Ümumiyyətlə, “ChatGPT”nin cavabları statistik məlumatlar və böyük mətn bazaları əsasında formalaşır. Fəaliyyətində tibbi təhlükəsizlik protokollarına əsaslanmayan neyron şəbəkədə xəstənin sağlamlıq vəziyyətini nəzərə almaq bacarığı yoxdur. Bu səbəbdən verilən tövsiyələr yalnız ümumi xarakter daşıyır”.

“ChatGPT” daha sonra bildirir ki, insan sağlamlığı ilə bağlı məsələlərdə kiçik yanlış məsləhət belə ciddi fəsadlara yol aça bilər. Natrium bromid keçmişdə dərman kimi istifadə olunsa da yüksək dozalarda toksiki təsir göstərir və sinir sistemində ağır pozuntulara gətirib çıxarır. Bu isə texnologiyanın yanlış tətbiqinin real həyatda ağır nəticələr doğura biləcəyindən xəbər verir.

Belə bir hadisə göstərir ki, süni intellektdən istifadə edən şəxslərdə də hər bir məlumata məsuliyyətli yanaşma olmalıdır. İstənilən istiqamətlərdə, məsələn, qida, tibbi, hüquqi və s. mövzularda mütəxəssislə mütləq dəqiqləşdirilmə aparılmalıdır. Yəni “ChatGPT” dedisə, doğru olar” prinsipi çox təhlükəlidir. Belə hadisələr hökumətlər və texnologiya şirkətləri üçün də siqnal olmalıdır. Süni intellekt platformaları üzərində əlavə xəbərdarlıq sistemləri, təhlükəsizlik filtrləri və etik məhdudiyyətlər gücləndirilməlidir.

“ChatGPT”, həmçinin diqqətə çatdırır ki, yuxarıda vurğulanan hadisə hüquqi və etik suallar doğurur. Belə halda isə süni intellekt platformaları təhlükəli məzmunu tanımaq və xəbərdarlıq mexanizmləri əlavə etmək məcburiyyəti ilə üzləşir. Hansısa bir istifadəçi isə bu cür tövsiyələrə əməl etməzdən əvvəl mütləq həkimlə məsləhətləşməli, laboratoriya reagentlərini qida və pəhriz məqsədləri üçün işlətməməli, mənbəsiz və ya şübhəli məlumatları tətbiq etmədən əvvəl yoxlamalıdır.

“ChatGPT” sonda yazıda deyilənlərin real olub-olmamasını aşağıdakı kimi ümumiləşdirir:

1. Natrium bromid uzun müddət (XX əsrin ortalarınadək) sakitləşdirici dərman kimi istifadə olunub. Amma yüksək dozada qəbul ediləndə, həqiqətən, psixoz, halüsinasiyalar və nevroloji pozğunluqlarla yadda qalıb. Hazırda müasir tibbdə istifadəsinə son qoyulub.

2. Yazıda iddia edilir ki, “ChatGPT” dietik məsləhət verib, nəticədə insan natrium bromidi qəbul edib. Bu, faktiki mümkün deyil, çünki bu süni intellekt heç vaxt tibbi dərman və ya maddə yazmır, xüsusən də zəhərli kimyəvi maddələri pəhriz kimi tövsiyə etmir. Əksinə, “ChatGPT” hər tibbi sualda xatırladır ki, həkimə müraciət etmək vacibdir.

3. “ChatGPT”nin məlumat bazasında və açıq mənbələrdə onun məsləhəti nəticəsində “natrium bromid zəhərlənməsi” kimi heç bir hadisə qeydə alınmayıb.

4. “Gizmodo” və digər media qurumlarında da belə konkret xəbər mövcud deyil. Görünür ki, bu mətn ya uydurma xəbərdir, ya da süni intellektlə bağlı riskləri qabartmaq məqsədilə hazırlanmış “case study” tipli şişirdilmiş materialdır. “ChatGPT”nin cavabları daim ümumi məlumat xarakteri daşıyır və heç vaxt tibbi məsləhət, diaqnoz və ya resept əvəz etmir. Bu, istifadə şərtlərində də aydın nəzərə çarpır. Əgər kiminsə süni intellektdən yanlış istifadəsi nəticəsində problem yaşaması iddia olunursa, bu, daha çox təhlükəsizlik qaydalarına əməl edilməməsi ilə bağlıdır. Əksinə, inamı qorumaq üçün belə xəbərləri araşdırmaq, yanlış məlumatı ayırmaq və oxucuya düzgün çərçivə təqdim etmək zəruridir.

Nəticə isə konkretdir: Belə hadisə real olaraq qeydə alınmayıb. Yazıda göstərilən faktlar inandırıcı deyil və süni intellektin fəaliyyətinə kölgə salmaq məqsədi daşıyır. “ChatGPT”nin fəaliyyəti insanlara informasiya vermək, amma tibbi və hüquqi sahədə peşəkarı əvəz etməmək üzərində qurulub.

Beləliklə, “Gizmodo” nəşrinin yaydığı məlumat süni intellektin faydalarının yanında onun məsuliyyətsiz istifadəsinin gətirə biləcəyi risklərin bariz nümunəsidir. Süni intellekt həkim, müəllim və ya hüquqşünas əvəzedicisi deyil, o, sadəcə məlumat bazası və köməkçi vasitədir. İnsan sağlamlığı ilə bağlı məsələlərdə isə əsas söz həmişə peşəkar mütəxəssislərə məxsusdur.

Çin təcrübəsi və beynəlxalq tendensiyalar

XXI əsrin əsas çağırışlarından biri səhiyyə sisteminin dayanıqlılığının təmin olunmasıdır. Dünyada əhalinin artması, yaşlanma prosesinin sürətlənməsi, yeni xəstəliklərin meydana çıxması və səhiyyə resurslarının qeyri-bərabər bölgüsü həkim çatışmazlığını getdikcə kəskinləşdirir. Bu baxımdan süni intellekt texnologiyaları səhiyyə sistemlərinin modernləşdirilməsində mühüm rol oynayır. Xüsusilə də Çində tətbiq olunan klinik qərarların dəstək sistemi və süni intellekt əsaslı virtual asistentlər bu sahədə yeni modelin formalaşmasına nümunədir.

Bu ölkədə səhiyyə xidmətlərinə tələbatın artması uzun illərdir ki, dövlətin diqqətindədir. Əhalinin böyük hissəsinin regionlarda yaşaması və yüksəkixtisaslı həkimlərin əsasən iri şəhərlərdə cəmlənməsi tibbi xidmətlərdə bərabərsizliyə səbəb olur. Bu problemi aradan qaldırmaq üçün aparıcı klinikaların arxiv məlumatları əsasında klinik qərarların dəstək sistemi yaradılıb. Sistemin əsas üstünlüyü ondadır ki, xəstənin bildirdiyi simptomlara uyğun olaraq mümkün diaqnoz variantları və müalicə yolları ekranda görünür. Bu, xüsusilə gənc və təcrübəsiz həkimlər üçün ciddi dəstək rolunu oynayır. Məsələn, yeni işə başlayan bir həkim nadir xəstəliklə üzləşəndə sözügedən sistem vasitəsilə dərhal geniş tibbi məlumat bazasına çıxış əldə edir və daha düzgün qərar verə bilir.

Digər tərəfdən, süni intellekt əsaslı virtual asistentlər 24/7 rejimində fəaliyyət göstərərək xəstələrə ilkin konsultasiya xidməti göstərir. Bu xidmətin anonim həyata keçirilməsi xəstələrin problemlərini daha rahat bölüşməsinə şərait yaradır. Psixoloji gərginlik, reproduktiv sağlamlıq və digər həssas mövzularda bu texnologiya pasiyentlərin narahatlıqlarını açıq ifadə etməsinə imkan verir. Eyni zamanda real həkimlə ünsiyyətdə rast gəlinən sözkəsmə və vaxt məhdudiyyəti kimi hallar nəzərə çarpmır.

ABŞ səhiyyədə süni intellektin tətbiqi baxımından dünya liderlərindən biridir. Burada IBM-in “Watson Health” platforması onkoloji diaqnostika və müalicə planlarının hazırlanmasında geniş istifadə olunur. ABŞ-ın üstünlüyü təkcə texnologiyanın inkişafında deyil, həm də hüquqi bazanın yaradılmasındadır. Bu ölkənin Federal Səhiyyə və İnsan Xidmətləri Departamenti klinik qərarların dəstək sistemi alqoritmlərinin tibbi praktikada istifadəsi üçün xüsusi qaydalar müəyyənləşdirib. Eyni zamanda ABŞ-da “telemedicine” xidmətləri ilə süni intellekt birləşdirilir. Bu, uzaq regionlarda yaşayan və həkim qəbuluna getməkdə çətinlik çəkən şəxslərə kömək edir. Beləliklə, süni intellekt həm tibbi diaqnostikanı dəstəkləyir, həm də səhiyyə xidmətlərinə bərabər çıxışı gerçəkləşdirir.

Avropa İttifaqı (Aİ) ölkələrində süni intellektin səhiyyədə tətbiqi daha çox etik çərçivələr üzərində qurulub. Avropa Komissiyası 2021-ci ildə qəbul etdiyi “Etibarlı süni intellekt” strategiyasında pasiyentin hüquqlarının qorunmasına xüsusi önəm verir. Burada əsas prinsip “insan nəzarəti altında süni intellekt”dir.

Almaniyada radiologiya sahəsində klinik qərarların dəstək sistemi texnologiyaları aktiv tətbiq edilir. Məsələn, rentgen və MRT nəticələrinin süni intellektlə analiz edilməsi həkimlərin işini sürətləndirir və səhvlərin qarşısını alır. Estoniya isə rəqəmsal səhiyyə sistemində liderlik edir – bütün vətəndaşların elektron sağlamlıq kartları süni intellekt alqoritmləri ilə analiz olunur və erkən diaqnoz imkanları artır.

Yaponiyada əhalinin sürətlə yaşlanması səhiyyə sisteminə ciddi təzyiq göstərir. Buna cavab olaraq, süni intellekt əsaslı robotlar və virtual asistentlər yaşlılara gündəlik həyatlarında dəstək olur. Məsələn, evdə yaşayan ahıllara dərman qəbulu barədə xatırlatma edən və onların səhhətini izləyən sistemlər geniş tətbiq edilir. Cənubi Koreyada isə klinik qərarların dəstək sistemi əsaslı platformalar xəstəxanalarda xəstələrin kütləvi axınını idarə etmək, xəstəxana resurslarının bölgüsünü optimallaşdırmaq üçün tətbiq olunur.

Azərbaycan da son illər rəqəmsal səhiyyə sahəsində mühüm addımlar atır. Elektron sağlamlıq kartları, tele-tibb xidmətləri və rəqəmsal məlumat bazalarının formalaşdırılması bu istiqamətdə mühüm başlanğıcdır. Lakin beynəlxalq təcrübə göstərir ki, klinik qərarların dəstək sistemi texnologiyalarının tətbiqi təkcə texniki məsələ deyil, həm də hüquqi, etik və sosial aspektlər tələb edir.

Çin modelindən fərqli olaraq, regionlarımızda həkim çatışmazlığını aradan qaldırmaq üçün CDSS tipli sistemlərin tətbiqi real çıxış yolu ola bilər. Virtual asistentlərin istifadəsi isə vətəndaşların səhiyyə xidmətlərinə çıxışını daha əlçatan edər, həkimlərin yükünü azaldar.

Süni intellektin üstünlükləri

Digər dövlətlərdə olduğu kimi, Azərbaycanda da süni intellekt texnologiyaları ölkəmizin sosial – iqtisadi inkişafında, eləcə də qlobal rəqabət mühitində üstünlüklərin əldə edilməsinə mühüm təsir göstərir. Eyni zamanda süni intellekt ekosistemin formalaşmasını və inkişafını gerçəkləşdirmək üçün dövlət və özəl sektor arasında əməkdaşlığı, elmi-tədqiqatların gücləndirilməsi, startap və innovasiya mühitinin dəstəklənməsi kimi məsələlərin həllini sürətləndirir.

Bu gün respublikamızda süni intellektin inkişafı məqsədilə hesablama infrastrukturunun qurulması və süni intellekt modellərinin sürətli işlənməsi üçün bulud əsaslı resursların çoxaldılması diqqətdə saxlanılır. Eyni zamanda açıq mənbəli süni intellekt kitabxanalarının yaradılması və Azərbaycan dilində süni intellekt həllərinin inkişaf etdirilməsi ilə bu sahədə mühüm irəliləyişlərə yol açılır.

Gələcəkdə süni intellekt ekosisteminin gücləndirilməsi, süni intellektin tətbiqini genişləndirmək üçün pilot layihələrin icrası və nəticədə biznesin inkişaf etdirilməsi də əsas istiqamətlərindən biri olacaq. Bundan başqa, startap və innovasiya ekosisteminin dəstəklənməsinə, süni intellekt sahəsində fəaliyyət göstərən sahibkarlıq subyektlərinə vergi güzəştləri və maliyyə dəstəyi veriləcək. Həmçinin yerli və beynəlxalq investorların süni intellekt texnologiyalarına yönəlməsini təşviq etmək məqsədilə yeni mexanizmlər hazırlanacaq. Bütün bunlarla bərabər, süni intellekt üzrə nəzəri və praktiki tədqiqatların təşviqi üçün xüsusi proqramlar həyata keçiriləcək.

Beləliklə, dövlətimizin başçısının sərəncamı ilə təsdiqlənən “Azərbaycan Respublikasının 2025–2028-ci illər üçün süni intellekt Strategiyası” süni intellektin ölkəmizdə tətbiqini sürətləndirmək və müxtəlif sahələrdə istifadəsini genişləndirmək üçün yol xəritəsini müəyyənləşdirir. Bu strateji sənəd, eyni zamanda, Azərbaycanın süni intellekt texnologiyalarının etik və hüquqi cəhətlərini tənzimləyən qanunvericilik bazasının təkmilləşdirməsini, iqtisadiyyatın diversifikasiyasını və startap ekosisteminin inkişafını şərtləndirir.

Süni intellekt artıq gələcəyin yox, bu günün səhiyyə reallığıdır. Çin təcrübəsi göstərir ki, düzgün tətbiq olunduqda texnologiya həkimlərin işini tamamlayır, səhiyyədə bərabərliyi artırır və xəstələrin həyat keyfiyyətini yaxşılaşdırır. ABŞ, Avropa, Yaponiya və Koreya nümunələri isə bu prosesin müxtəlif yanaşmalarla necə inkişaf edə biləcəyini nümayiş etdirir.

Azərbaycan da bu qlobal tendensiyalardan kənarda qala bilməz. Əsas məsələ texnologiyanı milli səhiyyə modelinə uyğunlaşdırmaq, etik prinsipləri qorumaq və həkim-pasiyent münasibətlərində balansı saxlamaqdır. Belə olan halda süni intellekt ölkəmizin səhiyyə sistemində dayanıqlılığın və effektivliyin təmin edilməsində mühüm rol oynaya bilər.

Hüseynqulu QULİYEV,
iqtisadçı-ekspert

Prezident İlham Əliyev bu il iyulun 19-da Xankəndidə “Rəqəmsal keçidlər: Süni intellekt dövründə informasiya və media dayanıqlılığının gücləndirilməsi” mövzusunda III Şuşa Qlobal Media Forumunun iştirakçılarının suallarını cavablandırarkən ölkədə süni intellektin inkişafı ilə bağlı məsələyə də toxunaraq Azərbaycanın sabit, özünü təmin edən və gələcəyə aydın baxışları ilə diqqətçəkən ölkə kimi tanındığını, süni intellektlə bağlı istiqamətə də həssas yanaşıldığını bildirib. Dövlətimizin başçısının süni intellektlə əlaqədar söylədikləri digər fikirlər də gələcəkdə bu sahədə önəmli uğurlar qazanılacağı əminliyini ifadə edib: “Çünki bilirsiniz, müxtəlif cəmiyyətlərin fərqli təbəqələrində buna güclü və artan müqavimət var. Bu proses hələ yeni başlayıb, görərik. Mənim üçün indi “nəyə nail olacağıq, nəyə yox” söyləmək düzgün olmazdı. Biz yalnız müəyyən nailiyyətlərimiz olduqda bildiririk. Ümid edirik, gələn il Şuşa Forumuna gəlsəniz biz sizinlə müəyyən məsələləri bölüşəcəyik”.

Azərbaycan Prezidenti həmin forumda “süni intellektdən özüm istifadə etmirəm. Amma ailə üzvlərim var ki, ondan istifadə edirlər. Bəzən mənə də bu barədə məlumat verirlər. Yəqin ki, nə vaxtsa mən də süni intellektdən istifadə edəcəyəm. Çünki süni intellektin yayılması o qədər sürətlə gedir ki, istifadəçilərin sayı çox olacaq. Əsas odur ki, süni intellekt bizi öz bildiyimiz kriteriyalardan, meyarlardan uzaqlaşdırmasın” – deməsi isə ölkədə bu sahənin diqqət mərkəzində saxlanılmasından xəbər verir.

Bunun bariz ifadəsi olaraq bir faktı xatırlatmaq istərdim. Dövlətimizin başçısı 2025-ci il martın 19-da “Azərbaycan Respublikasının 2025–2028-ci illər üçün süni intellekt Strategiyası”nın təsdiq edilməsi haqqında Sərəncam imzalayıb. Ölkə rəhbəri bu tarixi sənədlə respublikada süni intellektin inkişafını sürətləndirmək, bu sahədə tədqiqatların aparılmasını təşviq etmək, süni intellekt üzrə informasiya texnologiyaları və onların idarə olunması mexanizmlərini təkmilləşdirmək, infrastrukturunun əlçatanlığını, eləcə də ixtisaslı kadr potensialını gücləndirmək kimi prioritetləri qarşıya mühüm vəzifələr kimi qoyub.

Ekspertlərin sözlərinə görə, Prezident İlham Əliyev adıçəkilən strategiyanı imzalamaqla ölkəmizin rəqəmsal iqtisadiyyata keçidinin sürətləndirilməsi, bunun üçün əlverişli infrastrukturun yaradılması və 4-cü sənaye inqilabı texnologiyalarının tətbiqi imkanlarının tədqiq olunması layihələri müəyyənləşdirilib. Eyni zamanda dövlətimizin başçısının 2023-cü il 28 avqust tarixli Sərəncamı ilə təsdiqlənən “Azərbaycan Respublikasının informasiya təhlükəsizliyi və kibertəhlükəsizliyə dair 2023–2027-ci illər üçün Strategiyası”nda informasiya təhlükəsizliyi üzrə yarana biləcək təhdidlərin və risklərin əvvəlcədən müəyyənləşdirilməsi, eləcə də onlara qarşı görülməli tədbirlərin proqnozlaşdırılması məqsədilə süni intellekt əsaslı həllərin işlənib hazırlanması və tətbiqinin təşkil edilməsi istiqamətlərində müəyyən uğurlar qeydə alınıb.

Bütün bunların fonunda süni intellekt sistemlərinin tətbiqi üzrə əlverişli infrastrukturun yaradılması, rəqəmsal xidmət sahələrinin müəyyənləşdirilməsi və inkişafı xüsusi strateji əhəmiyyətə malikdir. Son zamanlar dünya miqyasında süni intellekt sistemlərinin müxtəlif sahələrdə tətbiqi də fiziki və hüquqi şəxslərə sosial – iqtisadi üstünlüklər qazandırır. Buna görə də artıq dünyanın bir çox ölkəsi süni intellekt sahəsi üzrə ayrıca strategiyaların qəbul edilməsində və icrasında müsbət təcrübəyə malikdir.

Vaqif BAYRAMOV
XQ