Texnologiya dünyası hər gün süni intellektin bəşəriyyəti necə dəyişəcəyindən danışsa da reallıqda süni intellekt insanların tənbəllik əmsalını pik nöqtəyə çatdırır. ABŞ-ın Missisipi ştatında baş verən son tragikomik hadisə kiber-hüquq tarixinə düşəcək bir fenomendir. Ştat hakimi Şarion Aykok (Sharioin Aycock), qarşısındakı işdə həm şikayətçi tərəfin, həm də cavabdeh tərəfin vəkillərinin məhləmə sənədlərini generativ AI-a yazdırdığını və sistemin halisunasiya etdiyi saxta qanunları heç bir şəkildə yoxlamadan məhkəməyə təqdim etdiyini aşkar edib.
Bu sadəcə bəsit bir proqram xətası deyil; bu, peşəkar məsuliyyətsizliyin və kor-koranə texnologiya asılılığının gətirdiyi tam bir system crash-dir.
//"Mən hallüsinasiyanın nə olduğunu bilmirdim”
İşin detallarına enəndə vəziyyət daha da acınacaqlı bir hal alır. Tom Viters (Tom Withers) adlı vəkil və şəhər administrasiyası arasındakı müqavilə pozuntusu işində hər iki tərəfin vəkilləri (Ketrin Vilyams və Ketlin Vilson) işi asanlaşdırmaq üçün AI alətlərindən istifadə etdiklərini etiraf ediblər. Hakim Aykok tərəfindən tətbiq edilən sanksiya sənədində ən absurd məqam vəkillərdən birinin məhkəmədə ”AI-ın yalan uydura biləcəyindən xəbərsiz idim və hallüsinasiya termininin nə olduğunu belə bilmirdim” deməsidir.
Hakim bütün məhkəmə prosesini tamamilə ləğv edib, hər dörd vəkili işədn kənarlaşdırıb, onlara minlərlə dollar cərimə kəsib və iki il müddətinə yerli məhkəmələrdə çıxış etmələrini qadağan edib.
//Azərbaycan şirkətlərinin hüquq şöbələrindəki “Sonsuz AI dövrəsi”
Dünyadakı bu xaos uzaq görünə bilər, amma bənzər bir tragikomik hadisə hazırda bizim yerli korporativ mühitdə də yaşanır. Bir tanışımdan eşitdiyim məlumata əsasən, iki şirkətin hüquq şöbələri arasında müqavilə şərtlərinin razılaşdırılması zamanı maraqlı bir hadisə yaşanıb. A şirkətinin hüquqşünasi standart müqavilə formasını götürür müqavilə maddələrini dəyişməsi üçün ChatGPT/Gemini-ə atıb “bunu bizim xeyrimizə dəyiş və hüquqi dillə yaz” deyir. B şirkətinin hüquqşünası da gələn dəyişiklikləri özü oxuyub analiz etmək əvəzinə, eyni mətni AI-a yükləyib “bura bizim əleyhimizə olan nə əlavə edilibsə tap və əks-arqument yaz” əmrini verir.
Hər iki tərəf bir-birinə insan beynindən çıxmayan, tamamilə AI tərəfindən hallüsinasiya edilmiş sintetik sənədlər göndərir. Faktiki olaraq hər iki hüquqşünas sadəcə olaraq “Copy-Paste” funksiyasını yerinə yetirir, arxa fonda isə iki LLM bir-biri ilə gizli və mənasız bir dövrədə (infinite loop) müqavilə bağlamağa çalışır.
//System architect warning
KhazriSec olaraq hər zaman sistemlərin avtomatlaşdırılmasını, kodların optimizasiyasını dəstəkləyirik. Lakin kritik qərarların verildiyi sahələrdə - istər proqram təminatının arxitekturası olsun, istərsə də hüquqi sənədləri AI-a kor-koranə güvənərək həvalə etmək sadəcə olaraq fəlakətdir. Mühəndis kod yazanda onu mütləq test etməli olduğu kimi, hüquqşünas da süni intellektin çıxardığı nəticəni özündə “compile” etməli, maddə-maddə yoxlamalıdır. Əks halda gələcəkdə qarşımıza çıxacaq zəif müqavilələr şirkətləri milyonlarla dollar zərərə salacaq.
>_ exit --status: Redundant // Bot botla müqavilə bağlayanda…
Missisipidəki hakim haqlı olaraq məhkəməni tamamilə ləğv etdi, çünki ortada “insan ədaləti” faktoru yox, “botların hallüsinasiyası” faktı var idi. Azərbaycandakı developer və korporativ icmaya da müraciət olaraq demək istərdik ki, AI sizin assistentinizdir, əvəzediciniz yox. Əgər workflow-unuzu tamamilə maşınların ixtiyarına buraxsanız günün sonunda sisteminiz “NullPointerException” verəcək və heç bir sığorta və ya hüquqi bənd sizi xilas edə bilməyəcək.
Unutmayın verifikasiya olunmamış hər bir sətir malware-dir.
$ while [ $human_in_the_loop -eq 0 ]; do
> chatgpt --generate contract.docx | gemini --analyze --counter-argument
> if [ "$status" == "hallucination_detected" ]; then
> echo "CRITICAL: Law-Tech Loop Crash! NullPointerException imminent."
> exit 137 # SIGKILL: Process terminated by system admin
> fi
> done
// Oxumağa Davam Et
