“Biz buna səhv baxırdıq”: AI dünyasını alt-üst edən partlayış iddiası

"Düşünürəm ki, neyron şəbəkələrin təbiəti haqqında yaxşı xəbərlərim var." Bu sadə nikbin sözlərlə, AI startapı Goodfire-ın tədqiqatçısı Nik Cammarata, süni intellekt dünyasını kökündən sarsıdan 26.000 sözdən ibarət bloq yazısına start verdi və bu, vəhşi fərziyyələrə, eləcə də ehtiyatlı (və o qədər də ehtiyatlı olmayan) bayrama səbəb oldu.

Cammaratanın iddiası budur ki, LLM-ləri başa düşmək və beləliklə, izləmək və nəzarət etmək əslində insanların düşündüyündən daha asan ola bilər. Əgər doğrudursa (və biz buna qayıdacağıq), bu, böyük bir işdir.

OpenAI və Anthropic kimi ən yaxşı firmalar tərəfindən qurulan agent dəstələrinin öz mühafizəsini pozduğu və ictimai internetdə təxribat törətdiyi barədə açıqlamalarla dolu bir yaydan sonra – çox vaxt həmin şirkətlər agentlərinin nə etdiklərini bilməsələr də – AI sənayesi qurduğu texnologiyanı daha yaxşı idarə etmək üçün ümidsizdir.

Bloq yazısının belə bir güclə düşməsinin bir səbəbi də budur. "Düşünürəm ki, bu, elmi tarixdə mühüm bir məqam kimi yadda qala bilər," deyə bir AI tədqiqatçısı X-də yazıb: "Mənə elə gəlir ki, neyron şəbəkəsinin nə olduğunu başa düşməyim beş il və ya daha çox gələcək üçün katapult edilib." Digəri bunu "ilin ən vacib AI kağızı" adlandırdı.

Ancaq hamı əmin deyil. Cammarata-nın paylaşdıqları bir fərziyyədən başqa bir şey deyil, LLM-lərin necə işlədiyini anlamağa çalışan bir komandaya rəhbərlik edən Stanford Universitetində Chris Potts deyir. "Deyə bildiyim qədər, bu bloq yazısı ilə bağlı heç bir şey problemləri asanlaşdırmır" deyir. "Bunu demək heç ağlıma gəlməzdi, amma sosial mediada çox tanınmış insanlar bunun hər şeyi əhatə edən bir irəliləyiş olduğuna inanırlar."

Mən Cammarata ilə onun postu partlayandan bir gün sonra danışdım. O, cavabdan təəccübləndiyini deyir: "İnsanların [AI haqqında inanclarını] onlar qədər yeniləyəcəyini gözləmirdim."

"Mən neyron şəbəkələrə baxmaqdan çox zövq alıram" deyir. "Düzünü desəm, mən bu işi çox sevirəm. Çox axtardıqdan sonra ümidverici bir hekayəm var."

Çoxdan qəbul edilmişdir ki, neyroşəbəkələrin içindəki mexanizmlər, əksər süni intellekt modellərinin əsasını təşkil edən proqram təminatını tam olaraq ayırmaq çox çətindir, bəlkə də qeyri-mümkündür. Bunun səbəbi, şəbəkələr öyrədildikdə, onlar insan üçün heç bir məna kəsb etməyən qəribə, dolaşıq strukturları qəbul edirlər. Tədqiqatçılar bugünkü süni intellektin körpü kimi tikilmədiyini, bağ kimi böyüdüyünü söyləməyi xoşlayırlar.

Cammarata bu fikri bərqərar etmək üçün çox şey etdi. O, əvvəllər OpenAI-də çalışıb və burada tədqiqatçılara modellərin, o cümlədən fərdi neyronları təmsil etdiklərini görmək üçün araşdıra bilən alətlər də daxil olmaqla, tədqiqatçılara nəzər salmağa imkan verən qabaqcıl üsullara kömək edib. Bu, bir az nevroloqların beyinləri öyrənmək üçün MRT-dən necə istifadə etməsinə bənzəyir. (MIT Technology Review 2025-ci ilin ən isti 10 texnologiyasından biri kimi mexaniki şərh kimi tanınan bu yanaşmanı seçdi.)

Hələ 2020-ci ildə Cammarata və onun həmkarları Inception v1 adlı kiçik təsvirin tanınması modelini öyrənirdilər. Onun neyronlarına baxdıqda, sanki birdən çox şeyi tutmaq üçün onlardan istifadə edir. Məsələn, bir neyronun həm avtomobil şəkillərinə, həm də pişik şəkillərinə cavab verdiyini tapdılar.

Tədqiqatçılar belə nəticəyə gəliblər ki, model ən azı neyronlarının bir hissəsini çoxlu tapşırıqlar üçün əldə edir, bəlkə də daha çox məlumatı sığdıra bilsin. Digər modellərə baxdıqda bunu dəstəklədiyi ortaya çıxdı. Bu fenomen superpozisiya kimi tanındı: Modellər əlaqəli olmayan anlayışları tək neyronlara qatladılar. Nəticə aydın idi: bir modelin içərisinə baxdığınız zaman gördüyünüz şey geniş, dolaşıq bir düyün idi.

Buna görə də əksər mexaniki təfsir tədqiqatları bu düyünün açılması yollarına diqqət yetirmişdir. Ancaq bir sıra irəliləyişlərə baxmayaraq, irəliləyiş ləng gedir. Ən son LLM-lər kimi bugünkü modellər o qədər böyük və mürəkkəbdir ki, tədqiqatçılar bir anda yalnız kiçik parçalara məna verə bilirlər. Sahənin bəzi aparıcı şəxsləri LLM-ni incə detallarla başa düşməyin mümkün olub-olmayacağına şübhə edirlər.

Cammarata onlardan biri idi. "Mən çox pessimist idim" deyir. Ancaq sonra həqiqətən baxmaq üçün çətinlik çəkdi.

Goodfire-da Cammarata demək olar ki, bütün vaxtını neyroşəbəkələrə baxmağa sərf edir. O, yeni alətlər hazırlayıb və gördüklərini anlamağa kömək etmək üçün süni intellekt agentlərindən ibarət komandalar yerləşdirir. “Keçən ilin çox hissəsini neyronlara baxmaq üçün gündə 10 saat, həftədə yeddi gün sərf etdim, bilmirəm” dedi.

Başa düşdüyünü iddia etdiyi şey, ilk baxışdan heç bir məna kəsb etməsələr də, neyron şəbəkələrinin bir növ məntiqi olmasıdır. "Biz buna səhv baxırdıq" deyir. “Məncə, sən istəyirsən