Anthropic ընկերության հետազոտողները հայտարարել են, որ Claude լեզվական մոդելի ուսումնասիրության ընթացքում հայտնաբերել են ներքին հատուկ կառուցվածք`«թաքնված մտածողության տարածք», որը ստացել է J-space անվանումը։ Այն մոդելին թույլ է տալիս «մտքում պահել» և մշակել գաղափարներ՝ առանց դրանք անմիջապես բառերի վերածելու կամ օգտատիրոջը ցուցադրելու։
Հետազոտողների խոսքով՝ J-space-ը կարելի է պատկերացնել որպես փոքր ներքին աշխատանքային տարածք, որտեղ Claude-ը կարող է միաժամանակ աշխատել տարբեր գաղափարների հետ, համեմատել դրանք և միայն դրանից հետո ձևավորել վերջնական պատասխանը։ Ի տարբերություն հանրահայտ chain of thought-ի (մտածողության շղթայի), որը որոշ դեպքերում ներկայացվում է տեքստային տեսքով, J-space-ը գործում է ամբողջությամբ նեյրոնային ակտիվությունների մակարդակում, և օգտատերը չի տեսնում այնտեղ կատարվող գործընթացները։
Anthropic-ը նշում է, որ J-space-ը ծրագրավորողների կողմից հատուկ չի ստեղծվել։ Այն ինքնուրույն է ձևավորվել Claude-ի ուսուցման ընթացքում։ Յուրաքանչյուր նման ներքին ակտիվություն կապված է որևէ բառի կամ հասկացության հետ, սակայն դա չի նշանակում, որ մոդելը պատրաստվում է հենց այդ բառը գրել, այն պարզապես ցույց է տալիս, թե տվյալ պահին ինչ գաղափարի շուրջ է ընթանում ներքին հաշվարկը։
Հետազոտության ընթացքում գիտնականները ցույց են տվել, որ J-space-ի միջոցով հնարավոր է հետևել, թե ինչպես է Claude-ը ներքին մակարդակում կատարում որոշ տրամաբանական գործողություններ։ Օրինակ՝ այն կարող է հայտնաբերել ծրագրային կոդում սխալներ, ճանաչել պատկերներ, պլանավորել հաջորդ քայլերը կամ հասկանալ, որ իրեն փորձում են մոլորեցնել հատուկ ձևակերպված հրահանգներով, նույնիսկ եթե այդ ամենը չի արտացոլվում վերջնական պատասխանի տեքստում։
Հետազոտողները նաև նկատել են, որ երբ Claude-ին միաժամանակ տրվում են իրար հակասող հանձնարարություններ, մոդելը կարող է ներքին մակարդակում պահպանել երկու տարբեր վարկածներն էլ և միայն ավելի ուշ ընտրել դրանցից մեկը։
Միևնույն ժամանակ հետազոտության արդյունքները ցույց են տվել, որ J-space-ը գործառութային առումով նման է մարդու ուղեղի «գլոբալ աշխատանքային տարածքի» (Global Workspace) որոշ հատկությունների։ Այդ համակարգը տարբեր տեղեկատվություն հասանելի է դարձնում գիտակցված վերահսկողության և հետագա մշակման համար։ J-space-ի յուրաքանչյուր ներքին վիճակ կապված է որոշակի հասկացության կամ բառի հետ, սակայն դրա ակտիվացումը չի նշանակում, որ մոդելը պատրաստվում է արտաբերել կամ գրել հենց այդ բառը։ Ավելի շուտ, այն ներքին վիճակ է, որի շրջանակում տեղեկատվությունը հասանելի է դառնում նեյրոցանցի տարբեր գործընթացների համար և կարող է օգտագործվել հետագա հաշվարկներում։
Սակայն Anthropic-ը հատուկ ընդգծում է, որ այս բացահայտումը չի նշանակում, թե Claude-ն ունի գիտակցություն կամ սուբյեկտիվ ապրումներ։ Հետազոտության հեղինակների գնահատմամբ՝ ժամանակակից մեծ լեզվային մոդելները կարող են ինքնուրույն ձևավորել տեղեկատվության մշակման ներքին կառուցվածքներ, որոնք տարբերվում են հիմնական նեյրոնային հաշվարկներից և կիրառվում են ավելի բարդ ճանաչողական գործողություններ իրականացնելու համար։
Ընկերության կարծիքով՝ J-space-ի ուսումնասիրությունը կարող է կարևոր նշանակություն ունենալ արհեստական բանականության անվտանգության ոլորտում՝ օգնելով ավելի լավ հասկանալ, թե ինչպես են լեզվային մոդելները կայացնում որոշումներ և ինչպես կարելի է ավելի արդյունավետ հայտնաբերել հնարավոր սխալներն ու վտանգավոր վարքագիծը։
