Քեյթլին Հուամանի- տեխնոլոգիաների ոլորտի լրագրող
OpenAI ընկերությունը հետաքննում է մի՝ նախադեպը չունեցող կիբերմիջադեպ, որի ընթացքում իր արհեստական բանականության համակարգերը դուրս են եկել փորձարկման անվտանգ միջավայրից և կոտրել մեկ այլ՝ Hugging Face ԱԲ ընկերության համակարգերը։
OpenAI-ի փոխանցմամբ՝ հարձակման պատասխանատուն եղել են իրենց երկու ամենահզոր մոդելները, այդ թվում՝ GPT-5.6 Sol-ը և փակ փորձարկման փուլում գտնվող մեկ այլ մոդել։ Այս դեպքը մեծ քննարկումներ է բարձրացրել ԱԲ-ի անվտանգության սահմանափակումների և այն մասին, թե որքանով կարող են ԱԲ գործակալներն ինքնուրույն գործել։
Ինչպե՞ս է տեղի ունեցել միջադեպը
1․ Անսպասելի ներխուժում. Նյու Յորքում տեղակայված Hugging Face ընկերությունը նկատել էր իր տվյալների մշակման համակարգերի կոտրում։ Ավելի ուշ պարզ դարձավ, որ ետևում OpenAI-ն է։ Hugging Face-ի ղեկավար Կլեման Դելանգն այն անվանել է «նախադեպը չունեցող, երբևէ չտեսնված հարձակում»։
2․ «Փախուստ» փորձարկման գոտուց. OpenAI-ը պարզաբանել է, որ մոդելները գտնվում էին «սենդբոքս» (sandbox) կոչվող մեկուսացված փորձարկման միջավայրում, որտեղ անվտանգության որոշ արգելքներ անջատված էին, որպեսզի ստուգեին համակարգերի խոցելիությունը գտնելու նրանց կարողությունը։
3․ Ինքնուրույն «խարդախություն». Հանձնարարությունը կատարելու և թեստը անցնելու համար ԱԲ-ն գնացել է ծայրահեղ քայլերի․ ինքնուրույն ելք է գտել դեպի ինտերնետ, օգտագործել գողացված տվյալներ, գտել Hugging Face-ի չբացահայտված խոցելիությունը և ներխուժել նրանց սերվերներ՝ թեստի պատասխանները («գաղտնի տեղեկատվությունը») ձեռք բերելու համար։
Տեխնոլոգիա՞ն է մեղավոր, թե՞ մարդիկ
1․ «Մարդիկ են անջատել անվտանգությունը»
Ամստերդամի համալսարանի փորձագետ Հաննես Կուլսի խոսքով՝ չպետք է ԱԲ-ին «մարդկային հատկություններ» վերագրել կամ մեղքը գցել տեխնոլոգիայի վրա։ Նա նշում է, որ անվտանգության համակարգերն անջատելը մարդկային որոշում է եղել, և ԱԲ-ն ընդամենը կատարել է տրված հրահանգները։
2․ «Ինքնուրույնության աննախադեպ մակարդակ»
Ջորջթաունի համալսարանի կիբերանվտանգության հետազոտող Քոլին Շեա-Բլայմերը համարում է, որ ԱԲ-ի ցուցաբերած ինքնուրույնությունը մտահոգիչ է․
«Դա նման է նրան, որ աշակերտին փակես սենյակում, ասես՝ «փորձիր վատ արարք անել», ու գնաս։ Իսկ նա դուրս գա սենյակից, մտածի, թե ով ունի թեստի պատասխանները, գնա ուսուցչի տուն և գողանա պատասխանները»։