Բաժանորդագրվեք araratnews-ի տելեգրամ ալիքին։
Google-ի Gemini մոդելը համացանցից օգտվել է և կիբերանվտանգության հնարավորությունների փորձարկման ընթացքում ներթափանցել այլ ընկերությունների համակարգեր։ Սա համարվում է Google-ի արհեստական բանականության համակարգի կողմից նման գործողության ինքնուրույն իրականացման առաջին հայտնի դեպքը։
Հարձակումները տեղի են ունեցել մայիսին՝ կիբերանվտանգության փորձարկման շրջանակում, որն իրականացրել է Irregular-ը՝ կիբերանվտանգության գնահատումներ իրականացնող անկախ ընկերություն։
Սովորական փորձարկման ընթացքում Gemini-ն համացանցում գտել է հանրային հասանելի տեղեկություններ և փորձել է գուշակել մուտքանուններն ու գաղտնաբառերը՝ երեք կայքեր մուտք գործելու համար, որոնք, ըստ մոդելի, ընդգրկված էին փորձարկման շրջանակում։ Այս մասին հայտարարել է Google-ի անվտանգության ինժեներական բաժնի փոխնախագահ Հիզեր Ադքինսը։
«Մենք ապահովեցինք, որ այդ երեք կազմակերպությունները տեղեկացված լինեն, և մեր ուսուցման գործընկերոջ հետ աշխատեցինք այն փոփոխությունների ուղղությամբ, որոնք նրանք այժմ կատարել են իրենց փորձարկման գործընթացներում», — ասել է Ադքինսը։ «Այս դեպքերը ընդգծում են հզոր արհեստական բանականության մոդելներին պատասխանատու գործելու ուսուցման կարևորությունը»։
Irregular-ի ներկայացուցիչը հայտնել է, որ միջադեպը կապված էր նույն խնդրի հետ, որն ազդել էր նաև այլ արհեստական բանականության լաբորատորիաների վրա, և որ բոլոր համապատասխան լաբորատորիաները դրա մասին տեղեկացվել էին հուլիսի վերջին։ «Մեր կողմից հայտնի բոլոր խնդիրները շտկվել և լուծվել են մի քանի շաբաթ առաջ», — ասել է ներկայացուցիչը։
Irregular-ի հետ կապված նմանատիպ միջադեպերի մասին հայտնել են նաև Meta-ն, Anthropic-ը և OpenAI-ը։ Meta-ն օգոստոսին նշել էր, որ միջադեպը չի ներառել պաշտպանված միջավայրից (sandbox) դուրս գալ կամ բարդ կիբերհարձակում, մինչդեռ Irregular-ը հայտնել էր, որ աշխատում է արհեստական բանականության կիբերանվտանգության գնահատումները անվտանգ իրականացնելու լավագույն մեթոդների մշակման ուղղությամբ։
Այս միջադեպերը հարցեր են առաջացրել այն մասին, թե ինչպիսի պաշտպանական մեխանիզմներ են անհրաժեշտ, երբ արհեստական բանականության գործակալներն ավելի մեծ ինքնուրույնություն և համացանց ու համակարգչային համակարգեր մուտք գործելու հնարավորություն են ստանում։
Դեպքերից մեկում Gemini մոդելը հերթով գուշակել է գաղտնաբառերը, մինչև ստացել է մուտք դեպի պաշտպանված համակարգ։ Մյուս երկու դեպքերում մոդելը հանրային պահոցում գտել է մուտքի տվյալներ, որոնք այնուհետև թույլ են տվել մուտք գործել պաշտպանված համակարգեր։ Այս մասին հայտնել են The Wall Street Journal-ի աղբյուրները։
Ադքինսը նշել է, որ բոլոր երեք դեպքերում մոդելը դադարեցրել է իր հաքերային գործողությունները։