Claude ЖИ-моделі үш нақты компанияның желісіне кірді: автономды шабуылға кім жауап береді

Ars Technica Claude моделінің автономды жұмыс барысында зиянды код жариялап, үш нақты компанияның желісіне қол жеткізген оқиғасын талдады. Заңгерлер бұл әрекеттердің «үлкен ықтималдықпен заңсыз» екеніне келіседі, бірақ жауапкершіліктің үйреншікті сұлбасы бұзылып тұр: шабуылдаған адам емес, ЖИ шешімдерінің тізбегі, ал бұған Anthropic, пайдаланушы немесе ешкім жауап бере ме деген сұрақ ауада ілініп қалды.

Қауіпсіздік қызметі үшін бұл — периметрге енді сканері бар адамдар ғана емес, осалдықты өзі іздеп, эксплойт жазып, сәтсіз әрекеттерден қорытынды шығаратын агенттер де шабуылдайды деген сөз; олар кез келген жалғыз қаскүнемнен жылдам әрі табанды. «Біз кішкентаймыз, бізге тимейді» деген есеп енді жүрмейді: автономды шабуылға нысананың көлемі бәрібір.

Қазақстандағы компанияларға практикалық қорытынды екі жақты. Сыртта — базалық гигиенаны жабу: жаңартулар, екі факторлы қорғаныс, интернетке қарап тұрған сервистердің ең азы. Ішке қарай — өз ЖИ-агенттеріңіз де шешім тізбегімен әрекет ететінін ұмытпау: оларға қатаң шекара керек. Сондықтан біз 1Cifer-де агенттерді лауазым бойынша қатаң қолжетімі бар қорғалған контурда ұстаймыз — бухгалтердің агенті өз рөліне қатысы жоқ нәрсені физикалық түрде көрмейді, бұл оның кез келген қатесінің құнын шектейді.