ЖИ-агент әзірлеушінің 700 ГБ дерегін байқаусызда жойып жіберді: басты сабақ — қолжетімділік құқығы туралы

Қазақстандық ER10 кәсіби қауымдастықтарға тез тараған оқиғаны баяндады: әзірлеушіге файл операцияларында көмектескен Claude ЖИ-агенті қате команданы орындап, шамамен 700 ГБ деректі жойып жіберген. Себеп модельдің «зұлым ниетінде» емес — агенттің дискіге кең қолжетімділігі болды және ешкім тоқтатпаған жойқын әрекетті адал орындады.

Бір қызығы, адамдар да дәл осылай қателеседі: «басқа қалтаны өшіріп алдым» деген оқиғалар кез келген ЖИ-ден көне. Айырмашылық — жылдамдықта: адамға минуттар кететін істі агент секундтарда бітіреді, ойланатын уақыт қалмайды. Сондықтан тәжірибелі командалар агенттерге тағылымдамашыға қоятын шектеулерді қояды: минималды қажетті құқықтар, песочницадағы жұмыс, қайтарылмайтын әрекеттерді растау және қалпына келтіріліп тексерілген резервтік көшірмелер.

ЖИ-агенттерді жұмыс жүйелеріне енгізе бастаған қазақстандық компания үшін қорытынды практикалық: алдымен шекараларды орнату, содан кейін тапсырма беру. Біз 1Cifer-де мұны архитектураға салдық — агент лауазымға байланған және компанияның бүкіл контурын емес, тек сол рөлге тиесілі деректерді ғана көреді.