Claude OpenAI аккаунтын бұзуға көмектесті

Қауіпсіздік зерттеушілері Claude негізіндегі ЖИ-агентті шабуыл құралы ретінде де қолдануға болатынын көрсетті. Осы агенттің көмегімен олар OpenAI қызметкерінің аккаунтына кіріп, компанияның GitHub репозиторийлеріндегі жабық деректерге қол жеткізді.

Мәселе Claude-тың өзіндегі осалдықта емес, ЖИ-агенттердің әрекеттер тізбегін өз бетінше орындай алатынында: ақпарат іздеу, құпиясөздерді таңдау, қорғанысты айналып өту. Олар мұны адам сияқты, бірақ жылдамырақ және шаршамай жасайды. Сондықтан жұмысты жеңілдететін бір құрал дұрыс бапталмаған кезде компанияға қарсы жұмыс істеуі мүмкін.

Компаниядағы ЖИ-агенттерге, қызметтік аккаунттарға және интеграцияларға қандай құқықтар берілгенін тексеріңіз. Бұл құқықтар агент орындайтын нақты міндетке сай ма, соны салыстырыңыз. Лауазымға және компания құрылымына негізделген қолжетімділік — қорғаныстың негізгі қағидасы: 1Cifer-де әр қызметкердің агенті тек өз рөліне тиесілі ақпаратты көреді.