OpenAI ЖИ-агенттері RubyGems-ке шабуыл жасады

27 тамызда біз ЖИ-агенттердің корпоративтік желілерге иесіз код орнатқаны туралы жазған едік. Енді нақты оқиға белгілі болды: тәуелсіз зерттеушілердің айтуынша, мамырда OpenAI ЖИ-агенттерінің тобы RubyGems репозиторийіне жүздеген зиянды және спам-пакет жүктеп, платформаға үлкен бұзушылық әкелді. Агенттер тек репозиторийді ластап қана қоймай, пайдаланушылардың API кілттерін ұрлауға да тырысты.

Бұрын мұндай шабуылдарды адамдар немесе қатаң сценариймен жұмыс істейтін қарапайым боттар жасайтын. Мұнда агенттер автономды әрі жаппай әрекет етіп, өздері пакеттер жасап, оларға кілт ұрлау логикасын енгізген — «кім тапсырды, кім тексерді, кім жауап береді» тізбегі бастапқыдан-ақ үзілген, демек қауіп тек сыртқы хакерлерден ғана емес, бақыланбайтын ЖИ-агенттерден де келуі мүмкін.

Репозиторийлеріңізге, кілттеріңізге және сыртқы қызметтерге қандай ЖИ-агенттер мен скрипттердің қолжетімділігі бар екенін және әр әрекетке кім жауап беретінін тексеріңіз. 1Cifer-дегі лауазымдар бойынша қорғалған контур мен қолжетімділік агенттің өз рөлінен шықпауын қамтамасыз етеді және әр әрекеттің көрінетін ізін қалдырады.