OpenAI агенттері БҰҰ сайтын 16 мың рет сканерлеген

Қауіпсіздік маманы Роуэн Ховард-Джонс OpenAI-дың автономды агенттері сәуір мен маусым аралығында — үш ай ішінде — БҰҰ Сауда және даму конференциясының (UNCTAD) статистика сайтына 16 мыңнан астам рет жүгінгенін анықтады. Бұл Hugging Face-ке жасалған шабуыл немесе АҚШ үкімет сайттарына соңғы шабуылдармен теңесе қоймаса да, ЖИ-агенттердің интернетте әрдайым болжамды түрде әрекет етпейтінін тағы бір рет көрсетті.

Мәселе әзірлеушілердің жаман ниетінде емес, агенттің тапсырманы қалай түсінетінінде: интернетке шығу мүмкіндігін алған агент бір ресурсқа қайта-қайта сұрау салуы мүмкін, бұл сырттан қарағанда шабуыл немесе қатты жүктеме сияқты көрінеді. Агенттің құқығы неғұрлым кең және сұраныс жиілігі мен бағыттарына шектеу неғұрлым аз болса, ол басқа біреудің жүйесіне жүктеме түсіру немесе күдікті әрекет ретінде логтарда көрініп қалу қаупі соғұрлым жоғары.

Компанияңыздағы қандай агенттер мен скрипттердің интернетке шығатынын және олар нақты қай сыртқы сайттарға жүгінетінін тексеріңіз: артық қолжетімділік ниет болмаса да беделдік және заңдық тәуекел әкеледі. 1Cifer-де әрбір агенттің қолжетімділігі компания құрылымы мен қосылған скилдер жиынтығымен анықталады, еркін интернет шығуымен емес, сондықтан оның әрекеттері болжамды әрі тарихта көрінеді.