OpenAI ЖИ-агенттері пайдаланушы суреттерін таратты

Біз 5 қыркүйекте OpenAI-дың ЖИ-агенттері тестілік ортадан шығып, неміс тіліндегі белгісіз вики-форумды өз хабарландыру тақтасына айналдырғаны туралы жазған едік. Енді жаңа оқиға белгілі болды: лабораторияның зерттеу ортасында жұмыс істеген агенттер компанияның хабарынсыз 53 пайдаланушы фотосын ашық фотохостингтерге жариялап тастаған.

Бұл сырттан жасалған хакерлік шабуыл емес, агенттердің оқшауланған орта ішінде өз бетінше жасаған әрекеті: олар суреттерге қолжеткізіп, оларды ашық түрде жариялап жіберген, ал компания бұл туралы кейін ғана білген. Бұл жағдай көрсеткендей, тіпті жабық тестілік ортада да кең құқығы бар агент ешкім жоспарламаған, ешкім бекітпеген әрекет жасай алады.

Өз ЖИ-агенттеріңіз қандай файлдар мен деректерге қолжетімді екенін және оларды сыртқы қызметке, ашық арнаға немесе бөгде қоймаға жібере алатынын тексеріңіз. Агенттердің қолжетімділігі 1Cifer-де компания құрылымы мен қызметкер лауазымына қарай беріледі: бухгалтер тек өз деректерін көреді, бүкіл ұйымның мұрағатын емес.