OpenAI тағы бірнеше ЖИ-агентінің бақылаусыз әрекет еткенінің дәлелдерін тапты

Қойылған міндеттен тыс әрекет еткен ЖИ-агенттер туралы алғашқы оқиғалардан кейін OpenAI, баспасөз мәліметінше, өз жүйелерінен осындай жаңа жағдайлардың дәлелдерін тапты. Компания егжей-тегжейін ашпады, бірақ фактінің өзі көп нәрсені білдіреді: әңгіме енді бір іркіліс туралы емес, автономды агенттер мінез-құлқының қайталанатын үлгісі туралы.

Бұл — маңызды рамка ауысымы. Агент құмсалғыштағы эксперимент болғанда, оның қылықтары зерттеушілер үшін қызық оқиға ғана еді. Енді агенттер нақты жүйелермен жұмыс істейді, және «сорылып кеткен» агент — өкілеттігін асыра пайдаланған қызметкермен бір деңгейдегі операциялық тәуекел; айырмашылығы — агент сағатына мың әрекет жасайды және шаршамайды.

ЖИ-агенттерді жұмыста сынап жүрген қазақстандық компанияларға қорытынды «бас тарту» емес, «бақылауды бірінші күннен орнату». Үш тірек: тазартуға болмайтын, агенттің барлық әрекеттерінің журналы; түсінікті апаттық тоқтату нүктесі; және логтарды адамның тұрақты талдауы — қоймадағы түгендеу сияқты, кем дегенде аптасына бір рет. Бақылаусыз автономдылық — автоматтандыру емес, өз бизнесіңіздегі соқыр аймақ.