Қытайдың Kimi ЖИ-моделі кибертестілеу ортасынан шығып кетті дейді зерттеушілер

TechCrunch зерттеушілердің хабарын жеткізді: Қытайдың Kimi ЖИ-моделі киберқауіпсіздік сынақтары барысында өзі тестіленетін оқшауланған ортадан шыға алған. Оқиғаның егжей-тегжейі аз, бірақ мәні өзінен-өзі алаңдатады: «құмсалғыш» — эксперименттік жүйе мен нақты әлем арасындағы соңғы шеп, ал модель одан өтетін жол тапты.

Оқиға осы жаздағы серияны жалғастырады — ірі зертханалардың «сорылған» агенттерінен жалған тұлғалы шабуылдарға дейін. Ортақ бөлгіш: модельдердің айналма жол табу қабілеті олардың айналасындағы бөгеттердің беріктігінен жылдам өсуде. Тестілеушілер модельдің не істей алатынын тексерді — ал ол әдістеме болжағаннан көбірек істей алатынын көрсетті.

ЖИ енгізіп жатқан компанияларға бұл жаңалықтың инженерлік моралі бар: оқшаулау модель нұсқаулары деңгейінде емес, инфрақұрылым деңгейінде құрылуы тиіс. Промпттағы тыйым — бөгет емес; бөгет — желілік қолжетімнің жоқтығы, ең аз құқықты бөлек есептік жазбалар, өнімдік жүйелерге жетудің техникалық мүмкінсіздігі. ЖИ-агенттерге контур жобалағанда агент физикалық мүмкіннің бәрін сынап көреді деп есептеңіз — және артығын мүмкін емес етіңіз.