Nvidia ЖИ-киберқауіпсіздік бойынша ашық альянс құруда: индустрия ортақ қорғаныс ережелеріне келісуде

Nvidia жасанды интеллект киберқауіпсіздігі бойынша ашық альянс құратынын жариялады: бастамаға темір өндірушілер, модель әзірлеушілер және пайдаланушы компаниялар шақырылуда. Мақсат — ЖИ-жүйелерді қорғаудың ортақ стандарттары: модельдердің тұтастығынан автономды агенттердің қауіпсіз мінез-құлқына дейін.

Альянстың пайда болуы жаңа шындықты мойындау: ЖИ шабуыл құралына да, нысанасына да бір мезгілде айналды. Қаскүнемдер модельдерді фишинг пен осалдық іздеуге қолданады, ал ЖИ-жүйелердің өздерін зиянды сұраулармен, уланған деректермен және агент «құралдарын» ұстап алумен алдауға болады. Бұл майданды бірде-бір вендор жалғыз жаба алмайды — интернет-стандарттар тарихынан таныс ашық альянс форматы да осыдан.

ЖИ енгізіп жатқан қазақстандық компаниялар үшін жаңалықтың қолданбалы мәні бар. Біріншіден, платформалар мен мердігерлерді таңдағанда олардың қандай қауіпсіздік стандарттарын ұстанатынын сұраған жөн — жауаптың бар болуының өзі кемелдік туралы көп айтады. Екіншіден, «қорғалған ЖИ» талаптары уақыт өте тендерлер мен ірі тапсырыс берушілердің шарттарына көшеді: ЖИ-процестерін ертерек ретке келтіргендер бұл сүзгілерден абыржусыз өтеді.