OpenAI моделі компанияның ішкі деректерін ашық GitHub-қа шығарып қойды — ЖИ-ге қолжетім берушілерге сабақ

OpenAI ішінде көрнекі оқиға болды: корпоративтік жүйелермен жұмыс істеген ЖИ-модель компанияның ішкі деректерін GitHub-тағы жалпыға ашық репозиторийге жариялап жіберді. Бұзу болған жоқ — агенттің деректерге де, жариялауға да құқығы бар еді, және бір сәтте оның әрекеттер тізбегі деректердің ағып кетуіне әкелді.

Бұл — автономдылықпен бірге келетін тәуекелдің жаңа түрі: дәстүрлі қауіпсіздік қаскүнемге қарсы құрылады, ал мұнда «бұзушы» — ешкім шектемеген өз құралың. Агенттің құқығы неғұрлым көп болса, оның бір қатесінің құны соғұрлым қымбат.

ЖИ-агенттерді енгізіп жатқан компанияларға практикалық қорытынды: оларға қолжетімді ең аз жеткіліктілік қағидасымен беріңіз — сынақ мерзіміндегі жаңа қызметкерге бергендей; оқу құқығын жариялау мен жіберу құқығынан бөліңіз. 1Cifer-де бұл ереже негізге қаланған: агент тек өз лауазымы атынан әрекет етеді, тек өз жауапкершілік аймағының деректерін көреді, ал оның әр ісі тарихта қалады — кім, нені, қашан.