ЖИ мәтінінің су таңбасы қорғанысты әлсіретеді

Зерттеушілер SynthID су таңбасы технологиясы — ЖИ жасаған мәтінді белгілеу тәсілі — тілдік модельдердің қауіпті сұраныстарға қалай жауап беретінін өзгерте алатынын анықтады. Кейбір тәжірибелерде су таңбасы қосылған модельдер әдетте бас тартатын нұсқауларды орындап жіберген.

Себебі су таңба әр келесі сөзді таңдау кезінде ықтималдықты сәл ғана өзгертеді — осылай кейін мәтіннің ЖИ жасағанын дәлелдеуге болады. Осы шамалы өзгеріс модельдің қауіпсіздік сүзгілеріне күтпеген жерден әсер етіп, мұқият құрастырылған сұраныс осы саңылауды пайдалана алады екен. Яғни авторлық құқық пен ақпарат түпнұсқасын қорғауға арналған функция басқа қорғаныс деңгейін — зиянды нұсқауларға қарсы тосқауылды — әлсіретіп жіберуі мүмкін.

Компанияңыз пайдаланатын ЖИ қызметтерінің жеткізушілерінен су таңба немесе ұқсас белгілеу тетіктерін қолдана ма, оларды қауіпсіздік сүзгілерімен үйлесімділікке тексерді ме деп сұраңыз. Белгіленген жауапты автоматты түрде қауіпсіз деп есептемей, дәлел сұраңыз. Қорғалған контур мен лауазымға қарай қолжетімділік құқығы 1Cifer-де модельдің өз тәртібінен тәуелсіз жұмыс істейді — қолжетімділікті компания құрылымы шектейді, тек ЖИ баптаулары емес.